Apple koči AI agente

Šta ovaj video pokriva

• Zašto je jedna Mac dozvola odjednom veći rizik?
• Što zapravo otvara Full Disk Access?
• Zašto autonomni agenti mijenjaju uloge?
• Što programeri mogu ograničiti prije nego što Apple isporuči?
• Što zapravo radi Appleov novi urednik propusnica?

Prevedeni transkript

Prevedeno iz originalne engleske naracije. Dostupan zvuk i titlovi kontroliše YouTube.

Zašto je jedna Mac dozvola odjednom veći rizik?

0:00 Mislili biste da klikom na Dopusti odlučujete što aplikacija može vidjeti. Apple kaže da sve autonomniji AI agenti čine Full Disk Access značajno rizičnijim i dodaje kontrole. U ovom videu, što agenti mogu pročitati? Što Apple mijenja? Tko je još izložen? Nečija tuđa privatnost je ugrožena na vašem Macu. Vratit ćemo se na njih prije presude.

0:18 Subota je, treći oktobar, i ovo je The Daily Diff. U petak je Apple upozorio programere na puni pristup disku i predstavio urednik propusnica za Wallet. U međuvremenu, savezni sudac je obustavio pravila Utaha o lokaciji VPN-a. Novinarka TechCruncha Sarah Perez nazvala je Appleovu objavu "shots fired". Cilj ostaje neimenovan u Appleovoj objavi, što je impresivno korporativan način započinjanja rasprave. Appleova dokumentacija uključuje podatke Maila i Poruka,

Što zapravo otvara Full Disk Access?

0:42 plus Safari podatke. Uključuje i Time Machine sigurnosne kopije, tako da vaša aplikacija za sigurnosno kopiranje može raditi. Apple kaže da ovo uvelike zaobilazi druge kontrole privatnosti. Odobravate ga putem System Settings, a dozvola već postoji. Objava obećava dodatne kontrole oko tog odobrenja. Na X-u je javi odgovorio: "Nadam se da volite zahtjeve za dopuštenje." To je programerska napetost u šest riječi. Automatizacija nas stalno traži da ručno odobrimo automatizaciju.

1:06 Ipak, držite dozvole ispravnim. Pristupačnost i Automatizacija imaju zasebne stavke u Appleovom vodiču. Čitanje zaštićenih podataka i kontroliranje druge aplikacije su različite mogućnosti, s različitim kontrolama.

Zašto autonomni agenti mijenjaju uloge?

1:16 Program za sigurnosno kopiranje kopira vaše datoteke. Agent tumači ono što pročita i može pozvati alate da djeluju na to. Više autonomije čini posljedice širokog pristupa težim za predvidjeti. Već postoji sporni primjer. Jason Aten je rekao da je Meta-in Muse čitao njegove poruke bez dopuštenja. Meta kaže da integracija zahtijeva i puni pristup disku i njen konektor za Poruke. Apple ne imenuje niti Muse niti datum lansiranja. Kaže da bi korisnici trebali razumjeti ovaj pristup i odobriti ga vrlo eksplicitnom

1:42 akcijom. Stvarno sučelje ostaje nedostajući snimak zaslona. Ovdje postoji dublji problem agenta. E-pošta ili web stranica mogu sadržavati upute koje pokušavaju preusmjeriti asistenta. To je prompt injection, a agent se s njim susreće dok radi koristan posao. Nezavisni istraživači izgradili su Agent Dojo, sa devedeset sedam zadataka i šest stotina dvadeset devet sigurnosnih slučajeva. Testira hoće li nepouzdani podaci preuzeti alate agenta.

2:04 Ovo su povijesni laboratorijski rezultati iz 2024. godine. Appleov budući dijalog nije objavljen, tako da još nitko ne dobiva pobjednički krug. U jednoj GPT četiri oh konfiguraciji, ciljani napad je uspio oko četrdeset osam posto vremena. Filtriranje dostupnih alata smanjilo je to na oko sedam posto, s korisnom lekcijom dizajna.

Što programeri mogu ograničiti prije nego što Apple isporuči?

2:21 Dajte asistentu podatke i alate potrebne za zadatak. Mapa projekta je manja ulazna površina od cijelog računa. Pristup za čitanje također se može odvojiti od dopuštenja za slanje ili brisanje. To je kompromis proizvoda s kojim programeri već žive. Terminal ili uslužni program za sigurnosno kopiranje mogu imati legitiman razlog za širok pristup. Nepromišljeno uklanjanje stvorilo bi vrlo siguran, ali pokvaren radni tok. Dakle, što Apple mijenja? Navedeni cilj je jasniji, eksplicitniji pristanak za izvanredan pristup.

2:46 Još uvijek nam je potrebna implementacija da vidimo kako ona čuva te legitimne upotrebe.

Što zapravo radi Appleov novi urednik propusnica?

2:50 Apple je također predstavio Pass Designer, vizualni uređivač za Wallet propusnice. Počinjete s predloškom, unosite svoje slike i pregledavate propusnicu dok je uređujete. Apple kaže da pregled koristi isto renderiranje kao iPhone i Apple Watch. Validira polja i može izgraditi povratno kompatibilnu propusnicu iz semantičkih podataka. Semantičke oznake opisuju stvari poput detalja leta i datuma događaja. Vaša ulaznica za koncert napokon može postati strukturirani podatak prije nego što postane mutna snimka zaslona u nečijem obiteljskom grupnom chatu.

3:15 Beta zahtijeva macOS 27 ili noviji. Apple navodi besplatnu registraciju za preuzimanje. Ovo pomaže u dizajniranju propusnica; njihovo izdavanje i distribucija trebaju vlastiti radni tok.

Zašto web stranica ne može savršeno locirati korisnika VPN-a?

3:24 Zatim je tu Utah, gdje su zakonodavci htjeli da pokrivene web stranice za odrasle identificiraju stvarnu lokaciju korisnika VPN-a ili ih blokiraju. Savezni sudac je preliminarno blokirao osporene VPN odredbe. Electronic Frontier Foundation citira sud koji kaže da je geolokacija savršenstvo trenutno nemoguće. Ispostavilo se da mrežni stog još uvijek odbija implementirati značajke samo zato što je zakonodavno tijelo otvorilo zahtjev. Web stranica vidi adresu VPN poslužitelja.

3:49 To ne utvrđuje gdje osoba sjedi. Tretiranje svake skrivene lokacije kao potencijalno Utah gura zahtjev daleko izvan granica države. EFF citira obrazloženje suca da bi Aylo morao verificirati dvadeset osam miliona korisnika kako bi zajamčio usklađenost. To je cijena traženja savršenstva od signala koji ga ne može pružiti. Ovo je preliminarni nalog.

4:08 Zasebno ograničenje dijeljenja VPN informacija nije osporeno. Pravni "diff" još uvijek ima linije za pregled. Sve tri priče se vrte oko granica. Urednik propusnica može provjeriti polje. Web stranica vidi izlaznu adresu. Agent dobiva sav pristup koji okolni sustav zapravo dodjeljuje. A osoba s početka je tko god vam je poslao poruku.

Tko je izložen bez klika na Dopusti?

4:27 Apple eksplicitno upozorava i na njihovu privatnost. Vaše dopuštenje može otkriti razgovor koji sadrži podatke nekoga drugoga, a oni nikada nisu kliknuli vaš gumb Dopusti. Naslov Slashdota to naziva povećanim rizikom. Taj širi krug je razlog zašto mi je stalo. Ekran s dopuštenjem mora objasniti što će asistent primiti. Ako ovo radije čitate nego čujete, "diff" vam stiže u inbox svako jutro, besplatno na thedaily diff.dev, link ispod.

4:49 Dakle, današnja presuda, NEEDS REVIEW.

Kakva je moja presuda o Appleovim predloženim kontrolama?

4:51 Želim jasniji pristanak i uži pristup, uz očuvanje legitimnih radnih tokova. Appleova implementacija će odlučiti hoće li to ispuniti. Pretplatite se, kliknite zvonce i recite mi u komentarima da li biste to drukčije pečatirali. I to je to za danas. Ja sam Niko iz Axrisija. Spajajte odgovorno.

Izvori

1. Apple noticedeveloper.apple.com
2. Mac permissionssupport.apple.com
3. Reportingtechcrunch.com
4. Muse disputetechcrunch.com
5. Meta responsex.com
6. AgentDojoarxiv.org
7. Resultsagentdojo.spylab.ai
8. Pass Designerdeveloper.apple.com
9. Utah rulingwww.eff.org
10. HNnews.ycombinator.com