Apple brzdí AI Agentov

Čo toto video pokrýva

• Prečo je jedno povolenie pre Mac náhle väčším rizikom?
• Čo vlastne otvára úplný prístup k disku?
• Prečo autonómni agenti menia podmienky?
• Čo môžu vývojári obmedziť, kým to Apple vydá?
• Čo vlastne robí nový editor preukazov od Apple?

Preložený prepis

Preložené z pôvodného anglického rozprávania. Dostupný zvuk a titulky sú kontrolované službou YouTube.

Prečo je jedno povolenie pre Mac náhle väčším rizikom?

0:00 Mysleli by ste si, že kliknutie na Povoliť rozhoduje o tom, čo aplikácia môže vidieť. Apple hovorí, že čoraz autonómnejší AI agenti robia Full Disk Access podstatne rizikovejším, a pridáva kontroly. V tomto videu, čo môžu agenti čítať? Čo mení Apple? Kto ďalší je vystavený riziku? Na vašom Macu je v stávke súkromie niekoho iného. Vrátime sa k nim pred verdiktom.

0:18 Je sobota, tretieho októbra, a toto je The Daily Diff. V piatok Apple varoval vývojárov pred prístupom k celému disku a predstavil editor preukazov pre Wallet. Medzitým federálny sudca pozastavil pravidlá VPN lokácie v Utahu. Reportérka TechCrunch Sarah Perez nazvala oznámenie Applu "shots fired" (výstrelmi). Cieľ zostáva v príspevku Applu nemenovaný, čo je pôsobivo korporátny spôsob, ako začať hádku. Dokumentácia Applu zahŕňa údaje z Mail a Správ,

Čo vlastne otvára úplný prístup k disku?

0:42 plus dáta zo Safari. Zahŕňa tiež zálohy Time Machine, aby vaša zálohovacia aplikácia mohla fungovať. Apple hovorí, že to do značnej miery obchádza ostatné kontroly súkromia. Udelíte to prostredníctvom Nastavení systému a povolenie už existuje. Oznámenie sľubuje dodatočné kontroly týkajúce sa tohto udelenia. Na X, javi odpovedal: "Dúfam, že sa vám páčia výzvy na povolenie." To je napätie medzi vývojármi v šiestich slovách. Automatizácia nás neustále žiada, aby sme manuálne schvaľovali automatizáciu.

1:06 Avšak udržujte povolenia prehľadné. Dostupnosť a Automatizácia majú samostatné záznamy v príručke Applu. Čítanie chránených dát a ovládanie inej aplikácie sú rôzne možnosti, s rôznymi kontrolami.

Prečo autonómni agenti menia podmienky?

1:16 Zálohovací program kopíruje vaše súbory. Agent interpretuje, čo číta, a môže volať nástroje, aby na to konal. Väčšia autonómia sťažuje predpovedanie dôsledkov širokého prístupu. Už existuje sporný príklad. Jason Aten povedal, že Muse od Mety čítala jeho správy bez povolenia. Meta tvrdí, že integrácia vyžaduje prístup k celému disku aj jej konektor pre Správy. Apple nemenoval ani Muse, ani dátum spustenia. Hovorí, že používatelia by mali tomuto prístupu rozumieť a udeliť ho veľmi explicitným

1:42 konaním. Skutočné rozhranie zostáva chýbajúcim snímkom obrazovky. Je tu hlbší problém s agentmi. E-mail alebo webová stránka môže obsahovať inštrukcie, ktoré sa snažia presmerovať asistenta. To je prompt injection a agent sa s ňou stretáva pri vykonávaní užitočnej práce. Nezávislí výskumníci vytvorili Agent Dojo, s deväťdesiatimi siedmimi úlohami a šiestimi sto dvadsiatimi deviatimi bezpečnostnými prípadmi. Testuje, či nedôveryhodné dáta prevezmú nástroje agenta.

2:04 Toto sú historické laboratórne výsledky z roku 2024. Budúci dialóg spoločnosti Apple nebol zatiaľ zverejnený, takže nikto zatiaľ nemá dôvod na oslavy. V jednej konfigurácii GPT four oh bol cielený útok úspešný približne v štyridsiatich ôsmich percentách prípadov. Filtrovanie dostupných nástrojov znížilo tento podiel na približne sedem percent, s užitočnou lekciou dizajnu.

Čo môžu vývojári obmedziť, kým to Apple vydá?

2:21 Dajte asistentovi dáta a nástroje, ktoré úloha potrebuje. Projektový priečinok je menší vstupný povrch než celý účet. Prístup na čítanie môže byť tiež oddelený od povolenia na odosielanie alebo mazanie. To je kompromis produktu, s ktorým vývojári už žijú. Terminál alebo zálohovacia utilita môže mať legitímny dôvod pre široký prístup. Neopatrné odstránenie by vytvorilo veľmi bezpečný, no nefunkčný pracovný postup. Čo teda Apple mení? Stanoveným cieľom je jasnejší, explicitnejší súhlas pre mimoriadny prístup.

2:46 Stále potrebujeme implementáciu, aby sme videli, ako zachová tieto legitímne použitia.

Čo vlastne robí nový editor preukazov od Apple?

2:50 Apple tiež predstavil Pass Designer, vizuálny editor pre Wallet preukazy. Začnete s šablónou, pridáte svoje obrázky a zobrazíte si ukážku preukazu, zatiaľ čo ho upravujete. Apple hovorí, že ukážka používa rovnaké vykresľovanie ako iPhone a Apple Watch. Overuje polia a dokáže vytvoriť spätne kompatibilný preukaz zo sémantických dát. Sémantické značky popisujú veci ako detaily letu a dátumy udalostí. Váš koncertný lístok sa konečne môže stať štruktúrovanými dátami, predtým ako sa stane rozmazaným snímkou obrazovky v rodinnej skupinovej konverzácii niekoho iného.

3:15 Beta verzia vyžaduje macOS 27 alebo novší. Apple uvádza bezplatnú registráciu na stiahnutie. To pomáha navrhovať preukazy; ich vydávanie a distribúcia si vyžaduje vlastný pracovný postup.

Prečo webstránka nemôže dokonale lokalizovať používateľa VPN?

3:24 Potom je tu Utah, kde zákonodarcovia chceli, aby pokryté webové stránky pre dospelých identifikovali skutočnú polohu používateľov VPN alebo ich blokovali. Federálny sudca predbežne zablokoval napadnuté ustanovenia týkajúce sa VPN. Electronic Frontier Foundation cituje súd, ktorý hovorí, že dokonalosť geolokácie momentálne nie je možná. Ukazuje sa, že sieťový stack stále odmieta implementovať funkcie len preto, že zákonodarný zbor otvoril tiket. Webová stránka vidí adresu servera VPN.

3:49 To neurčuje, kde osoba sedí. Považovanie každej skrytej lokácie za potenciálne Utah posúva požiadavku ďaleko za hranice štátu. EFF cituje odôvodnenie sudcu, že Aylo by musel overiť dvadsaťosem miliónov používateľov, aby zaručil súlad. To je cena za vyžadovanie dokonalosti od signálu, ktorý ju nemôže poskytnúť. Toto je predbežné rozhodnutie.

4:08 Samostatné obmedzenie zdieľania informácií o VPN nebolo napadnuté. Právne rozdiely stále zostávajú na preskúmanie. Všetky tri príbehy sa točia okolo hraníc. Editor preukazov môže skontrolovať pole. Webová stránka vidí výstupnú adresu. Agent získa akýkoľvek prístup, ktorý mu okolitý systém skutočne udelí. A osoba z úvodu je ten, kto vám poslal správu.

Kto je vystavený bez kliknutia na Povoliť?

4:27 Apple výslovne varuje aj o ich súkromí. Vaše povolenie môže odhaliť konverzáciu obsahujúcu dáta niekoho iného, a oni nikdy neklikli na vaše tlačidlo Povoliť. Nadpis Slashdotu to nazýva zvýšeným rizikom. Tento širší okruh je dôvod, prečo ma to zaujíma. Obrazovka s povoleniami musí vysvetliť, čo asistent dostane. Ak si to radšej prečítate, než aby ste ma počuli, diff vám pristane v schránke každé ráno, zadarmo na the daily diff dot dev, odkaz nižšie.

4:49 Takže dnešný verdikt, NEEDS REVIEW.

Aký je môj verdikt k navrhovaným kontrolám od Apple?

4:51 Chcem jasnejší súhlas a užší prístup, pričom legitímne pracovné postupy budú zachované. Implementácia spoločnosti Apple rozhodne, či to splní. Prihláste sa na odber, stlačte zvonček a povedzte mi v komentároch, či by ste to označili inak. A to je pre dnešok všetko. Som Niko z Axrisi. Zlučujte zodpovedne.

Zdroje

1. Apple noticedeveloper.apple.com
2. Mac permissionssupport.apple.com
3. Reportingtechcrunch.com
4. Muse disputetechcrunch.com
5. Meta responsex.com
6. AgentDojoarxiv.org
7. Resultsagentdojo.spylab.ai
8. Pass Designerdeveloper.apple.com
9. Utah rulingwww.eff.org
10. HNnews.ycombinator.com