Apple brzdí AI agenty

Co toto video pokrývá

• Proč je jedno oprávnění pro Mac najednou větším rizikem?
• Co vlastně odemyká Full Disk Access?
• Proč autonomní agenti mění pravidla hry?
• Co mohou vývojáři omezit, než Apple začne dodávat?
• Co vlastně dělá nový editor propustek od Applu?

Přeložený přepis

Přeloženo z původního anglického vyprávění. Dostupné audio a titulky jsou řízeny YouTube.

Proč je jedno oprávnění pro Mac najednou větším rizikem?

0:00 Člověk by si myslel, že kliknutím na Povolit se rozhodne, co aplikace uvidí. Apple říká, že stále autonomnější AI agenti činí Full Disk Access podstatně rizikovějším a přidává ovládací prvky. V tomto videu, co mohou agenti číst? Co Apple mění? Kdo další je vystaven? Na vašem Macu je v sázce soukromí někoho jiného. Vrátíme se k nim před verdiktem.

0:18 Je sobota, třetího října, a toto je The Daily Diff. V pátek Apple varoval vývojáře před plným přístupem k disku a představil editor Wallet pass. Mezitím federální soudce pozastavil pravidla Utahu pro umístění VPN. Reportérka TechCrunch Sarah Perez označila oznámení Applu za výstřel. Cíl zůstává v příspěvku Applu bezejmenný, což je působivě korporátní způsob, jak začít argumentaci. Dokumentace Applu zahrnuje data Mailu a Zpráv,

Co vlastně odemyká Full Disk Access?

0:42 plus data Safari. Zahrnuje také zálohy Time Machine, aby vaše zálohovací aplikace mohla fungovat. Apple říká, že to do značné míry obchází jiné kontroly soukromí. Udělujete to prostřednictvím Předvoleb systému a oprávnění již existuje. Oznámení slibuje dodatečné kontroly kolem tohoto udělení. Na X javi odpověděl: Doufám, že se vám líbí výzvy k povolení. To je vývojářské napětí v šesti slovech. Automatizace nás neustále žádá, abychom ručně schvalovali automatizaci.

1:06 Udržujte však oprávnění v pořádku. Dostupnost a automatizace mají v průvodci Applu samostatné položky. Čtení chráněných dat a ovládání jiné aplikace jsou odlišné funkce, s odlišnými ovládacími prvky.

Proč autonomní agenti mění pravidla hry?

1:16 Zálohovací program kopíruje vaše soubory. Agent interpretuje, co čte, a může volat nástroje, aby na to reagovaly. Větší autonomie ztěžuje předvídat důsledky širokého přístupu. Už existuje sporný příklad. Jason Aten řekl, že Meta Muse četla jeho zprávy bez svolení. Meta říká, že integrace vyžaduje jak plný přístup k disku, tak svůj Messages konektor. Apple neuvádí ani Muse, ani datum uvedení. Říká, že uživatelé by měli tomuto přístupu rozumět a udělit jej velmi explicitní

1:42 akcí. Skutečné rozhraní zůstává chybějícím snímkem obrazovky. Zde je hlubší problém agenta. E-mail nebo webová stránka může obsahovat pokyny, které se pokoušejí přesměrovat asistenta. To je vkládání výzev, a agent se s ním setkává při užitečné práci. Nezávislí výzkumníci vytvořili Agent Dojo s devadesáti sedmi úkoly a šesti sty dvaceti devíti bezpečnostními případy. Testuje, zda nedůvěryhodná data převezmou nástroje agenta.

2:04 Jedná se o historické laboratorní výsledky z roku 2024. Budoucí dialog Applu nebyl zveřejněn, takže nikdo ještě nezískává vítězný kruh. V jedné konfiguraci GPT-4.0 se cílený útok podařil asi čtyřiceti osmi procentech případů. Filtrování dostupných nástrojů to snížilo na asi sedm procent, s užitečnou lekcí designu.

Co mohou vývojáři omezit, než Apple začne dodávat?

2:21 Dejte asistentovi data a nástroje, které úkol potřebuje. Složka projektu je menší vstupní plocha než celý účet. Přístup ke čtení lze také oddělit od oprávnění k odesílání nebo mazání. To je kompromis produktu, se kterým vývojáři již žijí. Terminál nebo zálohovací nástroj může mít legitimní důvod pro široký přístup. Neopatrné odstranění by vytvořilo velmi bezpečný, ale nefunkční pracovní postup. Co tedy Apple mění? Stanoveným cílem je jasnější, explicitnější souhlas pro mimořádný přístup.

2:46 Stále potřebujeme implementaci, abychom viděli, jak zachovává tyto legitimní použití.

Co vlastně dělá nový editor propustek od Applu?

2:50 Apple také představil Pass Designer, vizuální editor pro průkazy Wallet. Začnete s šablonou, vložíte své obrázky a při úpravách si průkaz prohlížíte. Apple říká, že náhled používá stejné vykreslování jako iPhone a Apple Watch. Validuje pole a dokáže vytvořit zpětně kompatibilní průkaz ze sémantických dat. Sémantické tagy popisují věci jako detaily letu a data událostí. Váš koncertní lístek se konečně může stát strukturovanými daty, než se stane rozmazaným screenshotem v rodinném chatu někoho jiného.

3:15 Beta vyžaduje macOS 27 nebo novější. Apple uvádí bezplatnou registraci pro stažení. To pomáhá navrhovat průkazy; jejich vydávání a distribuce potřebují vlastní pracovní postup.

Proč webová stránka nedokáže dokonale lokalizovat uživatele VPN?

3:24 Pak je tu Utah, kde zákonodárci chtěli, aby webové stránky s obsahem pro dospělé identifikovaly skutečné umístění uživatelů VPN, nebo je zablokovaly. Federální soudce předběžně zablokoval napadená ustanovení VPN. Electronic Frontier Foundation cituje soud, který říká, že geolokační dokonalost v současné době není možná. Ukázalo se, že síťový stack stále odmítá implementovat funkce jen proto, že zákonodárný sbor otevřel požadavek. Webová stránka vidí adresu VPN serveru.

3:49 To neurčuje, kde se osoba nachází. Zacházení s každým skrytým místem jako potenciálně Utah posouvá požadavek daleko za hranice státu. EFF cituje odůvodnění soudce, že Aylo by musel ověřit dvacet osm milionů uživatelů, aby zaručil soulad. To je cena za požadování dokonalosti od signálu, který ji nemůže poskytnout. Toto je předběžné nařízení.

4:08 Samostatné omezení sdílení informací o VPN nebylo napadeno. Právní rozdíl má stále řádky k revizi. Všechny tři příběhy se točí kolem hranic. Editor průkazů může zkontrolovat pole. Webová stránka vidí výstupní adresu. Agent získá jakýkoli přístup, který mu okolní systém skutečně udělí. A osoba z úvodu je ten, kdo vám zprávu poslal.

Kdo je vystaven, aniž by klikl na Povolit?

4:27 Apple výslovně varuje i před jejich soukromím. Vaše oprávnění může odhalit konverzaci obsahující data někoho jiného, a oni nikdy neklikli na vaše tlačítko Povolit. Titulek Slashdotu to nazývá zvýšeným rizikem. Právě tento širší okruh mě zajímá. Obrazovka oprávnění musí vysvětlit, co asistent obdrží. Pokud byste si to raději přečetli, než abyste mě slyšeli, diff přistane ve vaší doručené poště každé ráno, zdarma na thedailydiff.dev, odkaz níže.

4:49 Takže dnešní verdikt, VYŽADUJE KONTROLU.

Jaký je můj verdikt ohledně navrhovaných kontrol Applu?

4:51 Chci jasnější souhlas a užší přístup, s zachováním legitimních pracovních postupů. Implementace Applu rozhodne, zda to splní. Přihlaste se k odběru, klikněte na zvoneček a řekněte mi v komentářích, zda byste to označili jinak. A to je pro dnešek diff. Jsem Niko z Axrisi. Sloučit zodpovědně.

Zdroje

1. Apple noticedeveloper.apple.com
2. Mac permissionssupport.apple.com
3. Reportingtechcrunch.com
4. Muse disputetechcrunch.com
5. Meta responsex.com
6. AgentDojoarxiv.org
7. Resultsagentdojo.spylab.ai
8. Pass Designerdeveloper.apple.com
9. Utah rulingwww.eff.org
10. HNnews.ycombinator.com