Apple bromsar AI-agenter

Vad den här videon täcker

• Varför är en Mac-behörighet plötsligt en större risk?
• Vad öppnar Full Disk Access egentligen?
• Varför förändrar autonoma agenter förutsättningarna?
• Vad kan utvecklare begränsa innan Apple släpper?
• Vad gör Apples nya passredigerare egentligen?

Översatt transkription

Översatt från den ursprungliga engelska berättelsen. Tillgängligt ljud och undertexter styrs av YouTube.

Varför är en Mac-behörighet plötsligt en större risk?

0:00 Man skulle kunna tro att ett klick på Tillåt avgör vad en app kan se. Apple säger att alltmer autonoma AI-agenter gör Full Disk Access väsentligt riskabelt, och lägger till kontroller. Vad kan agenter läsa i den här videon? Vad ändrar Apple? Vem mer exponeras? Någons annans integritet står på spel på din Mac. Vi återkommer till dem före bedömningen.

0:18 Det är lördag, den tredje oktober, och detta är The Daily Diff. På fredagen varnade Apple utvecklare om full diskåtkomst och introducerade en Wallet pass-redigerare. Samtidigt satte en federal domare stopp för Utahs regler för VPN-platser. TechCrunch-reportern Sarah Perez kallade Apples tillkännagivande för 'skott avfyrade'. Målet förblir namnlöst i Apples inlägg, vilket är ett imponerande företagsmässigt sätt att starta en diskussion. Apples dokumentation inkluderar Mail- och Meddelandedata,

Vad öppnar Full Disk Access egentligen?

0:42 plus Safari-data. Det inkluderar även Time Machine-säkerhetskopior, så din backupapp kan fungera. Apple säger att detta i stort sett kringgår andra sekretesskontroller. Du ger behörighet via Systeminställningar, och behörigheten finns redan. Tillkännagivandet lovar ytterligare kontroller kring den behörigheten. På X svarade javi, "Jag hoppas du gillar behörighetsfrågor." Det är utvecklarspänningen i sex ord. Automatisering fortsätter att be oss att manuellt godkänna automatiseringen.

1:06 Håll dock behörigheterna i ordning. Tillgänglighet och Automatisering har separata poster i Apples guide. Att läsa skyddad data och kontrollera en annan app är olika funktioner, med olika kontroller.

Varför förändrar autonoma agenter förutsättningarna?

1:16 Ett säkerhetskopieringsprogram kopierar dina filer. En agent tolkar vad den läser och kan anropa verktyg för att agera på det. Mer autonomi gör konsekvenserna av bred åtkomst svårare att förutsäga. Det finns redan ett omtvistat exempel. Jason Aten sa att Metas Muse läste hans meddelanden utan tillstånd. Meta säger att integrationen kräver både full diskåtkomst och dess Messages- anslutning. Apple nämner varken Muse eller ett lanseringsdatum. Det säger att användare bör förstå denna åtkomst och bevilja den genom mycket explicit

1:42 åtgärd. Det faktiska gränssnittet förblir en saknad skärmdump. Det finns ett djupare agentproblem här. Ett e-postmeddelande eller en webbsida kan innehålla instruktioner som försöker omdirigera assistenten. Det är promptinjektion, och agenten stöter på det när den utför användbart arbete. Oberoende forskare byggde Agent Dojo, med nittiosju uppgifter och sex hundra tjugonio säkerhetsfall. Den testar om otillförlitlig data tar över en agents verktyg.

2:04 Dessa är historiska laboratorieresultat från tjugofyra. Apples framtida dialog har inte publicerats, så ingen får en segerrunda ännu. I en GPT-fyra-noll-konfiguration lyckades den riktade attacken i ungefär fyrtio åtta procent av fallen. Filtrering av tillgängliga verktyg minskade det till cirka sju procent, med en användbar designlektion.

Vad kan utvecklare begränsa innan Apple släpper?

2:21 Ge en assistent den data och de verktyg uppgiften behöver. En projektmapp är en mindre inmatningsyta än ett helt konto. Läsrättigheter kan också separeras från tillstånd att skicka eller radera. Det är en produktkompromiss som utvecklare redan lever med. Ett terminal- eller säkerhetskopieringsverktyg kan ha en legitim anledning till bred åtkomst. Att ta bort den slarvigt skulle skapa ett mycket säkert men trasigt arbetsflöde. Så vad ändrar Apple? Det uttalade målet är tydligare, mer explicit samtycke för extraordinär åtkomst.

2:46 Vi behöver fortfarande implementeringen för att se hur den bevarar dessa legitima användningsområden.

Vad gör Apples nya passredigerare egentligen?

2:50 Apple introducerade också Pass Designer, en visuell redigerare för Wallet-pass. Du börjar med en mall, lägger in dina bilder och förhandsgranskar passet medan du redigerar. Apple säger att förhandsgranskningen använder samma rendering som iPhone och Apple Watch. Den validerar fält och kan bygga ett bakåtkompatibelt pass från semantisk data. Semantiska taggar beskriver saker som flyginformation och evenemangsdatum. Din konsertbiljett kan äntligen bli strukturerad data innan den blir en suddig skärmdump i någons familjegruppchatt.

3:15 Betan kräver macOS tjugosju eller senare. Apple listar gratis registrering för nedladdningen. Detta hjälper till att designa pass; att utfärda och distribuera dem kräver ett eget arbetsflöde.

Varför kan en webbplats inte perfekt lokalisera en VPN-användare?

3:24 Sedan finns Utah, där lagstiftare ville att täckta vuxenwebbplatser skulle identifiera den verkliga platsen för VPN-användare eller blockera dem. En federal domare har preliminärt blockerat de ifrågasatta VPN-bestämmelserna. Electronic Frontier Foundation citerar domstolen som säger att geolokaliserings- perfektion för närvarande inte är möjlig. Det visar sig att nätverksstacken fortfarande vägrar att implementera funktioner bara för att en lagstiftande församling öppnade ett ärende. En webbplats ser VPN-serverns adress.

3:49 Det fastställer inte var personen sitter. Att behandla varje dold plats som potentiellt Utah driver kravet långt bortom statens gränser. EFF citerar domarens resonemang att Aylo skulle behöva verifiera tjugoåtta miljoner användare för att garantera efterlevnad. Det är kostnaden för att kräva perfektion från en signal som inte kan leverera det. Detta är en preliminär order.

4:08 Den separata begränsningen för att dela VPN-information utmanades inte. Den juridiska skillnaden har fortfarande rader kvar att granska. Alla tre historierna handlar om gränser. En passredigerare kan kontrollera ett fält. En webbplats ser en utgångsadress. En agent får vilken åtkomst som helst som det omgivande systemet faktiskt beviljar. Och personen från inledningen är den som skickade meddelandet till dig.

Vem exponeras utan att klicka på Tillåt?

4:27 Apple varnar uttryckligen även för deras integritet. Din behörighet kan exponera en konversation som innehåller någon annans data, och de klickade aldrig på din Tillåt-knapp. Slashdots rubrik kallar det ökad risk. Den bredare cirkeln är anledningen till att jag bryr mig. Behörighetsskärmen måste förklara vad assistenten kommer att ta emot. Om du hellre vill läsa detta än höra mig säga det, så landar skillnaden i din inkorg varje morgon, gratis på the daily diff dot dev, länk nedan.

4:49 Så dagens bedömning, NEEDS REVIEW.

Vad är min bedömning av Apples föreslagna kontroller?

4:51 Jag vill ha tydligare samtycke och snävare åtkomst, med legitima arbetsflöden bevarade. Apples implementering kommer att avgöra om det levereras. Prenumerera, tryck på klockan och berätta i kommentarerna om du skulle ha stämplat det annorlunda. Och det var skillnaden för idag. Jag är Niko från Axrisi. Sammanfoga ansvarsfullt.

Källor

1. Apple noticedeveloper.apple.com
2. Mac permissionssupport.apple.com
3. Reportingtechcrunch.com
4. Muse disputetechcrunch.com
5. Meta responsex.com
6. AgentDojoarxiv.org
7. Resultsagentdojo.spylab.ai
8. Pass Designerdeveloper.apple.com
9. Utah rulingwww.eff.org
10. HNnews.ycombinator.com