Apple frea os axentes de IA

Que abrangue este vídeo

• Por que un permiso de Mac é de súpeto un risco maior?
• Que abre realmente o Acceso Completo ao Disco?
• Por que os axentes autónomos cambian as apostas?
• Que poden limitar os desenvolvedores antes de que Apple envíe?
• Que fai realmente o novo editor de pases de Apple?

Transcrición traducida

Traducido da narración orixinal en inglés. O audio e os subtítulos dispoñibles son controlados por YouTube.

Por que un permiso de Mac é de súpeto un risco maior?

0:00 Poderíase pensar que ao facer clic en Permitir se establece o que unha aplicación pode ver. Apple di que os axentes de IA cada vez máis autónomos fan que o Acceso Completo ao Disco sexa substancialmente máis arriscado, e está engadindo controis. Neste vídeo, que poden ler os axentes? Que está cambiando Apple? Quen máis se expón? A privacidade doutra persoa está en xogo no teu Mac. Volveremos a eles antes do veredito.

0:18 É sábado, tres de outubro, e isto é The Daily Diff. O venres, Apple advertiu aos desenvolvedores sobre o acceso completo ao disco e presentou un editor de pases de Wallet. Mentres tanto, un xuíz federal suspendeu as regras de localización de VPN de Utah. A xornalista de TechCrunch Sarah Perez chamou ao anuncio de Apple 'disparos feitos'. O obxectivo permanece sen nome na publicación de Apple, que é unha forma impresionantemente corporativa de comezar unha discusión. A documentación de Apple inclúe datos de Mail e Mensaxes,

Que abre realmente o Acceso Completo ao Disco?

0:42 ademais de datos de Safari. Tamén inclúe copias de seguridade de Time Machine, para que a túa aplicación de copia de seguridade poida funcionar. Apple di que isto evita en gran medida outros controis de privacidade. Concédese a través de Configuración do Sistema, e o permiso xa existe. O anuncio promete controis adicionais sobre esa concesión. En X, javi respondeu: Espero que che gusten as solicitudes de permiso. Esa é a tensión do desenvolvedor en seis palabras. A automatización segue pedíndonos que aprobemos manualmente a automatización.

1:06 Non obstante, mantén os permisos claros. Accesibilidade e Automatización teñen entradas separadas na guía de Apple. Ler datos protexidos e controlar outra aplicación son capacidades diferentes, con controis diferentes.

Por que os axentes autónomos cambian as apostas?

1:16 Un programa de copia de seguridade copia os teus ficheiros. Un axente interpreta o que le e pode chamar ferramentas para actuar sobre el. Máis autonomía fai que as consecuencias dun acceso amplo sexan máis difíciles de predicir. Xa hai un exemplo en disputa. Jason Aten dixo que Muse de Meta leu as súas mensaxes sen permiso. Meta di que a integración require tanto acceso completo ao disco como o seu conector de Mensaxes. Apple non nomea a Muse nin unha data de lanzamento. Di que os usuarios deberían comprender este acceso e concedelo mediante unha acción moi explícita.

1:42 A interface real segue sendo unha captura de pantalla ausente. Aquí hai un problema de axente máis profundo. Un correo electrónico ou páxina web pode conter instrucións que intentan redirixir o asistente. Iso é a inxección de prompt, e o axente atópase con ela mentres realiza un traballo útil. Investigadores independentes construíron Agent Dojo, con noventa e sete tarefas e seiscentas vinte e nove casos de seguridade. Comproba se os datos non fiables toman o control das ferramentas dun axente.

2:04 Estes son resultados de laboratorio históricos de 2024. O futuro diálogo de Apple non foi publicado, polo que ninguén obtén aínda unha volta de vitoria. Nunha configuración de GPT-4o, o ataque dirixido tivo éxito aproximadamente o corenta e oito por cento das veces. Filtrar as ferramentas dispoñibles reduciu iso a aproximadamente o sete por cento, cunha lección de deseño útil.

Que poden limitar os desenvolvedores antes de que Apple envíe?

2:21 Dálle a un asistente os datos e as ferramentas que a tarefa necesita. Un cartafol de proxecto é unha superficie de entrada menor que unha conta enteira. O acceso de lectura tamén se pode separar do permiso para enviar ou eliminar. Ese é un compromiso de produto co que os desenvolvedores xa viven. Unha utilidade de terminal ou copia de seguridade pode ter unha razón lexítima para un acceso amplo. Eliminalo descuidadamente crearía un fluxo de traballo roto moi seguro. Entón, que está cambiando Apple? O obxectivo declarado é un consentimento máis claro e explícito para un acceso extraordinario.

2:46 Aínda necesitamos a implementación para ver como preserva eses usos lexítimos.

Que fai realmente o novo editor de pases de Apple?

2:50 Apple tamén presentou Pass Designer, un editor visual para pases de Wallet. Comezas cunha plantilla, traes as túas imaxes e previsualizas o pase mentres o editas. Apple di que a previsualización usa o mesmo renderizado que o iPhone e o Apple Watch. Valida campos e pode construír un pase compatible con versións anteriores a partir de datos semánticos. As etiquetas semánticas describen cousas como detalles de voos e datas de eventos. A túa entrada para o concerto pode finalmente converterse en datos estruturados antes de converterse nunha captura de pantalla borrosa nun chat de grupo familiar de alguén.

3:15 A beta require macOS 27 ou posterior. Apple enumera o rexistro gratuíto para a descarga. Isto axuda a deseñar pases; a emisión e distribución deles necesita o seu propio fluxo de traballo.

Por que un sitio web non pode localizar perfectamente a un usuario de VPN?

3:24 Despois está Utah, onde os lexisladores querían que os sitios web para adultos cubertos identificasen a localización real dos usuarios de VPN ou os bloqueasen. Un xuíz federal bloqueou preliminarmente as disposicións de VPN impugnadas. A Electronic Frontier Foundation cita ao tribunal dicindo que a perfección da xeolocalización non é actualmente posible. Resulta que a pila de rede aínda se nega a implementar funcións simplemente porque unha lexislatura abriu un ticket. Un sitio web ve o enderezo do servidor VPN.

3:49 Iso non establece onde está sentada a persoa. Tratar cada localización oculta como potencialmente Utah empuxa o requisito moito máis alá das fronteiras do estado. EFF cita o razoamento do xuíz de que Aylo necesitaría verificar vinte e oito millóns de usuarios para garantir o cumprimento. Ese é o custo de esixir perfección dun sinal que non pode fornecela. Esta é unha orde preliminar.

4:08 A restrición separada de compartir información de VPN non foi impugnada. A diferenza legal aínda ten liñas por revisar. As tres historias xiran arredor dos límites. Un editor de pases pode verificar un campo. Un sitio web ve un enderezo de saída. Un axente obtén calquera acceso que o sistema circundante realmente conceda. E a persoa do inicio é quen che enviou a mensaxe.

Quen se expón sen facer clic en Permitir?

4:27 Apple advirte explicitamente tamén sobre a súa privacidade. O teu permiso pode expoñer unha conversa que conteña datos doutra persoa, e nunca fixeron clic no teu botón Permitir. O titular de Slashdot chámao risco aumentado. Ese círculo máis amplo é a razón pola que me importa. A pantalla de permisos debe explicar o que recibirá o asistente. Se prefires ler isto en lugar de escoitarme dicilo, a diferenza chega á túa caixa de entrada cada mañá, de forma gratuíta en the daily diff dot dev, ligazón a continuación.

4:49 Entón, o veredito de hoxe, NEEDS REVIEW.

Cal é o meu veredito sobre os controis propostos por Apple?

4:51 Quero un consentimento máis claro e un acceso máis restrinxido, cos fluxos de traballo lexítimos preservados. A implementación de Apple decidirá se o entrega. Subscríbete, preme na campá e dime nos comentarios se o terías selado dun xeito diferente. E esa é a diferenza por hoxe. Son Niko de Axrisi. Fusiona de forma responsable.

Fontes

1. Apple noticedeveloper.apple.com
2. Mac permissionssupport.apple.com
3. Reportingtechcrunch.com
4. Muse disputetechcrunch.com
5. Meta responsex.com
6. AgentDojoarxiv.org
7. Resultsagentdojo.spylab.ai
8. Pass Designerdeveloper.apple.com
9. Utah rulingwww.eff.org
10. HNnews.ycombinator.com