Apple trava Agentes de IA

O que este vídeo aborda

• Porque é que uma permissão do Mac se tornou subitamente um risco maior?
• O que o Acesso Total ao Disco realmente abre?
• Porque é que os agentes autónomos mudam as apostas?
• O que os desenvolvedores podem limitar antes da Apple lançar?
• O que o novo editor de passes da Apple realmente faz?

Transcrição traduzida

Traduzido da narração original em inglês. Áudio e legendas disponíveis são controlados pelo YouTube.

Porque é que uma permissão do Mac se tornou subitamente um risco maior?

0:00 Poderíamos pensar que clicar em Permitir resolve o que uma aplicação pode ver. A Apple afirma que os agentes de IA cada vez mais autónomos tornam o Acesso Total ao Disco substancialmente mais arriscado e está a adicionar controlos. Neste vídeo, o que podem os agentes ler? O que a Apple está a mudar? Quem mais é exposto? A privacidade de outra pessoa está em jogo no seu Mac. Voltaremos a eles antes do veredicto.

0:18 É sábado, três de outubro, e este é o The Daily Diff. Na sexta-feira, a Apple alertou os desenvolvedores sobre o acesso total ao disco e introduziu um editor de passes da Wallet. Entretanto, um juiz federal suspendeu as regras de localização de VPN do Utah. A repórter da TechCrunch Sarah Perez chamou ao anúncio da Apple 'disparos de aviso'. O alvo permanece sem nome na publicação da Apple, o que é uma forma impressionantemente corporativa de começar uma discussão. A documentação da Apple inclui dados do Mail e das Mensagens,

O que o Acesso Total ao Disco realmente abre?

0:42 além de dados do Safari. Inclui também cópias de segurança do Time Machine, para que a sua aplicação de cópia de segurança possa funcionar. A Apple diz que isso ignora em grande parte outros controlos de privacidade. Você concede-o através das Definições do Sistema, e a permissão já existe. O anúncio promete controlos adicionais sobre essa concessão. No X, javi respondeu: Espero que goste de pedidos de permissão. Essa é a tensão do desenvolvedor em seis palavras. A automação continua a pedir-nos para aprovar manualmente a automação.

1:06 Mantenha as permissões corretas, no entanto. A Acessibilidade e a Automação têm entradas separadas no guia da Apple. Ler dados protegidos e controlar outra aplicação são capacidades diferentes, com controlos diferentes.

Porque é que os agentes autónomos mudam as apostas?

1:16 Um programa de cópia de segurança copia os seus ficheiros. Um agente interpreta o que lê e pode chamar ferramentas para agir sobre isso. Mais autonomia torna as consequências do acesso amplo mais difíceis de prever. Já existe um exemplo contestado. Jason Aten disse que o Muse da Meta leu as suas mensagens sem permissão. A Meta diz que a integração requer tanto o acesso total ao disco como o seu conector de Mensagens. A Apple não nomeia nem o Muse nem uma data de lançamento. Diz que os utilizadores devem compreender este acesso e concedê-lo através de uma ação muito explícita.

1:42 A interface real continua a ser uma captura de ecrã em falta. Existe aqui um problema mais profundo com os agentes. Um e-mail ou página web pode conter instruções que tentam redirecionar o assistente. Isso é injeção de prompt, e o agente encontra-a enquanto faz um trabalho útil. Investigadores independentes construíram o Agent Dojo, com noventa e sete tarefas e seiscentos e vinte e nove casos de segurança. Testa se dados não confiáveis assumem o controlo das ferramentas de um agente.

2:04 Estes são resultados de laboratório históricos de 2024. O futuro diálogo da Apple ainda não foi publicado, portanto, ninguém obtém uma volta da vitória ainda. Numa configuração do GPT-4.0, o ataque direcionado teve sucesso cerca de quarenta e oito por cento das vezes. A filtragem das ferramentas disponíveis reduziu isso para cerca de sete por cento, com uma lição de design útil.

O que os desenvolvedores podem limitar antes da Apple lançar?

2:21 Dê ao assistente os dados e as ferramentas de que a tarefa precisa. Uma pasta de projeto é uma superfície de entrada menor do que uma conta inteira. O acesso de leitura também pode ser separado da permissão para enviar ou eliminar. Isso é uma compensação de produto com a qual os desenvolvedores já vivem. Um utilitário de terminal ou de cópia de segurança pode ter uma razão legítima para acesso amplo. Removê-lo descuidadamente criaria um fluxo de trabalho que seria muito seguro, mas avariado. Então, o que a Apple está a mudar? O objetivo declarado é um consentimento mais claro e explícito para acesso extraordinário.

2:46 Ainda precisamos da implementação para ver como ela preserva esses usos legítimos.

O que o novo editor de passes da Apple realmente faz?

2:50 A Apple também introduziu o Pass Designer, um editor visual para passes da Wallet. Começa com um modelo, importa as suas imagens e pré-visualiza o passe enquanto o edita. A Apple diz que a pré-visualização usa a mesma renderização do iPhone e do Apple Watch. Valida campos e pode construir um passe compatível com versões anteriores a partir de dados semânticos. As tags semânticas descrevem coisas como detalhes de voo e datas de eventos. O seu bilhete de concerto pode finalmente tornar-se dados estruturados antes de se tornar uma captura de ecrã desfocada num chat de grupo familiar de alguém.

3:15 A beta requer macOS 27 ou posterior. A Apple lista o registo gratuito para o download. Isso ajuda a projetar passes; a emissão e distribuição deles precisa de um fluxo de trabalho próprio.

Porque é que um site não consegue localizar perfeitamente um utilizador de VPN?

3:24 Depois, há o Utah, onde os legisladores queriam que os sites adultos abrangidos identificassem a localização real dos utilizadores de VPN ou os bloqueassem. Um juiz federal bloqueou preliminarmente as disposições contestadas da VPN. A Electronic Frontier Foundation cita o tribunal dizendo que a perfeição da geolocalização não é atualmente possível. Acontece que a pilha de rede ainda se recusa a implementar funcionalidades simplesmente porque uma legislatura abriu um ticket. Um site vê o endereço do servidor VPN.

3:49 Isso não estabelece onde a pessoa está sentada. Tratar cada localização oculta como potencialmente Utah empurra a exigência muito além das fronteiras do estado. A EFF cita o raciocínio do juiz de que Aylo precisaria de verificar vinte e oito milhões de utilizadores para garantir a conformidade. Esse é o custo de exigir perfeição de um sinal que não pode fornecê-la. Esta é uma ordem preliminar.

4:08 A restrição separada sobre a partilha de informações de VPN não foi contestada. A diferença legal ainda tem linhas para rever. Todas as três histórias giram em torno de limites. Um editor de passe pode verificar um campo. Um site vê um endereço de saída. Um agente obtém todo o acesso que o sistema circundante realmente concede. E a pessoa da abertura é quem quer que lhe tenha enviado a mensagem.

Quem é exposto sem clicar em Permitir?

4:27 A Apple avisa explicitamente sobre a privacidade deles também. A sua permissão pode expor uma conversa contendo dados de outra pessoa, e eles nunca clicaram no seu botão Permitir. A manchete da Slashdot chama-lhe risco aumentado. Esse círculo mais amplo é o motivo pelo qual me importo. O ecrã de permissão precisa de explicar o que o assistente receberá. Se preferir ler isto do que ouvir-me dizer, o diff chega à sua caixa de entrada todas as manhãs, gratuitamente em the daily diff dot dev, link abaixo.

4:49 Então o veredicto de hoje, NEEDS REVIEW.

Qual é o meu veredicto sobre os controlos propostos pela Apple?

4:51 Quero um consentimento mais claro e acesso mais restrito, com fluxos de trabalho legítimos preservados. A implementação da Apple decidirá se isso é cumprido. Subscreva, clique no sino e diga-me nos comentários se o teria carimbado de forma diferente. E essa é a diferença de hoje. Sou o Niko da Axrisi. Faça o merge de forma responsável.

Fontes

1. Apple noticedeveloper.apple.com
2. Mac permissionssupport.apple.com
3. Reportingtechcrunch.com
4. Muse disputetechcrunch.com
5. Meta responsex.com
6. AgentDojoarxiv.org
7. Resultsagentdojo.spylab.ai
8. Pass Designerdeveloper.apple.com
9. Utah rulingwww.eff.org
10. HNnews.ycombinator.com