Apple freia agentes de IA

O que este vídeo aborda

• Por que uma permissão do Mac de repente se tornou um risco maior?
• O que o Acesso Total ao Disco realmente abre?
• Por que os agentes autônomos mudam as apostas?
• O que os desenvolvedores podem limitar antes que a Apple lance?
• O que o novo editor de passes da Apple realmente faz?

Transcrição traduzida

Traduzido da narração original em inglês. Áudio e legendas disponíveis são controlados pelo YouTube.

Por que uma permissão do Mac de repente se tornou um risco maior?

0:00 Você pensaria que clicar em Permitir resolve o que um aplicativo pode ver. A Apple diz que agentes de IA cada vez mais autônomos tornam o Acesso Total ao Disco substancialmente mais arriscado, e está adicionando controles. Neste vídeo, o que os agentes podem ler? O que a Apple está mudando? Quem mais é exposto? A privacidade de outra pessoa está em jogo no seu Mac. Voltaremos a eles antes do veredito.

0:18 É sábado, três de outubro, e este é o The Daily Diff. Na sexta-feira, a Apple alertou os desenvolvedores sobre o acesso total ao disco e introduziu um editor de passes da Carteira. Enquanto isso, um juiz federal suspendeu as regras de localização de VPN de Utah. A repórter da TechCrunch Sarah Perez chamou o anúncio da Apple de tiros disparados. O alvo permanece sem nome na postagem da Apple, o que é uma forma incrivelmente corporativa de começar uma discussão. A documentação da Apple inclui dados de Mail e Mensagens,

O que o Acesso Total ao Disco realmente abre?

0:42 além de dados do Safari. Também inclui backups do Time Machine, para que seu aplicativo de backup possa funcionar. A Apple diz que isso ignora amplamente outros controles de privacidade. Você o concede através de Ajustes do Sistema, e a permissão já existe. O anúncio promete controles adicionais em torno dessa concessão. No X, javi respondeu: Espero que você goste de avisos de permissão. Essa é a tensão do desenvolvedor em seis palavras. A automação continua nos pedindo para aprovar manualmente a automação.

1:06 Mantenha as permissões claras, porém. Acessibilidade e Automação têm entradas separadas no guia da Apple. Ler dados protegidos e controlar outro aplicativo são capacidades diferentes, com controles diferentes.

Por que os agentes autônomos mudam as apostas?

1:16 Um programa de backup copia seus arquivos. Um agente interpreta o que lê e pode chamar ferramentas para agir sobre isso. Mais autonomia torna as consequências de amplo acesso mais difíceis de prever. Já existe um exemplo contestado. Jason Aten disse que o Muse da Meta leu suas mensagens sem permissão. A Meta diz que a integração requer acesso total ao disco e seu conector de Mensagens. A Apple não nomeia Muse nem uma data de lançamento. Ela diz que os usuários devem entender esse acesso e concedê-lo através de uma ação muito explícita.

1:42 A interface real permanece uma captura de tela ausente. Existe um problema de agente mais profundo aqui. Um e-mail ou página da web pode conter instruções que tentam redirecionar o assistente. Isso é injeção de prompt, e o agente a encontra enquanto faz um trabalho útil. Pesquisadores independentes construíram o Agent Dojo, com noventa e sete tarefas e seiscentos e vinte e nove casos de segurança. Ele testa se dados não confiáveis assumem o controle das ferramentas de um agente.

2:04 Estes são resultados de laboratório históricos de 2024. O diálogo futuro da Apple não foi publicado, então ninguém tem uma volta da vitória ainda. Em uma configuração do GPT-4.0, o ataque direcionado teve sucesso cerca de quarenta e oito por cento das vezes. Filtrar as ferramentas disponíveis reduziu isso para cerca de sete por cento, com uma lição de design útil.

O que os desenvolvedores podem limitar antes que a Apple lance?

2:21 Dê ao assistente os dados e as ferramentas que a tarefa precisa. Uma pasta de projeto é uma superfície de entrada menor do que uma conta inteira. O acesso de leitura também pode ser separado da permissão para enviar ou excluir. Essa é uma compensação de produto com a qual os desenvolvedores já convivem. Um terminal ou utilitário de backup pode ter um motivo legítimo para amplo acesso. Removê-lo descuidadamente criaria um fluxo de trabalho quebrado muito seguro. Então, o que a Apple está mudando? O objetivo declarado é um consentimento mais claro e explícito para acesso extraordinário.

2:46 Ainda precisamos da implementação para ver como ela preserva esses usos legítimos.

O que o novo editor de passes da Apple realmente faz?

2:50 A Apple também apresentou o Pass Designer, um editor visual para passes da Carteira. Você começa com um modelo, insere suas imagens e pré-visualiza o passe enquanto edita. A Apple diz que a pré-visualização usa a mesma renderização do iPhone e Apple Watch. Ele valida campos e pode construir um passe compatível com versões anteriores a partir de dados semânticos. Tags semânticas descrevem coisas como detalhes de voo e datas de eventos. Seu ingresso de show pode finalmente se tornar dados estruturados antes de se tornar uma captura de tela borrada no bate-papo em grupo da família de alguém.

3:15 A versão beta requer macOS 27 ou posterior. A Apple lista o registro gratuito para download. Isso ajuda a projetar passes; emiti-los e distribuí-los precisa de seu próprio fluxo de trabalho.

Por que um site não consegue localizar perfeitamente um usuário de VPN?

3:24 Depois, há Utah, onde os legisladores queriam que sites adultos cobertos identificassem a localização real de usuários de VPN ou os bloqueassem. Um juiz federal bloqueou preliminarmente as provisões contestadas de VPN. A Electronic Frontier Foundation cita o tribunal dizendo que a perfeição da geolocalização não é atualmente possível. Acontece que a pilha de rede ainda se recusa a implementar recursos meramente porque uma legislatura abriu um ticket. Um site vê o endereço do servidor VPN.

3:49 Isso não estabelece onde a pessoa está sentada. Tratar cada local oculto como potencialmente Utah empurra a exigência muito além das fronteiras do estado. A EFF cita o raciocínio do juiz de que a Aylo precisaria verificar vinte e oito milhões de usuários para garantir a conformidade. Esse é o custo de exigir perfeição de um sinal que não pode fornecê-la. Esta é uma ordem preliminar.

4:08 A restrição separada ao compartilhamento de informações de VPN não foi contestada. O diff legal ainda tem linhas a serem revisadas. Todas as três histórias giram em torno de limites. Um editor de passes pode verificar um campo. Um site vê um endereço de saída. Um agente obtém o acesso que o sistema circundante realmente concede. E a pessoa da abertura é quem quer que tenha enviado a mensagem.

Quem é exposto sem clicar em Permitir?

4:27 A Apple adverte explicitamente sobre a privacidade deles também. Sua permissão pode expor uma conversa contendo dados de outra pessoa, e eles nunca clicaram no seu botão Permitir. A manchete do Slashdot chama isso de risco aumentado. Esse círculo mais amplo é o motivo pelo qual me importo. A tela de permissão precisa explicar o que o assistente receberá. Se você preferir ler isso a me ouvir dizer, o diff chega na sua caixa de entrada todas as manhãs, gratuitamente em the daily diff dot dev, link abaixo.

4:49 Então, o veredito de hoje, NEEDS REVIEW.

Qual o meu veredito sobre os controles propostos da Apple?

4:51 Quero consentimento mais claro e acesso mais restrito, com fluxos de trabalho legítimos preservados. A implementação da Apple decidirá se ela cumpre. Inscreva-se, ative o sino e me diga nos comentários se você teria carimbado de maneira diferente. E esse é o diff de hoje. Sou Niko da Axrisi. Faça a fusão com responsabilidade.

Fontes

1. Apple noticedeveloper.apple.com
2. Mac permissionssupport.apple.com
3. Reportingtechcrunch.com
4. Muse disputetechcrunch.com
5. Meta responsex.com
6. AgentDojoarxiv.org
7. Resultsagentdojo.spylab.ai
8. Pass Designerdeveloper.apple.com
9. Utah rulingwww.eff.org
10. HNnews.ycombinator.com