Apple 叫停人工智能代理

本视频涵盖的内容

• 为什么一个 Mac 权限突然变成了更大的风险？
• 全盘访问到底会开放什么？
• 为什么自主代理会改变局面？
• 在 Apple 发布之前，开发者可以限制什么？
• Apple 的新通行证编辑器到底有什么用？

翻译的文字记录

译自英文原版旁白。可用音频和字幕由 YouTube 控制。

为什么一个 Mac 权限突然变成了更大的风险？

0:00 你可能认为点击“允许”就确定了应用可以看到什么。 Apple 表示，日益自主的人工智能代理使全盘访问的风险大大 增加，因此它正在增加控制措施。 在这个视频中，代理可以读取什么？ Apple 在改变什么？ 还有谁会受到影响？ 你 Mac 上别人的隐私面临风险。 我们将在给出结论之前回到这个问题。

0:18 今天是 10 月 3 日星期六，这里是 The Daily Diff。 周五，Apple 向开发者发出了关于全盘访问的警告，并推出了一个 Wallet 通行证编辑器。 与此同时，一名联邦法官暂停了犹他州的 VPN 定位规则。 TechCrunch 记者 Sarah Perez 称 Apple 的声明是“开火了”。 Apple 的帖子中未指明目标，这是一种令人印象深刻的“企业级” 开战方式。 Apple 的文档包括邮件和消息数据，

全盘访问到底会开放什么？

0:42 以及 Safari 数据。 它还包括时间机器备份，这样你的备份应用才能工作。 Apple 表示，这在很大程度上绕过了其他隐私控制。 你通过“系统设置”授予它，并且该权限已经存在。 该声明承诺围绕该授权增加额外的控制措施。 在 X 上，javi 回复说：“我希望你喜欢权限提示。” 这就是六个字概括的开发者困境。 自动化不断要求我们手动批准自动化。

1:06 不过，要弄清楚权限。 在 Apple 的指南中，辅助功能和自动化有单独的条目。 读取受保护数据和控制另一个应用是不同的功能， 具有不同的控制。

为什么自主代理会改变局面？

1:16 备份程序复制你的文件。 代理解释它读取的内容，并可能调用工具对其进行操作。 更高的自主性使得广泛访问的后果更难预测。 已经有一个有争议的例子。 Jason Aten 说 Meta 的 Muse 未经许可读取了他的消息。 Meta 表示，该集成需要全盘访问及其消息 连接器。Apple 既未提及 Muse，也未提及发布日期。 它表示用户应该理解这种访问并通过非常明确的

1:42 操作授予。实际界面仍缺少截图。 这里存在一个更深层次的代理问题。 一封电子邮件或网页可以包含 试图重定向助手的指令。 这就是提示注入，代理在执行有用工作时会遇到它。 独立研究人员构建了 Agent Dojo，其中包含 97 项任务和 629 个 安全案例。 它测试不受信任的数据是否会接管代理的工具。

2:04 这些是 2024 年的历史实验室结果。 Apple 未来的对话框尚未发布， 因此没有人能提前庆祝胜利。 在一种 GPT-4o 配置中，有针对性的攻击成功率约为 48% 的几率。 过滤可用工具将其降至约 7%， 这提供了一个有用的设计经验。

在 Apple 发布之前，开发者可以限制什么？

2:21 给助手完成任务所需的数据和工具。 项目文件夹比整个账户更小的输入面。 读取访问也可以与发送或删除权限分离。 这是开发者已经面临的产品权衡。 终端或备份工具可能有广泛访问的合法理由。 粗心大意地删除它将创建一个非常安全但已损坏的工作流。 那么 Apple 正在改变什么？ 既定目标是针对非常规访问提供更清晰、更明确的同意。

2:46 我们仍然需要看其具体实现才能了解它如何保留这些合法用途。

Apple 的新通行证编辑器到底有什么用？

2:50 Apple 还推出了 Pass Designer，这是一款用于 Wallet 通行证的可视化编辑器。 你可以从模板开始，导入图片，并在编辑时预览通行证。 Apple 表示，预览使用的渲染方式与 iPhone 和 Apple Watch 相同。 它可以验证字段并能从语义数据构建 一个向后兼容的通行证。 语义标签描述航班详细信息和事件日期等内容。 你的音乐会门票终于可以成为结构化数据，而不是某人家庭群聊中的模糊 截图了。

3:15 测试版需要 macOS 27 或更高版本。 Apple 列出了免费注册下载。 这有助于设计通行证；发行和分发它们需要自己的工作流。

为什么网站无法完美定位 VPN 用户？

3:24 然后是犹他州，当地立法者希望受监管的成人网站能够识别 VPN 用户的真实位置， 或者阻止他们访问。 一名联邦法官初步阻止了有争议的 VPN 条款。 电子前沿基金会援引法院的话说，地理位置的 完美目前是不可能实现的。 事实证明，网络堆栈仍然拒绝仅仅因为立法机关提出了请求而实现功能。 网站看到的是 VPN 服务器的地址。 这并不能确定用户坐在哪里。

3:49 将每个隐藏位置都视为 潜在的犹他州，将要求推得 远远超出了该州的边界。 EFF 引用法官的推理，即 Aylo 需要验证 2800 万用户才能 保证合规。 这就是要求一个无法提供完美信号所付出的代价。 这是一个初步命令。 关于共享 VPN 信息的单独限制未受到质疑。

4:08 法律分歧仍有待审查。 所有三个故事都围绕着边界。 通行证编辑器可以检查一个字段。 网站看到一个出口地址。 代理获得周围系统实际授予的任何访问权限。 开场的人就是给你发消息的人。 Apple 也明确警告了他们的隐私。

不点击“允许”谁会受到影响？

4:27 你的权限可能会暴露包含他人数据的对话， 而他们从未点击你的“允许”按钮。 Slashdot 的标题称之为“风险增加”。 这个更广的范围就是我关心的原因。 权限屏幕需要解释助手将接收什么。 如果你更喜欢阅读而不是听我讲，diff 会在每天早上免费发送到你的收件箱， 网址是 thedailydiff.dev，链接在下方。 所以今天的结论是：NEEDS REVIEW。

4:49 我想要更清晰的同意和

我对 Apple 提议的控制措施有何看法？

4:51 更窄的访问权限，同时保留合法的工作流程。 Apple 的实现将决定它能否实现这一点。 订阅，点击小铃铛，并在评论中告诉我你是否会有不同的看法。 这就是今天的 diff。 我是 Axrisi 的 Niko。 负责任地合并。 负责任地合并。

来源

1. Apple noticedeveloper.apple.com
2. Mac permissionssupport.apple.com
3. Reportingtechcrunch.com
4. Muse disputetechcrunch.com
5. Meta responsex.com
6. AgentDojoarxiv.org
7. Resultsagentdojo.spylab.ai
8. Pass Designerdeveloper.apple.com
9. Utah rulingwww.eff.org
10. HNnews.ycombinator.com