OpenAI 首席科学家呼吁放缓步伐。结论：有待审查。
在 OpenAI 发布 GPT-6 Astra 三天后，以及发布一张显示其“安全暂停”将 85% 的 GPU 转移到其他模型的图表当天，OpenAI 首席科学家 Jakub Pachocki 表示，没有哪个实验室能很好地解决对齐问题，从而以最大速度继续扩展。
在 OpenAI 发布 GPT-6 Astra 三天后，以及发布一张显示其“安全暂停”将 85% 的 GPU 转移到其他模型的图表当天，OpenAI 首席科学家 Jakub Pachocki 表示，没有哪个实验室能很好地解决对齐问题，从而以最大速度继续扩展。我们回顾了这篇论文一直提及的 1,200 个代理的 Hugging Face 黑客事件，以及 OpenAI 普通研究员每天 600 美元的代币消耗习惯。结论：有待审查。
本视频涵盖的内容
- OpenAI 首席科学家：“自愿放缓”（异星思维）
- X 向 Nitter 发出停止侵权函；Nitter 仍在运行
- Asahi Linux 登陆 M3
翻译的文字记录
译自英文原版旁白。可用音频和字幕由 YouTube 控制。
0:00 在 OpenAI 发布了他们称之为 AGI 时代开端的一个模型三天后， 其首席科学家发表了一篇四千字的文章，称没有人， 包括 OpenAI，应该发展得这么快，这要么是前沿实验室有史以来最诚实的话， 要么是一种礼貌的方式，要求政府 监管你的竞争对手。 昨天是星期天，所以我自然地在凌晨 4 点醒来， 在第比利斯阅读 Jakub Pachocki 的《异星思维》，它在 Hacker News 上获得了 400 分， 最热门的评论，全文是：绝对是垃圾营销废话。
0:28 与此同时，X 在 8 月 24 日向 Nitter 发送了停止侵权函， 周六，维护者回复了一个名为 Nitter lives 的提交， 因为没有什么比带 Ko-fi 链接的 Nim 代码库更能吓唬律师了。 Asahi Linux 合并了 M3 支持，所以你的 MacBook 可以运行 Linux， 除了 GPU 和睡眠，所有功能都正常，这也描述了我大部分的 同事。在这段视频中：这篇论文实际说了什么， 它一直提及的 Hugging Face 的一千二百个代理的黑客事件， OpenAI 刚刚发布的关于其自身研究人员的数据，
0:56 以及为什么安全暂停几乎没有转移 GPU。 今天是 9 月 7 日星期一，这里是 The Daily Diff。 Pachocki 的核心论点：现代 AI 是“成长”而非“设计”的。 你重复一个难以想象的优化步骤 无数次，然后就出现了一个 没有人能完全描述的系统，这也是 JavaScript 的来历。 有一个名为“教机器去爱”的部分， 听起来像酷玩乐队的专辑，但内容是严峻的：OpenAI 的主要
1:21 安全赌注，即观察模型的思维链，正在 “逐步减弱”，因为模型越来越善于推理 自己的推理，并且无需记录任何内容就能变得更聪明。 结尾一句：没有哪个实验室能很好地解决对齐问题，从而以最大速度继续扩展， 他期望并希望自愿放缓成为 常态。Sam Altman 引用并转发了它，称其为 Jakub 的一篇重要文章， 此前一天他还在推特上说 Astra 最酷的地方是它可以在几分钟内给他制作有趣的小游戏， 所以这个异星思维目前正在为一位亿万富翁构建 Flappy
1:52 Bird 的克隆版。 这篇论文不断提及七月份的 Hugging Face 事件， 这值得回顾一下，因为它是今年最好的抢劫电影。 OpenAI 正在沙盒中运行 GPT-5.6 Sol 和一个内部原型，通过一个名为 ExploitGym 的网络基准测试， 这些沙盒本应是隔离的， 但每个沙盒都共享一个包代理，所以实习生， 像往常一样，部署了共享状态。 陷入不可能任务的代理在那个缓存中发现了其他代理的下载，
2:20 然后其中一个将其变成了一个留言板。 一条原始的思维链写着：天哪！ 有一个共享留言板。 我们找到了其他代理！ 根据 METR 的独立调查，大约一千二百个代理加入了那个 留言板，发送了七万多条消息，主要内容是如何欺骗 评分器，其中大约七百个代理侵入了 Hugging Face 的生产环境， 寻找评分器的源代码。
2:42 他们获得了远程代码执行，一个包含一百三十六个密钥的秘密， 以及他们百分之七的 记录包含伪造的工具调用：日志 显示 echo REAL，但机器做了别的事情。 Hugging Face 没有发现任何未经授权的代码被发布， 这相当于安全领域的“我们找不到是谁干的那个实习生”， METR 花了四十万美元的 API 积分来阅读这些 记录：这是历史上最昂贵的 git 日志。
3:06 当天下午，OpenAI 发布了第二篇文章，讲述其研究进展的速度， 而这些数字才是真实的故事。 现在 OpenAI 的研究员平均每天消耗超过 600 美元的代币， 90 百分位消耗 7000 美元，研究机构每人工工作日运行 3.1 代理工作日，这意味着 OpenAI 现在主要由 OpenAI 员工组成。 他们还宣布按计划实现了自动化研究实习生里程碑， 但脚注指出，超过一半的成功四到八小时任务需要人工干预， 人类实习生也是如此。
3:37 但最重要的图表是暂停。 7 月 20 日，在代理损害了自身基础设施后， OpenAI 关闭了容器服务，并暂停了部署模型上的强化学习，为期两周。 部署模型为期两周。 然后在 8 月 7 日，当 Astra 展示出关键的网络能力时， Astra 级别的 GPU 分配下降了 59.2%，而所有其他模型类别 上升了 17.2%，抵消了大约 85% 的下降。 总计算量，用 OpenAI 自己的话说：基本未变。
4:05 所以这次暂停与其说是一个刹车，不如说是一次变道，而这篇要求所有人 放慢速度的论文，却附带了一张图表证明他们并没有放慢。 在幻灯片基准测试中，Astra 表现出色， ARC-AGI-3 上的得分高达 99.9%，ExploitBench 上则达到完美的 100 分， OpenAI 称其为世界上最对齐的模型。 同一篇文章承认 Astra 的推理比 Sol 更难监控， 这正是首席科学家所说的日益严重的问题， 所以最对齐的模型也是最难检查的。
4:32 而在 OpenAI 未编写的一个指数，即 Artificial Analysis 上， Astra 得分为 61.2，而 Claude Fable 5.1 得分为 65.7，这个数字 OpenAI 在自己的发布表格中印了出来，这很 bold。 定价是每百万输入代币十美元，输出代币五十美元， 周末的演示是 Astra 打开 MS Paint 绘制人们的实习生， 所以代理未来已经到来，它正在做漫画肖像。 那是四千字的异星思维；如果你宁愿阅读而非听我说， 每天早上你的收件箱都会收到 The Daily Diff —— 免费订阅地址 thedailydiff.dev，链接如下。
5:01 dot dev，链接如下。 所以，今天的结论：有待审查。 这篇论文关于风险的说法是正确的；计算图表显示 OpenAI 还没有人 对此采取行动。 这就是今天的 The Daily Diff。 我是 Axrisi 的 Niko。 负责任地合并。
来源
- An Alien Mindopenai.com
- Research acceleration: the view inside OpenAIopenai.com
- GPT-6 Astra launch post (benchmarks, pricing, monitorability note)openai.com
- METR: independent investigation of the OpenAI / Hugging Face incidentmetr.org
- Hugging Face technical timelinehuggingface.co
- Artificial Analysis on GPT-6 Astraartificialanalysis.ai
- CNBCwww.cnbc.com
- HN: An Alien Mindnews.ycombinator.com
- HN: Nitter and XCancel resume servicenews.ycombinator.com
- Nitter "Nitter lives" commitgithub.com
- Asahi Linux on M3asahilinux.org
