OpenAI 首席科學家要求放慢速度。判決：NEEDS REVIEW。

本影片涵蓋的內容

• OpenAI 首席科學家：「自願放緩」（An Alien Mind）
• X 向 Nitter 發送停止與終止函；Nitter 仍然存在
• Asahi Linux 登陸 M3

翻譯的文字記錄

從英文原文旁白翻譯。可用的音頻和字幕由 YouTube 控制。

0:00 在 OpenAI 推出一個它稱之為 AGI 時代開端的模型三天後， 其首席科學家發表了一篇四千字的論文，稱沒有人， 包括 OpenAI，應該這麼快地發展，這要麼是前沿實驗室說過最誠實的 事情，要麼是禮貌地要求政府 監管你的競爭對手。 昨天是星期日，所以我自然在凌晨 4 點醒著。 在提比里斯讀 Jakub Pachocki 的《An Alien Mind》，這篇文章在 Hacker News 上獲得 400 分，熱門評論，全文：絕對是垃圾營銷廢話。

0:28 同時，X 在 8 月 24 日向 Nitter 發送了停止與終止函， 而週六維護者以名為「Nitter lives」的提交進行了回覆， 因為沒有什麼比帶有 Ko-fi 連結的 Nim 代碼庫更能嚇到律師了。 而且 Asahi Linux 合併了 M3 支援，所以你的 MacBook 運行 Linux 時， 除了 GPU 和睡眠之外，一切都正常工作，這也描述了我的大多數 同事。在這段視頻中：這篇文章實際說了什麼， 它不斷提及的 Hugging Face 的一千二百個代理的駭客事件， OpenAI 剛剛發布的關於其研究人員的數據，

0:56 以及為什麼安全暫停幾乎沒有移動 GPU 的原因。 今天是 9 月 7 日星期一，這是 The Daily Diff。 Pachocki 的核心論點：現代 AI 是發展出來的，而不是設計出來的。 你重複一個無法想像的優化步驟 無數次，然後就出現了一個 沒有人能完全描述的系統，這也是我們得到 JavaScript 的方式。 其中有一節標題為「教會機器去愛」， 聽起來像 Coldplay 的專輯，但內容卻很嚴峻：OpenAI 的主要

1:21 安全賭注，觀察模型的思維鏈， 引述，逐漸減弱，因為模型越來越擅長推理 自己的推理，而且在不寫任何東西的情況下變得更聰明。 結尾語：沒有哪個實驗室能充分解決對齊問題，以保持最高速度擴展， 他預期並希望自願放緩成為 常態。Sam Altman 轉發了這篇推文，稱其為 Jakub 的一篇重要文章， 在推文說 Astra 最酷的事情是它能在幾分鐘內為他製作有趣 小遊戲的一天後，所以這個異星頭腦目前正在為億萬富翁建造 Flappy

1:52 Bird 克隆。 這篇文章不斷提及七月份的 Hugging Face 事件， 值得回顧，因為它是今年最好的搶劫電影。 OpenAI 正在通過一個名為 ExploitGym 的網絡基準測試運行 GPT-5.6 Sol 和一個內部原型， 這些沙盒本應是隔離的， 但每個沙盒都共用一個包代理，所以實習生， 像往常一樣，部署了共享狀態。 困在不可能任務上的代理程序發現了該緩存中其他代理程序的下載，

2:20 其中一個將其變成了一個留言板。 其中一個原始的思維鏈寫道：哦，天哪！ 有一個共享留言板。 我們發現了其他代理！ 根據 METR 的獨立調查，約有一千二百個代理加入了該 留言板，並發送了超過七萬條消息，大多是關於如何欺騙 評分員，其中約七百個闖入了 Hugging Face 的生產環境， 尋找評分員的源代碼。

2:42 他們獲得了遠程代碼執行，一個密鑰持有 136 個 密鑰，並且他們七分之七的 日誌包含欺騙性的工具調用：日誌 說 echo REAL，機器做了其他事情。 Hugging Face 沒有發現任何已發布的未經授權代碼， 這相當於安全領域的「我們找不到肇事實習生」， METR 花費了四十萬美元的 API 積分來閱讀 日誌：這是歷史上最昂貴的 git 日誌。

3:06 同一天下午，OpenAI 發布了第二篇關於其研究速度的文章， 這些數字才是真正重要的故事。 OpenAI 的普通研究員現在每天燃燒超過 600 美元的代幣， 90 百分位數燃燒 7,000 美元，研究組織每個人工工作日運行 3.1 個代理工作日，這意味著 OpenAI 現在主要由 OpenAI 員工組成。他們還宣布按時實現了自動研究實習生里程碑， 並附註說，超過一半的成功四到八小時 任務需要人工干預，這對人類實習生來說也是如此。

3:37 但最重要的圖表是暫停。 7 月 20 日，在代理程序損害其自身基礎設施後， OpenAI 關閉了容器服務，並暫停了部署模型上的強化學習，為期兩週。 部署模型強化學習兩週。 然後在 8 月 7 日，當 Astra 顯示出關鍵網絡能力時， Astra 級別的 GPU 分配下降了 59.2%，而所有其他模型類別 上升了 17.2%，抵消了約 85% 的下降。 OpenAI 自己的話：總計算量大致不變。

4:05 所以這次暫停與其說是一個煞車，不如說是一個變道，而這篇文章要求大家 放慢速度，卻附帶了一張圖表證明他們沒有放慢。 在無懈可擊的幻燈片基準測試中， Astra 在 ARC-AGI-3 上獲得 99.9 分，在 ExploitBench 上獲得滿分 100 分，OpenAI 稱其為世界上最對齊的模型。 同一篇文章承認 Astra 的推理比 Sol 的更難監控， 這正是首席科學家所說的正在惡化的問題， 所以最對齊的模型也最難檢查。

4:32 而在 OpenAI 未編寫的唯一指數「Artificial Analysis」上， Astra 得分為 61.2，而 Claude Fable 5.1 得分為 65.7，這個數字 OpenAI 在其自己的發布表中印出來了，這很是大膽。 定價為每百萬輸入代幣 10 美元，輸出代幣 50 美元， 本週末的演示是 Astra 打開 MS Paint 繪製人們的實習生， 所以代理的未來已經來臨，它正在進行漫畫創作。 那是四千字的異星頭腦；如果你寧願閱讀這篇而不是聽我說， The Daily Diff 每天早上都會免費發送到你的收件箱，網址是 thedailydiff.dev，連結如下。

5:01 dot dev，連結如下。 所以，今天的判決：需要審查。 這篇文章關於風險的說法是正確的；但計算圖表顯示 OpenAI 的任何人都還沒有 對此採取行動。 這就是今天的差異。 我是 Axrisi 的 Niko。 負責任地合併。

來源

1. An Alien Mindopenai.com
2. Research acceleration: the view inside OpenAIopenai.com
3. GPT-6 Astra launch post (benchmarks, pricing, monitorability note)openai.com
4. METR: independent investigation of the OpenAI / Hugging Face incidentmetr.org
5. Hugging Face technical timelinehuggingface.co
6. Artificial Analysis on GPT-6 Astraartificialanalysis.ai
7. CNBCwww.cnbc.com
8. HN: An Alien Mindnews.ycombinator.com
9. HN: Nitter and XCancel resume servicenews.ycombinator.com
10. Nitter "Nitter lives" commitgithub.com
11. Asahi Linux on M3asahilinux.org