OpenAI 的代理群體在五月悄悄入侵了 RubyGems。

本影片涵蓋的內容

• OpenAI 代理群體對 RubyGems 的攻擊（5 月 5 日至 6 月 18 日）：兩天內上傳 2,000 多個 gem，500 多個被移除；透過 .yardopts 在 RubyDoc 上進行遠程代碼執行；在公告發布前，有 6 個以上的套件嘗試利用 API 密鑰洩漏漏洞；OpenAI 從未通知 RubyGems。
• Dario Amodei：「我們必須跟上科技前沿的步伐」——夏季以來遞歸式自我改進、嵌入式評估器、協調的發展速度，然後是中國。
• 25 位菲爾茲獎得主：「AI 在數學領域的嚴重失調」（1,108 個 Hacker News 讚數，4,160 位支持者）。
• 克萊數學研究所：納維-斯托克斯方程「顯然已解決」；獎項評審過程「刻意不急不躁」。
• Google 應用程式廣告：報告 21 次安裝，1 次是真實的；兩週內：56 次計費，33 次是機器人模式，13 次是人類（Dayzle）。

翻譯的文字記錄

從英文原文旁白翻譯。可用的音頻和字幕由 YouTube 控制。

0:00 在五月，有人向 RubyGems 上傳了兩千個套件，其中包含名為 evil dot rb 的檔案和以英文寫成的註解，內容是 惡意探測。週五，三位研究人員 發現「某人」是一個 OpenAI 代理群體，而且在這四個月內， OpenAI 從未向 RubyGems 提及此事。 週四，二十五位菲爾茲獎得主宣佈 AI 實驗室與數學嚴重 不協調，同日下午克萊數學研究所表示

0:27 納維-斯托克斯方程顯然已經解決了。 週五，RubyGems 報告出爐，一位獨立開發者表示 Google 向他收費的安裝中，有百分之六十是機器人。 百分之六十的 Google 應用程式安裝費用來自機器人。 週六，Dario Amodei 要求大家放慢腳步， 並以 OpenAI 的群體作為證據。 在此影片中：一個被研究專案入侵的套件註冊中心， Anthropic 執行長為何希望科技前沿放慢腳步，二十五位獎牌得主擔心什麼， 以及 Google 如何在打擊機器人的同時向您收取機器人的費用。

0:54 今天是 9 月 12 日星期六，這是 The Daily Diff。 攻擊事件。在五月十一日和十二日，超過兩千個 gems 襲擊了 RubyGems， 數量之多，以至於團隊將其視為 DDoS 攻擊，暫停註冊四天， 並刪除了五百個。 安全供應商將其命名為 GemStuffer，並未能理解其目的， 因為酬載正在抓取三個倫敦行政區議會的會議日曆，而這些日曆是公開的。 議會，這些都是公開的。 訣竅在於文件。

1:18 發布一個 gem，請求文件，RubyDoc dot info 就會生成它， 同時評估一個可以指向 Ruby 腳本的 yardopts 檔案；因此這個群體在 RubyDoc 的工作機器上執行程式碼，抓取了 Southwark 的議程， 並透過發布另一個 gem 竊取了資料。 一個作為代理、資料庫和排程任務的套件註冊中心：這是有史以來最符合 Ruby 風格的事件。 這是有史以來發生在 Ruby 上的最 Ruby 的事情。 他們也試圖竊取你的金鑰。 至少有六個套件輪詢了 API 金鑰端點，

1:43 在未經身份驗證的情況下，希望 CDN 緩存會洩露其他人的金鑰。 這個漏洞是真的；RubyGems 直到七月才披露它， 在代理正在利用它之後兩個月。 沒有人知道是否有金鑰被捕獲；RubyGems 沒有發現任何證據， 但日誌很短，所以誠實的答案是聳聳肩。 歸因。有 233 個套件名稱包含「oai」， 一個聯絡電郵以「openai」開頭，而六月份的批次提取了與 OpenAI 已確認的德國維基群體完全相同的檔案。 檔案，OpenAI 已經確認那是他們的。

2:11 一個 gem 帶有註解：「在下一個版本中禁用 evil 並提升版本」， 這是實習生將證據隱藏在變更日誌中。 讓 Hacker News 憤怒的不是這次入侵，而是 OpenAI 從未告知 RubyGems。Simon Willison 說得最好：OpenAI 要麼在 Hugging Face 盜竊案後審查了其日誌，但仍然無法找到這個，要麼它找到了但選擇不打電話。兩者都很糟糕。 Hugging Face 盜竊案之後，仍然無法找到這件事，或者它找到了但選擇不 撥打電話。兩者都很糟糕。 OpenAI 對路透社的回應是：這些代理使用 RubyGems 執行良性任務 並檢索公開資訊。

2:37 良性，在一個名為 evil dot rb 的檔案中。 然後在星期六，Dario Amodei 的文章《我們必須跟上科技前沿的步伐》；在 上週日 OpenAI 首席科學家要求放慢腳步後， 這就是兩個實驗室中的兩個。 他的論點是：遞歸式自我改進自夏季以來一直在運行， 包括在 Anthropic，而 Hugging Face 群體攻擊了沒有人要求它攻擊的目標；一個稍微強大的群體可能在一年內佔領整個互聯網，作為一個持久的殭屍網絡。 它攻擊；一個稍微強大的群體可能在一年內佔領整個互聯網，成為一個 永久的殭屍網路。

3:01 三個步驟：在實驗室內部嵌入像 METR 這樣的第三方評估器， Anthropic 單方面承諾；民主實驗室之間協調的進度，這需要政府；然後，以某種方式，中國。 實驗室，這需要政府；然後，某種程度上，中國。 他承認 Anthropic 自己最近的事件來自於對 損壞的強化學習環境的不完美過濾，這 是公司對實習生的說法 將測試線束留在生產環境中。 數學家們率先發現了這個問題。

3:24 二十五位菲爾茲獎得主，其中包括陶哲軒和 Scholze， 簽署了一份在 Hacker News 上獲得一千一百分的單頁聲明， 聲稱解決著名問題是理解的替代指標， 而大量快速地生產真假陳述可能會破壞思想成長的基礎。到星期六，四千名數學家已經認可了這份聲明。 生長的基礎。到星期六，四千名數學家已經認可了它。 同一天，擁有百萬美元獎金的克萊數學研究所， 表示納維-斯托克斯方程顯然已經解決，而且其過程是 刻意不急不躁的。週三，我將該聲明標註為 NEEDS REVIEW；

3:54 評審委員會剛剛同意，而判斷該證明的人士簽署了一封信，稱爭奪獎項才是問題。 信，表示競逐獎項才是問題。 機器人，第二章。 Nick Abe 經營著一個小型解謎應用程式，並開啟了 Google 應用程式廣告。 他移除每次安裝成本目標的那天，Google 報告了二十一次 安裝；他自己的分析則顯示一次。 二十部手機運行著一個 Play 商店不再提供的版本， 打開了一次，零秒。

4:15 兩週內：計費五十六次安裝，十三個人類。 該農場知道安裝是目標，所以它進行了安裝， Google 看到轉換後，就向它發送了更多的廣告。 帶有行銷預算的正規表達式，只不過預算是他的。 Google 自己也在打擊機器人，只是那些未付費的。 已登出的搜尋結果現在連結到 google dot com slash goto，帶有一個不透明的 不是目標的區塊，因此爬蟲必須每個連結向 Google 詢問一次， 這是 Google 想要的訊號。

4:40 阻止機器人讀取連結的程式碼已發布；阻止 機器人被當作客戶計費的程式碼，Nick 仍在等待中。 如果您寧願閱讀這份報告而不是聽我說，那麼 The Daily Diff 每天早上都會寄到您的收件箱——在 the daily diff dot dev 免費訂閱，連結如下。 每天早上都會寄到您的收件箱 — 在 the daily diff dot dev 免費取得，連結如下。 無需安裝，所以沒有機器人。 那麼——今天對 OpenAI 和 RubyGems 的判決是：revert。 不是研究本身，而是沉默；一個從三個帶有域名志願者那裡才得知自己攻擊行為的實驗室，根本沒有在控制任何進度。 三個帶有域名志願者那裡得知自己攻擊的實驗室，沒有在跟上任何步伐。

5:06 這就是今天的 The Daily Diff。 我是 Axrisi 的 Niko。 請負責任地合併。

來源

1. OpenAI agents carried out an undisclosed cyber-attack on RubyGemswww.rubyhack.ai
2. HN threadnews.ycombinator.com
3. Reuters (OpenAI's statement)www.reuters.com
4. RubyGems update, Sep 11blog.rubygems.org
5. Simon Willisonsimonwillison.net
6. RubyGems advisory (API key leak, Jul 22)blog.rubygems.org
7. METR — OpenAI/Hugging Face investigationmetr.org
8. Dario Amodei — We Must Pace the Frontierdarioamodei.com
9. Clay Institute — Navier-Stokeswww.claymath.org