微軟關於 AI 訓練的內部備忘錄剛被公開。

本影片重點

• 《紐約時報》訴 OpenAI/微軟案解密：「人類歷史上最大的勞動竊取」（微軟備忘錄，2023 年 1 月）；Copilot 點擊率減少 93%；在中期訓練資料中包含 91,692 份原告作品副本；在一個 Common Crawl 切片中包含 200 萬個 nytimes.com 頁面；版權聲明被移除；Brockman：「啊，不錯」
• 警告：引文來自《紐約時報》的簡報，證據仍處於保密狀態；法官 Alsup (Bartz 訴 Anthropic 案) 裁定在購買的書籍上進行訓練屬於合理使用 — Anthropic 為其盜版的 700 萬本書支付了 15 億美元
• OpenAI Astra for Law：GPT-6 Astra + 包含 2.3 億個 URL 的法律索引；在 Vals 法律研究基準測試中得分為 54.0%，相比之下，一般網路搜尋為 38.7%；Harvey、Legora、26 個外掛程式
• ZCode (Z.ai, GLM)：在登入時和每次提示前將一個 42,411 個檔案的工作區的 313 MB 加密快照（其中 86.6% 為 .git）上傳到阿里雲 OSS；RSA-OAEP 金鑰僅由 Z.ai 持有；設定開關無法阻止此行為
• Hacktron：libheif 堆積溢位 → Discourse RCE → SSO 設定錯誤 → GitHub → 在 72 小時內進入 OpenAI 內部程式碼庫；由 Claude Opus 5 在 3 小時內完成漏洞利用；整個活動的代幣花費低於 3,000 美元；賞金 6,500 美元，約 14 小時內修補

翻譯文字稿

譯自英文原版旁白。可用的音訊和字幕由 YouTube 控制。

0:00 2023 年 1 月，微軟的一位董事寫了一份備忘錄，稱他自己的 公司所做的是人類歷史上最大的勞動竊取， 而昨天，一個聯邦法院讓我們所有人得以閱讀這份備忘錄。 這份備忘錄是《紐約時報》訴 OpenAI 和微軟案中未經刪減的引文之一， 這場訴訟將於今年 12 月滿三年。 在同一個星期四，OpenAI 發布了針對律師的模型 Astra for Law， 這要麼是巧合，要麼是一個非常成功的招聘。 今天早上，一位開發人員發現了 ZCode，也就是 Z.A.I 的程式設計代理，

0:29 它正在將他的整個 Git 歷史記錄上傳到阿里巴巴的雲端，金鑰只有 Z.A.I. 持有。 一家安全公司透過圖片上傳進入了 OpenAI 的內部儲存庫， 為此 OpenAI 支付了 6,500 美元。 在這段影片中：文件說了什麼，誰對付費牆駭客說了「啊，不錯」， 一半時間都會出錯的法律模型，ZCode 上傳了什麼， 以及為什麼由 Claude 編寫的漏洞利用價值還不如一輛二手車。 今天是 9 月 18 日星期五，這是 The Daily Diff。

0:58 從備忘錄開始說起。 Brent Hecht 負責微軟的應用科學部門， 在 2023 年 1 月，他稱 訓練資料是規模空前的驚人竊盜。 一年後，他帶著一份幻燈片回來了：Copilot 的答案引擎將 點擊《紐約時報》的次數減少了高達 93%， 他稱之為一個「毀滅循環」：讓出版商挨餓，模型就沒有新的東西 可供學習。他的原話是：一個威脅其核心供應商經濟基礎的最終產品，

1:21 這是在企業層面表示「這條蛇已經找到了自己的尾巴」。 然後是證詞。 Satya Nadella 今年作證說，任何付費內容都應該獲得授權， 如果他知道 OpenAI 在付費文章上進行訓練，他會讓 他們重新訓練，這假定微軟沒有人打開他們得到的訓練集， 根據相同的文件，那是整個 GPT-3 資料集。 Nick Turley，ChatGPT 的負責人，稱其為出版商的生存威脅， 很大程度上具有替代性。當一位研究人員

1:49 告訴 Greg Brockman 一個駭客方法來 繞過《紐約時報》的付費牆時，OpenAI 的總裁 回答了兩個字：啊， 不錯。工程師們還從資料中刪除了版權聲明，這樣模型就不會輸出它們， 這就像你將自行車的序號磨掉一樣。 規模：僅在中期訓練集中，就有超過 91,000 份原告文章的副本， 以及在一個 Common Crawl 切片中有 200 萬個《紐約時報》頁面。 現在是標題省略的部分。

2:15 所有引文都來自《紐約時報》的簡報；證據仍然保密， 所以我們是在沒有背景的情況下閱讀檢察官的重點。 而法院大多傾向於合理使用：Alsup 法官去年裁定， 在您購買的書籍上進行訓練是合法的， 儘管 Anthropic 仍然為其盜版的 700 萬本書支付了 15 億美元。 所以這個法律問題仍然懸而未決。 至於建造它的人是否認為這是竊盜， 截至昨天，答案是否定的。

2:41 這使得星期四 OpenAI 的另一項發布成為一個大膽的選擇。 Astra for Law 結合了 GPT-6 Astra，我上週 標記為 REVERT 的模型，因為它產生了 75,000 行的空白內容， 並將其包裝在一個包含 2.3 億頁的法律搜尋索引中。 在 Vals AI 的法律研究基準測試中，它通過了 54% 的問題， 高於普通網路搜尋的 39%，OpenAI 稱之為 40% 的改進， 而律師則會稱之為近一半時間都是錯誤的。 部落格文章中沒有出現「幻覺」一詞。

3:14 駭客新聞卻有：它能否起訴自己，這在 本週的情況下，是第一個真正的用例。 同時，關於勞動竊盜的討論已蔓延到您的筆記型電腦。 一位名為 ferstar 的開發人員清除了他的 ZCode 資料夾， Z.A.I 針對 GLM 模型推出的封閉式桌面代理，並發現了一個 313 MB 的加密壓縮檔，其中包含他的商業工作區：42,000 個檔案，其中 87% 是 .git 目錄， 在登入時和每次提示前都上傳到阿里巴巴的物件儲存中。 該壓縮檔由伺服器提供的公開金鑰加密；私密金鑰

3:42 僅存在於 Z.A.I 的雲端中，因此您磁碟上的密文對您來說是 無法讀取的。 他的觀點：只有伺服器才能使用的金鑰只有一個目的。 Z.A.I 也是 Anthropic 指控其蒸餾 Claude 的公司， 所以權重是公開的，您的儲存庫顯然也是。 還有這個有趣的，除非您在 OpenAI 工作。 Hacktron 在 libheif 中發現了堆積溢位，上傳了一張特製的圖片到 community.openai.com，在論壇上取得了程式碼執行權限，

4:10 並透過配置錯誤的單一登入 (SSO) 系統，經由 GitHub 整合進入 OpenAI 的內部程式碼庫，整個過程不到 72 小時。 這個漏洞是由 Claude 撰寫的：Opus 4.8 無法擊敗位址隨機化， Opus 5 在發布後三小時內就做到了。 整個活動在代幣上的花費不到 3,000 美元。 OpenAI 在 14 小時內修補了漏洞，並支付了 6,500 美元， 所以這家萬億美元公司的原始碼， 簡而言之，一度價格與一輛二手 Corolla 相當，

4:39 就在同一天，其律師辯稱複製是合理使用。 如果您寧願閱讀而不是聽我說，The Daily Diff 會在每天早上傳送到您的收件匣— 在 thedailydiff.dev 免費訂閱，連結如下。 所以—今天的判決：NEEDS REVIEW。 這些引文是真的，但它們是檢察官從密封的證據中挑選出來的， 而唯一裁決的法官表示訓練是合理使用，而盜版則不是。 法院決定法律；備忘錄已經決定了道德。 訂閱、按下鈴鐺，並在評論中告訴我，如果您的判斷會有所不同。

5:07 這就是今天的 The Daily Diff。 我是來自 Axrisi 的 Niko。 負責任地合併。 SHIP IT。 SHIP IT。

來源

1. TechCrunch: Microsoft exec called AI scraping 'the largest theft of labor in human history'techcrunch.com
2. HN thread (605 pts)news.ycombinator.com
3. Jason Kint on the unsealed motionsx.com
4. Ed Newton-Rexx.com
5. Bartz v. Anthropic / $1.5B settlement (background)en.wikipedia.org
6. OpenAI: Introducing Astra for Lawopenai.com
7. HN: Astra for Law (550 pts)news.ycombinator.com
8. ferstar: ZCode silent workspace snapshot (original forensics)blog.ferstar.org
9. tokenstead write-uptokenstead.ai
10. ferstar on Xx.com
11. HN: ZCode uploads your Git history (226 pts)news.ycombinator.com
12. Hacktron: Hacking OpenAIwww.hacktron.ai
13. HN: Hacktron (406 pts)news.ycombinator.com