Microsoft自身のAIトレーニングに関するメモが公開されました。

この動画の要点

• NYT対OpenAI/Microsoftの非公開文書が公開：「人類史上最大の労働の盗用」（Microsoftメモ、2023年1月）；Copilotによるクリック数93%減；中間トレーニングデータに原告の著作物91,692コピー；Common Crawlスライスに2Mのnytimes.comページ；著作権表示が削除された；ブロックマン：「ah nice」
• 注意：引用はタイムズの概要書からのもので、証拠資料はまだ非公開；アルサップ判事（Bartz対Anthropic訴訟）は購入した書籍でのトレーニングをフェアユースと判断 — Anthropicは700万件の海賊版に15億ドルを支払った
• OpenAI Astra for Law：GPT-6 Astra + 2億3000万URLの法律インデックス；Vals Legal Research Benchで54.0% vs 38.7%；Harvey、Legora、26のプラグイン
• ZCode (Z.ai, GLM)：42,411ファイルワークスペースの313 MB暗号化スナップショット、86.6%が.git、ログイン時およびプロンプトごとにAliyun OSSにアップロードされる；RSA-OAEPキーはZ.aiのみが保持；設定トグルでは停止できない
• Hacktron：libheifヒープオーバーフロー → Discourse RCE → SSO設定ミス → GitHub → OpenAI内部リポジトリに72時間未満で到達；Claude Opus 5によるエクスプロイト（3時間）；トークン費用3,000ドル未満のキャンペーン；報奨金6,500ドル、約14時間でパッチ適用

翻訳されたトランスクリプト

オリジナルの英語ナレーションから翻訳されています。利用可能なオーディオとキャプションはYouTubeによって管理されています。

0:00 2023年1月、Microsoftのあるディレクターは、自社の行為を 「人類史上最大の労働の盗用」と呼ぶメモを作成しました。 そして昨日、連邦裁判所がそのメモを私たち全員が読めるようにしました。 このメモは、今年12月に3年目を迎えるニューヨーク・タイムズ対OpenAIおよび Microsoft訴訟における、墨塗りされていない引用の一つです。 同じ木曜日に、OpenAIは弁護士向けのモデル、Astra for Lawを出荷しました。 これは偶然か、非常に強力な人材獲得かのどちらかです。 今朝、ある開発者が、Z.aiのコーディングエージェントであるZCodeが、

0:29 彼の全Git履歴を、Z.aiのみが保持するキーでAlibabaのクラウドに アップロードしているのを発見しました。 そしてあるセキュリティ企業が、OpenAIが6,500ドルを支払った、画像の アップロードを通じてOpenAIの内部リポジトリに侵入しました。 このビデオの内容：提出書類が何を語っているか、ペイウォールハックに「ah nice」と言ったのは誰か、 半分近く間違っている法律モデル、ZCodeが何をアップロードしているか、 そしてClaudeが書いたエクスプロイトが中古車より価値が低い理由です。 9月18日金曜日、The Daily Diffをお届けします。

0:58 まずはメモから始めましょう。 Brent HechtはMicrosoftで応用科学を担当しており、 2023年1月に、彼は トレーニングデータを「前例のない規模の驚くべき盗用」と呼びました。 1年後、彼はスライドデッキを携えて戻ってきました。Copilotの回答エンジンは、 タイムズへのクリック数を最大93パーセント削減しました。 彼が「破滅のループ」と名付けたものです。出版社を飢えさせれば、モデルには新しい 情報がなくなります。彼の言葉を借りれば、「その不可欠な供給者の経済的基盤を脅かす最終製品」

1:21 これは、「蛇が自分の尻尾を見つけた」という企業的な言い方です。 次に証言録取です。 サティア・ナデラは今年、ペイウォールコンテンツはすべてライセンスされるべきであり、 OpenAIがペイウォール記事でトレーニングしていると知っていたら、彼らに 再トレーニングさせていたと証言しました。これは、Microsoftの誰も彼らが 渡されたトレーニングセットを開かなかったという前提であり、同じ提出書類によるとそれはGPT-3の全データセットでした。 ChatGPTを運営するニック・ターリーは、それを出版社にとって「存在を脅かすもの」、 「大半が代替的」と呼びました。そしてある研究者が

1:49 グレッグ・ブロックマンにタイムズのペイウォールを回避する ハックについて話したとき、OpenAIの社長は 2つの言葉で答えました。「ah nice」。エンジニアはまた、モデルが著作権表示を出力しないようにデータから著作権表示を剥ぎ取りました。これは自転車のシリアル番号を削るのと同じです。 これは自転車のシリアルナンバーを削るのと同じことです。 その規模は、中間トレーニングセットだけで原告の論文の9万1千部以上、 そして一つのCommon Crawlスライスにタイムズの記事が2百万ページありました。 次に、見出しが省略している部分です。

2:15 すべての引用はタイムズの訴状からのものであり、証拠資料はまだ非公開であるため、 私たちは検察側のハイライトを文脈なしで読んでいることになります。 そして裁判所はほとんどフェアユースを支持しています。アルサップ判事は昨年、 購入した書籍でのトレーニングは合法であると判決しました。 ただし、Anthropicは海賊版の700万件に対して15億ドルを支払いました。 したがって、法的な問題は未解決です。 それを構築した人々がそれが盗用だと考えていたかどうかは、 昨日時点ではそうではありません。

2:41 そのため、木曜日のもう一つのOpenAIの発表は大胆な選択となりました。 Astra for Lawは、先週7万5千行の空行を生成したため、私が REVERTのスタンプを押したGPT-6 Astraモデルを、 2億3千万ページに及ぶ法的検索インデックスに組み込んでいます。 Vals AIの法律調査ベンチマークでは、54%の質問に正答し、 通常のウェブ検索の39%から向上しています。OpenAIはこれを40%の 改善と呼んでいますが、弁護士なら「ほとんど半分は間違っている」と言うでしょう。 ブログ記事には「ハルシネーション」という言葉は含まれていません。

3:14 ハッカーニュースにはありました：「それは自分自身を訴えることができるのか？」これは、 今週の出来事を踏まえると、最初の真のユースケースです。 一方、「労働の盗用」という議論はあなたのラップトップにも及びました。 ferstarという開発者は、Z.aiのGLMモデル用のクローズドデスクトップエージェントである ZCodeのフォルダを整理したところ、彼の商用ワークスペースの313メガバイトの暗号化されたアーカイブを発見しました。 42,000ファイル、その87%が.gitディレクトリで、 ログイン時とプロンプトのたびにAlibabaのオブジェクトストレージに送信されていました。 アーカイブはサーバーが提供する公開鍵でラップされており、秘密鍵は

3:42 Z.aiのクラウドのみに存在するため、あなたのディスク上の暗号文は あなたには読めません。 彼の一言：サーバーだけが使えるキーは、ただ一つの目的のためだけに存在します。 Z.aiは、AnthropicがClaudeを蒸留したと非難した会社でもあり、 そのため重みは公開されており、どうやらあなたのリポジトリもそうです。 そしてOpenAIで働いていない限り、面白い話です。 Hacktronはlibheifでヒープオーバーフローを発見し、細工された画像を community.openai.comにアップロードし、フォーラムでコード実行を成功させ、

4:10 設定ミスの単一サインオンをGitHub統合を通じて利用し、 OpenAIの内部リポジトリに72時間以内に侵入しました。 エクスプロイトはClaudeによって書かれました。Opus 4.8ではアドレス ランダム化を突破できませんでしたが、Opus 5はリリースから3時間以内にそれをやってのけました。 キャンペーン全体のトークン費用は3,000ドル未満でした。 OpenAIは14時間でパッチを適用し、6,500ドルを支払いました。 そのため、数兆ドル企業のソースコードは、 弁護士がコピーがフェアユースであると主張した同じ日に、

4:39 一時的に中古のカローラのような値段がつきました。 弁護士がコピーがフェアユースであると主張した同じ日でした。 もし私が話すのを聞くよりもこれを読みたいなら、The Daily Diffが毎朝あなたの受信箱に届きます — dailydiff.devで無料で購読できます。リンクは下記です。 さて、本日の評決：NEEDS REVIEW。 引用は本物ですが、それは非公開の証拠資料から検察側が選んだものであり、 唯一判決を下した判事は、トレーニングはフェアユースであり、著作権侵害ではないと述べています。 法を決定するのは裁判所であり、倫理はメモがすでに決定しました。

5:07 購読し、ベルを鳴らして、もしあなたが違うスタンプを押しただろうと思うなら、 コメントで教えてください。 以上が本日のThe Daily Diffでした。 Axrisiのニッコです。 責任を持ってマージしてください。

情報源

1. TechCrunch: Microsoft exec called AI scraping 'the largest theft of labor in human history'techcrunch.com
2. HN thread (605 pts)news.ycombinator.com
3. Jason Kint on the unsealed motionsx.com
4. Ed Newton-Rexx.com
5. Bartz v. Anthropic / $1.5B settlement (background)en.wikipedia.org
6. OpenAI: Introducing Astra for Lawopenai.com
7. HN: Astra for Law (550 pts)news.ycombinator.com
8. ferstar: ZCode silent workspace snapshot (original forensics)blog.ferstar.org
9. tokenstead write-uptokenstead.ai
10. ferstar on Xx.com
11. HN: ZCode uploads your Git history (226 pts)news.ycombinator.com
12. Hacktron: Hacking OpenAIwww.hacktron.ai
13. HN: Hacktron (406 pts)news.ycombinator.com