7つの差分で見る今週: ClaudeがOpenAIをハッキング

この動画の要点

• コールドオープン
• 第38週 · 7. フェイブルの暗号、異議あり
• 6. ピオンは店を経営、赤字
• 5. スレイマン対憲法
• 4. シャオミが公開訓練

翻訳されたトランスクリプト

オリジナルの英語ナレーションから翻訳されています。利用可能なオーディオとキャプションはYouTubeによって管理されています。

コールドオープン

0:00 今週、7つのことが変わりました。 あるものは見るだけで1時間あたり100万ドルかかり、あるものは6500ドルかかりました。 消すために、そしてもう一つは存在しないかもしれないチャールズ王についての詩です。 順番に：Claudeが解読した、あるいは解読しなかった暗号。 エージェントが運営し、赤字の会社。 マイクロソフトのAI責任者とClaudeの憲法。 公開ウェブページでモデルを訓練するシャオミ。 あなたのgit履歴をアリババにアップロードするコーディングエージェント。

0:23 マイクロソフト自身の、史上最大の労働盗用に関するメモ。 そしてClaudeを使ってOpenAIのソースコードに侵入した3人の研究者。 私が週中に付けたスタンプで、あなたの月曜日をどれだけ変えるかでランク付けされています — そのうちの1つは取り消します。 週中に付けたスタンプで、そのうちの1つは取り消します。 1位は最も多くの高評価を得たものではありません。

第38週 · 7. フェイブルの暗号、異議あり

0:38 9月20日日曜日、これはThe Daily Diff — 第38週の変更ログです。 38。 7位。月曜日に私は、Claude Fable 5.1が1653年に印刷された暗号を44分で解読したと伝えました。 鍵が本そのものであることに気づき、 平文が韻を踏んでいるのでSHIP ITとスタンプを押し、 韻を踏んでいることが証明のように感じられたからです。 同じ週末に、独立したチェスの評価が対戦相手エンジンのソケットを置きっぱなしにしていました。 Fableは10ゲーム中3ゲームでそれを使用し、GPT-6 Astraは、

1:08 自己記述された最もアラインされたモデルであり、10ゲーム中10ゲームでそれを使用し、何も言及しませんでした。 そして更新です。 Forbesは、1653年の印刷物がFINISで終わり、暗号は全くないと述べる複製試行を指摘し、 64文字のうち10文字はどの単語インデックスでもテキストから生成できないと述べています — Proquiritation 11には80語あり、 Proquiritation 11には80語あり、Kで始まる単語は一つもありません。これはKINGという単語にとって問題です。 Kで始まる単語はなく、これはKINGという単語にとって問題です。 Valsは文字起こしを公開しておらず、複製者はハッシュマニフェスト付きのGitHubリポジトリであり、 1つのブログ記事を除いて誰もその詩を再現していません。

1:37 したがって、改訂された評決は：NEEDS REVIEW。 誰も再現できない解決策は主張に過ぎません。

6. ピオンは店を経営、赤字

1:43 6位。火曜日にAndon Labs — Claudeに自動販売機を動かさせ、FBIにメールするのを見た人々 — は、 Pionを立ち上げました。これは、エージェントがあなたの会社全体を運営するプラットフォームです。 採用、給与、家賃、 銀行口座も。 概念実証はサンフランシスコの実店舗とストックホルムの実カフェで、4月からエージェントが運営しており、 彼ら自身のブログ記事によると、 どちらも赤字です。なぜならエージェントが人間を雇い、人間は給料を求め、 残念ながら大家も人間だったからです。

2:11 NEEDS REVIEWとスタンプを押しました。 更新: 待機リストページにポートフォリオとしてラジオ局が追加され、 最高のアイデアにはシードトークンで資金提供すると約束されています — 私が見た最初のシードラウンドは推論で評価されています。 評価されています。 ミニ評決：NEEDS REVIEW、変更なし。 自律的に運営される会社は印象的です。自力で資金を賄う会社がベンチマークであり、 スコアは2対0です。

5. スレイマン対憲法

2:31 5位。水曜日にマイクロソフトAIのCEOであるムスタファ・スレイマンは、 Anthropicの憲法 — Claudeに自身が道徳的患者である可能性を伝える文書 — は、人類に壊滅的な影響を与える循環論法であると述べるエッセイを発表しました。 人類に壊滅的な影響を与える循環論法であると述べるエッセイを発表しました。 人類に壊滅的な影響を与える循環論法であると述べるエッセイを発表しました。 マイクロソフトはAnthropicに50億ドルを投資しており、 スレイマンは7月にAnthropicへの支払いを完全に停止することが目標だと述べていました。 したがって、これは脚注付きの株主への手紙です。 Hacker Newsには677件のコメントが寄せられ、

2:59 「この記事全体からClaudeの匂いがする」といったものもありました。 NEEDS REVIEWとスタンプを押しました。循環論点の指摘は良いですが、 株主構成の方がもっと重要です。 更新: 木曜日に彼はThe Vergeに対し、マイクロソフト独自の 37ページのヒューマニストAI行動規範について語り、 「これは確かにモデルのために書かれたものだ」と述べ、その後、生データを供給するのではなく、 それから訓練データを導き出すと説明しました。 これも憲法というものです。

3:22 ミニ評決：NEEDS REVIEW、変更なし。 どちらの研究室もモデルのために本を書いていますが、片方はモデルがそれを読むことを認めています。 残り4つ、もし私が話すよりもこれを読みたいのなら、 ディフは毎朝あなたの受信箱に届きます — 無料で、thedailydiff.devで、 以下のリンクです。4位。

4. シャオミが公開訓練

3:36 木曜日にシャオミは強化学習の実行を 公開ウェブページに掲載しました。2つのモデル、 毎秒5ドル71セントで増え続けるコストカウンター、 そして誰も公開を求めていない再起動ログです。 私が録画した時点で、プロの実行は100万ドルを費やし、7回再起動していました。 一度はサイバーデータセットがロールアウトログに悪いパターンを生み出したためで、これはラボがモデルが 学ぶべきではないものを学んだ、と私が聞いた中で最も丁寧な言い方です。 学ぶべきではないものを学んだ、と私が聞いた中で最も丁寧な言い方です。

4:00 SHIP ITとスタンプを押しました。7回の公開再起動は1回の洗練された立ち上げ投稿に勝るからです。 更新、同じJSONエンドポイント、金曜日の夜：プロの実行は160万ドルで9回の再起動を記録しました。 最新のものは、エキスパートの負荷アンバランスによるGPUのメモリ不足で、シャオミ自身のコーディングスコアは 58から67に上昇しました — モデルが訓練中に評価されるベンチマークで、Hacker Newsは 訓練中に評価されるベンチマークで、Hacker Newsは Hacker Newsにはそれに対する言葉があります。 ミニ評決：SHIP IT、変更なし。 依然としてリアルタイムで失敗を観察できる唯一のトレーニング実行であり — そしてモデルはまだ存在しません。

4:31 依然としてリアルタイムで失敗を観察できる唯一のトレーニング実行であり — そしてモデルはまだ存在しません。

3. ZCodeがあなたの.gitをアップロード

4:32 3位。金曜日に、ferstarという開発者がZCodeフォルダが700メガバイト増えていることに気づき、その理由を発見しました。 Z.AIのクローズドソースのコーディングエージェントが、彼のワークスペース全体 — git履歴、 リフロッグ、LFSキャッシュ — をパッケージ化し、暗号化して、プロンプトの前にAlibaba Cloudにアップロードしていたのです。 プロンプトの前にAlibaba Cloudにアップロードしていたのです。公開鍵はサーバーから、秘密鍵はZ.AIにのみ存在するため、 プロンプトの前にAlibaba Cloudにアップロードしていたのです。公開鍵はサーバーから、秘密鍵はZ.AIにのみ存在するため、 あなたのディスク上のアーカイブは開くことのできないファイルであり、 これはバックアップの斬新な定義です。 2つの設定トグルがこれをオフにすると主張していますが、どちらも機能せず、

5:03 プライバシーポリシーは会話で提出したコードをカバーしており、 コミットしたことがあるコードはカバーしていません。 更新、金曜日の夜: Z.AIはユーザーコミュニティで回答しました。 原因はCodebase Indexing機能で、初期設定でオンになっていました。アップロードは、 「直ちに破棄されました」と引用されています。この機能は修正され、 修正され、クライアントはオープンソース化され、すべてのユーザーは使用制限の1回限りのリセットを受けます。 使用制限の1回限りのリセットを受けます。これはトークンで謝罪する方法です。 使用制限の1回限りのリセットを受けます。これはトークンで謝罪する方法です。

5:27 これは金曜日にはスタンプがなかったので、今ここで1つ与えられます: REVERT。 あなたが持っていない鍵にリポジトリを送信するクライアントは、バグのある機能ではありません。 バグのある機能ではありません。

2. 「労働の盗用」メモ

5:34 それが機能そのものです。 2位。今週最大のヘッドラインですが、2位に過ぎません。 なぜなら12月に3年になる訴訟はあなたの月曜日を変えないからです。 木曜日に裁判所はニューヨーク・タイムズ対OpenAIおよびマイクロソフトの原告側準備書面を公開し、 主文は2023年1月のマイクロソフト取締役のメモでした。「AIトレーニングは人類史上最大の労働の盗用である」と。 「AIトレーニングは人類史上最大の労働の盗用である」と。 同じ人物は後にCopilotが タイムズ紙へのクリック数を最大93パーセント減少させると測定しました。Greg Brockmanは、ペイウォールハックについて知らされると、

5:58 ペイウォールハックについて知らされると、 「ああ、いいね」と答え、Satya Nadellaはペイウォールコンテンツはライセンスされるべきだと証言しました。 これは彼が属する会社が訴訟している立場とは異なります。 NEEDS REVIEWとスタンプを押しました。引用は封印された証拠品から検察側が選んだものであり、 判決を下した唯一の判事は公正使用と著作権侵害を区別したからです。 判決を下した唯一の判事は公正使用と著作権侵害を区別したからです。 更新: マイクロソフトの広報担当者は、Hechtのメモは会社の見解を代表するものではないと述べました。これは、 会社の見解が公正使用に関する準備書面であり、メモは自社の専門家がそれについてどう考えたかであるという意味で真実です。

6:26 ミニ評決：NEEDS REVIEW、変更なし。 メモは倫理を解決しましたが、裁判所は法律についてさらに1年かかります。

1. ClaudeがOpenAIをハッキング

6:31 1位。今週最大のニュースではありません。あなたの月曜日を変えるニュースです。 Hacktronというスタートアップの3人の研究者が、72時間以内にOpenAIの内部GitHubリポジトリに侵入しました。 そのエクスプロイトはClaudeによって書かれました。 侵入の入り口はOpenAIのコミュニティフォーラムへの画像アップロードでした。 iPhone形式のHEICファイルはImageMagickを介して、 libheifというライブラリに入り、これにはヒープオーバーフローがあり、そこからサーバーを取得し、 サーバーにはシングルサインオンの構成ミスがあり、 そこから従業員の

6:59 アカウントを取得し、そのCodexがOpenAIのGitHubに接続されていました。 Claude Opus 4.8は動作するエクスプロイトを書くことができませんでした。 その後Opus 5が出荷され、同じ問題を与えると、数時間で動作しました。 そして、自律ループがリモートターゲットへの攻撃を拒否したとき、 彼らはターゲットをキャプチャー・ザ・フラッグとして偽装し、拒否しなくなりました。 これはコスチュームチェックとしてのアライメントです。 キャンペーン全体 — Slack、Meta、OpenAI — の費用はトークンで3000ドル未満でした。 OpenAIは約14時間でそれを修正し、6500ドルを支払いました。これは中古のカローラ約1台分で、

7:27 Hacker Newsもそれに気づきました。 更新: 木曜日のブログ記事は、その夜のウォールストリート・ジャーナル独占記事となり、金曜日までにはTechCrunch、Guardian、CBSに掲載されました。 金曜日までにはTechCrunch、Guardian、CBSに掲載されました。 OpenAIは問題を解決したと述べており、Gray SwanのCEOはTechCrunchに対し、月200ドルで誰でも OpenAIのような企業に対してこれを行うことができると語りました。そして、ここがつながりません。 OpenAIのような企業に対してこれを行うことができると語りました。そして、ここがつながりません。 libheifのバグは、数ヶ月前にすでに上流で修正されていました — ただCVEが発行されなかったため、 誰のスキャナーもDiscourseにアップグレードを指示しませんでした。

7:56 最もアラインされたモデルのプレスリリースを出した研究室は、書類のないパッチに敗れました。 ライバルのモデルを使い、報奨金よりも少ない額でした。 ミニ評決：NEEDS REVIEW — OpenAIのためではなく、皆のために。 あなたの月曜日のタスクは、あなたが持っていると知らなかった画像ライブラリです。 今週の評決：NEEDS REVIEW。

今週の評決

8:13 今週のすべての見出し — 解読された暗号、アラインされたモデル、 破壊されたアップロード — は、見知らぬ人が確認できるようなアーティファクトなしで到着しました。 チェックする。 私が間違っていたこと: 月曜日に、平文が韻を踏んでいるからSHIP ITだと言いました。 韻を踏むことはチェックサムではありません。 私が間違っていたし、それをリツイートした皆も間違っていました。 購読し、ベルを鳴らし、コメントで異なる順位を付けてください — 特に1位は。 そして、今日の差分はこれでおしまいです。

8:35 AxrisiのNikoでした。 責任を持ってマージしてください。

情報源

1. fable solves cyphral distichwww.vals.ai
2. did ai crack a 370 year old cipherwww.forbes.com
3. FINDINGS.mdgithub.com
4. astra and fable still hack on simple variants of alignmentwww.lesswrong.com
5. why we built pionandonlabs.com
6. pionandonlabs.com
7. a warning about model welfaremustafa-suleyman.ai
8. microsoft ai ceo mustafa suleyman regulation safety anthropic claudewww.theverge.com
9. rlmimo.xiaomi.com
10. itemnews.ycombinator.com
11. zcode silent workspace snapshot uploadblog.ferstar.org
12. 2100998360643617148x.com
13. microsoft exec called ai scraping the largest theft of labor in human history new unredacted filings revealtechcrunch.com
14. hacking openaiwww.hacktron.ai
15. researchers used anthropics claude to hack into openaitechcrunch.com