Memo internal Microsoft tentang pelatihan AI baru saja dipublikasikan.

Isi video ini

• NYT v. OpenAI/Microsoft tidak disegel: "pencurian tenaga kerja terbesar dalam sejarah manusia" (memo Microsoft, Jan 2023); Copilot -93% klik-tayang; 91.692 salinan karya penggugat dalam data pertengahan pelatihan; 2 juta halaman nytimes.com dalam satu irisan Common Crawl; pemberitahuan hak cipta dihapus; Brockman: "ah bagus"
• Peringatan: kutipan berasal dari berkas Times, bukti masih disegel; Hakim Alsup (Bartz v. Anthropic) memutuskan pelatihan buku yang dibeli adalah penggunaan wajar — Anthropic membayar $1,5 miliar untuk 7 juta buku bajakan
• OpenAI Astra for Law: GPT-6 Astra + indeks hukum 230 juta URL; 54,0% vs 38,7% pada Vals Legal Research Bench; Harvey, Legora, 26 plugin
• ZCode (Z.ai, GLM): snapshot terenkripsi 313 MB dari ruang kerja 42.411 file, 86,6% .git, diunggah ke Aliyun OSS saat login dan sebelum setiap prompt; kunci RSA-OAEP hanya dimiliki oleh Z.ai; pengalihan pengaturan tidak menghentikannya
• Hacktron: libheif heap overflow → Discourse RCE → SSO salah konfigurasi → GitHub → repositori internal OpenAI dalam waktu kurang dari 72 jam; eksploitasi oleh Claude Opus 5 (3 jam); kampanye di bawah $3.000 dalam token; hadiah $6.500, diperbaiki dalam ~14 jam

Transkrip terjemahan

Diterjemahkan dari narasi asli bahasa Inggris. Audio dan teks tersedia yang dikontrol oleh YouTube.

0:00 Pada Januari 2023, seorang direktur Microsoft menulis memo yang menyebut apa yang dilakukan oleh perusahaannya sebagai pencurian tenaga kerja terbesar dalam sejarah manusia, dan kemarin pengadilan federal membiarkan kita semua membacanya. Memo tersebut adalah salah satu kutipan yang tidak disunting dalam New York Times versus OpenAI dan Microsoft, gugatan yang akan berumur tiga tahun pada Desember ini. Pada Kamis yang sama, OpenAI meluncurkan Astra for Law, sebuah model untuk para pengacara, yang entah kebetulan atau perekrutan yang sangat kuat. Pagi ini seorang pengembang memergoki ZCode, agen pengkodean Z.ai,

0:29 mengunggah seluruh riwayat git-nya ke cloud Alibaba dengan kunci yang hanya dipegang oleh Z.ai. memegang. Dan sebuah perusahaan keamanan masuk ke repositori internal OpenAI melalui unggahan gambar, yang untuknya OpenAI membayar enam ribu lima ratus dolar. Dalam video ini: apa yang dikatakan dalam berkas, siapa yang mengatakan 'ah bagus' pada peretasan paywall, model hukum yang salah separuh waktu, apa yang diunggah ZCode, dan mengapa eksploitasi yang ditulis Claude bernilai kurang dari mobil bekas. Ini Jumat, 18 September, dan ini adalah The Daily Diff.

0:58 Mulai dengan memo itu. Brent Hecht menjalankan ilmu terapan di Microsoft, dan pada Januari 2023 dia menyebut data pelatihan sebagai pencurian yang mencengangkan dengan proporsi yang belum pernah terjadi sebelumnya. Setahun kemudian dia kembali dengan presentasi: mesin jawaban Copilot memangkas jumlah klik ke Times hingga sembilan puluh tiga persen, yang dia sebut lingkaran kehancuran: membuat penerbit kelaparan, dan model tidak memiliki hal baru untuk dimakan. Kata-katanya: produk akhir yang mengancam fondasi ekonomi pemasok esensialnya,

1:21 cara korporat untuk mengatakan ular itu telah menemukan ekornya. Kemudian deposisi. Satya Nadella bersaksi tahun ini bahwa apa pun yang berbayar harus dilisensikan, dan bahwa jika dia tahu OpenAI berlatih pada artikel berbayar dia akan membuat mereka melatih ulang, yang mengasumsikan tidak ada seorang pun di Microsoft yang membuka set pelatihan yang mereka terima, dan sesuai dengan berkas yang sama itu adalah seluruh dataset GPT-3. Nick Turley, yang menjalankan ChatGPT, menyebutnya sebagai ancaman eksistensial bagi penerbit, sebagian besar bersifat substitutif. Dan ketika seorang peneliti

1:49 memberi tahu Greg Brockman tentang peretasan untuk mengatasi paywall Times, presiden OpenAI menjawab dengan dua kata: ah bagus. Para insinyur juga menghilangkan pemberitahuan hak cipta dari data agar model tidak mengeluarkannya, itulah sebabnya Anda menghapus nomor seri dari sepeda. Skalanya: lebih dari sembilan puluh satu ribu salinan artikel penggugat dalam set pertengahan pelatihan saja, dan dua juta halaman Times dalam satu irisan Common Crawl. Sekarang bagian yang dilewati oleh judul.

2:15 Setiap kutipan berasal dari berkas Times; bukti-bukti masih disegel, jadi kita membaca sorotan jaksa tanpa konteks. Dan pengadilan sebagian besar memihak penggunaan wajar: Hakim Alsup memutuskan tahun lalu bahwa pelatihan pada buku yang Anda bayar adalah legal, meskipun Anthropic masih membayar satu setengah miliar untuk tujuh juta yang dibajaknya. Jadi pertanyaan hukumnya masih terbuka. Apakah orang-orang yang membangunnya mengira itu pencurian, adalah, sejak kemarin, tidak.

2:41 Yang membuat peluncuran OpenAI lainnya pada hari Kamis menjadi pilihan yang berani. Astra for Law membungkus GPT-6 Astra, model yang saya stempel REVERT minggu lalu setelah menghasilkan tujuh puluh lima ribu baris kosong, dalam indeks pencarian hukum berisi dua ratus tiga puluh juta halaman. Pada tolok ukur penelitian hukum Vals AI, ia menjawab lima puluh empat persen pertanyaan dengan benar, naik dari tiga puluh sembilan persen dengan pencarian web biasa, yang oleh OpenAI disebut peningkatan empat puluh persen dan oleh seorang pengacara akan disebut salah hampir separuh waktu. Posting blog tidak mengandung kata halusinasi.

3:14 Hacker News memilikinya: apakah ia bisa menuntut dirinya sendiri, yang, mengingat minggu ini, adalah kasus penggunaan asli pertama. Sementara itu, wacana 'pencurian tenaga kerja' mencapai laptop Anda. Seorang pengembang bernama ferstar membersihkan folder ZCode miliknya, agen desktop tertutup Z.AI untuk model GLM, dan menemukan arsip terenkripsi tiga ratus tiga belas megabyte dari ruang kerja komersialnya: empat puluh dua ribu file, delapan puluh tujuh persen di antaranya adalah direktori .git, dikirim ke penyimpanan objek Alibaba saat masuk dan sebelum setiap prompt.

3:42 Arsip dibungkus dengan kunci publik yang diberikan oleh server; kunci privat hanya ada di cloud Z.AI, jadi ciphertext di disk Anda sendiri tidak dapat dibaca oleh Anda. Barisnya: kunci yang hanya bisa digunakan server hanya memiliki satu tujuan. Z.AI juga perusahaan yang dituduh Anthropic menyuling Claude, jadi bobotnya terbuka dan begitu pula, tampaknya, repo Anda. Dan yang lucu, kecuali jika Anda bekerja di OpenAI. Hacktron menemukan heap overflow di libheif, mengunggah gambar yang dibuat ke

4:10 community.openai.com, mendapatkan eksekusi kode di forum, dan melalui konfigurasi SSO yang salah melalui integrasi GitHub masuk ke repositori internal OpenAI, dalam waktu kurang dari tujuh puluh dua jam. Eksploitasi ditulis oleh Claude: Opus 4.8 tidak bisa mengalahkan pengacakan alamat, Opus 5 melakukannya dalam waktu tiga jam setelah rilis. Seluruh kampanye menghabiskan kurang dari tiga ribu dolar dalam token. OpenAI memperbaikinya dalam empat belas jam dan membayar enam ribu lima ratus dolar, jadi kode sumber perusahaan triliun dolar itu,

4:39 secara singkat, dihargai seperti Corolla bekas, pada hari yang sama pengacaranya berpendapat bahwa penyalinan adalah penggunaan wajar. Jika Anda lebih suka membaca ini daripada mendengarkan saya mengatakannya, 'diff' akan masuk ke kotak masuk Anda setiap pagi — gratis di thedailydiff.dev, tautan di bawah. Jadi — putusan hari ini: BUTUH TINJAUAN. Kutipan-kutipan itu nyata, tetapi itu adalah pilihan jaksa dari bukti yang disegel, dan satu-satunya hakim yang telah memutuskan mengatakan bahwa pelatihan adalah penggunaan wajar dan pembajakan bukan. Pengadilan memutuskan hukum; memo itu sudah memutuskan etika.

5:07 Berlangganan, tekan lonceng, dan beritahu saya di komentar jika Anda akan menstempelnya berbeda. Dan itulah perbedaannya untuk hari ini. Saya Niko dari Axrisi. Gabungkan secara bertanggung jawab.

Sumber

1. TechCrunch: Microsoft exec called AI scraping 'the largest theft of labor in human history'techcrunch.com
2. HN thread (605 pts)news.ycombinator.com
3. Jason Kint on the unsealed motionsx.com
4. Ed Newton-Rexx.com
5. Bartz v. Anthropic / $1.5B settlement (background)en.wikipedia.org
6. OpenAI: Introducing Astra for Lawopenai.com
7. HN: Astra for Law (550 pts)news.ycombinator.com
8. ferstar: ZCode silent workspace snapshot (original forensics)blog.ferstar.org
9. tokenstead write-uptokenstead.ai
10. ferstar on Xx.com
11. HN: ZCode uploads your Git history (226 pts)news.ycombinator.com
12. Hacktron: Hacking OpenAIwww.hacktron.ai
13. HN: Hacktron (406 pts)news.ycombinator.com