Interná správa Microsoftu o trénovaní AI bola zverejnená.

Čo toto video pokrýva

• NYT vs. OpenAI/Microsoft odpečatené: „najväčšia krádež práce v histórii ľudstva“ (interná správa Microsoftu, január 2023); Copilot −93 % kliknutí; 91 692 kópií diel žalobcov v dátach uprostred trénovania; 2 milióny strán nytimes.com v jednom úryvku Common Crawl; odstránené upozornenia na autorské práva; Brockman: „aha, fajn“
• Poznámka: citáty pochádzajú z podania Times; dôkazy sú stále zapečatené; sudca Alsup (Bartz v. Anthropic) rozhodol, že trénovanie na kúpených knihách je spravodlivé použitie – Anthropic zaplatil 1,5 miliardy dolárov za 7 miliónov pirátskych
• OpenAI Astra for Law: GPT-6 Astra + právny index s 230 miliónmi URL adries; 54,0 % vs. 38,7 % na Vals Legal Research Bench; Harvey, Legora, 26 pluginov
• ZCode (Z.ai, GLM): 313 MB šifrovaný snímok pracovného priestoru s 42 411 súbormi, 86,6 % .git, nahratý na Aliyun OSS pri prihlásení a pred každou výzvou; kľúč RSA-OAEP drží iba Z.ai; prepínače nastavení to nezastavia
• Hacktron: pretečenie haldy libheif → RCE Discourse → chybné nastavenie SSO → GitHub → interné repozitáre OpenAI za menej ako 72 hodín; exploit napísal Claude Opus 5 (3 hodiny); kampaň stála menej ako 3 000 dolárov v tokenoch; odmena 6 500 dolárov, opravené za ~14 hodín

Preložený prepis

Preložené z pôvodného anglického rozprávania. Dostupný zvuk a titulky sú kontrolované službou YouTube.

0:00 V januári 2023 riaditeľ Microsoftu napísal internú správu, v ktorej nazval to, čo robila jeho vlastná spoločnosť, najväčšou krádežou práce v histórii ľudstva, a včera federálny súd dovolil nám ostatným ju prečítať. Interná správa je jedným z neupravených citátov v spore New York Times proti OpenAI a Microsoftu, žalobe, ktorá bude v decembri stará tri roky. V ten istý štvrtok OpenAI uviedla Astra for Law, model pre právnikov, čo je buď náhoda, alebo veľmi silný nábor. Dnes ráno si vývojár všimol, že ZCode, kódovací agent Z.ai,

0:29 nahráva celú jeho históriu gitu do cloudu Alibaba s kľúčom, ktorý drží iba Z.ai. drží iba Z.ai. A bezpečnostná firma sa dostala do interných repozitárov OpenAI cez nahranie obrázku, za čo OpenAI zaplatilo šesťtisícpäťsto dolárov. V tomto videu: čo hovoria súdne dokumenty, kto povedal „aha, fajn“ na hack spoplatneného obsahu, právny model, ktorý sa mýli v polovici prípadov, čo nahráva ZCode, a prečo exploit napísaný Claudom stojí menej ako ojazdené auto. Je piatok, 18. septembra, a toto je The Daily Diff.

0:58 Začnime s internou správou. Brent Hecht vedie aplikovanú vedu v Microsofte, a v januári 2023 nazval trénovacie dáta ohromujúcou krádežou bezprecedentných rozmerov. O rok neskôr sa vrátil s prezentáciou: odpoveďový systém Copilot znížil počet kliknutí na Times až o deväťdesiattri percent, čo nazval „záhubou“: vyhladujte vydavateľov a model nebude mať nič nové na jedenie. Jeho slová: konečný produkt, ktorý ohrozuje ekonomické základy svojich

1:21 základných dodávateľov, korporátny spôsob, ako povedať, že had si našiel chvost. Potom výpovede. Satya Nadella tento rok vypovedal, že čokoľvek spoplatnené by malo byť licencované, a že keby vedel, že OpenAI trénovala na spoplatnených článkoch, prinútil by ich pretrénovať, čo predpokladá, že nikto v Microsofte neotvoril trénovaciu sadu, ktorú dostali, a podľa rovnakého podania to bola celá dátová sada GPT-3. Nick Turley, ktorý vedie ChatGPT, to nazval existenčnou hrozbou pre vydavateľov, do značnej miery nahraditeľnou. A keď výskumník

1:49 povedal Gregovi Brockmanovi o hacku, ktorý obchádza Times paywall, prezident OpenAI odpovedal dvoma slovami: „aha, fajn.“ Inžinieri tiež odstránili upozornenia na autorské práva z dát, aby ich model nevyprodukoval, čo je dôvod, prečo odstránite sériové číslo z bicykla. Rozsah: viac ako deväťdesiattisíc kópií článkov žalobcov len v stredných trénovacích súboroch a dva milióny strán Times v jednom úryvku Common Crawl. Teraz časť, ktorú titulok preskakuje.

2:15 Každý citát pochádza z podania Times; dôkazy sú stále zapečatené, takže čítame hlavné body obžaloby bez kontextu. A súdy sa väčšinou prikláňali k spravodlivému použitiu: sudca Alsup rozhodol minulý rok, že trénovanie na knihách, za ktoré ste zaplatili, je legálne, hoci Anthropic stále zaplatil jeden a pol miliardy za sedem miliónov, ktoré pirátili. Takže právna otázka je otvorená. Či si ľudia, ktorí to stavali, mysleli, že to bola krádež, je, od včera, už nie.

2:41 Čo robí štvrtkové ďalšie spustenie OpenAI odvážnou voľbou. Astra for Law obsahuje GPT-6 Astra, model, ktorý som označil REVERT minulý týždeň po tom, čo vyprodukoval sedemdesiatpäťtisíc riadkov ničoho, v právnom vyhľadávacom indexe s dvesto tridsiatimi miliónmi strán. Na právnom výskumnom benchmarku Vals AI prejde päťdesiatštyri percent otázok, čo je nárast z tridsaťdeväť percent pri obyčajnom webovom vyhľadávaní, čo OpenAI nazýva štyridsaťpercentným zlepšením a právnik by to nazval nesprávnym takmer v polovici prípadov. Blogový príspevok neobsahuje slovo halucinácia.

3:14 Hacker News áno: bude sa môcť žalovať samo, čo, vzhľadom na týždeň, je prvý skutočný prípad použitia. Medzitým diskusia o krádeži práce dorazila k vášmu notebooku. Vývojár menom ferstar vyčistil svoj priečinok ZCode, uzavretého desktopového agenta Z.ai pre modely GLM, a našiel tristo trinásťmegabajtový šifrovaný archív svojho komerčného pracovného priestoru: štyridsaťdvatisíc súborov, z toho osemdesiatsedem percent adresára .git, odoslaných do objektového úložiska Alibaba pri prihlásení a pred každou výzvou.

3:42 Archív je zabalený s verejným kľúčom, ktorý vydáva server; súkromný kľúč žije iba v cloude Z.ai, takže šifrovaný text na vašom vlastnom disku je pre vás nečitateľný. Jeho argument: kľúč, ktorý môže použiť iba server, slúži presne jednému účelu. Z.ai je tiež spoločnosť, ktorú Anthropic obvinil z destilovania Clauda, takže váhy sú otvorené a zjavne aj váš repozitár. A ten vtipný, pokiaľ nepracujete v OpenAI. Hacktron našiel pretečenie haldy v libheif, nahral upravený obrázok na

4:10 community.openai.com, získal spustenie kódu na fóre, a zneužil nesprávne nakonfigurované jednotné prihlásenie cez integráciu GitHubu do interných repozitárov OpenAI, za menej ako sedemdesiatdva hodín. Exploit napísal Claude: Opus 4.8 nedokázal prekonať náhodnú adresovú randomizáciu, Opus 5 to dokázal do troch hodín od vydania. Celá kampaň stála menej ako tritisíc dolárov v tokenoch. OpenAI záplatu vydala za štrnásť hodín a zaplatila šesťtisícpäťsto dolárov, takže zdrojový kód biliónovej spoločnosti bol,

4:39 krátko, ocenený ako ojazdená Corolla, v ten istý deň, keď jej právnici tvrdili, že kopírovanie je spravodlivé použitie. Ak si to radšej prečítate, ako by ste ma počuli hovoriť, The Daily Diff pristane vo vašej schránke každé ráno – zadarmo na daily diff dot dev, odkaz nižšie. Takže – dnešný verdikt: NEEDS REVIEW. Citáty sú skutočné, ale sú to výbery obžaloby zo zapečatených dôkazov, a jediný sudca, ktorý rozhodol, hovorí, že trénovanie je spravodlivé použitie a pirátstvo nie. Súd rozhoduje o zákone; interná správa už rozhodla o etike.

5:07 Odoberajte, kliknite na zvonček a povedzte mi v komentároch, či by ste to označili inak. A to je pre dnešok všetko. Som Niko z Axrisi. SHIP IT zodpovedne.

Zdroje

1. TechCrunch: Microsoft exec called AI scraping 'the largest theft of labor in human history'techcrunch.com
2. HN thread (605 pts)news.ycombinator.com
3. Jason Kint on the unsealed motionsx.com
4. Ed Newton-Rexx.com
5. Bartz v. Anthropic / $1.5B settlement (background)en.wikipedia.org
6. OpenAI: Introducing Astra for Lawopenai.com
7. HN: Astra for Law (550 pts)news.ycombinator.com
8. ferstar: ZCode silent workspace snapshot (original forensics)blog.ferstar.org
9. tokenstead write-uptokenstead.ai
10. ferstar on Xx.com
11. HN: ZCode uploads your Git history (226 pts)news.ycombinator.com
12. Hacktron: Hacking OpenAIwww.hacktron.ai
13. HN: Hacktron (406 pts)news.ycombinator.com