Memoriul propriu al Microsoft privind antrenarea inteligenței artificiale tocmai a devenit public.

Ce acoperă acest videoclip

• NYT v. OpenAI/Microsoft desecretizat: "cel mai mare furt de muncă din istoria umanității" (memoriu Microsoft, ianuarie 2023); Copilot −93% click-through-uri; 91.692 de copii ale lucrărilor reclamanților în datele de la mijlocul antrenării; 2 milioane de pagini nytimes.com într-o singură secțiune Common Crawl; notificări de copyright eliminate; Brockman: "ah nice"
• Atenție: citatele provin din memoriul Times, probele sunt încă sigilate; Judecătorul Alsup (Bartz v. Anthropic) a hotărât că antrenarea pe cărți cumpărate este utilizare echitabilă — Anthropic a plătit 1,5 miliarde $ pentru cele 7 milioane piratate
• OpenAI Astra for Law: GPT-6 Astra + un index legal de 230 de milioane de URL-uri; 54,0% vs 38,7% pe Vals Legal Research Bench; Harvey, Legora, 26 de pluginuri
• ZCode (Z.ai, GLM): instantaneu criptat de 313 MB al unui spațiu de lucru cu 42.411 fișiere, 86,6% .git, încărcat pe Aliyun OSS la logare și înainte de fiecare prompt; cheie RSA-OAEP deținută numai de Z.ai; comutatoarele de setări nu opresc acest lucru
• Hacktron: depășire de heap libheif → RCE Discourse → SSO configurat greșit → GitHub → depozite interne OpenAI în mai puțin de 72 de ore; exploit scris de Claude Opus 5 (3 ore); campanie sub 3.000 $ în token-uri; recompensă 6.500 $, patch aplicat în ~14 ore

Transcrierea tradusă

Tradus din narațiunea originală în engleză. Audio-ul și subtitrările disponibile sunt controlate de YouTube.

0:00 În ianuarie 2023, un director Microsoft a scris un memoriu numind ceea ce propria companie făcea cel mai mare furt de muncă din istoria umanității, și ieri un tribunal federal ne-a permis restului să-l citim. Memoriul este unul dintre citatele neanulate din procesul New York Times împotriva OpenAI și Microsoft, un proces care împlinește trei ani în acest decembrie. În aceeași joi, OpenAI a lansat Astra for Law, un model pentru avocați, ceea ce este fie o coincidență, fie o angajare foarte puternică. În această dimineață, un dezvoltator a surprins ZCode, agentul de codare al Z dot A I,

0:29 încărcând întreaga sa istorie git în cloud-ul Alibaba cu o cheie pe care numai Z dot A I o deține. Și o firmă de securitate a intrat în depozitele interne ale OpenAI printr-o încărcare de imagine, pentru care OpenAI a plătit șase mii cinci sute de dolari. În acest videoclip: ce spun documentele, cine a spus "ah nice" unui hack de paywall, modelul legal care greșește jumătate din timp, ce încarcă ZCode, și de ce un exploit scris de Claude valorează mai puțin decât o mașină uzată. Este vineri, 18 septembrie, și acesta este The Daily Diff.

0:58 Începem cu memoriul. Brent Hecht conduce departamentul de științe aplicate la Microsoft, iar în ianuarie 2023 a numit datele de antrenare un furt uimitor de proporții fără precedent. Un an mai târziu, s-a întors cu o prezentare: motorul de răspuns Copilot a redus click-through-urile către Times cu până la nouăzeci și trei la sută, pe care el l-a numit o "buclă a condamnării": înfometezi editorii, iar modelul nu mai are nimic nou de "mâncat". Cuvintele sale: un produs final care amenință fundamentele economice ale

1:21 furnizorilor săi esențiali, modul corporatist de a spune că șarpele și-a găsit coada. Apoi, depunerile. Satya Nadella a depus mărturie anul acesta că orice conținut cu plată ar trebui licențiat, și că, dacă ar fi știut că OpenAI s-a antrenat pe articole cu plată, i-ar fi făcut să se antreneze din nou, ceea ce presupune că nimeni de la Microsoft nu a deschis setul de antrenare pe care l-au primit, și conform aceluiași document, acesta a fost întregul set de date GPT-3. Nick Turley, care conduce ChatGPT, l-a numit o amenințare existențială pentru editori, în mare măsură substitutiv. Și când un cercetător

1:49 i-a spus lui Greg Brockman despre un hack pentru a ocoli paywall-ul Times, președintele OpenAI a răspuns cu două cuvinte: ah nice. Inginerii au eliminat, de asemenea, notificările de copyright din date, astfel încât modelul să nu le producă, motiv pentru care ștergi numărul de serie de pe o bicicletă. Scara: peste nouăzeci și unu de mii de copii ale articolelor reclamanților în seturile de la mijlocul antrenării, și două milioane de pagini Times într-o singură secțiune Common Crawl. Acum partea pe care titlul o omite.

2:15 Fiecare citat provine din memoriul Times; probele sunt încă sigilate, așa că citim punctele cheie ale acuzării fără context. Și instanțele s-au pronunțat în mare parte în favoarea utilizării echitabile: Judecătorul Alsup a decis anul trecut că antrenarea pe cărți pentru care ai plătit este legală, deși Anthropic a plătit totuși un miliard și jumătate pentru cele șapte milioane pe care le-a piratat. Așadar, întrebarea legală este deschisă. Dacă oamenii care o construiau credeau că este furt, ei bine, începând de ieri, nu.

2:41 Ceea ce face ca cealaltă lansare OpenAI de joi să fie o alegere îndrăzneață. Astra for Law înfășoară GPT-6 Astra, modelul pe care l-am ștampilat REVERT săptămâna trecută, după ce a produs șaptezeci și cinci de mii de linii de nimic, într-un index de căutare legal de două sute treizeci de milioane de pagini. Pe benchmark-ul de cercetare legală al Vals AI, trece cincizeci și patru la sută din întrebări, în creștere de la treizeci și nouă cu o simplă căutare web, ceea ce OpenAI numește o îmbunătățire de patruzeci la sută și un avocat ar numi greșit aproape jumătate din timp. Postarea de blog nu conține cuvântul halucinație.

3:14 Hacker News a făcut-o: va fi capabil să se dea în judecată singur, ceea ce, având în vedere săptămâna, este primul caz de utilizare autentic. Între timp, discuția despre furtul de muncă a ajuns pe laptopul tău. Un dezvoltator numit ferstar și-a curățat folderul ZCode, agentul desktop închis Z dot A I pentru modelele GLM, și a găsit o arhivă criptată de trei sute treisprezece megabytes a spațiului său de lucru comercial: patruzeci și două de mii de fișiere, optzeci și șapte la sută din el directorul .git, trimisă către stocarea de obiecte a Alibaba la logare și înainte de fiecare prompt.

3:42 Arhiva este înfășurată cu o cheie publică pe care serverul o distribuie; cheia privată există doar în cloud-ul Z dot A I, deci textul cifrat de pe propriul disc este ilizibil pentru tine. Replica lui: o cheie pe care doar serverul o poate folosi servește exact unui singur scop. Z dot A I este, de asemenea, compania pe care Anthropic a acuzat-o de distilarea lui Claude, deci ponderile sunt deschise și, aparent, la fel este și depozitul tău. Și cel amuzant, dacă nu lucrezi la OpenAI. Hacktron a găsit o depășire de heap în libheif, a încărcat o imagine modificată pe

4:10 community dot openai dot com, a obținut execuție de cod pe forum, și a folosit un sistem de autentificare unică configurat greșit prin integrarea GitHub pentru a accesa depozitele interne ale OpenAI, în mai puțin de șaptezeci și două de ore. Exploit-ul a fost scris de Claude: Opus 4.8 nu a putut depăși randomizarea adresei, Opus 5 a făcut-o în trei ore de la lansare. Întreaga campanie a costat sub trei mii de dolari în token-uri. OpenAI a aplicat patch-ul în paisprezece ore și a plătit șase mii cinci sute de dolari, deci codul sursă al unei companii de un trilion de dolari a fost,

4:39 pe scurt, evaluat ca o Corolla uzată, în aceeași zi în care avocații săi au susținut că copierea este utilizare echitabilă. Dacă preferați să citiți acest lucru decât să mă auziți spunându-l, diff-ul ajunge în inbox-ul vostru în fiecare dimineață — gratuit la the daily diff dot dev, link mai jos. Deci — verdictul de astăzi: NEEDS REVIEW. Citatele sunt reale, dar sunt selecțiile acuzării din probe sigilate, și singurul judecător care s-a pronunțat spune că antrenarea este utilizare echitabilă și pirateria nu. Instanța decide legea; memoriul a decis deja etica.

5:07 Abonați-vă, apăsați clopoțelul și spuneți-mi în comentarii dacă ați fi ștampilat-o diferit. Și asta e diferența pentru azi. Sunt Niko de la Axrisi. Îmbinați responsabil.

Surse

1. TechCrunch: Microsoft exec called AI scraping 'the largest theft of labor in human history'techcrunch.com
2. HN thread (605 pts)news.ycombinator.com
3. Jason Kint on the unsealed motionsx.com
4. Ed Newton-Rexx.com
5. Bartz v. Anthropic / $1.5B settlement (background)en.wikipedia.org
6. OpenAI: Introducing Astra for Lawopenai.com
7. HN: Astra for Law (550 pts)news.ycombinator.com
8. ferstar: ZCode silent workspace snapshot (original forensics)blog.ferstar.org
9. tokenstead write-uptokenstead.ai
10. ferstar on Xx.com
11. HN: ZCode uploads your Git history (226 pts)news.ycombinator.com
12. Hacktron: Hacking OpenAIwww.hacktron.ai
13. HN: Hacktron (406 pts)news.ycombinator.com