Microsoftov interni dopis o obuci AI upravo je postao javan.

Šta ovaj video pokriva

• NYT protiv OpenAI/Microsofta je otkriven: "najveća krađa rada u ljudskoj historiji" (Microsoftov dopis, januar 2023.); Copilot –93% klikova; 91.692 kopije djela tužitelja u podacima za srednju obuku; 2M stranica nytimes.com u jednom Common Crawl isječku; obavijesti o autorskim pravima uklonjene; Brockman: "ah lijepo"
• Upozorenje: citati dolaze iz sažetka The Timesa, dokazi su još uvijek zapečaćeni; sudija Alsup (Bartz protiv Anthropic) presudio je da je obuka na kupljenim knjigama poštena upotreba — Anthropic je platio 1,5 milijardi dolara za 7 miliona piratskih
• OpenAI Astra za pravo: GPT-6 Astra + pravni indeks od 230 miliona URL-ova; 54,0% naspram 38,7% na Vals Legal Research Bench; Harvey, Legora, 26 dodataka
• ZCode (Z.ai, GLM): 313 MB šifriranog snimka radnog prostora sa 42.411 datoteka, 86,6% .git, učitano na Aliyun OSS pri prijavi i prije svakog upita; RSA-OAEP ključ posjeduje samo Z.ai; prekidači postavki to ne zaustavljaju
• Hacktron: libheif prelivanje gomile → Discourse RCE → pogrešna konfiguracija SSO-a → GitHub → interni repozitoriji OpenAI-a za manje od 72 sata; eksploit napisao Claude Opus 5 (3 sata); kampanja ispod 3.000 dolara u tokenima; nagrada 6.500 dolara, zakrpljeno za ~14 sati

Prevedeni transkript

Prevedeno iz originalne engleske naracije. Dostupan zvuk i titlovi kontroliše YouTube.

0:00 U januaru 2023. direktor Microsofta napisao je dopis nazivajući ono što je njegova vlastita kompanija radila najvećom krađom rada u ljudskoj historiji, a jučer je savezni sud dozvolio svima nama da to pročitamo. Dopis je jedan od nesankcioniranih citata u tužbi New York Timesa protiv OpenAI-a i Microsofta, tužbi koja u decembru puni tri godine. Istog četvrtka, OpenAI je isporučio Astru za pravo, model za advokate, što je ili slučajnost ili vrlo snažan angažman. Jutros je programer uhvatio ZCode, Z dot A I-jevog koderskog agenta,

0:29 kako učitava cijelu svoju git historiju u Alibaba oblak s ključem koji samo Z dot A I posjeduje. A sigurnosna firma ušla je u interne repozitorije OpenAI-a putem učitavanja slike, za što je OpenAI platio šest hiljada pet stotina dolara. U ovom videu: šta kažu podnesci, ko je rekao "ah lijepo" na hakiranje paywalla, pravni model koji je pogrešan pola vremena, šta ZCode učitava, i zašto eksploit koji je napisao Claude vrijedi manje od polovnog automobila. Petak je, 18. septembar, i ovo je The Daily Diff.

0:58 Počnimo s dopisom. Brent Hecht vodi primijenjene nauke u Microsoftu, i u januaru 2023. nazvao je podatke za obuku zapanjujućom krađom neviđenih razmjera. Godinu dana kasnije vratio se s prezentacijom: Copilotov odgovor je smanjio klikove na The Times za do devedeset i tri posto, što je nazvao "petljom propasti": izgladnite izdavače, a model nema ništa novo za jelo. Njegove riječi: krajnji proizvod koji prijeti ekonomskim temeljima svojih

1:21 esencijalnih dobavljača, korporativni način da se kaže da je zmija pronašla svoj rep. Zatim izjave. Satya Nadella je ove godine svjedočio da sve što je paywalled treba biti licencirano, i da bi, da je znao da je OpenAI trenirao na paywalled člancima, natjerao ih da se preobučavaju, što pretpostavlja da niko u Microsoftu nije otvorio skup za obuku koji su dobili, a prema istom podnesku to je bio cijeli GPT-3 skup podataka. Nick Turley, koji vodi ChatGPT, nazvao ga je egzistencijalnom prijetnjom izdavačima, uglavnom zamjenskim. I kada je istraživač

1:49 rekao Gregu Brockmanu o haku za zaobilaženje Timesovog paywalla, predsjednik OpenAI-a je odgovorio s dvije riječi: ah lijepo. Inženjeri su također uklonili obavijesti o autorskim pravima iz podataka kako model ne bi ih izlazio, zbog čega se uklanja serijski broj s bicikla. Razmjera: više od devedeset i jedne hiljade kopija članaka tužitelja u samim srednjim skupovima za obuku, i dva miliona Times stranica u jednom Common Crawl isječku. Sada dio koji naslov preskače.

2:15 Svaki citat dolazi iz Timesovog podneska; dokazi su još uvijek zapečaćeni, tako da čitamo istaknute dijelove tužilaštva bez konteksta. A sudovi su se uglavnom složili s poštenom upotrebom: sudija Alsup je prošle godine presudio da je obuka na knjigama koje ste platili legalna, iako je Anthropic ipak platio milijardu i po za sedam miliona koje je piratizirao. Dakle, pravno pitanje je otvoreno. Jesu li ljudi koji su to gradili smatrali da je to krađa, jest, od jučer, nije.

2:41 Što čini četvrtakovo drugo lansiranje OpenAI-a hrabrim izborom. Astra za pravo obuhvata GPT-6 Astru, model koji sam označio REVERT prošle sedmice nakon što je proizveo sedamdeset pet hiljada redova ničega, u pravnom indeksu pretraživanja od dvjesto trideset miliona stranica. Na Vals AI-jevom testu pravnog istraživanja prolazi pedeset četiri posto pitanja, u odnosu na trideset devet s običnom web pretragom, što OpenAI naziva četrdeset postotnim poboljšanjem, a advokat bi nazvao pogrešnim skoro pola vremena. Blog post ne sadrži riječ halucinacija.

3:14 Hacker News je rekao: hoće li se moći tužiti, što, s obzirom na sedmicu, je prvi pravi slučaj upotrebe. U međuvremenu, diskurs o krađi rada stigao je do vašeg laptopa. Programer po imenu ferstar očistio je svoju ZCode mapu, zatvoreni desktop agent Z dot A I-a za GLM modele, i pronašao tristo i trinaest megabajta šifrirane arhive svog komercijalnog radnog prostora: četrdeset dvije hiljade datoteka, osamdeset sedam posto toga je .git direktorij, poslano na Alibaba-ovu pohranu objekata prilikom prijave i prije svakog upita.

3:42 Arhiva je omotana javnim ključem koji server izdaje; privatni ključ živi samo u Z dot A I-ovom oblaku, tako da je šifrirani tekst na vašem vlastitom disku nečitljiv vama. Njegova rečenica: ključ koji samo server može koristiti služi samo jednoj svrsi. Z dot A I je također kompanija koju je Anthropic optužio za destiliranje Claudea, tako da su utezi otvoreni i, očigledno, vaš repo. I onaj smiješni, osim ako ne radite u OpenAI-u. Hacktron je pronašao prelivanje gomile u libheifu, učitao izrađenu sliku na

4:10 community dot openai dot com, dobio izvršenje koda na forumu, i iskoristio pogrešno konfigurisan single sign-on kroz GitHub integraciju u interne repozitorije OpenAI-a, za manje od sedamdeset dva sata. Eksploit je napisao Claude: Opus 4.8 nije mogao pobijediti randomizaciju adresa, Opus 5 je to učinio unutar tri sata od izlaska. Cijela kampanja koštala je manje od tri hiljade dolara u tokenima. OpenAI je zakrpio za četrnaest sati i platio šest hiljada pet stotina dolara, tako da je izvorni kod trilionske kompanije bio,

4:39 ukratko, cijenjen kao polovni Corolla, istog dana kada su njegovi advokati tvrdili da kopiranje je poštena upotreba. Ako biste ovo radije pročitali nego čuli od mene, The Daily Diff stiže u vašu pristiglu poštu svako jutro — besplatno na thedaily diff dot dev, link ispod. Dakle — današnja presuda: POTREBAN PREGLED. Citati su stvarni, ali to su odabiri tužilaštva iz zapečaćenih dokaza, a jedini sudija koji je presudio kaže da je obuka poštena upotreba, a piraterija nije. Sud odlučuje o zakonu; dopis je već odlučio o etici.

5:07 Pretplatite se, pritisnite zvono i recite mi u komentarima da li biste to označili drugačije. I to je to za danas. Ja sam Niko iz Axrisija. Spojite odgovorno.

Izvori

1. TechCrunch: Microsoft exec called AI scraping 'the largest theft of labor in human history'techcrunch.com
2. HN thread (605 pts)news.ycombinator.com
3. Jason Kint on the unsealed motionsx.com
4. Ed Newton-Rexx.com
5. Bartz v. Anthropic / $1.5B settlement (background)en.wikipedia.org
6. OpenAI: Introducing Astra for Lawopenai.com
7. HN: Astra for Law (550 pts)news.ycombinator.com
8. ferstar: ZCode silent workspace snapshot (original forensics)blog.ferstar.org
9. tokenstead write-uptokenstead.ai
10. ferstar on Xx.com
11. HN: ZCode uploads your Git history (226 pts)news.ycombinator.com
12. Hacktron: Hacking OpenAIwww.hacktron.ai
13. HN: Hacktron (406 pts)news.ycombinator.com