Microsoft-ov interni dopis o obuci veštačke inteligencije je upravo objavljen.

Šta ovaj video pokriva

• NYT protiv OpenAI/Microsoft otkriveno: "najveća krađa rada u ljudskoj istoriji" (Microsoft dopis, januar 2023.); Copilot -93% klikova; 91.692 kopije dela tužilaca u podacima za srednju obuku; 2M nytimes.com stranica u jednom Common Crawl isečku; obaveštenja o autorskim pravima uklonjena; Brockman: "ah lepo"
• Napomena: citati dolaze iz dopisa Times-a, dokazi su još uvek zapečaćeni; Sudija Alsup (Bartz protiv Anthropic) presudio je da je obuka na kupljenim knjigama poštena upotreba — Anthropic je platio 1,5 milijardi dolara za 7 miliona piratskih knjiga
• OpenAI Astra za pravo: GPT-6 Astra + pravni indeks od 230M URL-ova; 54,0% naspram 38,7% na Vals Legal Research Bench; Harvey, Legora, 26 dodataka
• ZCode (Z.ai, GLM): 313 MB šifrovani snimak radnog prostora od 42.411 datoteka, 86,6% .git, postavljen na Aliyun OSS pri prijavi i pre svakog upita; RSA-OAEP ključ poseduje samo Z.ai; opcije podešavanja to ne zaustavljaju
• Hacktron: libheif preliv gomile memorije → Discourse RCE → SSO pogrešna konfiguracija → GitHub → OpenAI interni repozitorijumi za manje od 72 sata; eksploit napisao Claude Opus 5 (3 sata); kampanja koštala manje od 3.000 dolara u tokenima; nagrada 6.500 dolara, zakrpljeno za ~14 sati

Preveden transkript

Prevedeno sa originalne engleske naracije. Dostupan audio i titlovi kontrolisani su od strane YouTube-a.

0:00 U januaru 2023. godine, direktor Microsofta je napisao dopis nazvavši ono što je njegova sopstvena kompanija radila najvećom krađom rada u ljudskoj istoriji, a juče je savezni sud dozvolio svima nama da to pročitamo. Dopis je jedan od nesankcionisanih citata u tužbi New York Times protiv OpenAI i Microsofta, tužbe koja će u decembru napuniti tri godine. Istog četvrtka, OpenAI je lansirao Astru za pravo, model za advokate, što je ili slučajnost ili vrlo snažan potez. Jutros je programer uhvatio ZCode, Z dot A I-jevog agenta za kodiranje,

0:29 kako učitava celu njegovu git istoriju na Alibabinu cloud sa ključem koji poseduje samo Z dot A I. A bezbednosna firma je ušla u interne repozitorijume OpenAI-ja putem otpremanja slike, za šta je OpenAI platio šest hiljada petsto dolara. U ovom videu: šta kažu podnesci, ko je rekao 'ah lepo' za hakovanje platnog zida, pravni model koji greši pola vremena, šta ZCode otprema, i zašto je eksploit koji je napisao Claude manje vredan od polovnog automobila. Petak je, 18. septembar, i ovo je The Daily Diff.

0:58 Počnimo sa dopisom. Brent Hecht vodi primenjenu nauku u Microsoftu, i u januaru 2023. godine nazvao je podatke za obuku neverovatnom krađom bez presedana. Godinu dana kasnije vratio se sa prezentacijom: Copilot-ov odgovor je smanjio klikove na Times za do devedeset tri posto, što je nazvao petljom propasti: izgladniti izdavače, a model nema ništa novo za jelo. Njegove reči: krajnji proizvod koji preti ekonomskim temeljima svojih

1:21 ključnih dobavljača, korporativni način da se kaže da je zmija pronašla svoj rep. Zatim svedočenja. Satya Nadella je ove godine svedočio da sve što je iza platnog zida treba da bude licencirano, i da bi, da je znao da je OpenAI obučavao na člancima iza platnog zida, naterao ih da se ponovo obučavaju, što pretpostavlja da niko u Microsoftu nije otvorio skup podataka za obuku koji im je dat, a prema istom podnesku to je bio ceo GPT-3 skup podataka. Nick Turley, koji vodi ChatGPT, nazvao ga je egzistencijalnom pretnjom za izdavače, uglavnom zamenskim. A kada je istraživač

1:49 rekao Gregu Brockmanu o haku za zaobilaženje platnog zida Timesa, predsednik OpenAI-ja je odgovorio sa dve reči: ah lepo. Inženjeri su takođe uklonili obaveštenja o autorskim pravima iz podataka kako model ne bi ih izlazio, zbog čega se uklanja serijski broj sa bicikla. Razmera: više od devedeset jedne hiljade kopija članaka tužilaca u samo srednjim skupovima za obuku, i dva miliona Times stranica u jednom Common Crawl isečku. Sada deo koji naslov preskače.

2:15 Svaki citat dolazi iz Timesovog podneska; dokazi su još uvek zapečaćeni, tako da čitamo istaknute delove tužilaštva bez konteksta. A sudovi su uglavnom stali na stranu poštene upotrebe: Sudija Alsup je prošle godine presudio da je obuka na knjigama koje ste platili legalna, iako je Anthropic ipak platio milijardu i po za sedam miliona koje je piratizovao. Dakle, pravno pitanje je otvoreno. Da li su ljudi koji su ga gradili mislili da je to krađa, je, od juče, nije.

2:41 Što čini drugu OpenAI lansiranje od četvrtka hrabrim izborom. Astra for Law obuhvata GPT-6 Astru, model koji sam označio REVERT prošle nedelje nakon što je proizveo sedamdeset pet hiljada linija ničega, u indeksu pravnog pretraživanja od dvesta trideset miliona stranica. Na Vals AI-ovom benchmarku za pravna istraživanja, prolazi pedeset četiri posto pitanja, što je porast sa trideset devet sa običnom veb pretragom, što OpenAI naziva četrdeset postotnim poboljšanjem, a advokat bi nazvao pogrešnim skoro pola vremena. Blog post ne sadrži reč halucinacija.

3:14 Hacker News je imao: da li će moći da tuži sebe, što, s obzirom na nedelju, je prva autentična primena. U međuvremenu, diskurs o krađi rada stigao je do vašeg laptopa. Programer po imenu ferstar očistio je svoj ZCode folder, Z dot A I-jev zatvoreni desktop agent za GLM modele, i pronašao tristo trinaest megabajta šifrovanu arhivu svog komercijalnog radnog prostora: četrdeset dve hiljade datoteka, osamdeset sedam posto toga je dot git direktorijum, poslano na Alibaba-in objektni skladišni prostor pri prijavi i pre svakog upita.

3:42 Arhiva je omotana javnim ključem koji server distribuira; privatni ključ živi samo u Z dot A I oblaku, tako da je šifrovani tekst na vašem disku vama nečitljiv. Njegova reč: ključ koji samo server može koristiti služi tačno jednoj svrsi. Z dot A I je takođe kompanija koju je Anthropic optužio za destilovanje Claudea, tako da su težine otvorene i tako je, očigledno, i vaš repozitorijum. I onaj smešni, osim ako ne radite u OpenAI. Hacktron je pronašao preliv gomile memorije u libheif, postavio kreiranu sliku na

4:10 community dot openai dot com, dobio izvršavanje koda na forumu, i iskoristio pogrešno konfigurisan single sign-on kroz GitHub integraciju u interne repozitorijume OpenAI-ja, za manje od sedamdeset dva sata. Eksploit je napisao Claude: Opus 4.8 nije mogao pobediti randomizaciju adresa, Opus 5 je to učinio u roku od tri sata od objavljivanja. Cela kampanja koštala je manje od tri hiljade dolara u tokenima. OpenAI je zakrpio za četrnaest sati i platio šest hiljada petsto dolara, tako da je izvorni kod kompanije vredne bilion dolara bio,

4:39 ukratko, cenjen kao polovna Corolla, istog dana kada su njeni advokati tvrdili da je kopiranje poštena upotreba. Ako biste ovo radije pročitali nego čuli, "the diff" stiže u vaš inbox svakog jutra — besplatno na the daily diff dot dev, link ispod. Dakle — današnja presuda: NEEDS REVIEW. Citati su stvarni, ali su to odabiri tužilaštva iz zapečaćenih dokaza, a jedini sudija koji je presudio kaže da je obuka poštena upotreba, a piraterija nije. Sud odlučuje o zakonu; dopis je već odlučio o etici.

5:07 Pretplatite se, pritisnite zvonce i recite mi u komentarima da li biste ga drugačije ocenili. I to je to za danas. Ja sam Niko iz Axrisija. Spojite odgovorno.

Izvori

1. TechCrunch: Microsoft exec called AI scraping 'the largest theft of labor in human history'techcrunch.com
2. HN thread (605 pts)news.ycombinator.com
3. Jason Kint on the unsealed motionsx.com
4. Ed Newton-Rexx.com
5. Bartz v. Anthropic / $1.5B settlement (background)en.wikipedia.org
6. OpenAI: Introducing Astra for Lawopenai.com
7. HN: Astra for Law (550 pts)news.ycombinator.com
8. ferstar: ZCode silent workspace snapshot (original forensics)blog.ferstar.org
9. tokenstead write-uptokenstead.ai
10. ferstar on Xx.com
11. HN: ZCode uploads your Git history (226 pts)news.ycombinator.com
12. Hacktron: Hacking OpenAIwww.hacktron.ai
13. HN: Hacktron (406 pts)news.ycombinator.com