Minni Microsoft um gervigreindarþjálfun var opinberað.

Það sem þetta myndband fjallar um

• NYT gegn OpenAI/Microsoft ósegulritað: "mesti vinnuþjófnaður í mannkynssögunni" (Microsoft minnisblað, janúar 2023); Copilot −93% smellar; 91.692 afrit af verkum stefnenda í mið-þjálfunargögnum; 2M nytimes.com síður í einni Common Crawl sneið; höfundarréttartilkynningar fjarlægðar; Brockman: "ah nice"
• Athugasemd: tilvitnanir koma úr skjali Times, sýningargripir enn lokaðir; Dómari Alsup (Bartz gegn Anthropic) úrskurðaði að þjálfun á keyptum bókum væri sanngjörn notkun — Anthropic borgaði $1.5B fyrir 7M sjóræningjaverk
• OpenAI Astra for Law: GPT-6 Astra + 230M-URL lagalegur vísitala; 54,0% á móti 38,7% á Vals Legal Research Bench; Harvey, Legora, 26 viðbætur
• ZCode (Z.ai, GLM): 313 MB dulkóðuð skyndimynd af 42.411 skráa vinnusvæði, 86,6% .git, hlaðið upp á Aliyun OSS við innskráningu og fyrir hverja skipun; RSA-OAEP lykill aðeins í eigu Z.ai; stillingarrof geta ekki stöðvað það
• Hacktron: libheif yfirfall á hrúgu → Discourse RCE → SSO rangstilling → GitHub → Innri geymslur OpenAI á innan við 72 klst; hagnýting af Claude Opus 5 (3 klst); herferð undir $3.000 í tokens; umbun $6.500, lagað á ~14 klst

Þýtt afrit

Þýtt úr upprunalegri enskri frásögn. Tiltækt hljóð og textar eru stjórnaðir af YouTube.

0:00 Í janúar 2023 skrifaði stjórnarmaður Microsoft minnisblað þar sem hann kallaði það sem hans eigið fyrirtæki var að gera, mesta vinnuþjófnað í mannkynssögunni, og í gær leyfði alríkisdómstóll okkur hinum að lesa það. Minnisblaðið er ein af óritgerðu tilvitnununum í New York Times gegn OpenAI og Microsoft, málsókn sem verður þriggja ára í desember. Sama fimmtudag sendi OpenAI Astra for Law, líkan fyrir lögfræðinga, sem er annaðhvort tilviljun eða mjög sterk ráðning. Í morgun náði þróunaraðili ZCode, kóðunarumboðsmanni Z.AI,

0:29 að hlaða upp allri git-sögu sinni á ský Alibaba með lykli sem aðeins Z .AI á. Og öryggisfyrirtæki komst inn í innri geymslur OpenAI í gegnum myndupphleðslu, fyrir það borgaði OpenAI sex þúsund og fimm hundruð dollara. Í þessu myndbandi: hvað skjölin segja, hver sagði ah nice við veggjabrotsbragð, lögfræðilíkanið sem hefur rangt fyrir sér helming tímans, hvað ZCode hleður upp, og hvers vegna Claude-skrifuð nýting er minna virði en notaður bíll. Það er föstudagur 18. september og þetta er The Daily Diff.

0:58 Byrjum á minnisblaðinu. Brent Hecht stýrir hagnýtum vísindum hjá Microsoft, og í janúar 2023 kallaði hann þjálfunargögnin ótrúlegan þjófnað af óþekktum hlutföllum. Ári síðar var hann kominn aftur með kynningu: svarvél Copilot dró úr smellum til Times um allt að níutíu og þrjú prósent, sem hann kallaði doom loop: svelta útgefendur, og líkanið hefur ekkert nýtt að borða. Hans orð: lokaafurð sem ógnar efnahagslegum grunni nauðsynlegra birgja sinna,

1:21 fyrirtækjamáti til að segja að snákurinn hafi fundið skott sitt. Síðan vitnisburðirnir. Satya Nadella bar vitni í ár að allt sem er gegn gjaldi ætti að vera leyft, og að ef hann hefði vitað að OpenAI þjálfaði á greiddum greinum hefði hann látið þá endurþjálfa, sem gerir ráð fyrir að enginn hjá Microsoft opnaði þjálfunarsettið sem þeim var afhent, og samkvæmt sömu skjölum var það allt GPT-3 gagnasafnið. Nick Turley, sem rekur ChatGPT, kallaði það tilvistarlega ógn við útgefendur, að mestu leyti staðgengil. Og þegar rannsakandi

1:49 sagði Greg Brockman frá bragði til að komast framhjá Times greiðsluveggnum, svaraði forseti OpenAI með tveimur orðum: ah nice. Verkfræðingar fjarlægðu einnig höfundarréttartilkynningar úr gögnunum svo líkanið myndi ekki gefa þær út, sem er ástæðan fyrir því að þú skráir raðnúmerið af reiðhjóli. Umhverfið: meira en níutíu og eitt þúsund afrit af greinum stefnenda í mið-þjálfunarsettunum einum, og tvær milljónir Times síður í einni Common Crawl sneið. Nú er það hlutinn sem fyrirsögnin sleppir.

2:15 Hver tilvitnun kemur úr skjölum Times; sýningargripir eru enn lokaðir, svo við erum að lesa hápunkta ákæruvaldsins án samhengis. Og dómstólar hafa að mestu leyti staðið með sanngjarnri notkun: Dómari Alsup úrskurðaði í fyrra að þjálfun á bókum sem þú borgaðir fyrir sé lögleg, þótt Anthropic hafi samt borgað einn og hálfan milljarð fyrir þau sjö milljónir sem það sjórændi. Svo lagalega spurningin er opin. Hvort fólkið sem byggði það hélt að það væri þjófnaður er, frá og með gærdeginum, ekki.

2:41 Sem gerir aðra útgáfu OpenAI á fimmtudag djörfa ákvörðun. Astra for Law hylur GPT-6 Astra, líkanið sem ég stimplaði REVERT í síðustu viku eftir að það framleiddi sjötíu og fimm þúsund línur af engu, í lagalegri leitarvísitölu með tvö hundruð og þrjátíu milljón síðum. Á Vals AI's lagalegu rannsóknarviðmiðunarfólki stenst það fimmtíu og fjögur prósent spurninga, upp frá þrjátíu og níu með venjulegri vefleit, sem OpenAI kallar fjörutíu prósent umbót og lögfræðingur myndi kalla rangt næstum helming tímans. Bloggfærslan inniheldur ekki orðið ofskynjun.

3:14 Hacker News gerði það: mun það geta lögsótt sjálft sig, sem, miðað við vikuna, er fyrsta raunverulega notkunartilvikið. Á meðan náði umræðan um vinnuþjófnað fartölvunni þinni. Þróunaraðili að nafni ferstar hreinsaði ZCode möppuna sína, lokaðan skjáborðsþjónusta Z.AI fyrir GLM líkönin, og fann þriggja hundruð og þrettán megabæta dulkóðað skjalasafn af viðskiptavinnusvæði sínu: fjörutíu og tveimur þúsund skrám, áttatíu og sjö prósent af því dot git möppunni, sendi til hlutageymslu Alibaba við innskráningu og fyrir hverja skipun.

3:42 Skjalasafnið er pakkað inn í opinberan lykil sem netþjónninn gefur út; einkalykillinn er aðeins í skýi Z.AI, svo dulkóðaður texti á eigin diski er ólæsanlegur fyrir þig. Hans lína: lykill sem aðeins netþjónninn getur notað þjónar nákvæmlega einum tilgangi. Z.AI er einnig fyrirtækið sem Anthropic sakaði um að hreinsa Claude, svo vektirnir eru opnir og svo, greinilega, er repo þitt. Og sá fyndni, nema þú vinnir hjá OpenAI. Hacktron fann hrúguyfirfall í libheif, hlaðið upp smíðaðri mynd á

4:10 community.openai.com, fékk kóða keyrslu á spjallborðinu, og fór í gegnum rangstillta einliðunarskráningu í gegnum GitHub samþættingu inn í innri geymslur OpenAI, á innan við sjötíu og tveimur tímum. Nýtingin var skrifuð af Claude: Opus 4.8 gat ekki sigrað addressu randomisation, Opus 5 gerði það innan þriggja klukkustunda frá útgáfu. Öll herferðin kostaði undir þrjú þúsund dollara í tokens. OpenAI lagaði á fjórtán tímum og greiddi sex þúsund og fimm hundruð dollara, svo frumkóði trilljón dollara fyrirtækis var,

4:39 í stuttu máli, verðlagður eins og notaður Corolla, sama dag og lögfræðingar þess héldu því fram að afritun sé sanngjörn notkun. Ef þú vilt frekar lesa þetta en heyra mig segja það, þá lendir the diff í pósthólfinu þínu á hverjum morgni — ókeypis á thedailydiff.dev, hlekkur hér að neðan. Svo — dómur dagsins: needs review. Tilvitnanirnar eru raunverulegar, en þær eru val ákæruvaldsins úr innsigluðum sýningargripum, og eini dómarinn sem hefur dæmt segir að þjálfun sé sanngjörn notkun en sjóræningjastarfsemi ekki. Dómstóllinn ákveður lög; minnisblaðið ákvað þegar siðferðið.

5:07 Gerðu áskrifandi, ýttu á bjölluna og segðu mér í athugasemdum ef þú hefðir stimplað það öðruvísi. Og það er munurinn fyrir daginn. Ég er Niko frá Axrisi. Sameinaðu á ábyrgan hátt.

Heimildir

1. TechCrunch: Microsoft exec called AI scraping 'the largest theft of labor in human history'techcrunch.com
2. HN thread (605 pts)news.ycombinator.com
3. Jason Kint on the unsealed motionsx.com
4. Ed Newton-Rexx.com
5. Bartz v. Anthropic / $1.5B settlement (background)en.wikipedia.org
6. OpenAI: Introducing Astra for Lawopenai.com
7. HN: Astra for Law (550 pts)news.ycombinator.com
8. ferstar: ZCode silent workspace snapshot (original forensics)blog.ferstar.org
9. tokenstead write-uptokenstead.ai
10. ferstar on Xx.com
11. HN: ZCode uploads your Git history (226 pts)news.ycombinator.com
12. Hacktron: Hacking OpenAIwww.hacktron.ai
13. HN: Hacktron (406 pts)news.ycombinator.com