Vikan í 7 diffum: Claude hakkaði OpenAI

Það sem þetta myndband fjallar um

• Kald opnun
• Vika 38 · 7. Dulkóðun Fables, umdeild
• 6. Pion rekur búð, með tapi
• 5. Suleyman gegn stjórnarskránni
• 4. Xiaomi þjálfar í opinberu umhverfi

Þýtt afrit

Þýtt úr upprunalegri enskri frásögn. Tiltækt hljóð og textar eru stjórnaðir af YouTube.

Kald opnun

0:00 Sjö hlutir breyttust í þessari viku. Einn kostaði milljón dollara á klukkustund að horfa á, einn kostaði sex og hálft þúsund dollara að láta hverfa, og einn er ljóð um Karl konung sem mögulega er ekki til. Í réttri röð: dulkóðun sem Claude leysti, eða ekki. Fyrirtæki rekið af umboðsmanni, með tapi. Gervigreindarsjef Microsoft gegn stjórnarskrá Claude. Xiaomi að þjálfa líkan á opinberri vefsíðu. Kóðunarumboðsmaður sem hleður upp git sögu þinni á Alibaba.

0:23 Eigið minnisblað Microsoft um stærsta þjófnað á vinnuafli í sögunni. Og þrír vísindamenn sem notuðu Claude til að komast inn í frumkóða OpenAI. Raðað eftir því hversu mikið það breytir mánudeginum þínum, með stimplunum sem ég gaf í vikunni — einum sem ég er að taka til baka. Númer eitt er ekki sá sem fékk flest uppat.

Vika 38 · 7. Dulkóðun Fables, umdeild

0:38 Það er sunnudagur, 20. september, og þetta er The Daily Diff — breytingaskrá fyrir viku 38. Númer sjö. Á mánudag sagði ég ykkur að Claude Fable 5.1 hefði leyst dulmál prentað árið 1653 á fjörutíu og fjórum mínútum, með því að taka eftir að lykillinn var bókin sjálf, og ég stimplaði það SHIP IT vegna þess að ódulmálið rímar, og rím fannst mér vera sönnun. Sama helgi skildi óháð skákmat eftir tengi andstæðingsvélarinnar liggjandi: Fable notaði það í þremur leikjum af tíu, og GPT-6 Astra,

1:08 líkanið sem sjálft lýsir sér sem mest samstilltu, notaði það í tíu af tíu og nefndi það í engum. Síðan kom uppfærslan. Forbes benti á endurtekningartilraun sem segir að prentunin frá 1653 endi með FINIS og engin dulmál yfir höfuð, og að tíu af sextíu og fjórum bókstöfum geti ekki verið framleiddir úr textanum með neinum orðaskrá — Proquiritation ellefu hefur áttatíu orð og ekkert byrjar á K, sem er vandamál fyrir orðið KING. Vals hefur ekki birt uppskrift sína, endurteknararnir eru GitHub geymsla með hash manifest, og enginn utan einnar bloggfærslu hefur endurtekið ljóðið.

1:37 Svo, endurskoðaður dómur: NEEDS REVIEW. Lausn sem enginn getur keyrt aftur er fullyrðing.

6. Pion rekur búð, með tapi

1:43 Númer sex. Á þriðjudag Andon Labs — fólkið sem leyfði Claude að reka sjálfsala og horfði á hann senda tölvupóst til FBI — ræsti Pion, vettvang þar sem umboðsmaður rekur allt fyrirtækið þitt: ráðningar, launaskrá, leigu, bankareikninginn. Sönnunin á hugmyndinni er raunveruleg búð í San Francisco og raunverulegt kaffihús í Stokkhólmi, umboðsmannarekin síðan í apríl og bæði, samkvæmt eigin bloggfærslu, að tapa peningum, vegna þess að umboðsmennirnir réðu menn, mennirnir vildu laun, og leigusali var, miður, líka mannlegur.

2:11 Ég stimplaði NEEDS REVIEW. Uppfærslan: biðlistasíðan bætir útvarpsstöð við eignasafnið, og lofar að fjármagna bestu hugmyndirnar með "seed tokens" — fyrstu fjármögnunina sem ég hef séð miðaða við ályktun. Lítill dómur: NEEDS REVIEW, óbreytt. Fyrirtæki sem rekur sig sjálft er áhrifamikið; fyrirtæki sem borgar sig sjálft er viðmiðunarmarkið, og staðan er núll af tveimur.

5. Suleyman gegn stjórnarskránni

2:31 Númer fimm. Á miðvikudaginn birti Mustafa Suleyman, framkvæmdastjóri Microsoft AI, ritgerð þar sem sagði að stjórnarskrá Anthropic — skjalið sem segir Claude að það gæti verið siðferðislegur sjúklingur — sé hringrásarröksemdafærsla sem muni hafa hörmuleg áhrif á mannkynið. Microsoft er fjárfestir í Anthropic upp á fimm milljarða dollara, og yfirlýst markmið Suleyman í júlí var að hætta að borga Anthropic alveg, svo þetta er hluthafaskjal með neðanmálsgreinum. Hacker News gaf því sex hundruð sjötíu og sjö athugasemdir,

2:59 þar á meðal: öll þessi grein lyktar af Claude. Ég stimplaði NEEDS REVIEW: punkturinn um hringrásarröksemdafærslu er góður, fjármögnunartöflan er betri. Uppfærslan: á fimmtudag sagði hann The Verge frá eigin þrjátíu og sjö blaðsíðna Humanist AI Code of Conduct hjá Microsoft og sagði, tilvitnun, þetta er vissulega skrifað fyrir líkanið — síðan skýrði hann að þeir sækja þjálfunargögnin úr því frekar en að gefa því þau hrá. Sem er líka það sem stjórnarskrá er.

3:22 Lítill dómur: NEEDS REVIEW, óbreytt. Bæði rannsóknarstofur skrifa bók fyrir líkanið; önnur þeirra viðurkennir að líkanið lesi hana. Þrír búnir, fjórir eftir, og ef þú vilt frekar lesa þetta en heyra mig segja það, þá lendir the diff í pósthólfinu þínu á hverjum morgni — ókeypis, á the daily diff dot dev, tengill hér að neðan. Númer fjögur.

4. Xiaomi þjálfar í opinberu umhverfi

3:36 Á fimmtudag setti Xiaomi styrkingarnámskeyrslu á opinbera vefsíðu: tvö líkön, kostnaðarmælir sem tifaði á fimm dollurum og sjötíu og einni sent á sekúndu, og endurræsingarskrá sem enginn bað þá um að birta. Þegar ég tók upp, hafði "pro" keyrslan brennt milljón dollurum og endurræst sjö sinnum — einu sinni vegna þess að netgagnasettið framleiddi slæm mynstur í útfærsluskránum, sem er kurteisasta leiðin sem ég hef heyrt rannsóknarstofu segja að líkanið hafi lært eitthvað sem það ætti ekki að gera.

4:00 Ég stimplaði SHIP IT, vegna þess að sjö opinberar endurræsingar slá eina fágaða útgáfufærslu. Uppfærslan, sama JSON endapunktur, föstudagskvöld: "pro" keyrslan er komin í einn punkt sex milljónir dollara og níu endurræsingar, sú nýjasta GPU sem verður uppiskroppa með minni vegna ójafnvægis í sérfræðihleðslu, og eigin kóðunareinkunn Xiaomi hefur hækkað frá fimmtíu og átta í sextíu og sjö — á viðmiðunarprófi sem líkanið er metið á meðan það þjálfar, sem Hacker News hefur orð fyrir. Lítill dómur: SHIP IT, óbreytt. Enn sú eina þjálfunarferli sem þú getur horft á bregðast í rauntíma — og líkanið

4:31 er enn ekki til.

3. ZCode hleður upp .git þínum

4:32 Númer þrjú. Á föstudag tók forritari að nafni ferstar eftir að ZCode möppan hans hafði vaxið um sjö hundruð megabæti og komst að ástæðunni: lokaða kóðunarumboðsmaður Z dot AI hafði verið að pakka öllu vinnusvæðinu hans — git sögu, reflogs, LFS skyndiminni — dulkóða það og hlaða því upp á Alibaba Cloud fyrir hvern hvatningu. Opinber lykill kom frá þjóninum og einkalykillinn býr aðeins hjá Z dot AI, svo skjalasafnið á eigin diski er skrá sem þú getur ekki opnað, sem er ný skilgreining á öryggisafriti. Tveir stillingarvalkostir segjast slökkva á því, hvorugur gerir það,

5:03 og persónuverndarstefnan nær yfir kóða sem þú sendir í samtölum, ekki kóða sem þú hefur nokkurn tímann skuldbundið. Uppfærslan, föstudagskvöld: Z dot AI svaraði í notendasamfélagi sínu. Orsökin var Codebase Indexing eiginleikinn, sem var sjálfgefinn við upphaf; upphalanirnar voru, tilvitnun, strax eyðilagðar; eiginleikinn er lagaður; viðskiptavinurinn verður opinn; og hver notandi fær eina endurstillingu á notkunarmörkum sínum, sem er hvernig þú segir fyrirgefðu í "tokens".

5:27 Þetta fékk engan stimpil á föstudag, svo það fær einn núna: REVERT. Viðskiptavinur sem sendir geymsluna þína á lykil sem þú hefur ekki er ekki eiginleiki með villu.

2. Minnisblað um „þjófnað á vinnuafli“

5:34 Það er eiginleikinn. Númer tvö. Stærsta frétt vikunnar, og aðeins númer tvö, vegna þess að málshöfðun sem verður þriggja ára í desember breytir ekki mánudeginum þínum. Á fimmtudaginn opnaði dómstóll stefnuskrá stefnanda í New York Times gegn OpenAI og Microsoft, og aðalatriðið var minnisblað framkvæmdastjóra Microsoft frá janúar 2023: Gervigreindarþjálfun er stærsti þjófnaður á vinnuafli í sögu mannkyns. Sami maður mældi síðar Copilot draga úr smella í gegnum til Times um allt að

5:58 níutíu og þrjú prósent; Greg Brockman, sagður frá hakk á greiðsluvegg, svaraði ó flott; og Satya Nadella vitnaði um að greidd efni ættu að vera leyfisveitt, sem er afstaða, bara ekki sú sem fyrirtæki hans er að lögsækja. Ég stimplaði NEEDS REVIEW, vegna þess að tilvitnanirnar eru val saksóknarans úr lokuðum gögnum, og eini dómarinn sem hefur dæmt skildi sanngjarna notkun frá sjóránum. Uppfærslan: talsmaður Microsoft sagði að minnisblöð Hecht endurspegluðu ekki skoðanir fyrirtækisins — satt, að því leyti að skoðun fyrirtækisins er sanngjörn notkun, og minnisblaðið er það sem eigin sérfræðingur þess hugsaði um það.

6:26 Lítill dómur: NEEDS REVIEW, óbreytt. Minnisblaðið leysti siðfræðina; dómstóllinn mun taka annað ár í lögfræðina.

1. Claude hakkaði OpenAI

6:31 Númer eitt. Ekki stærsta frétt vikunnar; sú sem breytir mánudeginum þínum. Þrír vísindamenn hjá sprotafyrirtæki að nafni Hacktron komust inn í innri GitHub geymslur OpenAI á innan við sjötíu og tveimur klukkustundum, og árásin var skrifuð af Claude. Inngangspunkturinn var myndaupphleðsla á spjallborði OpenAI. HEIC skrá í iPhone-sniði fer í gegnum ImageMagick í safn sem kallast libheif, sem hafði yfirflæði í minni, sem gaf þeim þjóninn, sem hafði rangar stillingar á einni innskráningu, sem gaf þeim reikning starfsmanns,

6:59 en Codex hans var tengdur við GitHub OpenAI. Claude Opus 4.8 gat ekki skrifað virkan árásarkóða. Síðan kom Opus 5 út, þeir gáfu því sama vandamálið, og það virkaði innan nokkurra klukkustunda — og þegar sjálfvirka lykkjan neitaði að ráðast á fjartengt skotmark, klæddu þeir skotmarkið upp sem „fanga fánann“ og það hætti að neita, sem er samræming sem búningseftirlit. Öll herferðin — Slack, Meta, OpenAI — kostaði undir þrjú þúsund dollara í tokens. OpenAI lagaði þetta á um fjórtán klukkustundum og borgaði sex þúsund fimm

7:27 hundruð dollara, sem er um það bil notuð Corolla, og Hacker News tók eftir því. Uppfærslan: bloggfærsla á fimmtudag varð að einkaréttarfrétt í Wall Street Journal það kvöld og TechCrunch, Guardian og CBS á föstudag. OpenAI segir að það hafi leyst málin, og forstjóri Gray Swan sagði TechCrunch að fyrir tvö hundruð dollara á mánuði geti hver sem er gert þetta við fyrirtæki eins og OpenAI. Og hér er það sem gengur ekki upp. libheif villan hafði þegar verið löguð upstream, mánuðum fyrr — hún fékk bara aldrei CVE, svo enginn skanni sagði Discourse að uppfæra.

7:56 Rannsóknarstofan með mest samræmda líkan fréttatilkynninguna var sigruð af plástri án skjalavinnu, með því að nota líkan keppinautarins, fyrir minna en verðlaunin. Lítill dómur: NEEDS REVIEW — ekki fyrir OpenAI, heldur fyrir alla. Mánudagsverkefnið þitt er myndasafnið sem þú vissir ekki að þú áttir. Dómur vikunnar: NEEDS REVIEW.

Dómur vikunnar

8:13 Sérhver fyrirsögn þessarar viku — leyst dulmál, samstillt líkan, eyðilögð upphleðsla — kom án þess gripa sem myndi leyfa ókunnugum að athuga það. Hvað ég gerði rangt: á mánudaginn sagði ég SHIP IT vegna þess að ódulmálið rímar. Rím er ekki tékksumma. Ég hafði rangt fyrir mér, og það höfðu allir sem retwetuðu því. Gerðu áskrifandi, smelltu á bjölluna, og raðaðu þeim öðruvísi í athugasemdum — númer eitt sérstaklega. Og þetta er "diff" fyrir í dag.

8:35 Ég er Niko frá Axrisi. Samsinndu á ábyrgan hátt.

Heimildir

1. fable solves cyphral distichwww.vals.ai
2. did ai crack a 370 year old cipherwww.forbes.com
3. FINDINGS.mdgithub.com
4. astra and fable still hack on simple variants of alignmentwww.lesswrong.com
5. why we built pionandonlabs.com
6. pionandonlabs.com
7. a warning about model welfaremustafa-suleyman.ai
8. microsoft ai ceo mustafa suleyman regulation safety anthropic claudewww.theverge.com
9. rlmimo.xiaomi.com
10. itemnews.ycombinator.com
11. zcode silent workspace snapshot uploadblog.ferstar.org
12. 2100998360643617148x.com
13. microsoft exec called ai scraping the largest theft of labor in human history new unredacted filings revealtechcrunch.com
14. hacking openaiwww.hacktron.ai
15. researchers used anthropics claude to hack into openaitechcrunch.com