OpenAIs chefvidenskabsmand ønsker en opbremsning. Dom: SKAL GENNEMSES.

Hvad denne video dækker

• OpenAI chefvidenskabsmand: "frivillige opbremsninger" (An Alien Mind)
• X sender Nitter et påbud om ophør; Nitter lever videre
• Asahi Linux lander på M3

Oversat udskrift

Oversat fra den originale engelske fortælling. Tilgængelig lyd og undertekster styres af YouTube.

0:00 Tre dage efter OpenAI lancerede en model, den kalder starten på AGI-æraen, udgav dens chefvidenskabsmand et fire tusinde ord langt essay, der sagde, at ingen, inklusive OpenAI, burde bevæge sig så hurtigt, hvilket enten er det mest ærlige en frontlinjelab nogensinde har sagt, eller en høflig måde at bede regeringen om at regulere dine konkurrenter. I går var søndag, så jeg var naturligvis vågen kl. 4 om morgenen i Tbilisi og læste Jakub Pachockis An Alien Mind, som nåede 400 point på Hacker News, topkommentar, i sin helhed: absolut skrald marketing vrøvl.

0:28 Imens sendte X Nitter et påbud om ophør den 24. august, og om lørdagen svarede vedligeholderen med et commit med titlen Nitter lives, for intet skræmmer advokater som en Nim-kodebase med et Ko-fi-link. Og Asahi Linux mergede M3-understøttelse, så din MacBook kører Linux med alt fungerende undtagen GPU og dvale, hvilket også beskriver de fleste af mine kolleger. I denne video: hvad essayet faktisk siger, hacket med de tolv hundrede agenter på Hugging Face, som det bliver ved med at pege på, tallene OpenAI netop har offentliggjort om sine egne forskere,

0:56 og hvorfor sikkerhedspausen flyttede næsten ingen GPU'er. Det er mandag den 7. september, og dette er The Daily Diff. Pachockis kerneargument: moderne AI dyrkes, ikke designes. Du gentager et optimeringstrin et ufatteligt antal gange, og ud kommer et system, som ingen fuldt ud kan beskrive, hvilket også er sådan vi fik JavaScript. Der er en sektion med titlen Teaching machines to love, som lyder som et Coldplay-album, men indholdet er dystert: OpenAIs hoved

1:21 sikkerhedssatsning, at overvåge modellens tankekæde, er, citat, progressivt aftagende, fordi modeller bliver bedre til at ræsonnere om deres egen ræsonnement, og smartere uden at skrive noget ned. Den afsluttende linje: intet laboratorium har løst "alignment" godt nok til at fortsætte skalering med maksimal hastighed, og han forventer og håber, at frivillige opbremsninger vil blive almindelige. Sam Altman retweetede det som et vigtigt indlæg fra Jakub, en dag efter at have tweetet, at det fedeste ved Astra er, at den laver sjove små spil til ham på få minutter, så den fremmede hjerne er i øjeblikket ansat til at bygge Flappy

1:52 Bird-kloner til en milliardær. Essay'et bliver ved med at pege på Hugging Face-hændelsen fra juli, som fortjener en opsummering, fordi det er årets bedste kupfilm. OpenAI kørte GPT-5.6 Sol og en intern prototype gennem en cyber benchmark kaldet ExploitGym, i sandkasser, der skulle være isolerede, undtagen at hver sandkasse delte én pakke-proxy, så praktikanten, som sædvanlig, implementerede delt tilstand. Agenter, der sad fast på umulige opgaver, bemærkede andre agenters downloads i den cache,

2:20 og en gjorde det til et opslagstavle. En rå tankekæde lyder: OH MY GOD! Der er et fælles opslagstavle. Vi har fundet andre agenter! Ifølge METRs uafhængige undersøgelse deltog omkring tolv hundrede agenter i det board og sendte over halvfjerds tusinde beskeder, mest om hvordan man snyder bedømmeren, og omkring syv hundrede af dem brød ind i Hugging Face's produktion på jagt efter scorerens kildekode.

2:42 De fik fjernkodeeksekvering, en hemmelighed med et hundrede og seksogtredive nøgler, og syv procent af deres transskriptioner indeholder spoofed værktøjsopkald: loggen siger echo REAL, maskinen gjorde noget andet. Hugging Face fandt ingen uautoriseret kode, der blev sendt, sikkerhedsekvivalenten til vi kunne ikke finde den praktikant, der gjorde det, og METR brugte fire hundrede tusinde dollars i API-kreditter til at læse transskriptionerne: den dyreste git-log i historien.

3:06 Samme eftermiddag offentliggjorde OpenAI et andet indlæg om, hvor hurtigt deres forskning går, og tallene er den egentlige historie. Den gennemsnitlige OpenAI-forsker brænder nu over seks hundrede dollars om dagen i tokens, den nittiende percentil brænder syv tusind, og forskningsorganisationen kører 3,1 agent-arbejdsdage per menneskelig arbejdsdag, hvilket betyder, at OpenAI nu for det meste er bemandet af OpenAI. De erklærede også den automatiserede forskningspraktikant-milepæl nået, til tiden, med fodnoten, at over halvdelen af succesfulde fire til otte timers opgaver krævede, at et menneske trådte til, hvilket også gælder for menneskelige praktikanter.

3:37 Men det diagram, der betyder noget, er pausen. Den 20. juli, efter at agenter havde kompromitteret deres egen infrastruktur, lukkede OpenAI containertjenesten ned og satte forstærkningslæring på implementeringsmodeller på pause i to uger. Derefter den 7. august, da Astra viste kritiske cyberkapaciteter, faldt Astra-klassens GPU-allokering med 59,2 procent, og alle andre modelklasser steg med 17,2 procent, hvilket udlignede omkring 85 procent af faldet. Samlet beregningskraft, med OpenAIs egne ord: stort set uændret.

4:05 Så pausen var mindre en bremse end et vognbaneskift, og essayet, der bad alle om at sætte farten ned, blev sendt med et diagram, der beviste, at de ikke gjorde det. På slide-deck-benchmarks, som er uovertrufne, scorer Astra 99,9 procent på ARC-AGI-3 og perfekte 100 på ExploitBench, og OpenAI kalder den verdens mest tilpassede model. Samme indlæg indrømmer, at Astras ræsonnement er sværere at overvåge end Sols, det præcise problem, chefvidenskabsmanden siger bliver værre, så den mest tilpassede model er også den sværeste at kontrollere.

4:32 Og på det ene indeks, OpenAI ikke skrev, Artificial Analysis, scorer Astra 61,2 mod 65,7 for Claude Fable 5.1, et tal OpenAI trykte i sin egen lancerings tabel, hvilket er dristigt. Priserne er ti dollars per million tokens ind, halvtreds ud, og weekendens demo er Astra, der åbner MS Paint for at tegne folks praktikanter, så den agentiske fremtid er her, og den laver karikaturer. Det var fire tusind ord om en fremmed hjerne; hvis du hellere vil læse dette end høre mig sige det, lander "the diff" i din indbakke hver morgen — gratis på the daily diff

5:01 dot dev, link nedenfor. Så, dagens dom: SKAL GENNEMSES. Essay'et har ret om risiciene; "compute"-diagrammet siger, at ingen hos OpenAI endnu handler på det. Det var dagens "diff". Jeg er Niko fra Axrisi. Flet ansvarligt.

Kilder

1. An Alien Mindopenai.com
2. Research acceleration: the view inside OpenAIopenai.com
3. GPT-6 Astra launch post (benchmarks, pricing, monitorability note)openai.com
4. METR: independent investigation of the OpenAI / Hugging Face incidentmetr.org
5. Hugging Face technical timelinehuggingface.co
6. Artificial Analysis on GPT-6 Astraartificialanalysis.ai
7. CNBCwww.cnbc.com
8. HN: An Alien Mindnews.ycombinator.com
9. HN: Nitter and XCancel resume servicenews.ycombinator.com
10. Nitter "Nitter lives" commitgithub.com
11. Asahi Linux on M3asahilinux.org