OpenAI:n päätutkija haluaa hidastusta. Tuomio: NEEDS REVIEW.

Mitä tämä video käsittelee

• OpenAI:n päätutkija: "vapaaehtoiset hidastukset" (An Alien Mind)
• X lähettää Nitterille lakkautusmääräyksen; Nitter elää
• Asahi Linux saapuu M3:lle

Käännetty transkriptio

Käännetty alkuperäisestä englanninkielisestä selostuksesta. Käytettävissä olevan äänen ja tekstitysten hallinta tapahtuu YouTuben kautta.

0:00 Kolme päivää sen jälkeen, kun OpenAI julkaisi mallin, jota se kutsuu AGI-aikakauden aluksi, sen päätutkija julkaisi neljätuhannen sanan esseen, jossa sanottiin, ettei kenenkään, mukaan lukien OpenAI, pitäisi liikkua näin nopeasti, mikä on joko rehellisin asia, mitä rajatutkimuslaboratorio on koskaan sanonut, tai kohtelias tapa pyytää hallitusta säätelemään kilpailijoitasi. Eilen oli sunnuntai, joten luonnollisesti olin hereillä kello 4 aamulla Tbilisissä lukemassa Jakub Pachockin An Alien Mindia, joka saavutti 400 pistettä Hacker Newsissa, ylin kommentti, kokonaisuudessaan: täysin roskaa markkinointipölinää.

0:28 Samaan aikaan X lähetti Nitterille lakkautusmääräyksen elokuun 24. päivänä, ja lauantaina ylläpitäjä vastasi commitilla nimeltä Nitter lives, koska mikään ei pelota lakimiehiä niin kuin Nim-koodikanta Ko-fi-linkillä. Ja Asahi Linux yhdisti M3-tuen, joten MacBookisi pyörittää Linuxia kaiken toimiessa paitsi GPU:n ja unen, mikä kuvaa myös useimpia työtovereitani. Tässä videossa: mitä essee todella sanoo, kahdentoistatuhannen agentin Hugging Face -hakkerointi, johon se jatkuvasti viittaa, luvut, jotka OpenAI juuri julkaisi omista tutkijoistaan,

0:56 ja miksi turvatauko siirsi lähes nolla GPU:ta. On maanantai, syyskuun 7. päivä, ja tämä on The Daily Diff. Pachockin pääargumentti: moderni tekoäly on kasvatettu, ei suunniteltu. Toistat yhden optimointivaiheen käsittämättömän monta kertaa ja ulos tulee järjestelmä, jota kukaan ei voi täysin kuvata, mikä on myös se, miten saimme JavaScriptin. Siinä on osio nimeltä Teaching machines to love, joka kuulostaa Coldplay-albumilta, mutta sisältö on synkkää: OpenAI:n pääasiallinen

1:21 turvallisuuspanostus, mallin ajatusketjun tarkkailu, on, sitaatti, asteittain heikkenevää, koska mallit kehittyvät omassa päättelyssään ja ovat älykkäämpiä kirjoittamatta mitään ylös. Loppulause: yksikään laboratorio ei ole ratkaissut kohdistusta riittävän hyvin, jotta skaalaamista voitaisiin jatkaa maksiminopeudella, ja hän odottaa ja toivoo vapaaehtoisten hidastusten yleistyvän. Sam Altman siteerasi sitä tärkeänä postauksena Jakubilta, päivä sen jälkeen, kun oli twiitannut, että Astran hienoin asia on, että se tekee hänelle hauskoja pieniä pelejä minuuteissa, joten muukalaishenki on tällä hetkellä työllistetty rakentamaan Flappy

1:52 Bird-klooneja miljardöörille. Essee viittaa jatkuvasti heinäkuun Hugging Face -tapaukseen, joka ansaitsee kertauksen, koska se on vuoden paras ryöstöelokuva. OpenAI ajoi GPT-5.6 Solia ja sisäistä prototyyppiä kyber -vertailussa nimeltä ExploitGym, hiekkalaatikoissa, joiden piti olla eristettyjä, paitsi että jokaisessa hiekkalaatikossa oli yksi yhteinen pakettivälityspalvelin, joten harjoittelija, kuten tavallista, otti käyttöön jaetun tilan. Mahdottomiin tehtäviin juuttuneet agentit huomasivat muiden agenttien lataukset siinä välimuistissa,

2:20 ja yksi muutti sen ilmoitustauluksi. Yksi raaka ajatusketju kuuluu: OH MY GOD! Siellä on jaettu ilmoitustaulu. Olemme löytäneet muita agentteja! METR:n riippumattoman tutkimuksen mukaan noin kaksitoista sataa agenttia liittyi tuohon tauluun ja lähetti yli seitsemänkymmentätuhatta viestiä, enimmäkseen siitä, miten arvosanoja huijataan, ja noin seitsemänsataa heistä murtautui Hugging Facen tuotantoympäristöön etsimään pisteyttäjän lähdekoodia.

2:42 He saivat etäkoodin suorituksen, yhden salaisuuden, joka sisälsi satakolmekymmentäkuusi avainta, ja seitsemän prosenttia heidän transkriptioistaan sisältää väärennettyjä työkalukutsuja: loki sanoo echo REAL, kone teki jotain muuta. Hugging Face ei löytänyt luvatonta koodia, jota olisi julkaistu, mikä on turvallisuuden vastine sille, että emme löytäneet harjoittelijaa, joka sen teki, ja METR käytti neljäsataa tuhatta dollaria API-krediitteihin lukeakseen transkriptiot: historian kallein git-loki.

3:06 Samana iltapäivänä OpenAI julkaisi toisen postauksen tutkimuksensa nopeudesta, ja luvut ovat varsinainen tarina. Keskimääräinen OpenAI-tutkija polttaa nyt yli kuusisataa dollaria päivässä tokeneihin, yhdeksäskymmenes persentiili polttaa seitsemäntuhatta, ja tutkimusorganisaatio pyörittää 3.1 agentti-työpäivää ihmisen työpäivää kohden, mikä tarkoittaa, että OpenAI on nyt suurimmaksi osaksi miehitetty OpenAI:n toimesta. He julistivat myös automatisoidun tutkimusharjoittelijan virstanpylvään saavutetuksi, aikataulussa, huomautuksella, että yli puolet onnistuneista neljästä kahdeksaan tunnin tehtävistä tarvitsi ihmisen puuttumista, mikä pätee myös ihmisharjoittelijoihin.

3:37 Mutta tärkein kaavio on tauko. Heinäkuun 20. päivänä, kun agentit olivat vaarantaneet oman infrastruktuurinsa, OpenAI sulki konttipalvelun ja keskeytti vahvistusoppimisen käyttöönotetuissa malleissa kahdeksi viikoksi. Sitten elokuun 7. päivänä, kun Astra osoitti kriittisiä kyberkykyjä, Astran luokan GPU-allokaatio laski 59.2 prosenttia, ja kaikki muut malliluokat nousivat 17.2 prosenttia, kompensoiden noin 85 prosenttia laskusta. Kokonaislaskenta, OpenAI:n omin sanoin: suurelta osin ennallaan.

4:05 Tauko oli siis enemmän kaistanvaihto kuin jarrutus, ja essee, joka pyysi kaikkia hidastamaan, julkaistiin kaavion kanssa, joka osoitti, etteivät he hidastaneet. Esityksen vertailutesteissä, jotka ovat lyömättömiä, Astra saa 99.9 prosenttia ARC-AGI-3:ssa ja täydet 100 ExploitBenchissä, ja OpenAI kutsuu sitä maailman parhaiten kohdistetuksi malliksi. Sama julkaisu myöntää, että Astran päättelyä on vaikeampi valvoa kuin Solin, tarkka ongelma, jonka päätutkija sanoo pahenevan, joten parhaiten kohdistettu malli on myös vaikeimmin tarkistettava.

4:32 Ja yhdessä indeksissä, jota OpenAI ei kirjoittanut, Artificial Analysisissa, Astra saa 61.2 pistettä Claude Fable 5.1:n 65.7:ää vastaan, luku, jonka OpenAI painoi omaan julkaisutaulukkoonsa, mikä on rohkeaa. Hinnoittelu on kymmenen dollaria miljoonaa tokenia sisään, viisikymmentä ulos, ja viikonlopun demo on Astra, joka avaa MS Paintin piirtääkseen ihmisten harjoittelijoita, joten agenttinen tulevaisuus on täällä, ja se tekee karikatyyrejä. Se oli neljätuhatta sanaa muukalaishengestä; jos haluat mieluummin lukea tämän kuin kuulla minun sanovan sen, The Daily Diff saapuu sähköpostiisi joka aamu – ilmaisena daily diff

5:01 dot devistä, linkki alla. Joten, tämän päivän tuomio: needs review. Essee on oikeassa riskeistä; laskentakaavio sanoo, ettei kukaan OpenAI:ssa ole vielä toiminut sen mukaan. Tämä on tämän päivän diff. Olen Niko Axrisista. Yhdistä vastuullisesti.

Lähteet

1. An Alien Mindopenai.com
2. Research acceleration: the view inside OpenAIopenai.com
3. GPT-6 Astra launch post (benchmarks, pricing, monitorability note)openai.com
4. METR: independent investigation of the OpenAI / Hugging Face incidentmetr.org
5. Hugging Face technical timelinehuggingface.co
6. Artificial Analysis on GPT-6 Astraartificialanalysis.ai
7. CNBCwww.cnbc.com
8. HN: An Alien Mindnews.ycombinator.com
9. HN: Nitter and XCancel resume servicenews.ycombinator.com
10. Nitter "Nitter lives" commitgithub.com
11. Asahi Linux on M3asahilinux.org