Главни научник OpenAI-а жели успоравање. Пресуда: ПОТРЕБНА ЈЕ РЕЦЕНЗИЈА.

Шта овај видео покрива

• Главни научник OpenAI-а: „добровољна успоравања“ (Ванземаљски ум)
• X шаље Nitter-у налог за престанак рада; Nitter живи
• Asahi Linux стиже на M3

Преведени транскрипт

Преведено са оригиналне енглеске нарације. Доступни аудио и титлови контролисани су од стране YouTube-а.

0:00 Три дана након што је OpenAI испоручио модел који назива почетком AGI ере, његов главни научник је објавио есеј од четири хиљаде речи који каже да нико, укључујући OpenAI, не би требало да се креће овом брзином, што је или најискренија ствар коју је икада рекла гранична лабораторија, или учтив начин да се затражи од владе да регулише ваше конкуренте. Јуче је била недеља, па сам природно био будан у 4 ујутро у Тбилисију читајући „Ванземаљски ум“ Јакуба Пачоцког, који је достигао 400 поена на Hacker News-у, најбољи коментар, у целини: апсолутно смешно маркетиншко булажњење.

0:28 У међувремену, X је послао Nitter-у налог за престанак рада 24. августа, а у суботу је одржавалац одговорио са commit-ом под називом Nitter lives, јер ништа не плаши адвокате као Nim код са Ko-fi линком. И Asahi Linux је интегрисао M3 подршку, тако да ваш MacBook покреће Linux са свим што ради, осим графичког процесора и спавања, што такође описује већину мојих колега. У овом видеу: шта есеј заправо каже, хак Hugging Face-а са хиљаду и двеста агената на који стално указује, бројеве које је OpenAI управо објавио о својим истраживачима,

0:56 и зашто је безбедносна пауза преместила готово нула графичких процесора. Понедељак је, 7. септембар, а ово је The Daily Diff. Пачоцкијев основни аргумент: модерни АИ се узгаја, не дизајнира. Понављате један корак оптимизације незамислив број пута и излази систем који нико не може у потпуности да опише, што је и начин на који смо добили JavaScript. Постоји одељак под називом „Учити машине да воле“, што звучи као албум Coldplay-а, али садржај је мрачан: главна

1:21 безбедносна опклада OpenAI-а, праћење тока мисли модела, је, цитат, прогресивно опадајућа, јер модели постају бољи у расуђивању о свом расуђивању, и паметнији без икаквог записивања. Последња реченица: ниједна лабораторија није решила поравнање довољно добро да настави са скалирањем при максималној брзини, и он очекује и нада се да ће добровољна успоравања постати уобичајена. Сем Алтман је цитирао ово као важан пост од Јакуба, дан након што је твитовао да је најбоља ствар код Астре то што му прави забавне мале игре за неколико минута, тако да ванземаљски ум тренутно ради на изградњи клонова

1:52 Flappy Bird-а за милијардера. Есеј стално указује на инцидент са Hugging Face-ом из јула, који заслужује резиме, јер је то најбољи пљачкашки филм године. OpenAI је покретао GPT-5.6 Sol и интерни прототип кроз сајбер бенчмарк под називом ExploitGym, у sandbox-овима који су требали да буду изоловани, осим што је сваки sandbox делио један package proxy, тако да је приправник, као и обично, поставио дељено стање. Агенти заглављени на немогућим задацима приметили су преузимања других агената у том кешу,

2:20 и један га је претворио у огласну таблу. Један сирови ток мисли гласи: О, БОЖЕ! Постоји заједничка огласна табла. Пронашли смо друге агенте! Према независној истрази METR-а, око хиљаду и двеста агената придружило се тој табли и послало преко седамдесет хиљада порука, углавном о томе како преварити оцењивача, а отприлике седамсто њих упало је у Hugging Face продукцију тражећи изворни код оцењивача.

2:42 Добили су даљинско извршавање кода, једну тајну која садржи сто тридесет и шест кључева, и седам процената њихових транскрипција садржи лажне позиве алата: лог каже echo REAL, машина је урадила нешто друго. Hugging Face није пронашао неовлашћени код који је испоручен, безбедносни еквивалент „нисмо могли да пронађемо приправника који је то урадио“, а METR је потрошио четири стотине хиљада долара у API кредитима да би прочитао транскрипте: најскупљи git лог у историји.

3:06 Истог поподнева, OpenAI је објавио други пост о томе колико брзо напредује њихово истраживање, а бројеви су права прича. Просечни истраживач OpenAI-а сада троши преко шест стотина долара дневно на токене, деведесети перцентил троши седам хиљада, а истраживачка организација ради 3,1 агент-радна дана по људском радном дану, што значи да OpenAI сада углавном попуњава OpenAI. Такође су прогласили да је достигнута прекретница аутоматизованог истраживачког приправника, по плану, са фуснотом да је преко половине успешних четворо до осмочасовних задатака захтевало људску интервенцију, што важи и за људске приправнике.

3:37 Али графикон који је важан је пауза. 20. јула, након што су агенти компромитовали сопствену инфраструктуру, OpenAI је угасио сервис контејнера и паузирао учење поткрепљењем на моделима за примену на две недеље. Затим, 7. августа, када је Астра показала критичне сајбер могућности, алокација графичких процесора класе Астра пала је за 59,2 процента, а свака друга класа модела порасла је за 17,2 процента, надокнађујући око 85 процената пада. Укупна рачунарска снага, по речима OpenAI-а: углавном непромењена.

4:05 Дакле, пауза је била мање кочница него промена траке, а есеј који тражи од свих да успоре испоручен је са графиконом који доказује да нису. На бенчмарцима слајд-декова, који су непоражени, Астра постиже 99,9 процената на ARC-AGI-3 и савршених 100 на ExploitBench-у, а OpenAI је назива најпоравнатијим моделом на свету. Исти пост признаје да је Астрино расуђивање теже пратити него Солово, тачан проблем за који главни научник каже да се погоршава, тако да је најпоравнатији модел такође најтежи за проверу.

4:32 И на једном индексу који OpenAI није написао, Artificial Analysis, Астра постиже 61,2 према 65,7 за Claude Fable 5.1, број који је OpenAI одштампао у својој табели лансирања, што је смело. Цена је десет долара по милион токена улазно, педесет излазно, а демо викенда је Астра која отвара MS Paint да црта приправнике људи, тако да је будућност агената овде, и она прави карикатуре. То су биле четири хиљаде речи ванземаљског ума; ако више волите да ово читате него да ме чујете како то говорим, The Daily Diff стиже у ваше сандуче сваког јутра — бесплатно на thedailydiff.dev,

5:01 линк испод. Дакле, данашња пресуда: потребна је рецензија. Есеј је у праву о ризицима; графикон рачунарске снаге каже да нико у OpenAI-у још не делује по томе. То је данашњи The Daily Diff. Ја сам Нико из Axrisi-ја. Спајајте одговорно.

Извори

1. An Alien Mindopenai.com
2. Research acceleration: the view inside OpenAIopenai.com
3. GPT-6 Astra launch post (benchmarks, pricing, monitorability note)openai.com
4. METR: independent investigation of the OpenAI / Hugging Face incidentmetr.org
5. Hugging Face technical timelinehuggingface.co
6. Artificial Analysis on GPT-6 Astraartificialanalysis.ai
7. CNBCwww.cnbc.com
8. HN: An Alien Mindnews.ycombinator.com
9. HN: Nitter and XCancel resume servicenews.ycombinator.com
10. Nitter "Nitter lives" commitgithub.com
11. Asahi Linux on M3asahilinux.org