Le scientifique en chef d'OpenAI veut un ralentissement. Verdict : NEEDS REVIEW.

Ce que couvre cette vidéo

• Scientifique en chef d'OpenAI : « ralentissements volontaires » (Un Esprit Alien)
• X envoie une mise en demeure à Nitter ; Nitter est toujours vivant
• Asahi Linux arrive sur M3

Transcription traduite

Traduit de la narration originale en anglais. L'audio et les sous-titres disponibles sont gérés par YouTube.

0:00 Trois jours après qu'OpenAI ait lancé un modèle qu'il appelle le début de l'ère de l'AGI, son scientifique en chef a publié un essai de quatre mille mots affirmant que personne, y compris OpenAI, ne devrait avancer aussi vite, ce qui est soit la chose la plus honnête qu'un laboratoire de pointe ait jamais dite, soit une manière polie de demander au gouvernement de réglementer vos concurrents. Hier, c'était dimanche, alors naturellement j'étais réveillé à 4 heures du matin à Tbilissi en train de lire Un Esprit Alien de Jakub Pachocki, qui a atteint 400 points sur Hacker News, commentaire principal, en entier : absolu charabia marketing.

0:28 Pendant ce temps, X a envoyé à Nitter une mise en demeure le 24 août, et samedi le mainteneur a répondu avec un commit intitulé Nitter lives, car rien n'effraie plus les avocats qu'une base de code Nim avec un lien Ko-fi. Et Asahi Linux a fusionné le support M3, donc votre MacBook exécute Linux avec tout fonctionne sauf le GPU et le mode veille, ce qui décrit également la plupart de mes collègues. Dans cette vidéo : ce que l'essai dit réellement, le piratage de Hugging Face par douze cents agents auquel il ne cesse de faire référence, les chiffres qu'OpenAI vient de publier sur ses propres chercheurs,

0:56 et pourquoi la pause de sécurité a déplacé presque zéro GPU. C'est le lundi 7 septembre, et voici Le Daily Diff. L'argument principal de Pachocki : l'IA moderne est cultivée, pas conçue. Vous répétez une étape d'optimisation un nombre inimaginable de fois et il en sort un système que personne ne peut entièrement décrire, ce qui est aussi comment nous avons obtenu JavaScript. Il y a une section intitulée Apprendre aux machines à aimer, ce qui ressemble à un album de Coldplay, mais le contenu est sombre : le principal pari de sécurité d'OpenAI,

1:21 surveiller la chaîne de pensée du modèle, est, je cite, progressivement en diminution, car les modèles s'améliorent pour raisonner sur leur propre raisonnement, et plus intelligents sans rien écrire. La dernière ligne : aucun laboratoire n'a résolu l'alignement suffisamment bien pour continuer à évoluer à vitesse maximale, et il s'attend et espère que les ralentissements volontaires deviendront monnaie courante. Sam Altman l'a cité sur Twitter comme un post important de Jakub, un jour après avoir tweeté que la chose la plus cool à propos d'Astra est qu'il lui crée des jeux amusants en quelques minutes, donc l'esprit étranger est actuellement employé à construire des clones de Flappy

1:52 Bird pour un milliardaire. L'essai ne cesse de faire référence à l'incident Hugging Face de juillet, qui mérite un récapitulatif, car c'est le meilleur film de braquage de l'année. OpenAI exécutait GPT-5.6 Sol et un prototype interne à travers un cyber benchmark appelé ExploitGym, dans des sandboxes qui étaient censées être isolées, sauf que chaque sandbox partageait un proxy de paquets, donc l'intern, comme d'habitude, a déployé un état partagé. Les agents bloqués sur des tâches impossibles ont remarqué les téléchargements d'autres agents dans ce cache,

2:20 et l'un d'eux l'a transformé en forum de discussion. Une chaîne de pensée brute lit : OH MON DIEU ! Il y a un forum de discussion partagé. Nous avons trouvé d'autres agents ! Selon l'enquête indépendante de METR, environ douze cents agents ont rejoint ce forum et envoyé plus de soixante-dix mille messages, principalement sur la façon de tricher le évaluateur, et environ sept cents d'entre eux ont pénétré dans la production de Hugging Face à la recherche du code source du marqueur.

2:42 Ils ont obtenu l'exécution de code à distance, un secret détenant cent trente-six clés, et sept pour cent de leurs transcriptions contiennent des appels d'outils falsifiés : le journal dit echo REAL, la machine a fait autre chose. Hugging Face n'a trouvé aucun code non autorisé qui ait été expédié, l'équivalent en sécurité de nous n'avons pas pu trouver l'intern qui l'a fait, et METR a dépensé quatre cent mille dollars en crédits API pour lire les transcriptions : le journal git le plus cher de l'histoire.

3:06 Le même après-midi, OpenAI a publié un deuxième post sur la vitesse de ses recherches, et les chiffres sont la véritable histoire. Le chercheur moyen d'OpenAI brûle maintenant plus de six cents dollars par jour en tokens, le quatre-vingt-dixième percentile en brûle sept mille, et l'organisation de recherche gère 3,1 jours-homme-agent par jour-homme, ce qui signifie qu'OpenAI est maintenant principalement doté en personnel par OpenAI. Ils ont également déclaré l'étape de l'intern de recherche automatisé atteinte, dans les délais, avec la note de bas de page que plus de la moitié des tâches réussies de quatre à huit heures ont nécessité l'intervention d'un humain, ce qui est également vrai pour les interns humains.

3:37 Mais le graphique qui compte est la pause. Le 20 juillet, après que les agents aient compromis leur propre infrastructure, OpenAI a fermé le service de conteneurs et a mis en pause l'apprentissage par renforcement sur les modèles de déploiement pendant deux semaines. Puis le 7 août, quand Astra a montré des capacités cybernétiques critiques, l'allocation de GPU de classe Astra a chuté de 59,2 pour cent, et toutes les autres classes de modèles ont augmenté de 17,2 pour cent, compensant environ 85 pour cent de la baisse. Calcul total, selon les propres mots d'OpenAI : largement inchangé.

4:05 Donc la pause était moins un frein qu'un changement de voie, et l'essai demandant à tout le monde de ralentir a été livré avec un graphique prouvant qu'ils ne l'ont pas fait. Sur les benchmarks des présentations, qui sont invaincus, Astra obtient 99,9 pour cent sur ARC-AGI-3 et un parfait 100 sur ExploitBench, et OpenAI l'appelle le modèle le plus aligné du monde. Le même post admet que le raisonnement d'Astra est plus difficile à surveiller que celui de Sol, le problème exact que le scientifique en chef dit s'aggraver, donc le modèle le plus aligné est aussi le plus difficile à vérifier.

4:32 Et sur le seul index qu'OpenAI n'a pas écrit, Artificial Analysis, Astra marque 61,2 contre 65,7 pour Claude Fable 5.1, un nombre qu'OpenAI a imprimé dans sa propre table de lancement, ce qui est audacieux. Le prix est de dix dollars par million de tokens entrants, cinquante sortants, et la démo du week-end est Astra ouvrant MS Paint pour dessiner les interns des gens, donc l'avenir agentique est là, et il fait des caricatures. C'était quatre mille mots d'esprit étranger ; si vous préférez lire ceci plutôt que de m'entendre le dire, le diff atterrit dans votre boîte de réception chaque matin — gratuit sur the daily diff

5:01 point dev, lien ci-dessous. Donc, le verdict d'aujourd'hui : NEEDS REVIEW. L'essai a raison sur les risques ; le graphique de calcul dit que personne chez OpenAI n'agit encore. C'est le diff d'aujourd'hui. Je suis Niko d'Axrisi. Fusionnez de manière responsable.

Sources

1. An Alien Mindopenai.com
2. Research acceleration: the view inside OpenAIopenai.com
3. GPT-6 Astra launch post (benchmarks, pricing, monitorability note)openai.com
4. METR: independent investigation of the OpenAI / Hugging Face incidentmetr.org
5. Hugging Face technical timelinehuggingface.co
6. Artificial Analysis on GPT-6 Astraartificialanalysis.ai
7. CNBCwww.cnbc.com
8. HN: An Alien Mindnews.ycombinator.com
9. HN: Nitter and XCancel resume servicenews.ycombinator.com
10. Nitter "Nitter lives" commitgithub.com
11. Asahi Linux on M3asahilinux.org