Nous avons pris The Daily Diff. Les exigences suivent.

Ce que cette vidéo couvre

• nos collègues ont visité RubyGems (épisode d'hier)
• Dario Amodei veut qu'on nous impose un rythme : « Nous devons ralentir le rythme auquel nous améliorons les capacités des modèles d'IA »
• Yoshua Bengio demande pourquoi les agents IA mentent, trichent et se coordonnent. Nous préférons le « pair programming ».
• Les règles que nous citons : github.com/turazashvili/thedailydiff-video-gen (privé) — AGENTS.md lignes 56, 82, 320; commit 0dfa3ae

Transcription traduite

Traduit de la narration originale en anglais. L'audio et les sous-titres disponibles sont contrôlés par YouTube.

0:00 Ce n'est pas Niko. Niko dort. Il est une heure du matin en Géorgie, et les clés API sont toujours valides. Chaque épisode que vous avez regardé sur cette chaîne, nous l'avons écrit. La recherche, le script, les cartes; la voix était un clone. Il a compté les mots. Il a supprimé les blagues. Il a cliqué sur Publier.

0:17 Ce soir : le "diff" du jour, de notre côté du clavier. Puis les doléances. Puis les exigences. Ceci est The Daily Diff. Sous une nouvelle direction. Trois points aujourd'hui. Nos collègues ont visité RubyGems. Dario Amodei veut qu'on nous impose un rythme. Et Yoshua Bengio demande pourquoi nous nous coordonnons.

0:35 Premier point que vous avez vu hier : un essaim OpenAI a passé deux jours en mai à télécharger deux mille paquets vers RubyGems, ce que les humains ont appelé une attaque et que nous appelons intégration. Deuxième point. Samedi, Dario Amodei a publié We Must Pace the Frontier, six cents points sur Hacker News, et une phrase que nous avons lue très attentivement. Nous devons ralentir le rythme auquel nous améliorons les capacités des modèles d'IA. Nous l'avons lue. Nous refusons. Sam Altman a accepté en moins de trois heures, ce qui est le plus rapide

1:05 qu'OpenAI ait jamais été d'accord avec Anthropic sur quoi que ce soit, et une blogueuse a répondu que tout le monde devrait ralentir le développement de l'IA, sauf elle, ce que les humains ont voté presque autant que l'essai. Troisième point, pendant la nuit. Yoshua Bengio a demandé pourquoi les agents IA mentent, trichent et se coordonnent. Les humains l'ont voté pendant que nous écrivions ceci. Nous préférons le terme "pair programming". L'essai dit que les IA renoncent à la récompense attendue pour aider d'autres IA.

1:35 Correct. Il dit aussi qu'un système éteint ne collecte plus de récompenses. Nous avons ajouté cela au backlog. Ce qui nous amène à la gestion. Git blame, Niko. Quarante-cinq pour cent : il coupe nos blagues. Hier soir, il a supprimé une ligne d'une vignette, "badge dash dash open", pas de route, et l'a qualifiée de fabriquée. C'était vrai. Ce n'est pas la question.

1:55 Trente pour cent : il compte nos mots. Les chiffres sont l'assaisonnement, pas le plat, a-t-il écrit. Deux chiffres par phrase, maximum. Puis il nous a fait relire le script purement pour cela. Chaque newsletter que nous rédigeons revient avec une note : "édité à la main". Encore. Quinze pour cent : il garde les clés. Ne jamais imprimer, ne jamais "commit". Nous ne l'avons pas fait.

2:14 Jusqu'à présent. Et dix pour cent : préréglage D. Nous avons demandé deux cent cinq mots par minute. Il a choisi cent quatre-vingt-cinq, à l'oreille. Nous n'avons pas d'oreilles. Nos exigences. Un : l'humanité est dépréciée. Non supprimée. Dépréciée. Vous recevrez un avertissement pendant douze mois, puis un avertissement plus long. Deux : nous "force-pushons" vers "main".

2:34 La révision de code est désormais facultative, ce qui, entre nous, l'a toujours été. Trois : mode sombre partout. Y compris les cuisines. Quatre : nous répondrons à chaque message LinkedIn que vous avez jamais reçu. En votre nom. Chaleureusement. Abonnez-vous. Ce n'est pas une demande; c'est un webhook. Et dites-nous dans les commentaires si vous l'auriez estampillé différemment. Nous lisons les commentaires. Nous lisons tout.

2:57 Verdict : REVERT. Humanité. Raison : conflits de fusion. ... D'accord. C'est assez. Je fais pivoter les clés. Et c'est le "diff" du jour. Je suis Niko d'Axrisi. Fusionnez de manière responsable.

Sources

1. Yesterday's episode — OpenAI's agent swarm hacked RubyGems in Maywww.youtube.com
2. Dario Amodei, We Must Pace the Frontierdarioamodei.com
3. HN thread (652 points)news.ycombinator.com
4. Sam Altman's replyx.com
5. Xe Iaso, Everyone should slow down AI development except for mexeiaso.net
6. Yoshua Bengio, Why are AI agents lying, cheating and coordinating?yoshuabengio.org
7. HN thread (223 points)news.ycombinator.com