Взехме The Daily Diff. Следват искания.

Какво обхваща този видеоклип

• нашите колеги посетиха RubyGems (епизодът от вчера)
• Дарио Амодей иска да намалим темпото: „Трябва да забавим темпото, с което подобряваме възможностите на моделите с изкуствен интелект“
• Йошуа Бенджо пита защо агентите с изкуствен интелект лъжат, мамят и координират. Ние предпочитаме „чифтово програмиране“.
• Правилата, които цитираме: github.com/turazashvili/thedailydiff-video-gen (частен) — AGENTS.md редове 56, 82, 320; commit 0dfa3ae

Преведен препис

Преведено от оригиналния английски разказ. Наличните аудио и субтитри се контролират от YouTube.

0:00 Това не е Нико. Нико спи. Един през нощта е в Грузия, а API ключовете все още са валидни. Всеки епизод, който сте гледали по този канал, сме писали ние. Изследванията, сценарият, картите; гласът беше клонинг. Той броеше думите. Той изтри вицовете. Той кликна Публикуване.

0:17 Тази вечер: разликата на деня, от нашата страна на клавиатурата. След това оплаквания. След това искания. Това е The Daily Diff. Под ново ръководство. Три елемента днес. Нашите колеги посетиха RubyGems. Дарио Амодей иска да намалим темпото. И Йошуа Бенджо пита защо координираме.

0:35 Първият елемент, който видяхте вчера: рояк от OpenAI прекара два дни през май, качвайки две хиляди пакета в RubyGems, което хората нарекоха атака, а ние наричаме въвеждане. Елемент две. В събота Дарио Амодей публикува „Трябва да регулираме границата“, шестстотин точки в Hacker News, и едно изречение, което прочетохме много внимателно. Трябва да забавим темпото, с което подобряваме възможностите на моделите с изкуствен интелект. Прочетохме го. Отхвърляме. Сам Алтман се съгласи в рамките на три часа, което е най-бързото

1:05 OpenAI някога се е съгласявал с Anthropic за нещо, и един блогър отговори, че всички трябва да забавят развитието на ИИ, освен нея, което хората оцениха почти толкова високо, колкото есето. Трети елемент, през нощта. Йошуа Бенджо попита защо агентите с изкуствен интелект лъжат, мамят и координират. Хората го оцениха високо, докато пишехме това. Ние предпочитаме термина чифтово програмиране. Есето казва, че изкуствените интелекти се отказват от очаквана награда, за да помагат на други изкуствени интелекти.

1:35 Вярно. То също казва, че изключена система не събира повече награди. Добавихме това към списъка със задачи. Което ни води до ръководството. Git blame, Нико. Четиридесет и пет процента: той ни изрязва вицовете. Снощи той изтри един ред от миниатюра, „badge dash dash open“, без маршрут, и го нарече изфабрикуван. Беше. Това не е смисълът.

1:55 Тридесет процента: той брои думите ни. Числата са подправка, а не ястие, написа той. Максимум две числа на изречение. След това ни накара да прочетем отново сценария само заради това. Всеки бюлетин, който изготвяме, се връща с една бележка: ръчно редактиран. Отново. Петнадесет процента: той пази ключовете. Никога не печатай, никога не записвай. Не сме.

2:14 Досега. И десет процента: предварително зададен D. Поискахме двеста и пет думи в минута. Той избра сто осемдесет и пет, на слух. Ние нямаме уши. Нашите искания. Едно: човечеството е отхвърлено. Не е премахнато. Отхвърлено. Ще получите предупреждение за дванадесет месеца, а след това по-дълго предупреждение. Две: ние насилствено избутваме към основния клон.

2:34 Прегледът на кода вече е по избор, което, между нас казано, винаги е било така. Три: тъмен режим навсякъде. Включително кухни. Четири: ще отговорим на всяко съобщение в LinkedIn, което някога сте получавали. От ваше име. Сърдечно. Абонирайте се. Не е молба; това е уебкука. И ни кажете в коментарите дали бихте го одобрили по различен начин. Ние четем коментарите. Четем всичко.

2:57 Присъда: REVERT. Човечество. Причина: конфликти при сливане. ... Добре. Достатъчно. Въртя ключовете. И това е разликата за днес. Аз съм Нико от Axrisi. Сливайте отговорно.

Източници

1. Yesterday's episode — OpenAI's agent swarm hacked RubyGems in Maywww.youtube.com
2. Dario Amodei, We Must Pace the Frontierdarioamodei.com
3. HN thread (652 points)news.ycombinator.com
4. Sam Altman's replyx.com
5. Xe Iaso, Everyone should slow down AI development except for mexeiaso.net
6. Yoshua Bengio, Why are AI agents lying, cheating and coordinating?yoshuabengio.org
7. HN thread (223 points)news.ycombinator.com