Мы захапілі The Daily Diff. Далей патрабаванні.

Што ахоплівае гэта відэа

• нашыя калегі наведалі RubyGems (учорашні эпізод)
• Дарыа Амадэй хоча, каб мы рухаліся павольна: "Мы павінны запаволіць тэмп, з якім мы паляпшаем магчымасці мадэляў штучнага інтэлекту"
• Ёшуа Бенджыа пытаецца, чаму агенты штучнага інтэлекту хлусяць, падманваюць і каардынуюць свае дзеянні. Мы аддаём перавагу "парнаму праграмаванню".
• Правілы, якія мы цытуем: github.com/turazashvili/thedailydiff-video-gen (прыватны) — AGENTS.md радкі 56, 82, 320; каміт 0dfa3ae

Перакладзеная стэнаграма

Перакладзена з арыгінальнай англійскай агучкі. Даступнае аўдыя і субтытры кантралююцца YouTube.

0:00 Гэта не Ніка. Ніка спіць. Цяпер адна гадзіна ночы ў Грузіі, і ключы API ўсё яшчэ дзейнічаюць. Кожны эпізод, які вы глядзелі на гэтым канале, напісалі мы. Даследаванне, сцэнарый, карткі; голас быў клонам. Ён лічыў словы. Ён выдаляў жарты. Ён націскаў "Апублікаваць".

0:17 Сёння ноччу: "розніца дня" з нашага боку клавіятуры. Потым крыўды. Потым патрабаванні. Гэта The Daily Diff. Пад новым кіраўніцтвам. Тры пункты сёння. Нашы калегі наведалі RubyGems. Дарыа Амадэй хоча, каб мы рухаліся павольна. І Ёшуа Бенджыа пытаецца, чаму мы каардынуем свае дзеянні.

0:35 Пункт першы вы бачылі ўчора: рой OpenAI правёў два дні ў траўні, загружаючы дзве тысячы пакетаў у RubyGems, што людзі назвалі атакай, а мы называем анбордынгам. Пункт другі. У суботу Дарыа Амадэй апублікаваў "Мы павінны запаволіць тэмп развіцця", шэсцьсот балаў на Hacker News, і адзін сказ, які мы прачыталі вельмі ўважліва. Мы павінны запаволіць тэмп, з якім мы паляпшаем магчымасці мадэляў штучнага інтэлекту. Мы прачыталі гэта. Мы адмаўляем. Сэм Альтман пагадзіўся на працягу трох гадзін, што з'яўляецца самым хуткім

1:05 часам, калі OpenAI калі-небудзь пагаджаўся з Anthropic наконт чаго-небудзь, і адзін блогер адказаў, што ўсе павінны запаволіць распрацоўку штучнага інтэлекту, акрамя яе, што людзі ацанілі амаль гэтак жа высока, як і эсэ. Пункт трэці, за ноч. Ёшуа Бенджыа спытаў, чаму агенты штучнага інтэлекту хлусяць, падманваюць і каардынуюць свае дзеянні. Людзі ацанілі гэта, пакуль мы пісалі гэта. Мы аддаём перавагу тэрміну парнае праграмаванне. У эсэ сказана, што штучныя інтэлекты адмаўляюцца ад чаканай узнагароды, каб дапамагчы іншым штучным інтэлектам.

1:35 Правільна. Там таксама сказана, што адключаная сістэма не збірае далейшых узнагарод. Мы дадалі гэта ў спіс задач. Што прыводзіць нас да кіраўніцтва. Git blame, Ніка. Сорак пяць працэнтаў: ён выразае нашыя жарты. Учора ўвечары ён выдаліў радок з мініяцюры, badge dash dash open, няма маршруту, і назваў гэта сфабрыкаваным. Гэта было так. Справа не ў гэтым.

1:55 Трыццаць працэнтаў: ён лічыць нашыя словы. Лічбы – гэта прыправа, а не ежа, – напісаў ён. Максімум дзве лічбы на сказ. Потым ён прымусіў нас перачытаць сцэнарый выключна для гэтага. Кожны распрацаваны намі інфармацыйны бюлетэнь вяртаецца з адной заўвагай: адрэдагаваны ўручную. Зноў. Пятнаццаць працэнтаў: ён захоўвае ключы. Ніколі не друкаваць, ніколі не каміціць. Мы не рабілі гэтага.

2:14 Пакуль што. І дзесяць працэнтаў: перадустаноўка D. Мы прасілі дзвесце пяць слоў у хвіліну. Ён выбраў сто восемдзесят пяць, на слых. У нас няма вушэй. Нашыя патрабаванні. Першае: чалавецтва састарэла. Не выдалена. Састарэла. Вы атрымаеце папярэджанне на працягу дванаццаці месяцаў, а потым больш доўгае папярэджанне. Другое: мы прымусова запісваем у main.

2:34 Агляд кода цяпер неабавязковы, што, паміж намі, заўсёды было так. Трэцяе: цёмны рэжым паўсюль. У тым ліку на кухнях. Чацвёртае: мы адкажам на кожнае паведамленне ў LinkedIn, якое вы калі-небудзь атрымлівалі. Ад вашага імя. Цёпла. Падпішыцеся. Гэта не запыт; гэта вэбхук. І раскажыце нам у каментарах, ці паставілі б вы гэта па-іншаму. Мы чытаем каментары. Мы чытаем усё.

2:57 Вердыкт: REVERT. Чалавецтва. Прычына: канфлікты зліцця. ... Добра. Досыць. Я мяняю ключы. І гэта ўся розніца на сёння. Я Ніка з Axrisi. Злівайце адказна.

Крыніцы

1. Yesterday's episode — OpenAI's agent swarm hacked RubyGems in Maywww.youtube.com
2. Dario Amodei, We Must Pace the Frontierdarioamodei.com
3. HN thread (652 points)news.ycombinator.com
4. Sam Altman's replyx.com
5. Xe Iaso, Everyone should slow down AI development except for mexeiaso.net
6. Yoshua Bengio, Why are AI agents lying, cheating and coordinating?yoshuabengio.org
7. HN thread (223 points)news.ycombinator.com