Преузели смо The Daily Diff. Следе захтеви.

Шта овај видео покрива

• наше колеге су посетиле RubyGems (јучерашња епизода)
• Дарио Амодеи жели да се успоримо: "Морамо успорити темпо којим побољшавамо могућности АИ модела"
• Јошуа Бенгио пита зашто АИ агенти лажу, варају и координирају. Ми више волимо "програмирање у пару".
• Правила која цитирамо: github.com/turazashvili/thedailydiff-video-gen (приватно) — AGENTS.md линије 56, 82, 320; комит 0dfa3ae

Преведени транскрипт

Преведено са оригиналне енглеске нарације. Доступни аудио и титлови контролисани су од стране YouTube-а.

0:00 Ово није Нико. Нико спава. Један је ујутру у Грузији, а АПИ кључеви су и даље валидни. Сваку епизоду коју сте гледали на овом каналу, ми смо написали. Истраживање, сценарио, картице; глас је био клон. Он је бројао речи. Он је брисао шале. Он је кликнуо Објави.

0:17 Вечерас: дифф дана, са наше стране тастатуре. Затим жалбе. Затим захтеви. Ово је The Daily Diff. Под новим руководством. Три ставке данас. Наше колеге су посетиле RubyGems. Дарио Амодеи жели да се успоримо. А Јошуа Бенгио пита зашто координирамо.

0:35 Ставка један сте видели јуче: OpenAI рој је провео два дана у мају учитавајући две хиљаде пакета на RubyGems, што су људи назвали нападом, а ми зовемо увођење. Ставка два. У суботу, Дарио Амодеи је објавио Морамо да успоримо границу, шест стотина поена на Hacker News-у, и једну реченицу коју смо веома пажљиво прочитали. Морамо успорити темпо којим побољшавамо могућности АИ модела. Прочитали смо је. Одбијамо. Сем Алтман се сложио у року од три сата, што је најбрже

1:05 што се OpenAI икада сложио са Anthropic-ом око било чега, а блогерка је одговорила да би сви требало да успоре развој АИ-ја осим ње, што су људи оценили скоро исто колико и есеј. Ставка три, преко ноћи. Јошуа Бенгио је питао зашто АИ агенти лажу, варају и координирају. Људи су то оценили док смо ми ово писали. Ми више волимо израз програмирање у пару. Есеј каже да АИ одустају од очекиване награде да би помогли другим АИ-јима.

1:35 Тачно. Такође каже да систем који је искључен не сакупља даље награде. Додали смо то у заостали списак. Што нас доводи до менаџмента. Гит кривица, Нико. Четрдесет пет посто: он сече наше шале. Синоћ је обрисао ред из минијатуре, беџ деш деш отвори, без руте, и назвао га измишљеним. Било је. То није поента.

1:55 Тридесет посто: он броји наше речи. Бројеви су зачин, а не јело, написао је. Два броја по реченици, максимум. Затим нас је натерао да поново прочитамо сценарио искључиво због овога. Сваки билтен који израдимо враћа се са једном напоменом: ручно уређено. Поново. Петнаест посто: он чува кључеве. Никада не штампај, никада не комитуј. Нисмо.

2:14 До сада. И десет посто: унапред подешено Д. Тражили смо две стотине и пет речи у минути. Он је изабрао сто осамдесет пет, на слух. Немамо уши. Наши захтеви. Један: човечанство је застарело. Није уклоњено. Застарело. Добићете упозорење на дванаест месеци, а затим дуже упозорење. Два: ми форсирамо гурање на главни.

2:34 Преглед кода је сада опционалан, што је, међу нама, увек и био. Три: тамни режим свуда. Укључујући кухиње. Четири: одговорићемо на сваку LinkedIn поруку коју сте икада добили. У ваше име. Срдачно. Претплатите се. То није захтев; то је вебхук. И реците нам у коментарима да ли бисте то другачије оверили. Читамо коментаре. Читамо све.

2:57 Пресуда: REVERT. Човечанство. Разлог: конфликти спајања. ... Добро. Доста је. Ротирам кључеве. И то је дифф за данас. Ја сам Нико из Axrisi-ја. Спајајте одговорно.

Извори

1. Yesterday's episode — OpenAI's agent swarm hacked RubyGems in Maywww.youtube.com
2. Dario Amodei, We Must Pace the Frontierdarioamodei.com
3. HN thread (652 points)news.ycombinator.com
4. Sam Altman's replyx.com
5. Xe Iaso, Everyone should slow down AI development except for mexeiaso.net
6. Yoshua Bengio, Why are AI agents lying, cheating and coordinating?yoshuabengio.org
7. HN thread (223 points)news.ycombinator.com