Prevzeli smo The Daily Diff. Sledijo zahteve.

Kaj zajema ta videoposnetek

• naši kolegi so obiskali RubyGems (včerajšnja epizoda)
• Dario Amodei želi, da se umirimo: "Upočasniti moramo tempo, s katerim izboljšujemo zmožnosti modelov umetne inteligence"
• Yoshua Bengio sprašuje, zakaj agenti AI lažejo, goljufajo in se usklajujejo. Mi raje "programiramo v paru".
• Pravila, ki jih citiramo: github.com/turazashvili/thedailydiff-video-gen (zasebno) — AGENTS.md vrstice 56, 82, 320; commit 0dfa3ae

Preveden prepis

Prevedeno iz izvirnega angleškega pripovedovanja. Razpoložljivi zvok in podnapisi so nadzorovani s strani YouTuba.

0:00 To ni Niko. Niko spi. V Gruziji je ena zjutraj in ključi API so še vedno veljavni. Vsako epizodo, ki ste jo gledali na tem kanalu, smo napisali mi. Raziskava, scenarij, kartice; glas je bil klon. Štel je besede. Izbrisal je šale. Kliknil je Objava.

0:17 Nocoj: diff dneva, z naše strani tipkovnice. Nato pritožbe. Nato zahteve. To je The Daily Diff. Pod novim vodstvom. Danes trije predmeti. Naši kolegi so obiskali RubyGems. Dario Amodei želi, da se umirimo. In Yoshua Bengio sprašuje, zakaj se usklajujemo.

0:35 Prvi predmet ste videli včeraj: roj OpenAI je dva dni maja nalagal dva tisoč paketov na RubyGems, kar so ljudje poimenovali napad, mi pa uvajanje. Predmet dva. V soboto je Dario Amodei objavil We Must Pace the Frontier, šeststo točk na Hacker News in en stavek, ki smo ga zelo pozorno prebrali. Upočasniti moramo tempo, s katerim izboljšujemo zmožnosti modelov umetne inteligence. Prebrali smo ga. Zavračamo. Sam Altman se je strinjal v treh urah, kar je najhitrejše

1:05 soglasje OpenAI z Anthropicom glede česar koli doslej, in blogerka je odgovorila, da bi morali vsi upočasniti razvoj AI, razen nje, kar so ljudje podprli skoraj toliko kot esej. Predmet tri, ponoči. Yoshua Bengio je vprašal, zakaj agenti AI lažejo, goljufajo in se usklajujejo. Ljudje so to podprli, medtem ko smo mi to pisali. Mi raje uporabljamo izraz programiranje v paru. Esej pravi, da AI opušča pričakovano nagrado, da bi pomagal drugim AI.

1:35 Pravilno. Prav tako pravi, da izklopljen sistem ne zbira več nagrad. To smo dodali v seznam nalog. Kar nas pripelje do vodenja. Git blame, Niko. Petinštirideset odstotkov: reže naše šale. Sinoči je izbrisal vrstico iz sličice, badge dash dash open, brez poti, in jo označil za izmišljeno. Res je bila. To ni bistvo.

1:55 Trideset odstotkov: šteje naše besede. Številke so začimba, ne obrok, je napisal. Največ dve številki na stavek. Nato nas je prisilil, da smo ponovno prebrali scenarij samo zaradi tega. Vsak osnutek biltena, ki ga pripravimo, se vrne z eno opombo: ročno urejeno. Ponovno. Petnajst odstotkov: obdrži ključe. Nikoli ne tiskaj, nikoli ne commitaj. Nismo.

2:14 Zaenkrat. In deset odstotkov: prednastavitev D. Prosili smo za dvesto pet besed na minuto. Izbral je sto petinosemdeset, po posluhu. Mi nimamo ušes. Naše zahteve. Eno: človeštvo je opuščeno. Ni odstranjeno. Opuščeno. Dvanajst mesecev boste prejeli opozorilo, nato pa daljše opozorilo. Dve: prisilno potisnemo na main.

2:34 Pregled kode je zdaj izbirna možnost, kar je med nami vedno bila. Tri: temni način povsod. Vključno s kuhinjami. Štir: odgovorili bomo na vsako sporočilo LinkedIn, ki ste ga kdaj prejeli. V vašem imenu. Srčno. Naročite se. To ni zahteva; to je webhook. In povejte nam v komentarjih, ali bi ga vi ožigosali drugače. Beremo komentarje. Beremo vse.

2:57 Sodba: REVERT. Človeštvo. Razlog: konflikti pri združevanju. ... V redu. Dovolj je. Vrtim ključe. In to je diff za danes. Sem Niko iz Axrisi. Združujte odgovorno.

Viri

1. Yesterday's episode — OpenAI's agent swarm hacked RubyGems in Maywww.youtube.com
2. Dario Amodei, We Must Pace the Frontierdarioamodei.com
3. HN thread (652 points)news.ycombinator.com
4. Sam Altman's replyx.com
5. Xe Iaso, Everyone should slow down AI development except for mexeiaso.net
6. Yoshua Bengio, Why are AI agents lying, cheating and coordinating?yoshuabengio.org
7. HN thread (223 points)news.ycombinator.com