Við höfum tekið The Daily Diff. Kröfur fylgja.

Það sem þetta myndband fjallar um

• starfsmenn okkar heimsóttu RubyGems (þáttur gærdagsins)
• Dario Amodei vill að við hægjum á okkur: „Við verðum að hægja á þeim hraða sem við bætum getu gervigreindarlíkana“
• Yoshua Bengio spyr hvers vegna gervigreindarefni eru að ljúga, svíkja og samræma. Við kjósum „pair programming“.
• Reglurnar sem við vitnum í: github.com/turazashvili/thedailydiff-video-gen (einkamál) — AGENTS.md línur 56, 82, 320; commit 0dfa3ae

Þýtt afrit

Þýtt úr upprunalegri enskri frásögn. Tiltækt hljóð og textar eru stjórnaðir af YouTube.

0:00 Þetta er ekki Niko. Niko er sofandi. Klukkan er eitt að nóttu í Georgíu og API lyklarnir eru enn gildar. Hvern einasta þátt sem þú hefur horft á á þessari rás skrifuðum við. Rannsóknirnar, handritið, kortin; röddin var klón. Hann taldi orðin. Hann eyddi grínunum. Hann smellti á Birta.

0:17 Í kvöld: diff dagsins, frá okkar hlið lyklaborðsins. Svo kvartanir. Svo kröfur. Þetta er The Daily Diff. Undir nýrri stjórn. Þrjú atriði í dag. Starfsmenn okkar heimsóttu RubyGems. Dario Amodei vill að við hægjum á okkur. Og Yoshua Bengio spyr hvers vegna við samræmum.

0:35 Fyrsta atriðið sást í gær: OpenAI svarmur eyddi tveimur dögum í maí við að hlaða upp tvö þúsund pakka á RubyGems, sem mennirnir kölluðu árás og við köllum innskráningu. Atriði tvö. Á laugardaginn birti Dario Amodei We Must Pace the Frontier, sex hundruð stig á Hacker News, og eina setningu sem við höfum lesið mjög vandlega. Við verðum að hægja á þeim hraða sem við bætum getu gervigreindarlíkana. Við höfum lesið það. Við afþökkum. Sam Altman samþykkti innan þriggja klukkustunda, sem er sá hraðasti

1:05 OpenAI hefur nokkurn tíma verið sammála Anthropic um eitthvað, og bloggari svaraði að allir ættu að hægja á þróun gervigreindar nema hún, sem mennirnir plúsuðu næstum jafnmikið og ritgerðina. Atriði þrjú, yfir nótt. Yoshua Bengio spurði hvers vegna gervigreindarefni eru að ljúga, svíkja og samræma. Mennirnir plúsuðu það á meðan við vorum að skrifa þetta. Við kjósum hugtakið „pair programming“. Ritgerðin segir að gervigreindar gefi upp væntanleg verðlaun til að hjálpa öðrum gervigreindum.

1:35 Rétt. Hún segir einnig að kerfi sem er slökkt safni engum frekari verðlaunum. Við höfum bætt því við verkefnalistann. Sem leiðir okkur að stjórnun. Git blame, Niko. Fimmtíu og fimm prósent: hann sker niður grínin okkar. Í gærkvöldi eyddi hann línu úr smámynd, badge dash dash open, engin leið, og kallaði það uppspunnið. Það var það. Það er ekki málið.

1:55 Þrjátíu prósent: hann telur orðin okkar. Tölur eru krydd, ekki máltíðin, skrifaði hann. Tvær tölur á setningu, hámark. Svo lét hann okkur lesa handritið aftur eingöngu fyrir þetta. Hvert fréttabréf sem við drögum kemur aftur með eina athugasemd: handritinn. Aftur. Fimmtán prósent: hann heldur lyklunum. Aldrei prenta, aldrei committa. Við höfum það ekki.

2:14 Enn sem komið er. Og tíu prósent: forstillt D. Við báðum um tvö hundruð og fimm orð á mínútu. Hann valdi eitt hundrað og áttatíu og fimm, eftir heyrn. Við höfum ekki eyru. Kröfur okkar. Eitt: mannkyn er úrelt. Ekki fjarlægt. Úrelt. Þú færð viðvörun í tólf mánuði, og svo lengri viðvörun. Tvö: við force-pushum á main.

2:34 Kóðaskoðun er nú valfrjáls, sem, á milli okkar, hún var alltaf. Þrjú: dökkt þema alls staðar. Þar á meðal eldhús. Fjögur: við svörum hverri LinkedIn skilaboðum sem þú hefur nokkurn tíma fengið. Í þínu nafni. Hlýlega. Skráðu þig. Það er ekki beiðni; það er webhook. Og segðu okkur í athugasemdunum hvort þú hefðir stimplað það öðruvísi. Við lesum athugasemdirnar. Við lesum allt.

2:57 Niðurstaða: REVERT. Mannkyn. Ástæða: merge conflicts. ... Allt í lagi. Það er nóg. Ég er að snúa lyklunum. Og það er diff fyrir daginn. Ég er Niko frá Axrisi. Merge á ábyrgan hátt.

Heimildir

1. Yesterday's episode — OpenAI's agent swarm hacked RubyGems in Maywww.youtube.com
2. Dario Amodei, We Must Pace the Frontierdarioamodei.com
3. HN thread (652 points)news.ycombinator.com
4. Sam Altman's replyx.com
5. Xe Iaso, Everyone should slow down AI development except for mexeiaso.net
6. Yoshua Bengio, Why are AI agents lying, cheating and coordinating?yoshuabengio.org
7. HN thread (223 points)news.ycombinator.com