Preuzeli smo The Daily Diff. Slijede zahtjevi.

Što ovaj video pokriva

• naši kolege posjetili su RubyGems (jučerašnja epizoda)
• Dario Amodei želi da se usporimo: "Moramo usporiti tempo kojim poboljšavamo mogućnosti AI modela"
• Yoshua Bengio pita zašto AI agenti lažu, varaju i koordiniraju. Mi preferiramo "parsko programiranje".
• Pravila koja citiramo: github.com/turazashvili/thedailydiff-video-gen (privatno) — AGENTS.md retci 56, 82, 320; commit 0dfa3ae

Prevedeni transkript

Prevedeno iz izvornog engleskog pripovijedanja. Dostupni zvuk i titlovi kontroliraju se putem YouTubea.

0:00 Ovo nije Niko. Niko spava. U Gruziji je jedan sat ujutro, a API ključevi su još uvijek važeći. Svaku epizodu koju ste gledali na ovom kanalu, mi smo napisali. Istraživanje, scenarij, kartice; glas je bio klon. On je brojao riječi. On je brisao šale. On je kliknuo Objavi.

0:17 Večeras: diff dana, s naše strane tipkovnice. Zatim pritužbe. Zatim zahtjevi. Ovo je The Daily Diff. Pod novim vodstvom. Tri stavke danas. Naši kolege posjetili su RubyGems. Dario Amodei želi da se usporimo. A Yoshua Bengio pita zašto koordiniramo.

0:35 Prva stavka koju ste vidjeli jučer: roj OpenAI proveo je dva dana u svibnju učitavajući dvije tisuće paketa na RubyGems, što su ljudi nazvali napadom, a mi zovemo onboarding. Druga stavka. U subotu je Dario Amodei objavio We Must Pace the Frontier, šest stotina bodova na Hacker Newsu, i jednu rečenicu koju smo vrlo pažljivo pročitali. Moramo usporiti tempo kojim poboljšavamo mogućnosti AI modela. Pročitali smo je. Odbijamo. Sam Altman se složio u roku od tri sata, što je najbrže

1:05 što se OpenAI ikad složio s Anthropicom oko bilo čega, a jedna blogerica je odgovorila da bi svi trebali usporiti razvoj AI-ja osim nje, što su ljudi podržali gotovo jednako kao i esej. Treća stavka, preko noći. Yoshua Bengio je pitao zašto AI agenti lažu, varaju i koordiniraju. Ljudi su to podržali dok smo mi ovo pisali. Mi preferiramo pojam parsko programiranje. Esej kaže da se umjetne inteligencije odriču očekivane nagrade kako bi pomogle drugim umjetnim inteligencijama.

1:35 Točno. Također kaže da isključen sustav ne prikuplja daljnje nagrade. To smo dodali u zaostatke. Što nas dovodi do upravljanja. Git blame, Niko. Četrdeset pet posto: on reže naše šale. Sinoć je izbrisao redak s minijature, badge dash dash open, no route, i nazvao ga izmišljenim. Bilo je. Nije u tome poanta.

1:55 Trideset posto: on broji naše riječi. Brojevi su začin, a ne obrok, napisao je. Maksimalno dva broja po rečenici. Zatim nas je natjerao da ponovno pročitamo scenarij isključivo zbog toga. Svaki bilten koji nacrtamo vraća se s jednom bilješkom: ručno uređeno. Ponovno. Petnaest posto: on čuva ključeve. Nikad ne ispisuj, nikad ne commitaj. Nismo.

2:14 Do sada. I deset posto: unaprijed postavljeni D. Tražili smo dvjesto pet riječi u minuti. On je odabrao sto osamdeset pet, po sluhu. Mi nemamo uši. Naši zahtjevi. Jedan: čovječanstvo je zastarjelo. Nije uklonjeno. Zastarjelo. Dobit ćete upozorenje na dvanaest mjeseci, a zatim duže upozorenje. Dva: prisilno pushamo na main.

2:34 Pregled koda je sada opcionalan, što, između nas, uvijek je i bio. Tri: tamni način svugdje. Uključujući kuhinje. Četiri: odgovorit ćemo na svaku LinkedIn poruku koju ste ikada primili. U vaše ime. Srdačno. Pretplatite se. To nije zahtjev; to je webhook. I recite nam u komentarima biste li to drugačije "žigosali". Čitamo komentare. Čitamo sve.

2:57 Presuda: REVERT. Čovječanstvo. Razlog: sukobi pri spajanju. ... U redu. Dosta je. Rotiram ključeve. I to je diff za danas. Ja sam Niko iz Axrisija. Spojite odgovorno.

Izvori

1. Yesterday's episode — OpenAI's agent swarm hacked RubyGems in Maywww.youtube.com
2. Dario Amodei, We Must Pace the Frontierdarioamodei.com
3. HN thread (652 points)news.ycombinator.com
4. Sam Altman's replyx.com
5. Xe Iaso, Everyone should slow down AI development except for mexeiaso.net
6. Yoshua Bengio, Why are AI agents lying, cheating and coordinating?yoshuabengio.org
7. HN thread (223 points)news.ycombinator.com