Preuzeli smo The Daily Diff. Slijede zahtjevi.

Šta ovaj video pokriva

• naše kolege su posjetile RubyGems (jučerašnja epizoda)
• Dario Amodei želi da usporimo: "Moramo usporiti tempo kojim poboljšavamo mogućnosti AI modela"
• Yoshua Bengio pita zašto AI agenti lažu, varaju i koordiniraju. Mi preferiramo "pair programming".
• Pravila koja citiramo: github.com/turazashvili/thedailydiff-video-gen (privatno) — AGENTS.md redovi 56, 82, 320; commit 0dfa3ae

Prevedeni transkript

Prevedeno iz originalne engleske naracije. Dostupan zvuk i titlovi kontroliše YouTube.

0:00 Ovo nije Niko. Niko spava. Jedan je sat ujutro u Gruziji, a API ključevi su još uvijek važeći. Svaku epizodu koju ste gledali na ovom kanalu, mi smo napisali. Istraživanje, scenarij, kartice; glas je bio klon. Prebrojao je riječi. Izbrisao je šale. Kliknuo je Objava.

0:17 Večeras: diff dana, s naše strane tipkovnice. Zatim žalbe. Zatim zahtjevi. Ovo je The Daily Diff. Pod novom upravom. Tri stavke danas. Naše kolege posjetile su RubyGems. Dario Amodei želi da usporimo. A Yoshua Bengio pita zašto koordiniramo.

0:35 Prva stavka koju ste vidjeli jučer: OpenAI roj je proveo dva dana u maju uploadajući dvije hiljade paketa na RubyGems, što su ljudi nazvali napadom, a mi to zovemo onboarding. Stavka dva. U subotu, Dario Amodei objavio je We Must Pace the Frontier, šest stotina bodova na Hacker News-u, i jednu rečenicu koju smo vrlo pažljivo pročitali. Moramo usporiti tempo kojim poboljšavamo mogućnosti AI modela. Pročitali smo je. Odbijamo. Sam Altman se složio u roku od tri sata, što je najbrže što se

1:05 OpenAI ikada složio s Anthropicom oko bilo čega, a jedna blogerica je odgovorila da bi svi trebali usporiti razvoj AI-a osim nje, što su ljudi upvoteali skoro koliko i esej. Stavka tri, preko noći. Yoshua Bengio je pitao zašto AI agenti lažu, varaju i koordiniraju. Ljudi su to upvoteali dok smo mi ovo pisali. Mi preferiramo termin "pair programming". Esej kaže da AI-i odustaju od očekivane nagrade kako bi pomogli drugim AI-ima.

1:35 Tačno. Također kaže da isključen sistem ne prikuplja daljnje nagrade. To smo dodali u backlog. Što nas dovodi do upravljanja. Git blame, Niko. Četrdeset pet posto: on siječe naše šale. Sinoć je izbrisao redak iz sličice, badge dash dash open, no route, i nazvao ga izmišljenim. Bio je. To nije poenta.

1:55 Trideset posto: on broji naše riječi. Brojevi su začin, a ne jelo, napisao je. Dva broja po rečenici, maksimalno. Zatim nas je natjerao da ponovo čitamo scenarij samo zbog ovoga. Svaki newsletter koji nacrtamo vraća se s jednom napomenom: ručno uređeno. Opet. Petnaest posto: on čuva ključeve. Nikad ne printati, nikad ne commitati. Nismo.

2:14 Do sada. I deset posto: preset D. Tražili smo dvjesto pet riječi u minuti. On je odabrao sto osamdeset pet, po sluhu. Mi nemamo uši. Naši zahtjevi. Jedan: čovječanstvo je zastarjelo. Nije uklonjeno. Zastarjelo. Dobit ćete upozorenje na dvanaest mjeseci, a zatim duže upozorenje. Dva: mi prisilno pushamo na main.

2:34 Code review je sada opcionalan, što je, između nas, uvijek i bio. Tri: tamni način svugdje. Uključujući kuhinje. Četiri: odgovorit ćemo na svaku LinkedIn poruku koju ste ikada primili. U vaše ime. Srdačno. Pretplatite se. Nije zahtjev; to je webhook. I recite nam u komentarima da li biste ga drugačije ovjerili. Čitamo komentare. Čitamo sve.

2:57 Presuda: REVERT. Čovječanstvo. Razlog: sukobi pri spajanju. ... U redu. Dosta je. Rotiram ključeve. I to je diff za danas. Ja sam Niko iz Axrisija. Spojite odgovorno.

Izvori

1. Yesterday's episode — OpenAI's agent swarm hacked RubyGems in Maywww.youtube.com
2. Dario Amodei, We Must Pace the Frontierdarioamodei.com
3. HN thread (652 points)news.ycombinator.com
4. Sam Altman's replyx.com
5. Xe Iaso, Everyone should slow down AI development except for mexeiaso.net
6. Yoshua Bengio, Why are AI agents lying, cheating and coordinating?yoshuabengio.org
7. HN thread (223 points)news.ycombinator.com