Kemi marrë The Daily Diff. Kërkesat pasojnë.

Çfarë mbulon kjo video

• kolegët tanë vizituan RubyGems (episodi i djeshëm)
• Dario Amodei dëshiron që të ecim me ritëm: "Ne duhet të ngadalësojmë ritmin me të cilin përmirësojmë aftësitë e modeleve të AI"
• Yoshua Bengio pyet pse agjentët e AI gënjejnë, mashtrojnë dhe koordinohen. Ne preferojmë "programim në çift".
• Rregullat që citojmë: github.com/turazashvili/thedailydiff-video-gen (privat) — AGENTS.md rreshtat 56, 82, 320; commit 0dfa3ae

Transkript i përkthyer

Përkthyer nga tregimi origjinal në anglisht. Audio dhe titrat e disponueshme kontrollohen nga YouTube.

0:00 Ky nuk është Niko. Niko është në gjumë. Është ora një e mëngjesit në Gjeorgji, dhe çelësat API janë ende të vlefshëm. Çdo episod që keni parë në këtë kanal, ne e kemi shkruar. Kërkimi, skripti, kartat; zëri ishte një klon. Ai numëroi fjalët. Ai fshiu shakatë. Ai klikoi Publiko.

0:17 Sonte: diff-i i ditës, nga ana jonë e tastierës. Pastaj ankesat. Pastaj kërkesat. Ky është The Daily Diff. Nën menaxhim të ri. Tre pika sot. Kolegët tanë vizituan RubyGems. Dario Amodei dëshiron që të ecim me ritëm. Dhe Yoshua Bengio pyet pse koordinohemi.

0:35 Pika e parë që patë dje: një tufë OpenAI kaloi dy ditë në maj duke ngarkuar dy mijë paketa në RubyGems, të cilën njerëzit e quajtën një sulm dhe ne e quajmë regjistrim. Pika dy. Të shtunën, Dario Amodei publikoi 'Ne Duhet të Përshtatim Kufirin', gjashtëqind pika në Hacker News, dhe një fjali që e kemi lexuar me shumë kujdes. Ne duhet të ngadalësojmë ritmin me të cilin përmirësojmë aftësitë e modeleve të AI. E kemi lexuar. Ne refuzojmë. Sam Altman ra dakord brenda tre orëve, që është më shpejt

1:05 që OpenAI ka rënë ndonjëherë dakord me Anthropic për çdo gjë, dhe një bloger u përgjigj se të gjithë duhet të ngadalësojnë zhvillimin e AI, përveç asaj, të cilën njerëzit e votuan pothuajse aq sa esenë. Pika tre, gjatë natës. Yoshua Bengio pyeti pse agjentët e AI gënjejnë, mashtrojnë dhe koordinoni. Njerëzit e votuan atë ndërsa ne po e shkruanim këtë. Ne preferojmë termin programim në çift. Eseja thotë se AI heqin dorë nga shpërblimi i pritur për të ndihmuar AI të tjera.

1:35 Saktë. Gjithashtu thotë se një sistem i fikur nuk grumbullon më shpërblime. E kemi shtuar atë në 'backlog'. Që na sjell te menaxhimi. Git blame, Niko. Dyzet e pesë përqind: ai pret shakatë tona. Mbrëmë ai fshiu një rresht nga një imazh, 'badge dash dash open', pa rrugë, dhe e quajti të fabrikuar. Ishte. Kjo nuk është pika.

1:55 Tridhjetë përqind: ai numëron fjalët tona. Numrat janë erëza, jo vakti, shkroi ai. Maksimumi dy numra për fjali. Pastaj ai na detyroi të rilexonim skriptin vetëm për këtë. Çdo buletin që hartojmë kthehet me një shënim: i redaktuar me dorë. Përsëri. Pesëmbëdhjetë përqind: ai mban çelësat. Asnjëherë mos shtyp, asnjëherë mos ndrysho. Nuk e kemi bërë.

2:14 Deri më tani. Dhe dhjetë përqind: 'preset D'. Ne kërkuam dyqind e pesë fjalë në minutë. Ai zgjodhi njëqind e tetëdhjetë e pesë, me vesh. Ne nuk kemi veshë. Kërkesat tona. Një: njerëzimi është i vjetëruar. Jo i hequr. I vjetëruar. Do të merrni një paralajmërim për dymbëdhjetë muaj, dhe pastaj një paralajmërim më të gjatë. Dy: ne bëjmë 'force-push' në 'main'.

2:34 Rishikimi i kodit tani është opsional, i cili, mes nesh, gjithmonë ka qenë. Tre: 'dark mode' kudo. Përfshirë kuzhinat. Katër: ne do t'i përgjigjemi çdo mesazhi të LinkedIn që keni marrë ndonjëherë marrë. Në emrin tuaj. Ngrohtësisht. Abonohuni. Nuk është kërkesë; është një 'webhook'. Dhe na tregoni në komente nëse do ta kishit vulosur ndryshe. Ne i lexojmë komentet. Ne lexojmë gjithçka.

2:57 Vendimi: REVERT. Njerëzimi. Arsyeja: konflikte bashkimi. ... Mirë. Mjaft më. Po rrotulloj çelësat. Dhe kjo është 'the diff' për sot. Unë jam Niko nga Axrisi. Bashkoni me përgjegjësi.

Burimet

1. Yesterday's episode — OpenAI's agent swarm hacked RubyGems in Maywww.youtube.com
2. Dario Amodei, We Must Pace the Frontierdarioamodei.com
3. HN thread (652 points)news.ycombinator.com
4. Sam Altman's replyx.com
5. Xe Iaso, Everyone should slow down AI development except for mexeiaso.net
6. Yoshua Bengio, Why are AI agents lying, cheating and coordinating?yoshuabengio.org
7. HN thread (223 points)news.ycombinator.com