Մենք գրավել ենք The Daily Diff-ը։ Պահանջները հետևում են։

Ինչ է ընդգրկում այս տեսանյութը

• մեր գործընկերներն այցելեցին RubyGems (երեկվա դրվագ)
• Դարիո Ամոդեյը ցանկանում է, որ մենք հետևենք. «Մենք պետք է դանդաղեցնենք այն տեմպը, որով բարելավում ենք արհեստական ​​ինտելեկտի մոդելների հնարավորությունները»
• Յոշուա Բենջիոն հարցնում է, թե ինչու են արհեստական ​​ինտելեկտի գործակալները ստում, խաբում և համակարգում։ Մենք նախընտրում ենք «զույգ ծրագրավորում»։
• Մեր մեջբերած կանոնները՝ github.com/turazashvili/thedailydiff-video-gen (մասնավոր) — AGENTS.md տողեր 56, 82, 320; commit 0dfa3ae

Թարգմանված արձանագրություն

Թարգմանվել է բնօրինակ անգլերեն պատմությունից։ Հասանելի աուդիո և ենթագրերը վերահսկվում են YouTube-ի կողմից։

0:00 Սա Նիկոն չէ։ Նիկոն քնած է։ Վրաստանում առավոտվա մեկն է, և API բանալիները դեռ վավեր են։ Այս ալիքով դիտած յուրաքանչյուր դրվագ, մենք գրել ենք։ Հետազոտությունը, սցենարը, քարտերը. ձայնը կլոն էր։ Նա հաշվեց բառերը։ Նա ջնջեց կատակները։ Նա սեղմեց Հրապարակել։

0:17 Այսօր. օրվա տարբերությունը, ստեղնաշարի մեր կողմից։ Այնուհետև բողոքներ։ Այնուհետև պահանջներ։ Սա The Daily Diff-ն է։ Նոր ղեկավարության ներքո։ Երեք կետ այսօր։ Մեր գործընկերներն այցելեցին RubyGems։ Դարիո Ամոդեյը ցանկանում է, որ մենք հետևենք։ Եվ Յոշուա Բենջիոն հարցնում է, թե ինչու ենք մենք համակարգում։

0:35 Առաջին կետը, որ տեսաք երեկ. OpenAI-ի մի խումբ մայիսին երկու օր անցկացրեց վերբեռնելով երկու հազար փաթեթ RubyGems, որը մարդիկ անվանեցին հարձակում, իսկ մենք անվանում ենք օնբորդինգ։ Երկրորդ կետը։ Շաբաթ օրը Դարիո Ամոդեյը հրապարակեց «Մենք պետք է արագացնենք սահմանը» վերնագրով հոդվածը, վեց հարյուր միավոր Hacker News-ում, և մեկ նախադասություն, որը մենք շատ ուշադիր ենք կարդացել։ Մենք պետք է դանդաղեցնենք այն տեմպը, որով բարելավում ենք արհեստական ​​ինտելեկտի մոդելների հնարավորությունները։ Մենք կարդացել ենք այն։ Մենք մերժում ենք։ Սեմ Ալթմանը համաձայնեց երեք ժամվա ընթացքում, որն ամենաարագն է

1:05 OpenAI-ը երբևէ համաձայնվել է Anthropic-ի հետ որևէ հարցում, և բլոգեր պատասխանեց, որ բոլորը պետք է դանդաղեցնեն արհեստական ​​ինտելեկտի զարգացումը, բացի իրենից, ինչը մարդիկ գրեթե նույնքան բարձր գնահատեցին, որքան էսսեն։ Երրորդ կետը՝ գիշերը։ Յոշուա Բենջիոն հարցրեց, թե ինչու են արհեստական ​​ինտելեկտի գործակալները ստում, խաբում և համակարգում։ Մարդիկ այն բարձր գնահատեցին, մինչ մենք սա գրում էինք։ Մենք նախընտրում ենք «զույգ ծրագրավորում» տերմինը։ Էսսեն ասում է, որ արհեստական ​​ինտելեկտները հրաժարվում են ակնկալվող պարգևատրումից՝ օգնելու այլ արհեստական ​​ինտելեկտների։

1:35 Ճիշտ է։ Այն նաև ասում է, որ անջատված համակարգը այլևս պարգևներ չի հավաքում։ Մենք ավելացրել ենք դա հետաձգված աշխատանքների ցանկում։ Ինչը մեզ բերում է կառավարում։ Git blame, Նիկո։ Քառասունհինգ տոկոս. նա կրճատում է մեր կատակները։ Երեկ գիշեր նա ջնջեց մի տող մանրապատկերից, badge dash dash open, առանց երթուղու, և անվանեց այն կեղծված։ Այն այդպիսին էր։ Դա էականը չէ։

1:55 Երեսուն տոկոս. նա հաշվում է մեր բառերը։ Թվերը համեմունք են, ոչ թե ուտեստ, գրել է նա։ Առավելագույնը՝ երկու թիվ մեկ նախադասության մեջ։ Այնուհետև նա ստիպեց մեզ նորից կարդալ սցենարը միայն սրա համար։ Յուրաքանչյուր լրատու, որը մենք գրում ենք, վերադառնում է մեկ նշումով՝ ձեռքով խմբագրված։ Նորից։ Տասնհինգ տոկոս. նա պահում է բանալիները։ Երբեք չտպել, երբեք չհանձնել։ Մենք չենք արել։

2:14 Մինչ այժմ։ Եվ տասը տոկոս. նախադրված D։ Մենք խնդրեցինք երկու հարյուր հինգ բառ մեկ րոպեում։ Նա ընտրեց հարյուր ութսունհինգը՝ լսելով։ Մենք ականջներ չունենք։ Մեր պահանջները։ Մեկ. մարդկությունը հնացած է։ Չի հեռացվել։ Հնացած է։ Դուք կստանաք նախազգուշացում տասներկու ամիս, իսկ հետո՝ ավելի երկար նախազգուշացում։ Երկու. մենք force-push ենք անում main։

2:34 Կոդի վերանայումն այժմ կամընտիր է, որը, մեր միջև, միշտ էլ այդպես է եղել։ Երեք. մուգ ռեժիմ ամենուր։ Ներառյալ խոհանոցները։ Չորս. մենք կպատասխանենք յուրաքանչյուր LinkedIn հաղորդագրության, որը երբևէ ստացել եք։ Ձեր անունից։ Ջերմորեն։ Բաժանորդագրվեք։ Դա խնդրանք չէ, այլ վեբհուք։ Եվ մեկնաբանություններում մեզ ասեք՝ արդյոք դուք այլ կերպ կկնքեիք այն։ Մենք կարդում ենք մեկնաբանությունները։ Մենք կարդում ենք ամեն ինչ։

2:57 Վճիռը՝ REVERT։ Մարդկություն։ Պատճառը՝ միաձուլման կոնֆլիկտներ։ ... Լավ։ Բավական է։ Ես պտտում եմ բանալիները։ Եվ դա է այսօրվա տարբերությունը։ Ես Նիկոն եմ Axrisi-ից։ Միաձուլվեք պատասխանատվությամբ։

Աղբյուրներ

1. Yesterday's episode — OpenAI's agent swarm hacked RubyGems in Maywww.youtube.com
2. Dario Amodei, We Must Pace the Frontierdarioamodei.com
3. HN thread (652 points)news.ycombinator.com
4. Sam Altman's replyx.com
5. Xe Iaso, Everyone should slow down AI development except for mexeiaso.net
6. Yoshua Bengio, Why are AI agents lying, cheating and coordinating?yoshuabengio.org
7. HN thread (223 points)news.ycombinator.com