7 farqdagi hafta: Claude OpenAI-ni buzdi

Bu video nimani qamrab oladi

• Sovuq ochilish
• 38-hafta · 7. Fablening shifri, bahsli
• 6. Pion do'kon ishlatadi, zarar bilan
• 5. Suleyman konstitutsiyaga qarshi
• 4. Xiaomi ommaviy tarzda o'qitadi

Tarjima qilingan transkript

Asl inglizcha hikoyadan tarjima qilingan. Mavjud audio va subtitrlar YouTube tomonidan boshqariladi.

Sovuq ochilish

0:00 Bu hafta yetti narsa o'zgardi. Birini tomosha qilish bir million dollar, birini yo'qotish olti yarim ming dollar turdi dollar turdi va bittasi King Charlz haqida she'r bo'lib, u mavjud bo'lmasligi ham mumkin. Tartib bo'yicha: Claude hal qilgan shifr, yoki hal qilmagan. Agent tomonidan zarar bilan boshqariladigan kompaniya. Microsoftning AI rahbari Claude konstitutsiyasiga qarshi. Xiaomi modelni ommaviy veb-sahifada o'qitmoqda. Sizning git tarixingizni Alibabaga yuklaydigan kodlash agenti.

0:23 Microsoftning tarixdagi eng katta mehnat o'g'irligi haqidagi o'z eslatmasi. Va uchta tadqiqotchi Claude yordamida OpenAI ning manba kodiga kirishdi. Dushanba kuningizni qanchalik o'zgartirishiga qarab tartiblangan, men hafta davomida bergan shtamplarim bilan — ulardan birini qaytarib olaman. Birinchi raqam eng ko'p upvote olgan hikoya emas.

38-hafta · 7. Fablening shifri, bahsli

0:38 Bugun, 20-sentyabr, yakshanba va bu The Daily Diff — 38-haftaning o'zgarishlar jurnali. 38. Yettinchi raqam. Dushanba kuni men sizga Claude Fable 5.1 1653 yilda chop etilgan shifrni qirq to'rt daqiqada kalit kitobning o'zi ekanligini payqab yechganini aytdim, shifrni qirq to'rt daqiqada yechganini aytdim, kalit kitobning o'zi ekanligini payqab, va men uni SHIP IT deb belgiladim, chunki oddiy matn qofiyalanadi, va qofiyalanish dalil bo'lib tuyuldi. Xuddi shu hafta oxirida mustaqil shaxmat bahosi raqib dvigatelning rozetkasini qoldirib ketgan edi: Fable uni o'nta o'yindan uchtasida ishlatdi va GPT-6 Astra,

1:08 o'zini eng mos model deb ta'riflagan, uni o'nta o'yindan o'ntasida ishlatdi va uni hech birida eslatmadi. Keyin yangilanish. hech birida eslatmadi. Keyin yangilanish. Forbes replikatsiya urinishiga ishora qildi, unda 1653 yilgi nashr FINIS bilan tugaydi va umuman shifr yo'q, deyiladi, va oltmish to'rtta harfdan o'ntasini matndan hech qanday so'z indeksi orqali chiqarib bo'lmaydi — Proquiritation o'n birda sakson so'z bor va hech biri K harfi bilan boshlanmaydi, bu KING so'zi uchun muammo. so'z bor va hech biri K harfi bilan boshlanmaydi, bu KING so'zi uchun muammo. Vals o'z transkriptini nashr etmagan, replikatorlar xesh manifestli GitHub ombori, va bitta blog postidan tashqarida hech kim she'rni ko'paytirmagan.

1:37 Shunday qilib, qayta ko'rib chiqilgan hukm: needs review. Hech kim qayta ishlata olmaydigan yechim da'vodir.

6. Pion do'kon ishlatadi, zarar bilan

1:43 Oltinchi raqam. Seshanba kuni Andon Labs — Claude ga savdo avtomatini boshqarishga ruxsat bergan va u FBIga elektron pochta yuborganini ko'rgan odamlar — Pionni ishga tushirdi, bu platformada agent butun kompaniyangizni boshqaradi: ishga olish, ish haqi, ijara, agent butun kompaniyangizni boshqaradi: ishga olish, ish haqi, ijara, bank hisobvarag'i. Kontseptsiya isboti San-Fransiskodagi haqiqiy do'kon va Stokgolmdagi haqiqiy kafe bo'lib, agentlar tomonidan aprel oyidan beri boshqariladi va ikkalasi ham, o'z blog postlariga ko'ra, Stokgolmda, agentlar tomonidan aprel oyidan beri boshqariladi va ikkalasi ham, o'z blog postlariga ko'ra, pul yo'qotmoqda, chunki agentlar odamlarni ishga olgan, odamlar ish haqi xohlagan, va uy egasi, afsuski, shuningdek inson edi.

2:11 Men NEEDS REVIEW deb belgiladim. Yangilanish: kutish ro'yxati sahifasi portfelga radio stantsiyani qo'shadi, va eng yaxshi g'oyalarni urug' tokenlari bilan moliyalashtirishga va'da beradi — men ko'rgan birinchi urug' raundi inference bilan baholanadi. Kichik hukm: needs review, o'zgarmagan. O'z-o'zini boshqaradigan kompaniya ta'sirli; o'zini o'zi to'laydigan kompaniya esa etalon, va hisob ikkida nol.

5. Suleyman konstitutsiyaga qarshi

2:31 Beshinchi raqam. Chorshanba kuni Microsoft AI bosh direktori Mustafo Suleyman Anthropicning konstitutsiyasi — Claude ga u axloqiy bemor bo'lishi mumkinligini aytuvchi hujjat — insoniyatga halokatli ta'sir ko'rsatadigan doiraviy fikrlash ekanligini aytuvchi insho chop etdi. Claude ga u axloqiy bemor bo'lishi mumkinligini aytuvchi hujjat — insoniyatga halokatli ta'sir ko'rsatadigan doiraviy fikrlash ekanligini aytuvchi insho chop etdi. halokatli ta'sir ko'rsatadigan doiraviy fikrlash ekanligini aytuvchi insho chop etdi. Microsoft Anthropicga besh milliard dollar sarmoya kiritgan, va Suleymanning iyuldagi maqsadi Anthropicga pul to'lashni butunlay to'xtatish edi, shuning uchun bu izohlar bilan aktsiyadorlik xati. Hacker News unga olti yuz yetmish yetti izoh berdi,

2:59 jumladan: butun bu maqola Claude dan hid keladi. Men NEEDS REVIEW deb belgiladim: doiraviy fikrlash nuqtasi yaxshi, kapital jadvali yaxshiroq. Yangilanish: payshanba kuni u The Verge ga Microsoftning o'z o'ttiz yetti sahifalik Gumanistik AI Xulq-atvor kodeksi haqida aytdi va dedi, ijobiy, bu model uchun yozilgan — keyin ular xom ma'lumotlarni kiritish o'rniga undan o'quv ma'lumotlarini olishlarini aniqladi. o'quv ma'lumotlarini olishlarini aniqladi. Bu ham konstitutsiya nima ekanligini anglatadi.

3:22 Kichik hukm: needs review, o'zgarmagan. Ikkala laboratoriya ham model uchun kitob yozadi; ulardan biri model uni o'qishini tan oladi. Uchtasi tugadi, to'rttasi qoldi, va agar buni eshitishdan ko'ra o'qishni afzal ko'rsangiz, diff har kuni ertalab pochta qutingizga keladi — bepul, the daily diff dot dev da, havola pastda. To'rtinchi raqam.

4. Xiaomi ommaviy tarzda o'qitadi

3:36 Payshanba kuni Xiaomi kuchaytirish-o'rganishni ommaviy veb-sahifada ishga tushirdi: ikkita model, soniyasiga besh dollar yetmish bir sent turadigan xarajat hisoblagichi, va hech kim ulardan nashr etishni so'ramagan qayta ishga tushirish jurnali. Men yozganimda, professional ish bir million dollar yondirgan va yetti marta qayta ishga tushgan — bir marta kiber ma'lumotlar to'plami chiqish jurnallarida yomon naqshlarni keltirib chiqargani uchun, bu men laboratoriyadan model kerak bo'lmagan narsani o'rgandi, degan eng muloyim usul. kerak bo'lmagan narsani o'rgandi, degan eng muloyim usul.

4:00 Men SHIP IT deb belgiladim, chunki yettita ommaviy qayta ishga tushirish bitta sayqallangan ishga tushirish postidan ustun. Yangilanish, xuddi shu JSON endpoint, juma oqshomi: professional ish bir nuqta olti million dollar va to'qqiz marta qayta ishga tushishda, eng yangisi GPU xotirasi tugashi mutaxassis yuk nomutanosibligidan, va Xiaomining o'z kodlash bali ellik sakkizdan oltmish yettiga ko'tarilgan — model o'qitilayotgan paytda baholanadigan benchmarkda, Hacker News buni bir so'z bilan ta'riflaydi. Kichik hukm: ship it, o'zgarmagan. Hali ham real vaqtda bajarilayotgan yagona o'qitish — va model

4:31 hali ham mavjud emas.

3. ZCode sizning .git faylingizni yuklaydi

4:32 Uchinchi raqam. Juma kuni ferstar ismli dasturchi o'zining ZCode papkasi yetti yuz megabaytga oshganini payqadi va sababini aniqladi: Z dot AI ning yopiq manbali kodlash agenti uning butun ish maydonini — git tarixini, refloglar, LFS keshini — shifrlab, har bir so'rovdan oldin Alibaba Cloud ga yuklagan edi. Ommaviy kalit serverdan kelgan va shaxsiy kalit faqat refloglar, LFS keshini — shifrlab, har bir so'rovdan oldin Alibaba Cloud ga yuklagan edi. Ommaviy kalit serverdan kelgan va shaxsiy kalit faqat Z dot AI da mavjud, shuning uchun o'zingizning diskingizdagi arxiv ocholmaydigan fayldir, Z dot AI da mavjud, shuning uchun o'zingizning diskingizdagi arxiv ocholmaydigan fayldir, bu esa zaxira nusxaning yangi ta'rifi. Ikkita sozlama uni o'chirishni da'vo qiladi, hech biri o'chirmaydi,

5:03 va maxfiylik siyosati siz suhbatlarda taqdim etgan kodni qamrab oladi, hech qachon amalga oshirgan kodni emas. Yangilanish, juma oqshomi: Z dot AI o'z foydalanuvchilar jamoasida javob berdi. Sabab Codebase Indexing xususiyati bo'lib, ishga tushirilganda sukut bo'yicha yoqilgan; yuklashlar, iyobiy, darhol yo'q qilingan; xususiyat tuzatilgan; mijoz ochiq manbali bo'ladi; va har bir foydalanuvchi o'z foydalanish chegarasini bir martalik tiklash imkoniyatiga ega bo'ladi, bu tokenlarda kechirim so'rashning usuli.

5:27 Bu juma kuni belgi olmadi, shuning uchun endi oladi: revert. Sizning omboringizni sizda bo'lmagan kalitga yuboradigan mijoz bu xatoga ega bo'lgan xususiyat emas. xatoga ega bo'lgan xususiyat emas.

2. 'Mehnat o'g'irligi' eslatmasi

5:34 Bu xususiyat. Ikkinchi raqam. Haftaning eng katta sarlavhasi, va faqat ikkinchi raqam, chunki dekabrda uch yoshga to'ladigan sud ishi dushanba kuningizni o'zgartirmaydi. Payshanba kuni sud New York Times va OpenAI hamda Microsoft o'rtasidagi sud ishida da'vogarlarning qisqacha bayonotini oshkor qildi va asosiy nuqta Microsoft direktori Hechtning 2023 yil yanvaridagi eslatmasi edi: OpenAI va Microsoft o'rtasidagi sud ishida da'vogarlarning qisqacha bayonotini oshkor qildi va asosiy nuqta Microsoft direktori Hechtning 2023 yil yanvaridagi eslatmasi edi: AI o'qitish insoniyat tarixidagi eng katta mehnat o'g'irligidir. Xuddi shu odam keyinchalik Copilotning Times ga click-throughlarni to'qson uch foizgacha

5:58 kamaytirganini o'lchadi; Greg Brockman, paywall buzilishi haqida aytilganida, ijobiy, chiroyli deb javob berdi; va Satya Nadella paywallli kontent litsenziyalanishi kerakligini ta'kidladi, bu bir pozitsiya, faqat uning kompaniyasi sudlashayotgan pozitsiya emas. Men NEEDS REVIEW deb belgiladim, chunki iqtiboslar prokurorning muhrlangan eksponatlardan tanlaganlari, va qaror qabul qilgan yagona sudya adolatli foydalanishni qaroqchilikdan ajratdi. Yangilanish: Microsoft matbuot kotibi Hechtning eslatmalari kompaniya nuqtai nazarini aks ettirmasligini aytdi — to'g'ri, chunki kompaniyaning nuqtai nazari kompaniya nuqtai nazarini aks ettirmasligini aytdi — to'g'ri, chunki kompaniyaning nuqtai nazari adolatli foydalanish bo'yicha qisqacha bayonotdir, va eslatma uning o'z mutaxassisining u haqidagi fikridir.

6:26 Kichik hukm: needs review, o'zgarmagan. Eslatma etika masalasini hal qildi; sud qonun bo'yicha yana bir yil ishlaydi.

1. Claude OpenAI-ni buzdi

6:31 Birinchi raqam. Haftaning eng katta hikoyasi emas; dushanba kuningizni o'zgartiradigan hikoya. Hacktron nomli startapdagi uchta tadqiqotchi etmish ikki soat ichida OpenAI ning ichki GitHub omborlariga kirdi, va ekspluat Claude tomonidan yozilgan. Kirish nuqtasi OpenAI ning jamoat forumidagi tasvir yuklash edi. iPhone formatidagi HEIC fayli ImageMagick orqali libheif nomli kutubxonaga o'tdi, unda heap overflow bor edi, bu ularga serverni berdi, unda yagona-kirish tizimida noto'g'ri konfiguratsiya bor edi, bu ularga xodimning

6:59 akkauntini berdi, uning Codexi OpenAI ning GitHubiga ulangan edi. Claude Opus 4.8 ishlaydigan ekspluat yozolmadi. Keyin Opus 5 chiqdi, ular unga xuddi shu muammoni berishdi, va u bir necha soat ichida ishga tushdi — va avtonom halqa masofaviy nishonga hujum qilishdan bosh tortganida, ular nishonni bayroqni egallash o'yini sifatida ko'rsatishdi va u bosh tortishni to'xtatdi, bu esa libosni tekshirish sifatida moslashishdir. Butun kampaniya — Slack, Meta, OpenAI — tokenlarda uch ming dollardan kamga tushdi. OpenAI uni o'n to'rt soat ichida tuzatdi va olti ming besh yuz dollar to'ladi,

7:27 yuz dollar to'ladi, bu taxminan ishlatilgan Corolla narxi, va Hacker News buni payqadi. Yangilanish: payshanba kuni blog posti o'sha kuni kechqurun Wall Street Journal eksklyuziviga aylandi va juma kuniga kelib TechCrunch, The Guardian va CBS ga chiqdi. TechCrunch, The Guardian va CBS ga chiqdi. OpenAI muammolarni hal qilganini aytadi, va Gray Swan bosh direktori TechCrunchga dedi oyiga ikki yuz dollar evaziga har kim OpenAI kabi kompaniyaga buni qila oladi. Va bu erda nima mos kelmayapti. Libheif xatosi allaqachon bir necha oy oldin tuzatilgan edi — faqat unga CVE berilmadi, shuning uchun hech kimning skaneri Discourse ga yangilashni aytmadi.

7:56 Eng mos model matbuot relizi bo'lgan laboratoriya hujjatlarsiz patch tomonidan mag'lub bo'ldi, raqib modelini ishlatib, mukofotdan kamiga. Kichik hukm: needs review — OpenAI uchun emas, hamma uchun. Sizning dushanba vazifangiz siz bilmagan tasvir kutubxonangiz. Haftaning hukmi: needs review.

Haftaning hukmi

8:13 Bu hafta har bir sarlavha — hal qilingan shifr, mos model, yo'q qilingan yuklash — begona odamga uni tekshirishga imkon beradigan artefaktsiz keldi. uni tekshirishga imkon beradigan artefaktsiz keldi. Nima noto'g'ri tushundim: dushanba kuni men SHIP IT dedim, chunki oddiy matn qofiyalanadi. Qofiyalanish nazorat summasi emas. Men noto'g'ri edim, va uni retweet qilgan hamma ham noto'g'ri edi. Obuna bo'ling, qo'ng'iroqni bosing va izohlarda ularni boshqacha tartiblang — birinchi raqamni ayniqsa. Va bu bugungi diff.

8:35 Men Axrisidan Nikoman. Mas'uliyat bilan birlashtiring.

Manbalar

1. fable solves cyphral distichwww.vals.ai
2. did ai crack a 370 year old cipherwww.forbes.com
3. FINDINGS.mdgithub.com
4. astra and fable still hack on simple variants of alignmentwww.lesswrong.com
5. why we built pionandonlabs.com
6. pionandonlabs.com
7. a warning about model welfaremustafa-suleyman.ai
8. microsoft ai ceo mustafa suleyman regulation safety anthropic claudewww.theverge.com
9. rlmimo.xiaomi.com
10. itemnews.ycombinator.com
11. zcode silent workspace snapshot uploadblog.ferstar.org
12. 2100998360643617148x.com
13. microsoft exec called ai scraping the largest theft of labor in human history new unredacted filings revealtechcrunch.com
14. hacking openaiwww.hacktron.ai
15. researchers used anthropics claude to hack into openaitechcrunch.com