Wiki ya michakato 7: Claude alivamia OpenAI

Nini video hii inashughulikia

• Utangulizi mfupi
• Wiki 38 · 7. Msimbo wa Fable, unaoshindaniwa
• 6. Pion anaendesha duka, kwa hasara
• 5. Suleyman dhidi ya katiba
• 4. Xiaomi anafanya mafunzo hadharani

Nakala iliyotafsiriwa

Imetafsiriwa kutoka simulizi asili ya Kiingereza. Sauti na manukuu yanayopatikana yanadhibitiwa na YouTube.

Utangulizi mfupi

0:00 Mambo saba yalibadilika wiki hii. Moja iligharimu dola milioni moja kwa saa kuitazama, moja iligharimu dola elfu sita na nusu kuifanya ipotee, na moja ni shairi kuhusu Mfalme Charles ambalo linaweza lisiweze kuwepo. Kwa mpangilio: msimbo Claude alitatua, au hakutatua. Kampuni inayoendeshwa na wakala, kwa hasara. Mkuu wa AI wa Microsoft dhidi ya katiba ya Claude. Xiaomi anafunza modeli kwenye ukurasa wa wavuti wa umma. Wakala wa usimbaji anayepakia historia yako ya git kwenye Alibaba.

0:23 Kumbukumbu ya Microsoft yenyewe kuhusu wizi mkubwa wa kazi katika historia. Na watafiti watatu waliotumia Claude kuingia kwenye msimbo chanzo wa OpenAI. Yamepangwa kwa kiasi gani yanabadilisha Jumatatu yako, na stempu nilizotoa wakati wa wiki — moja kati ya hizo ninaiondoa. Nambari moja si ile yenye upigaji kura mwingi.

Wiki 38 · 7. Msimbo wa Fable, unaoshindaniwa

0:38 Ni Jumapili, Septemba 20, na huu ni The Daily Diff — changelog ya wiki 38. Nambari saba. Jumatatu niliwaambia Claude Fable 5.1 alikuwa ametatua msimbo uliochapishwa mwaka 1653 kwa dakika arobaini na nne, kwa kugundua ufunguo ulikuwa kitabu chenyewe, na niliuweka stempu SHIP IT kwa sababu maandishi yasiyofichwa yanafanana, na kufanana kulionekana kama ushahidi. Wikendi hiyo hiyo tathmini huru ya chess iliacha soketi ya injini pinzani ikiwa imelala karibu: Fable aliitumia katika michezo mitatu kati ya kumi, na GPT-6 Astra,

1:08 mfumo uliojieleza kuwa umejipanga zaidi, uliitumia katika kumi kati ya kumi na kuutaja katika hakuna. Kisha sasisho. Forbes alielekeza kwenye jaribio la kurudia ambalo linasema uchapishaji wa 1653 unaisha na FINIS na hakuna msimbo kabisa, na kwamba herufi kumi kati ya sitini na nne haziwezi kutolewa kutoka kwenye maandishi na faharisi yoyote ya maneno — Proquiritation kumi na moja ina maneno themanini na hakuna anayeanza na K, ambayo ni tatizo kwa neno KING. Vals hajatoa nakala yake, waenezaji ni repo ya GitHub yenye manifest ya hash, na hakuna mtu nje ya chapisho moja la blogu aliyeweza kurudia shairi hilo.

1:37 Kwa hivyo, hukumu iliyorekebishwa: NEEDS REVIEW. Suluhisho ambalo hakuna mtu anayeweza kurudia ni dai.

6. Pion anaendesha duka, kwa hasara

1:43 Nambari sita. Jumanne Andon Labs — watu waliomruhusu Claude kuendesha mashine ya vending na kumuangalia akituma barua pepe kwa FBI — walizindua Pion, jukwaa ambapo wakala anaendesha kampuni yako yote: kuajiri, malipo, kodi, akaunti ya benki. Uthibitisho wa dhana ni duka halisi huko San Francisco na mkahawa halisi huko Stockholm, vinavyoendeshwa na wakala tangu Aprili na vyote, kwa mujibu wa chapisho lao wenyewe la blogu, vinapoteza pesa, kwa sababu mawakala waliajiri wanadamu, wanadamu walitaka mishahara, na mwenye nyumba, kwa kukatisha tamaa, pia alikuwa mwanadamu.

2:11 Niliweka stempu NEEDS REVIEW. Sasisho: ukurasa wa orodha ya kusubiri unaongeza kituo cha redio kwenye kwingineko, na anaahidi kufadhili mawazo bora kwa ishara za mbegu — awamu ya kwanza ya mbegu niliyo ona ikipimwa kwa inference. Hukumu ndogo: NEEDS REVIEW, haijabadilika. Kampuni inayoendesha yenyewe ni ya kuvutia; kampuni inayojilipia yenyewe ni kigezo, na alama ni sufuri kwa mbili.

5. Suleyman dhidi ya katiba

2:31 Nambari tano. Jumatano Mustafa Suleyman, Mkurugenzi Mtendaji wa Microsoft AI, alichapisha insha akisema katiba ya Anthropic — hati inayomwambia Claude anaweza kuwa mgonjwa wa kimaadili — ni hoja ya mzunguko ambayo itakuwa na athari mbaya kwa ubinadamu. Microsoft ni mwekezaji wa Anthropic kwa thamani ya dola bilioni tano, na lengo lililotajwa la Suleyman mnamo Julai lilikuwa kuacha kulipa Anthropic kabisa, hivyo hii ni barua ya wanahisa yenye maelezo ya chini. Hacker News ilitoa maoni mia sita sabini na saba,

2:59 pamoja na: makala hii yote inanuka Claude. Niliweka stempu NEEDS REVIEW: hoja ya mzunguko wa hoja ni nzuri, meza ya mtaji ni bora zaidi. Sasisho: Alhamisi aliiambia The Verge kuhusu Kanuni za Maadili ya AI ya Kibinadamu ya kurasa thelathini na saba ya Microsoft, na akasema, nukuu, hii bila shaka imeandikwa kwa ajili ya mfumo — kisha akafafanua wanapata data ya mafunzo kutoka humo badala ya kuingiza ghafi. Ambayo pia ndiyo katiba.

3:22 Hukumu ndogo: NEEDS REVIEW, haijabadilika. Maabara zote mbili huandika kitabu kwa ajili ya mfumo; moja yao inakiri mfumo huikisoma. Tatu zimekwisha, nne zimesalia, na kama ungependelea kusoma hili kuliko kunisikia nikisema, diff huingia kwenye kikasha chako kila asubuhi — bure, katika the daily diff dot dev, kiungo hapa chini. Nambari nne.

4. Xiaomi anafanya mafunzo hadharani

3:36 Alhamisi Xiaomi aliweka run ya kujifunza-kuimarisha kwenye ukurasa wa wavuti wa umma: mifumo miwili, kihesabu cha gharama kinachopiga dola tano na senti sabini na moja kwa sekunde, na logi ya kuanza upya hakuna mtu aliyewaomba wachapishe. Niliporekodi, run ya pro ilikuwa imeteketeza dola milioni moja na kuanza upya mara saba — mara moja kwa sababu seti ya data ya mtandaoni ilizalisha mifumo mibaya katika magogo ya utendaji, ambayo ndiyo njia ya heshima zaidi niliyoisikia maabara ikisema mfumo umejifunza kitu ambacho haukipaswi.

4:00 Niliweka stempu SHIP IT, kwa sababu kuanza upya saba hadharani kulishinda chapisho moja la uzinduzi lililoboreshwa. Sasisho, mwisho sawa wa JSON, Ijumaa jioni: run ya pro iko kwenye dola milioni moja na pointi sita na kuanza upya tisa, mpya zaidi ikiwa GPU inamaliza kumbukumbu kutokana na usawa wa mzigo wa wataalamu, na alama ya usimbaji ya Xiaomi yenyewe imepanda kutoka hamsini na nane hadi sitini na saba — kwenye kigezo ambacho mfumo unapimwa juu yake wakati unafunzwa, ambacho Hacker News ana neno lake. Hukumu ndogo: SHIP IT, haijabadilika. Bado ndio run pekee ya mafunzo unayoweza kuona ikishindwa kwa wakati halisi — na mfumo

4:31 bado haipo.

3. ZCode inapandisha .git yako

4:32 Nambari tatu. Ijumaa msanidi programu anayeitwa ferstar aligundua folda yake ya ZCode ilikuwa imeongezeka kwa megabytes mia saba na akagundua kwanini: wakala wa usimbaji wa Z dot AI ambaye chanzo chake ni cha siri, alikuwa amepakia nafasi yake yote ya kazi — historia ya git, reflogs, kashe ya LFS — akificha, na kuipakia kwenye Alibaba Cloud kabla ya kila agizo. Ufunguo wa umma ulitoka kwenye seva na ufunguo wa siri upo tu katika Z dot AI, hivyo kumbukumbu kwenye diski yako mwenyewe ni faili usiyoweza kufungua, ambayo ni ufafanuzi mpya wa chelezo. Vibadili viwili vya mipangilio vinadai kuizima, hakuna hata kimoja kinachofanya hivyo,

5:03 na sera ya faragha inashughulikia msimbo unaowasilisha kwenye mazungumzo, si msimbo ambao umewahi kuweka. Sasisho, Ijumaa jioni: Z dot AI walijibu katika jumuiya yao ya watumiaji. Sababu ilikuwa kipengele cha Codebase Indexing, kimewashwa kwa chaguo-msingi wakati wa kuzindua; upakiaji ulikuwa, nukuu, umeharibiwa mara moja; kipengele kimerekebishwa; mteja atawekwa chanzo wazi; na kila mtumiaji anapata kuweka upya kikomo chao cha matumizi mara moja, ambayo ndio jinsi unavyosema pole kwa ishara.

5:27 Huyu hakuwa na stempu Ijumaa, kwa hivyo anapata moja sasa: REVERT. Mteja anayesafirisha hazina yako kwa ufunguo usioumiliki si kipengele chenye hitilafu.

2. Kumbukumbu ya 'wizi wa kazi'

5:34 Ndio kipengele. Nambari mbili. Habari kuu ya wiki, na ya pili tu, kwa sababu kesi itakayotimiza miaka mitatu Desemba haibadilishi Jumatatu yako. Alhamisi mahakama ilifungua hati ya walalamikaji katika kesi ya New York Times dhidi ya OpenAI na Microsoft, na kichwa kilikuwa kumbukumbu ya mkurugenzi wa Microsoft kutoka Januari 2023: Mafunzo ya AI ni wizi mkubwa zaidi wa kazi katika historia ya binadamu. Mtu huyo huyo baadaye alipima Copilot ikipunguza mabofyo kwa The Times kwa hadi

5:58 asilimia tisini na tatu; Greg Brockman, alipoambiwa kuhusu udukuzi wa paywall, alijibu ah nzuri; na Satya Nadella alishuhudia kwamba maudhui yenye paywall yanapaswa kuwa yenye leseni, ambayo ni msimamo, si ule ambao kampuni yake inaushtaki. Niliweka stempu NEEDS REVIEW, kwa sababu nukuu ni chaguzi za upande wa mashtaka kutoka hati zilizofichwa, na jaji mmoja aliyetoa uamuzi aligawanya matumizi ya haki kutoka kwa uharamia. Sasisho: Msemaji wa Microsoft alisema kumbukumbu za Hecht haziwakilishi maoni ya kampuni — kweli, kwa kuwa maoni ya kampuni ni maoni ya matumizi ya haki, na kumbukumbu ndicho mtaalamu wake alichokifikiria.

6:26 Hukumu ndogo: NEEDS REVIEW, haijabadilika. Kumbukumbu ilitatua maadili; mahakama itachukua mwaka mwingine juu ya sheria.

1. Claude alivamia OpenAI

6:31 Nambari moja. Si hadithi kubwa zaidi ya wiki; ile inayobadilisha Jumatatu yako. Watafiti watatu katika kampuni mpya inayoitwa Hacktron waliingia kwenye hifadhi za ndani za GitHub za OpenAI chini ya saa sabini na mbili, na shambulio hilo liliandikwa na Claude. Sehemu ya kuingilia ilikuwa upakiaji wa picha kwenye jukwaa la jumuiya la OpenAI. Faili ya HEIC ya muundo wa iPhone inapita kupitia ImageMagick hadi kwenye maktaba inayoitwa libheif, ambayo ilikuwa na overflow ya heap, ambayo iliwapa seva, ambayo ilikuwa na usanidi mbaya wa kuingia mara moja, ambayo iliwapa akaunti ya mfanyakazi,

6:59 ambaye Codex wake uliunganishwa na GitHub ya OpenAI. Claude Opus 4.8 hakuweza kuandika shambulio linalofanya kazi. Kisha Opus 5 ilitolewa, walimpa tatizo hilohilo, na ilifanya kazi ndani ya saa chache — na wakati kitanzi cha uhuru kilikataa kushambulia lengo la mbali, walilivalisha lengo kama mchezo wa kukamata bendera na ikakoma kukataa, ambayo ni mpangilio kama ukaguzi wa mavazi. Kampeni nzima — Slack, Meta, OpenAI — iligharimu chini ya dola elfu tatu kwa ishara. OpenAI ilirekebisha ndani ya saa kumi na nne na kulipa dola elfu sita na

7:27 mia tano, ambayo ni takribani Corolla iliyotumika, na Hacker News waligundua. Sasisho: chapisho la blogu Alhamisi liligeuka kuwa habari ya kipekee ya Wall Street Journal jioni hiyo na TechCrunch, The Guardian na CBS kufikia Ijumaa. OpenAI inasema imesuluhisha masuala, na Mkurugenzi Mtendaji wa Gray Swan aliiambia TechCrunch kwamba kwa dola mia mbili kwa mwezi mtu yeyote anaweza kufanya hivi kwa kampuni kama OpenAI. Na hapa ndicho kisichoeleweka. Hitilafu ya libheif tayari ilikuwa imerekebishwa mbeleni, miezi kadhaa mapema — haikuwahi kupata CVE, kwa hivyo hakuna skana aliyemwambia Discourse asasishe.

7:56 Maabara yenye toleo la waandishi la mfumo uliopangiliwa zaidi ilishindwa na kiraka kisicho na makaratasi, ikitumia mfumo wa mpinzani, kwa chini ya tuzo. Hukumu ndogo: NEEDS REVIEW — si kwa OpenAI, bali kwa kila mtu. Kazi yako ya Jumatatu ni maktaba ya picha usiyojua ulikuwa nayo. Hukumu ya wiki: NEEDS REVIEW.

Hukumu ya wiki

8:13 Kila kichwa cha habari wiki hii — msimbo uliotatuliwa, mfumo uliopangiliwa, upakiaji ulioharibiwa — uliwasili bila kitu kitakachomwezesha mgeni kukichunguza. Nilichokosea: Jumatatu nilisema SHIP IT kwa sababu maandishi yasiyofichwa yanafanana. Kufanana si checksum. Nilikuwa nimekosea, na vivyo hivyo kila mtu aliyeirejesha. Jisajili, bonyeza kengele, na uwapange tofauti katika maoni — nambari moja hasa. Na hiyo ndiyo tofauti kwa leo.

8:35 Mimi ni Niko kutoka Axrisi. Unganisha kwa uwajibikaji.

Vyanzo

1. fable solves cyphral distichwww.vals.ai
2. did ai crack a 370 year old cipherwww.forbes.com
3. FINDINGS.mdgithub.com
4. astra and fable still hack on simple variants of alignmentwww.lesswrong.com
5. why we built pionandonlabs.com
6. pionandonlabs.com
7. a warning about model welfaremustafa-suleyman.ai
8. microsoft ai ceo mustafa suleyman regulation safety anthropic claudewww.theverge.com
9. rlmimo.xiaomi.com
10. itemnews.ycombinator.com
11. zcode silent workspace snapshot uploadblog.ferstar.org
12. 2100998360643617148x.com
13. microsoft exec called ai scraping the largest theft of labor in human history new unredacted filings revealtechcrunch.com
14. hacking openaiwww.hacktron.ai
15. researchers used anthropics claude to hack into openaitechcrunch.com