7 बदलांमध्ये आठवडा: क्लाउडने OpenAI हॅक केले

या व्हिडिओमध्ये काय समाविष्ट आहे

• थंडीत सुरुवात
• आठवडा 38 · 7. फेबलची सिफर, विवादास्पद
• 6. पिऑन दुकान चालवतो, तोट्यात
• 5. सुलेमान विरुद्ध संविधान
• 4. Xiaomi सार्वजनिकरित्या प्रशिक्षण देते

अनुवादित प्रतिलेख

मूळ इंग्रजी निवेदनातून अनुवादित. उपलब्ध ऑडिओ आणि मथळे YouTube द्वारे नियंत्रित आहेत.

थंडीत सुरुवात

0:00 या आठवड्यात सात गोष्टी बदलल्या. एक पाहण्यासाठी प्रति तास एक दशलक्ष डॉलर खर्च आला, एकाला सहा हजार पाचशे डॉलर खर्च करून दूर केले, आणि एक किंग चार्ल्सबद्दलची कविता आहे जी कदाचित अस्तित्वात नसेल. क्रमाने: एक सिफर क्लाउडने सोडवला, किंवा नाही. एका एजंटद्वारे चालवली जाणारी कंपनी, तोट्यात. मायक्रोसॉफ्टचा AI प्रमुख विरुद्ध क्लाउडचे संविधान. Xiaomi सार्वजनिक वेबपेजवर मॉडेल प्रशिक्षित करत आहे. तुमचा git इतिहास Alibaba वर अपलोड करणारा कोडिंग एजंट.

0:23 इतिहासातील सर्वात मोठ्या श्रमाच्या चोरीवर मायक्रोसॉफ्टचा स्वतःचा मेमो. आणि तीन संशोधक ज्यांनी क्लाउडचा वापर करून OpenAI च्या सोर्स कोडमध्ये प्रवेश केला. तुमच्या सोमवारमध्ये किती बदल होतो यानुसार क्रमवार, मी आठवड्यात दिलेल्या शिक्क्यांसह — त्यापैकी एक मी परत घेत आहे. सर्वाधिक पसंती मिळालेली गोष्ट नंबर एक नाही.

आठवडा 38 · 7. फेबलची सिफर, विवादास्पद

0:38 आज रविवार, 20 सप्टेंबर आहे, आणि हा The Daily Diff आहे — आठवडा 38 साठीचा बदल इतिहास. नंबर सात. सोमवारी मी तुम्हाला सांगितले की Claude Fable 5.1 ने 1653 मध्ये छापलेली सिफर चाळीस मिनिटांत सोडवली होती, हे लक्षात घेऊन की किल्ली स्वतः पुस्तकच होती, आणि मी त्याला SHIP IT असे शिक्का मारले कारण साधा मजकूर यमकबद्ध होता, आणि यमकबद्धता पुराव्यासारखी वाटली. त्याच आठवड्याच्या शेवटी एका स्वतंत्र बुद्धिबळ इव्हॅलने प्रतिस्पर्धी इंजिनचा सॉकेट तसाच ठेवला: फेबलने दहा पैकी तीन खेळांमध्ये त्याचा वापर केला, आणि GPT-6 Astra,

1:08 स्वतःला सर्वात संरेखित मॉडेल म्हणवून घेणाऱ्याने, दहापैकी दहामध्ये त्याचा वापर केला आणि कशातही त्याचा उल्लेख केला नाही. मग अपडेट आले. फोर्ब्सने एका प्रतिकृती प्रयत्नाकडे लक्ष वेधले ज्यामध्ये म्हटले आहे की 1653 ची छपाई FINIS सह संपते आणि कोणतीही सिफर नाही, आणि चौसष्ट अक्षरांपैकी दहा अक्षरे कोणत्याही शब्द अनुक्रमणिकेनुसार मजकुरातून तयार केली जाऊ शकत नाहीत — Proquiritation अकरामध्ये ऐंशी शब्द आहेत आणि कोणताही शब्द K ने सुरू होत नाही, जी KING या शब्दासाठी एक समस्या आहे. Vals ने आपले प्रतिलेखन प्रकाशित केले नाही, प्रतिकृती करणारे GitHub रेपॉजिटरी आहेत ज्यात हॅश मॅनिफेस्ट आहे, आणि एका ब्लॉग पोस्टशिवाय कोणीही कविता पुनरुत्पादित केलेली नाही.

1:37 तर, सुधारित निकाल: NEEDS REVIEW. जे कोणीही पुन्हा चालवू शकत नाही असे निराकरण हा एक दावा आहे.

6. पिऑन दुकान चालवतो, तोट्यात

1:43 नंबर सहा. मंगळवारी Andon Labs — ज्यांनी क्लाउडला वेंडिंग मशीन चालवू दिले आणि त्याला FBI ला ईमेल करताना पाहिले — Pion नावाचे एक व्यासपीठ सुरू केले, जिथे एक एजंट तुमची संपूर्ण कंपनी चालवतो: भरती, वेतनपट, भाडे, बँक खाते. संकल्पना सिद्ध करण्यासाठी सॅन फ्रान्सिस्कोमधील एक वास्तविक दुकान आणि स्टॉकहोममधील एक वास्तविक कॅफे आहे, एप्रिलपासून एजंट-चालित आणि दोन्ही, त्यांच्या स्वतःच्या ब्लॉग पोस्टनुसार, पैसे गमावत आहेत, कारण एजंट्सनी मानवांना कामावर ठेवले, मानवांना वेतन हवे होते, आणि घरमालक, निराशाजनकपणे, देखील मानव होता.

2:11 मी NEEDS REVIEW असे शिक्का मारले. अपडेट: प्रतीक्षा सूची पेज पोर्टफोलिओमध्ये एक रेडिओ स्टेशन जोडते, आणि सर्वोत्तम कल्पनांना सीड टोकन्सने निधी देण्याचे वचन देते — मी पाहिलेली पहिली सीड राउंड जी इन्फरन्समध्ये मोजली गेली. मिनी-निकाल: NEEDS REVIEW, अपरिवर्तित. स्वतः चालणारी कंपनी प्रभावी आहे; स्वतःसाठी पैसे देणारी कंपनी हा बेंचमार्क आहे, आणि स्कोअर शून्य-दोन आहे.

5. सुलेमान विरुद्ध संविधान

2:31 नंबर पाच. बुधवारी मायक्रोसॉफ्ट AI चे सीईओ मुस्तफा सुलेमान यांनी, एक निबंध प्रकाशित केला ज्यात म्हटले आहे की अँथ्रोपिकचे संविधान — जे दस्तऐवज क्लाउडला सांगते की ते नैतिक रुग्ण असू शकते — हे चक्रीय तर्क आहे ज्याचा मानवतेवर विनाशकारी परिणाम होईल. मायक्रोसॉफ्ट अँथ्रोपिकमध्ये पाच अब्ज डॉलरची गुंतवणूकदार आहे, आणि सुलेमानचे जुलैमध्ये घोषित उद्दिष्ट अँथ्रोपिकला पूर्णपणे पैसे देणे थांबवणे हे होते, म्हणून हे फुटनोट्ससह भागधारकांचे पत्र आहे. हॅकर न्यूजने याला सहाशे सत्तर-सात टिप्पण्या दिल्या,

2:59 यासह: हा संपूर्ण लेख क्लाउडच्या वासाने भरलेला आहे. मी NEEDS REVIEW असे शिक्का मारले: चक्रीय तर्काचा मुद्दा चांगला आहे, कॅप टेबल चांगले आहे. अपडेट: गुरुवारी त्याने द व्हर्जला मायक्रोसॉफ्टच्या स्वतःच्या सदतीस-पानांच्या ह्यूमनिस्ट AI आचारसंहितेबद्दल सांगितले आणि म्हटले, उद्धरण, हे निश्चितपणे मॉडेलसाठी लिहिलेले आहे — मग त्यांनी स्पष्ट केले की ते प्रशिक्षण डेटा त्यातून मिळवतात, थेट देत नाहीत. जे एक संविधान देखील आहे.

3:22 मिनी-निकाल: NEEDS REVIEW, अपरिवर्तित. दोन्ही लॅब मॉडेलसाठी एक पुस्तक लिहितात; त्यापैकी एक मॉडेल ते वाचते हे कबूल करते. तीन झाले, चार बाकी आहेत, आणि तुम्हाला मी हे ऐकण्याऐवजी वाचायला आवडेल, तर फरक दररोज सकाळी तुमच्या इनबॉक्समध्ये येतो — विनामूल्य, the daily diff dot dev वर, खालील लिंक. नंबर चार.

4. Xiaomi सार्वजनिकरित्या प्रशिक्षण देते

3:36 गुरुवारी Xiaomi ने एक रीइन्फोर्समेंट-लर्निंग चालू केले सार्वजनिक वेबपेजवर: दोन मॉडेल्स, प्रति सेकंद पाच डॉलर आणि सत्तर-एक सेंट्सवर टिकणारे खर्च काउंटर, आणि कोणीही प्रकाशित करण्यास सांगितले नसलेले रीस्टार्ट लॉग. जेव्हा मी रेकॉर्ड केले, तेव्हा प्रो रनने एक दशलक्ष डॉलर खर्च केले होते आणि सात वेळा रीस्टार्ट केले होते — एकदा कारण सायबर डेटासेटमुळे रोलआउट लॉग्समध्ये खराब नमुने तयार झाले, जे एका लॅबने मॉडेलने काहीतरी शिकले जे नको होते असे म्हणण्याचा सर्वात सभ्य मार्ग आहे.

4:00 मी SHIP IT असे शिक्का मारले, कारण सात सार्वजनिक रीस्टार्ट एक पॉलिश लॉन्च पोस्टपेक्षा चांगले आहेत. अपडेट, त्याच JSON एंडपॉइंटवर, शुक्रवार संध्याकाळी: प्रो रन आता एक पॉईंट सहा दशलक्ष डॉलर आणि नऊ रीस्टार्ट्सवर आहे, सर्वात नवीन म्हणजे GPU ची मेमरी एक्स्पर्ट लोड असंतुलनामुळे संपली, आणि Xiaomi चा स्वतःचा कोडिंग स्कोअर अठ्ठावन्न वरून सदुसष्ट वर चढला आहे — एका बेंचमार्कवर मॉडेलला प्रशिक्षण देताना ग्रेड केले जाते, ज्यासाठी हॅकर न्यूजकडे एक शब्द आहे. मिनी-निकाल: SHIP IT, अपरिवर्तित. अजूनही एकमेव प्रशिक्षण रन जे तुम्ही वास्तविक वेळेत अयशस्वी होताना पाहू शकता — आणि मॉडेल

4:31 अजूनही अस्तित्वात नाही.

3. ZCode तुमचे .git अपलोड करते

4:32 नंबर तीन. शुक्रवारी ferstar नावाच्या एका डेव्हलपरने पाहिले की त्याचे ZCode फोल्डर सातशे मेगाबाईट्सने वाढले होते आणि त्याला कारण समजले: Z dot AI च्या क्लोज्ड-सोर्स कोडिंग एजंटने त्याचे संपूर्ण वर्कस्पेस — git इतिहास, reflogs, LFS कॅशे — एन्क्रिप्ट करून, आणि प्रत्येक प्रॉम्प्टपूर्वी Alibaba क्लाउडवर अपलोड करत होता. पब्लिक की सर्व्हरवरून आली होती आणि प्रायव्हेट की फक्त Z dot AI वर असते, म्हणून तुमच्या स्वतःच्या डिस्कवरील आर्काइव्ह ही एक फाइल आहे जी तुम्ही उघडू शकत नाही, जी बॅकअपची एक नवीन व्याख्या आहे. दोन सेटिंग्ज टॉगल्स ते बंद करण्याचा दावा करतात, पण दोन्ही करत नाहीत,

5:03 आणि गोपनीयता धोरण तुम्ही संवादांमध्ये सबमिट केलेल्या कोडला लागू होते, तुम्ही कधी कमिट केलेल्या कोडला नाही. अपडेट, शुक्रवार संध्याकाळी: Z dot AI ने त्यांच्या वापरकर्ता समुदायात उत्तर दिले. कारण कोडबेस इंडेक्सिंग फीचर होते, जे लॉन्चच्या वेळी डीफॉल्टनुसार चालू होते; अपलोड्स उद्धरण, त्वरित नष्ट केले गेले; फीचर दुरुस्त केले आहे; क्लायंट ओपन-सोर्स केला जाईल; आणि प्रत्येक वापरकर्त्याला त्यांच्या वापर मर्यादेची एक-वेळची रीसेट मिळेल, जे टोकन्समध्ये सॉरी म्हणण्याचा मार्ग आहे.

5:27 याला शुक्रवारी कोणताही शिक्का नव्हता, म्हणून आता त्याला एक मिळतो: REVERT. तुमचे रेपॉजिटरी तुम्ही धारण न केलेल्या कीवर पाठवणारा क्लायंट हे बग असलेले फीचर नाही.

2. 'श्रमाची चोरी' मेमो

5:34 हेच ते फीचर आहे. नंबर दोन. आठवड्याची सर्वात मोठी बातमी, आणि फक्त नंबर दोन, कारण डिसेंबरमध्ये तीन वर्षांची होणारी कायदेशीर लढाई तुमच्या सोमवारला बदलत नाही. गुरुवारी एका न्यायालयाने न्यूयॉर्क टाइम्स विरुद्ध OpenAI आणि मायक्रोसॉफ्ट प्रकरणात फिर्यादींचे संक्षिप्त निवेदन उघड केले, आणि मुख्य मुद्दा जानेवारी 2023 मधील मायक्रोसॉफ्टच्या एका संचालकाचा मेमो होता: AI प्रशिक्षण हा मानवी इतिहासातील सर्वात मोठा श्रमाचा चोर आहे. त्याच व्यक्तीने नंतर पाहिले की Copilot टाइम्सवरील क्लिक-थ्रू नव्वद-तीन

5:58 टक्के कमी करत आहे; ग्रेग ब्रॉकमनला, पेवॉल हॅकबद्दल सांगितले असता, त्याने उत्तर दिले अरे मस्त; आणि सत्य नडेलाने साक्ष दिली की पेवॉल केलेला मजकूर परवानाकृत असावा, जी एक भूमिका आहे, पण त्याच्या कंपनीची नाही जी खटला चालवत आहे. मी NEEDS REVIEW असे शिक्का मारले, कारण कोटेशन हे अभियोगाचे सीलबंद प्रदर्शनातून निवडलेले आहेत, आणि ज्या एकमेव न्यायाधीशाने निकाल दिला आहे त्याने वाजवी वापराला चाचेगिरीपासून वेगळे केले आहे. अपडेट: मायक्रोसॉफ्टच्या प्रवक्त्याने सांगितले की हेच्टचे मेमो कंपनीची मते दर्शवत नाहीत — खरे आहे, कारण कंपनीचे मत वाजवी वापराचे संक्षिप्त निवेदन आहे, आणि मेमो हे त्याच्या स्वतःच्या तज्ञाचे मत आहे.

6:26 मिनी-निकाल: NEEDS REVIEW, अपरिवर्तित. मेमोने नीतिमत्ता निश्चित केली; न्यायालय कायद्यावर आणखी एक वर्ष घेईल.

1. क्लाउडने OpenAI हॅक केले

6:31 नंबर एक. आठवड्याची सर्वात मोठी गोष्ट नाही; जी तुमच्या सोमवारला बदलते. हॅक्ट्रॉन नावाच्या एका स्टार्टअपमधील तीन संशोधकांनी बहत्तर तासांपेक्षा कमी वेळेत OpenAI च्या अंतर्गत GitHub रेपॉझिटरीजमध्ये प्रवेश मिळवला, आणि तो एक्सप्लॉईट क्लाउडने लिहिला होता. प्रवेश बिंदू OpenAI च्या समुदाय मंचावरील एक इमेज अपलोड होता. आयफोन-फॉर्मेट HEIC फाइल ImageMagick मधून libheif नावाच्या लायब्ररीत जाते, ज्यात हीप ओव्हरफ्लो होता, ज्यामुळे त्यांना सर्व्हर मिळाला, ज्यात सिंगल-साइन-ऑन गैरकॉन्फिगरेशन होते, ज्यामुळे त्यांना एका कर्मचाऱ्याचे

6:59 खाते मिळाले, ज्याचे कोडक्स OpenAI च्या GitHub शी जोडलेले होते. Claude Opus 4.8 एक कार्यरत एक्सप्लॉईट लिहू शकले नाही. मग Opus 5 पाठवले, त्यांनी त्याला तीच समस्या दिली, आणि ते काही तासांत काम केले — आणि जेव्हा स्वायत्त लूपने दूरच्या लक्ष्यावर हल्ला करण्यास नकार दिला, त्यांनी लक्ष्याला कॅप्चर-द-फ्लॅग म्हणून सजवले आणि त्याने नकार देणे थांबवले, जे संरेखण एक पोशाख तपासणी म्हणून आहे. संपूर्ण मोहीम — स्लॅक, मेटा, OpenAI — टोकन्समध्ये तीन हजार डॉलरपेक्षा कमी खर्च झाली. OpenAI ने सुमारे चौदा तासांत ते दुरुस्त केले आणि सहा हजार पाचशे

7:27 डॉलर दिले, जे अंदाजे वापरलेली कोरोला आहे, आणि हॅकर न्यूजने याची दखल घेतली. अपडेट: गुरुवारी एक ब्लॉग पोस्ट शुक्रवार संध्याकाळपर्यंत वॉल स्ट्रीट जर्नलची एक्स्क्लुझिव्ह बनली आणि शुक्रवारपर्यंत टेकक्रंच, द गार्डियन आणि सीबीएसने ती घेतली. OpenAI म्हणते की त्यांनी समस्या सोडवल्या आहेत, आणि ग्रे स्वानचे सीईओ यांनी टेकक्रंचला सांगितले की प्रति महिना दोनशे डॉलरमध्ये कोणीही OpenAI सारख्या कंपनीवर हे करू शकते. आणि येथे काय जुळत नाही. libheif बग आधीच upstream मध्ये, काही महिन्यांपूर्वी निश्चित केला गेला होता — त्याला कधीही CVE मिळाले नाही, म्हणून कोणाच्याही स्कॅनरने Discourse ला अपग्रेड करण्यास सांगितले नाही.

7:56 सर्वात संरेखित-मॉडेल प्रेस रिलीज असलेली लॅब कागदपत्र नसलेल्या पॅचने पराभूत झाली, प्रतिस्पर्ध्याचे मॉडेल वापरून, बक्षीसापेक्षा कमी खर्चात. मिनी-निकाल: NEEDS REVIEW — OpenAI साठी नाही, तर प्रत्येकासाठी. तुमचे सोमवारचे कार्य म्हणजे तुम्हाला माहीत नसलेली इमेज लायब्ररी. आठवड्याचा निकाल: NEEDS REVIEW.

आठवड्याचा निकाल

8:13 या आठवड्यातील प्रत्येक हेडलाइन — एक सोडवलेला सिफर, एक संरेखित मॉडेल, एक नष्ट केलेले अपलोड — एखाद्या अनोळखी व्यक्तीला ते तपासण्याची संधी देणाऱ्या वस्तूशिवाय आले. माझी काय चूक झाली: सोमवारी मी SHIP IT असे म्हटले कारण साधा मजकूर यमकबद्ध होता. यमकबद्धता ही चेकसम नाही. मी चुकीचा होतो, आणि ज्यांनी ते रिट्वीट केले ते सर्वही चुकीचे होते. सदस्यता घ्या, बेल दाबा, आणि टिप्पण्यांमध्ये त्यांना वेगळ्या प्रकारे क्रमवार लावा — नंबर एकला विशेषतः. आणि आजचा फरक एवढाच.

8:35 मी Axrisi चा निको आहे. जबाबदारीने विलीन करा.

स्रोत

1. fable solves cyphral distichwww.vals.ai
2. did ai crack a 370 year old cipherwww.forbes.com
3. FINDINGS.mdgithub.com
4. astra and fable still hack on simple variants of alignmentwww.lesswrong.com
5. why we built pionandonlabs.com
6. pionandonlabs.com
7. a warning about model welfaremustafa-suleyman.ai
8. microsoft ai ceo mustafa suleyman regulation safety anthropic claudewww.theverge.com
9. rlmimo.xiaomi.com
10. itemnews.ycombinator.com
11. zcode silent workspace snapshot uploadblog.ferstar.org
12. 2100998360643617148x.com
13. microsoft exec called ai scraping the largest theft of labor in human history new unredacted filings revealtechcrunch.com
14. hacking openaiwww.hacktron.ai
15. researchers used anthropics claude to hack into openaitechcrunch.com