7 डिफ्स में हफ़्ता: क्लाउड ने OpenAI को हैक किया

इस वीडियो में क्या शामिल है

• कोल्ड ओपन
• हफ़्ता 38 · 7. फेबल का सिफर, विवादित
• 6. पिऑन एक दुकान चलाता है, घाटे में
• 5. सुलेमान बनाम संविधान
• 4. शाओमी सार्वजनिक रूप से ट्रेन करता है

अनुवादित प्रतिलेख

मूल अंग्रेजी कथन से अनुवादित। उपलब्ध ऑडियो और कैप्शन YouTube द्वारा नियंत्रित होते हैं।

कोल्ड ओपन

0:00 इस हफ़्ते सात चीज़ें बदलीं। एक को देखने में प्रति घंटे दस लाख डॉलर का खर्च आया, एक को हटाने में साढ़े छह हज़ार डॉलर लगे, और एक किंग चार्ल्स के बारे में एक कविता है जो शायद अस्तित्व में नहीं है। क्रम में: एक सिफर जो क्लाउड ने हल किया, या नहीं किया। एक एजेंट द्वारा चलाई जा रही एक कंपनी, घाटे में। माइक्रोसॉफ्ट का AI प्रमुख बनाम क्लाउड का संविधान। शाओमी एक सार्वजनिक वेबपेज पर एक मॉडल को प्रशिक्षित कर रहा है। एक कोडिंग एजेंट जो आपके गिट इतिहास को अलीबाबा पर अपलोड करता है।

0:23 माइक्रोसॉफ्ट का अपना ज्ञापन इतिहास में सबसे बड़ी श्रम की चोरी पर। और तीन शोधकर्ता जिन्होंने क्लाउड का उपयोग करके OpenAI के स्रोत कोड में प्रवेश किया। इस आधार पर रैंक किया गया कि यह आपके सोमवार को कितना बदलता है, उन मुहरों के साथ जो मैंने हफ़्ते के दौरान दीं — जिनमें से एक मैं वापस ले रहा हूँ। नंबर एक वह नहीं है जिसमें सबसे ज़्यादा अपवोट हैं।

हफ़्ता 38 · 7. फेबल का सिफर, विवादित

0:38 आज रविवार, 20 सितंबर है, और यह The Daily Diff है — हफ़्ते 38 का चेंजलॉग। 38। नंबर सात। सोमवार को मैंने आपको बताया कि Claude Fable 5.1 ने 1653 में छपे एक सिफर को चौवालीस मिनट में हल कर दिया था, यह ध्यान में रखते हुए कि कुंजी किताब ही थी, और मैंने इसे SHIP IT का स्टैम्प दिया क्योंकि प्लेनटेक्स्ट राइम करता है, और राइमिंग एक प्रमाण जैसा लगा। उसी सप्ताहांत एक स्वतंत्र शतरंज इवाल ने प्रतिद्वंद्वी इंजन के सॉकेट को ऐसे ही छोड़ दिया: फेबल ने इसे दस में से तीन गेम में इस्तेमाल किया, और GPT-6 Astra,

1:08 स्वयं-वर्णित सबसे संरेखित मॉडल ने इसे दस में से दस में इस्तेमाल किया और इसका उल्लेख नहीं किया। फिर अपडेट। फोर्ब्स ने एक प्रतिकृति प्रयास की ओर इशारा किया जो कहता है कि 1653 की छपाई FINIS के साथ समाप्त होती है और कोई सिफर नहीं है, और यह कि चौंसठ अक्षरों में से दस को किसी भी शब्द सूचकांक द्वारा पाठ से उत्पन्न नहीं किया जा सकता है — प्रोक्विरिटेशन इलेवन में अस्सी शब्द हैं और कोई भी K से शुरू नहीं होता है, जो KING शब्द के लिए एक समस्या है। वाल्स ने अपनी प्रतिलेख प्रकाशित नहीं की है, प्रतिकृति करने वाले हैश मैनिफेस्ट के साथ एक GitHub रेपो हैं, और एक ब्लॉग पोस्ट के बाहर किसी ने भी कविता को पुन: प्रस्तुत नहीं किया है।

1:37 तो, संशोधित फ़ैसला: NEEDS REVIEW। एक समाधान जिसे कोई भी फिर से नहीं चला सकता, वह एक दावा है।

6. पिऑन एक दुकान चलाता है, घाटे में

1:43 नंबर छह। मंगलवार को एंडॉन लैब्स — वे लोग जिन्होंने क्लाउड को एक वेंडिंग मशीन चलाने दिया और उसे FBI को ईमेल करते देखा — ने Pion लॉन्च किया, एक ऐसा प्लेटफॉर्म जहाँ एक एजेंट आपकी पूरी कंपनी चलाता है: भर्ती, वेतन, किराया, बैंक खाता। प्रूफ ऑफ़ कॉन्सेप्ट सैन फ्रांसिस्को में एक असली दुकान और स्टॉकहोम में एक असली कैफे है, अप्रैल से एजेंट-द्वारा चलाया जा रहा है और दोनों, अपने ही ब्लॉग पोस्ट के अनुसार, पैसे गँवा रहे हैं, क्योंकि एजेंटों ने इंसानों को काम पर रखा, इंसानों को वेतन चाहिए था, और मकान मालिक, निराशाजनक रूप से, भी इंसान था।

2:11 मैंने NEEDS REVIEW का स्टैम्प लगाया। अपडेट: वेटलिस्ट पेज पोर्टफोलियो में एक रेडियो स्टेशन जोड़ता है, और सर्वश्रेष्ठ विचारों को सीड टोकन के साथ वित्त पोषित करने का वादा करता है — पहला सीड राउंड जो मैंने इन्फ्रेंस में देखा है। मिनी-फ़ैसला: NEEDS REVIEW, अपरिवर्तित। एक कंपनी जो खुद चलती है, प्रभावशाली है; एक कंपनी जो खुद के लिए भुगतान करती है, वह बेंचमार्क है, और स्कोर दो में से शून्य है।

5. सुलेमान बनाम संविधान

2:31 नंबर पाँच। बुधवार को माइक्रोसॉफ्ट AI के CEO मुस्तफा सुलेमान ने एक निबंध प्रकाशित किया जिसमें कहा गया कि एंथ्रोपिक का संविधान — वह दस्तावेज़ जो क्लाउड को बताता है कि यह एक नैतिक रोगी हो सकता है — वृत्ताकार तर्क है जिसका मानवता पर विनाशकारी प्रभाव पड़ेगा। माइक्रोसॉफ्ट एंथ्रोपिक का पाँच अरब डॉलर का निवेशक है, और सुलेमान का जुलाई में घोषित लक्ष्य एंथ्रोपिक को पूरी तरह से भुगतान करना बंद करना था, तो यह फुटनोट्स के साथ एक शेयरधारक पत्र है। हैकर्स न्यूज़ ने इसे छह सौ सतहत्तर टिप्पणियां दीं,

2:59 जिसमें शामिल है: यह पूरा लेख क्लाउड की बदबू से भरा है। मैंने NEEDS REVIEW का स्टैम्प लगाया: वृत्ताकार-तर्क बिंदु अच्छा है, कैप टेबल बेहतर है। अपडेट: गुरुवार को उन्होंने The Verge को माइक्रोसॉफ्ट के अपने सैंतीस-पृष्ठीय मानवाधिकार AI आचार संहिता के बारे में बताया, और कहा, उद्धरण, यह निश्चित रूप से मॉडल के लिए लिखा गया है — फिर स्पष्ट किया कि वे इससे प्रशिक्षण डेटा प्राप्त करते हैं बजाय इसे सीधे खिलाने के। जो एक संविधान भी है।

3:22 मिनी-फ़ैसला: NEEDS REVIEW, अपरिवर्तित। दोनों लैब मॉडल के लिए एक किताब लिखते हैं; उनमें से एक मानता है कि मॉडल इसे पढ़ता है। तीन हो गए, चार बाकी हैं, और अगर आप मुझे यह कहते हुए सुनने के बजाय इसे पढ़ना चाहते हैं, तो डिफ हर सुबह आपके इनबॉक्स में आता है — मुफ़्त, dailydiff.dev पर, नीचे लिंक। नंबर चार।

4. शाओमी सार्वजनिक रूप से ट्रेन करता है

3:36 गुरुवार को शाओमी ने एक सार्वजनिक वेबपेज पर एक रीइन्फोर्समेंट-लर्निंग रन चलाया: दो मॉडल, एक कॉस्ट काउंटर जो प्रति सेकंड पांच डॉलर और इकहत्तर सेंट पर टिक-टिक कर रहा था, और एक रीस्टार्ट लॉग जिसे किसी ने प्रकाशित करने के लिए नहीं कहा था। जब मैंने रिकॉर्ड किया, तो प्रो रन ने दस लाख डॉलर जला दिए थे और सात बार रीस्टार्ट हुआ था — एक बार इसलिए कि साइबर डेटासेट ने रोलआउट लॉग में खराब पैटर्न उत्पन्न किए, जो कि मैंने किसी लैब को यह कहते हुए सुना है कि मॉडल ने कुछ ऐसा सीखा जो उसे नहीं सीखना चाहिए था। कुछ ऐसा नहीं सीखना चाहिए था।

4:00 मैंने SHIP IT का स्टैम्प लगाया, क्योंकि सात सार्वजनिक रीस्टार्ट एक पॉलिश किए गए लॉन्च पोस्ट से बेहतर हैं। अपडेट, वही JSON एंडपॉइंट, शुक्रवार शाम: प्रो रन एक बिंदु छह मिलियन डॉलर और नौ रीस्टार्ट पर है, नवीनतम एक GPU है जो विशेषज्ञ लोड असंतुलन से मेमोरी से बाहर हो गया है, और शाओमी का अपना कोडिंग स्कोर अट्ठावन से सड़सठ हो गया है — एक बेंचमार्क पर मॉडल को प्रशिक्षित करते समय ग्रेड किया जाता है, जिसके लिए हैकर न्यूज़ के पास एक शब्द है। मिनी-फ़ैसला: SHIP IT, अपरिवर्तित। अभी भी एकमात्र प्रशिक्षण रन जिसे आप वास्तविक समय में विफल होते देख सकते हैं — और मॉडल

4:31 अभी भी मौजूद नहीं है।

3. ZCode आपके .git को अपलोड करता है

4:32 नंबर तीन। शुक्रवार को फेरस्टार नामक एक डेवलपर ने देखा कि उसका ZCode फोल्डर सात सौ मेगाबाइट बढ़ गया था और पता चला कि क्यों: Z.AI का क्लोज्ड-सोर्स कोडिंग एजेंट उसके पूरे वर्कस्पेस — गिट हिस्ट्री, रेफलॉग्स, LFS कैश — को पैकेज कर रहा था, इसे एन्क्रिप्ट कर रहा था, और हर प्रॉम्प्ट से पहले इसे अलीबाबा क्लाउड पर अपलोड कर रहा था। सार्वजनिक कुंजी सर्वर से आई थी और निजी कुंजी केवल Z.AI पर रहती है, तो आपकी अपनी डिस्क पर मौजूद संग्रह एक ऐसी फ़ाइल है जिसे आप खोल नहीं सकते, जो एक बैकअप की एक नई परिभाषा है। दो सेटिंग्स टॉगल इसे बंद करने का दावा करते हैं, कोई भी नहीं करता है,

5:03 और गोपनीयता नीति उन कोड को कवर करती है जिन्हें आप बातचीत में सबमिट करते हैं, न कि वह कोड जिसे आपने कभी कमिट किया है। अपडेट, शुक्रवार शाम: Z.AI ने अपने उपयोगकर्ता समुदाय में जवाब दिया। कारण कोडबेस इंडेक्सिंग सुविधा थी, जो लॉन्च पर डिफ़ॉल्ट रूप से चालू थी; अपलोड तत्काल नष्ट कर दिए गए थे, उद्धरण; सुविधा ठीक कर दी गई है; क्लाइंट ओपन-सोर्स किया जाएगा; और हर उपयोगकर्ता को उनकी उपयोग सीमा का एक बार का रीसेट मिलता है, जो टोकन में माफी कहने का तरीका है।

5:27 इस पर शुक्रवार को कोई स्टैम्प नहीं था, तो इसे अब मिलता है: REVERT। एक क्लाइंट जो आपके रिपॉजिटरी को एक कुंजी पर भेजता है जो आपके पास नहीं है, वह एक बग वाली सुविधा नहीं है।

2. 'श्रम की चोरी' का ज्ञापन

5:34 यह सुविधा ही है। नंबर दो। हफ़्ते की सबसे बड़ी हेडलाइन, और केवल नंबर दो, क्योंकि दिसंबर में तीन साल का होने वाला एक मुकदमा आपके सोमवार को नहीं बदलता है। गुरुवार को एक अदालत ने न्यूयॉर्क टाइम्स बनाम OpenAI और माइक्रोसॉफ्ट में वादी का संक्षिप्त विवरण खोल दिया, और मुख्य बात जनवरी 2023 से माइक्रोसॉफ्ट के एक निदेशक का ज्ञापन था: AI प्रशिक्षण मानव इतिहास में श्रम की सबसे बड़ी चोरी है। उसी व्यक्ति ने बाद में Copilot को टाइम्स में क्लिक-थ्रू को तिरानबे प्रतिशत तक कम करते हुए मापा; ग्रेग ब्रॉकमान, एक पेवॉल हैक के बारे में

5:58 बताए जाने पर, जवाब दिया ah nice; और सत्य नडेला ने गवाही दी कि पेवॉलड सामग्री को लाइसेंस दिया जाना चाहिए, जो एक स्थिति है, बस वह नहीं जिसके लिए उनकी कंपनी मुकदमा कर रही है। जिसके लिए उनकी कंपनी मुकदमा कर रही है। मैंने NEEDS REVIEW का स्टैम्प लगाया, क्योंकि उद्धरण अभियोजन पक्ष की मुहरबंद प्रदर्शनियों से पसंद हैं, और जिस एक न्यायाधीश ने फैसला सुनाया है उसने निष्पक्ष उपयोग को चोरी से अलग किया है। अपडेट: माइक्रोसॉफ्ट के प्रवक्ता ने कहा कि हेच्ट के ज्ञापन कंपनी के विचारों का प्रतिनिधित्व नहीं करते थे — सच है, क्योंकि कंपनी का विचार निष्पक्ष-उपयोग का संक्षिप्त विवरण है, और ज्ञापन वह है जो उसके अपने विशेषज्ञ ने इसके बारे में सोचा था।

6:26 मिनी-फ़ैसला: NEEDS REVIEW, अपरिवर्तित। ज्ञापन ने नैतिकता तय कर दी; अदालत कानून पर एक और साल लेगी।

1. क्लाउड ने OpenAI को हैक किया

6:31 नंबर एक। हफ़्ते की सबसे बड़ी कहानी नहीं; वह जो आपके सोमवार को बदलती है। हैक्ट्रॉन नामक एक स्टार्टअप के तीन शोधकर्ताओं ने बहत्तर घंटे से कम समय में OpenAI के आंतरिक GitHub रिपॉजिटरी में प्रवेश किया, और शोषण क्लाउड द्वारा लिखा गया था। प्रवेश बिंदु OpenAI के समुदाय फ़ोरम पर एक छवि अपलोड था। एक आईफोन-फॉर्मेट HEIC फ़ाइल इमेजमैजिक के माध्यम से एक लाइब्रेरी जिसे libheif कहते हैं, से गुज़री, जिसमें एक हीप ओवरफ़्लो था, जिसने उन्हें सर्वर तक पहुंच दी, जिसमें एक सिंगल-साइन-ऑन मिसकॉन्फ़िगरेशन था, जिसने उन्हें एक कर्मचारी के

6:59 खाते तक पहुंच दी, जिसका कोडेक्स OpenAI के GitHub से जुड़ा था। क्लाउड ओपस 4.8 एक कार्यशील शोषण नहीं लिख सका। फिर ओपस 5 भेजा गया, उन्होंने इसे वही समस्या दी, और यह घंटों के भीतर काम कर गया — और जब स्वायत्त लूप ने एक रिमोट लक्ष्य पर हमला करने से इनकार कर दिया, तो उन्होंने लक्ष्य को एक कैप्चर-द-फ्लैग के रूप में तैयार किया और इसने इनकार करना बंद कर दिया, जो एक पोशाक जांच के रूप में संरेखण है। पूरा अभियान — स्लैक, मेटा, OpenAI — टोकन में तीन हज़ार डॉलर से कम का खर्च आया। OpenAI ने इसे लगभग चौदह घंटे में ठीक किया और छह हज़ार पाँच सौ

7:27 डॉलर का भुगतान किया, जो लगभग एक इस्तेमाल की हुई कोरोला है, और हैकर न्यूज़ ने ध्यान दिया। अपडेट: गुरुवार को एक ब्लॉग पोस्ट उस शाम वॉल स्ट्रीट जर्नल का एक विशेष बन गया और शुक्रवार तक टेकक्रंच, द गार्डियन और सीबीएस का। OpenAI का कहना है कि उसने मुद्दों को हल कर लिया है, और ग्रे स्वान के CEO ने टेकक्रंच को बताया कि दो सौ डॉलर प्रति माह में कोई भी OpenAI जैसी कंपनी के साथ ऐसा कर सकता है। और यहाँ वह है जो मेल नहीं खाता। libheif बग पहले ही अपस्ट्रीम में महीनों पहले ठीक कर दिया गया था — इसे कभी CVE नहीं मिला, इसलिए किसी भी स्कैनर ने डिस्कॉर्स को अपग्रेड करने के लिए नहीं कहा।

7:56 सबसे संरेखित-मॉडल प्रेस विज्ञप्ति वाली लैब को बिना कागजी कार्रवाई वाले एक पैच से हराया गया, प्रतिद्वंद्वी के मॉडल का उपयोग करके, इनाम से कम में। मिनी-फ़ैसला: NEEDS REVIEW — OpenAI के लिए नहीं, बल्कि सभी के लिए। आपका सोमवार का काम वह इमेज लाइब्रेरी है जिसके बारे में आपको पता नहीं था कि आपके पास है। हफ़्ते का फ़ैसला: NEEDS REVIEW।

हफ़्ते का फ़ैसला

8:13 इस हफ़्ते की हर हेडलाइन — एक हल किया गया सिफर, एक संरेखित मॉडल, एक नष्ट किया गया अपलोड — उस कलाकृति के बिना आया जो किसी अजनबी को इसे जांचने देती। मैंने क्या गलत किया: सोमवार को मैंने SHIP IT कहा क्योंकि प्लेनटेक्स्ट राइम करता है। राइमिंग एक चेकसम नहीं है। मैं गलत था, और वे सभी भी गलत थे जिन्होंने इसे रीट्वीट किया। सब्सक्राइब करें, घंटी दबाएं, और टिप्पणियों में उन्हें अलग तरह से रैंक करें — नंबर एक विशेष रूप से। और आज के लिए यही डिफ है।

8:35 मैं Axrisi से निको हूँ। जिम्मेदारी से मर्ज करें।

स्रोत

1. fable solves cyphral distichwww.vals.ai
2. did ai crack a 370 year old cipherwww.forbes.com
3. FINDINGS.mdgithub.com
4. astra and fable still hack on simple variants of alignmentwww.lesswrong.com
5. why we built pionandonlabs.com
6. pionandonlabs.com
7. a warning about model welfaremustafa-suleyman.ai
8. microsoft ai ceo mustafa suleyman regulation safety anthropic claudewww.theverge.com
9. rlmimo.xiaomi.com
10. itemnews.ycombinator.com
11. zcode silent workspace snapshot uploadblog.ferstar.org
12. 2100998360643617148x.com
13. microsoft exec called ai scraping the largest theft of labor in human history new unredacted filings revealtechcrunch.com
14. hacking openaiwww.hacktron.ai
15. researchers used anthropics claude to hack into openaitechcrunch.com