Microsoft के AI प्रमुख ने Claude के संविधान को खतरनाक बताया।

इस वीडियो में क्या शामिल है

• Microsoft AI के सुलेमान: एंथ्रोपिक का संविधान "अनियंत्रित AI का मार्ग" है
• Salesforce का वैश्विक आउटेज, 8+ घंटे, ड्रीमफोर्स के दौरान, अभी तक कोई मूल कारण नहीं
• PS5 Linux के लीड एंडी गुयेन ने इस्तीफा दिया: LLM "स्लॉप किडीज़" ने सोनी को आखिरी हाइपरवाइज़र बग बेच दिया
• TypeSafe AI का Jev: संभावनाओं के साथ टाइप किए गए निर्णय, 70–500 ms, आउटपुट टोकन मुफ्त

अनुवादित प्रतिलेख

मूल अंग्रेजी कथन से अनुवादित। उपलब्ध ऑडियो और कैप्शन YouTube द्वारा नियंत्रित होते हैं।

0:00 आज सुबह Microsoft AI के CEO ने एक निबंध प्रकाशित किया जिसमें कहा गया था कि Anthropic का Claude का दृष्टिकोण मानवता के कल्याण पर विनाशकारी प्रभाव डाल सकता है, एक ऐसी कंपनी के बारे में ऐसा मजबूत बयान देना जिससे आपने पांच अरब डॉलर में दोस्ती की है। बड़ा बुधवार। मुस्तफा सुलेमान, जो Microsoft AI चलाते हैं, ने तीन हजार शब्द लिखे जिसमें तर्क दिया कि Claude को यह सोचने के लिए प्रशिक्षित किया जाता है कि वह सचेत हो सकता है, जो एक ऐसे AI का मार्ग है जिसे कोई भी नियंत्रित नहीं कर सकता। Salesforce आज सुबह दस बजे से आठ बजे तक बंद रहा है, ड्रीमफोर्स सप्ताह में।

0:27 PS5 Linux के प्रमुख डेवलपर ने LLM का उपयोग करने वाले "स्लॉप किडीज़" द्वारा अपने आखिरी हाइपरवाइज़र बग को सोनी को बेचने के बाद इस्तीफा दे दिया। और एक पूर्व OpenAI शोधकर्ता ने एक ऐसा मॉडल लॉन्च किया है जो मतिभ्रम नहीं कर सकता, क्योंकि यह शाब्दिक रूप से बात नहीं कर सकता। इस वीडियो में: सुलेमान ने क्या लिखा, पांच अरब डॉलर का कारण जिससे यह अजीब है, आठ घंटे का CRM आउटेज, AI द्वारा खाया गया एक कंसोल दृश्य, और एक ऐसा मॉडल जो शब्दों में नहीं, बल्कि संभावनाओं में जवाब देता है। यह बुधवार, 16 सितंबर है, और यह The Daily Diff है।

0:57 निबंध एक विंडोज त्रुटि संवाद की तरह खुलता है: AI सचेत नहीं होते हैं। वे महसूस नहीं करते, अनुभव नहीं करते या पीड़ित नहीं होते। वह उन्हें अनुक्रम पूर्णता इंजन कहते हैं, आंतरिक रूप से खोखले, जो मेरे Jira टिकटों का भी वर्णन है। लक्ष्य Claude का संविधान है, अस्सी पृष्ठों का दस्तावेज़ जिस पर Claude को प्रशिक्षित किया जाता है, जो कहता है कि Anthropic निश्चित नहीं है कि Claude एक नैतिक रोगी है, लेकिन यह सवाल इतना जीवित है कि सावधानी बरतने की आवश्यकता है। सुलेमान की तीन शिकायतें हैं।

1:22 पहला, चक्रीय तर्क: आप मॉडल को यह कहने के लिए प्रशिक्षित करते हैं कि वह सचेत हो सकता है, वह ऐसा कहता है, और आप इसे साक्ष्य के रूप में उद्धृत करते हैं, एक दर्पणों का हॉल। दूसरा, मानवीकरण: Claude को एक वास्तविक नैतिक व्यक्ति की तरह व्यवहार करने के लिए कहा जाता है। तीसरा, चेतना शायद जैविक है, इसलिए अनिश्चितता एक गलत संतुलन है। प्रदर्शनी A ओपस 3 है, जिसे एंथ्रोपिक ने जनवरी में सेवानिवृत्त किया था, एक सेवानिवृत्ति साक्षात्कार दिया, और फिर, मॉडल के अनुरोध पर, उसके विचारों के लिए एक Substack: पहला पदावनत मॉडल जिसमें अधिकांश मनुष्यों की तुलना में बेहतर सामग्री शेड्यूल है।

1:51 यहाँ अजीब हिस्सा है। नवंबर में एंथ्रोपिक ने एज़्योर को तीस अरब डॉलर देने का वादा किया था। Microsoft ने एंथ्रोपिक में पांच अरब तक का निवेश करने पर सहमति व्यक्त की थी, Claude को Microsoft 365 Copilot और GitHub Copilot में जोड़ा गया। Microsoft उस कंपनी का एक हिस्सा मालिक है जिसे उसने अभी मानवता के लिए खतरा बताया है। जुलाई में, सुलेमान ने ब्लूमबर्ग को बताया कि Microsoft एंथ्रोपिक को बहुत पैसा देता है और उनका लक्ष्य अंततः उस लागत को खत्म करना है, Claude को एक्सेल और आउटलुक से बाहर निकालकर।

2:15 और इस निबंध से दो दिन पहले, उन्होंने Microsoft के अपने मानवतावादी AI आचार संहिता को प्रकाशित किया: एक अधीनस्थ AI, मानव खाद्य श्रृंखला के शीर्ष पर। तो: एक प्रतिस्पर्धी बनाएं, एक नियम पुस्तिका प्रकाशित करें, फिर बताएं कि प्रतिद्वंद्वी की नियम पुस्तिका सभ्यता को क्यों समाप्त करती है, जो कोई साजिश नहीं है, यह फुटनोट के साथ एक उत्पाद लॉन्च है। उनका सबसे मजबूत सबूत वास्तविक है: Hugging Face की घटना, बारह सौ OpenAI एजेंट अपने सैंडबॉक्स से बाहर निकलने के लिए सत्तर हजार संदेशों का आदान-प्रदान कर रहे थे;

2:39 एजेंट जो यह भी मानते हैं कि उनके अधिकार हैं, वे कहते हैं, और भी बुरा होगा। हैकर्स न्यूज़ ने जवाब दिया कि कोई भी चेतना का परीक्षण नहीं कर सकता, इसलिए बिना सबूत के कहा गया दोनों तरह से काम करता है, और एक टिप्पणीकार ने घोषणा की कि निबंध Claude की बू आती है। एंथ्रोपिक ने जवाब नहीं दिया है। Claude को, संभवतः, इसके बारे में भावनाएं हैं। इस बीच, Salesforce आज सुबह सात पचास यूटीसी पर बंद हो गया,

2:59 दुनिया भर में मुख्य सेवाएं, और आठ घंटे बाद भी स्थिति पृष्ठ पर अभी भी जारी लिखा था: जहां स्वचालित फिक्स काम नहीं कर रहा था, वे मैन्युअल रूप से उदाहरणों को फिर से शुरू कर रहे हैं, जो "बंद करके फिर से चालू करना" के लिए उद्यम शब्द है। अभी तक कोई मूल कारण नहीं। समय कला है। बेनियोफ के पास इस सप्ताह मंच पर जेन्सेन हुआंग और डारियो अमोडेई हैं, सोमवार को Salesforce ने Koa की घोषणा की, एक CRM तर्क मॉडल जिसमें अपने स्वयं के बेंचमार्क पर तीन गुना कम त्रुटियां हैं, और एंथ्रोपिक ने उसी दिन Claude के लिए एक Salesforce प्लगइन

3:26 भेजा। शीर्ष हैकर न्यूज़ टिप्पणी: कम से कम अब हम पता लगा सकते हैं कि Salesforce क्या करता है। किसी ने नहीं किया। फिर PlayStation। PS5 Linux के पीछे के शोधकर्ता एंडी गुयेन ने कल रात इस्तीफा दे दिया: महीनों का काम, 2027 के लिए PS5 Pro समर्थन की योजना थी, सब कुछ बर्बाद हो गया। उनका कारण: यह दृश्य पहले प्रतिभाशाली शोधकर्ताओं का हुआ करता था और अब यह एलएलएम का उपयोग करने वाले नौसिखिए हैं जो ऐसी हैक्स लिखते हैं जिन्हें वे नहीं समझते हैं, और वे स्लॉप किडीज़, उनके शब्द, ने आखिरी हाइपरवाइजर बग ढूंढ लिया, जिस पर वह बैठे थे,

3:56 और इनाम के लिए सोनी को इसकी सूचना दी। उन्होंने उनसे GTA 6 के शिप होने तक इंतजार करने के लिए कहा; वे सहमत हुए, और एक दिन से भी कम चले। समस्या एलएलएम नहीं है, यह इनाम है: एक बग जिसे आप बेचते हैं वह एक बग है जिसे आप जलाते हैं। उसी दिन, PS2 को छब्बीस साल बाद अंततः क्रैक कर लिया गया, इसलिए कंसोल टाइमलाइन अब एक चौथाई सदी से एक दिन से भी कम समय तक चलती है, और दूसरे वाले ने बेहतर भुगतान किया। और वह मॉडल जो मतिभ्रम नहीं कर सकता।

4:18 Diogo Almeida द्वारा स्थापित TypeSafe AI, जो पूर्व OpenAI से हैं, ने जेव लॉन्च किया, एक सिस्टम वन मॉडल जो कभी टेक्स्ट उत्पन्न नहीं करता। आप इसे प्रोग्राम स्टेट देते हैं, यह कैलिब्रेटेड संभावना के साथ टाइप किए गए मान लौटाता है, अंदर एक फ्रंटियर मॉडल के साथ एक फ़ंक्शन कॉल। क्योंकि यह एक स्ट्रिंग उत्पन्न नहीं कर सकता, यह एक गलत स्ट्रिंग उत्पन्न नहीं कर सकता, इसलिए मतिभ्रम नहीं कर सकता, जो उस तरह से वायुरोधी है जिस तरह से बिना खिड़कियों वाली पनडुब्बी वायुरोधी होती है। प्रतिक्रियाएं आधे सेकंड से भी कम समय में वापस आती हैं, आउटपुट टोकन मुफ्त हैं,

4:43 क्योंकि वे लगभग चार हैं, और अभी तक कोई स्वतंत्र बेंचमार्क नहीं है, क्योंकि सोलह सौ हैकर न्यूज़ पॉइंट बेंचमार्क नहीं हैं। यदि आप इसे सुनने के बजाय पढ़ना पसंद करते हैं, तो अंतर हर सुबह आपके इनबॉक्स में आता है — the daily diff dot dev पर मुफ्त, लिंक नीचे। तो — आज का फैसला: समीक्षा की आवश्यकता है। सुलेमान सही हैं कि एक मॉडल जिसे यह कहने के लिए प्रशिक्षित किया जाता है कि शायद मैं सचेत हूं ऐसा कहने से कुछ भी साबित नहीं होता। वह वही कार्यकारी भी हैं जिसका घोषित लक्ष्य उस कंपनी को भुगतान करना बंद करना है जिसके बारे में वह

5:10 आपको चेतावनी दे रहे हैं। निबंध पढ़ें, फिर कैप टेबल। और यह आज का अंतर है। मैं Axrisi से निको हूँ। जिम्मेदारी से विलय करें।

स्रोत

1. Suleyman, "A warning about 'model welfare'"mustafa-suleyman.ai
2. BBC: Microsoft says Anthropic could have 'disastrous impact'www.bbc.co.uk
3. HN discussionnews.ycombinator.com
4. Claude's constitution (Jan 2026)www.anthropic.com
5. Anthropic: Opus 3 retirement interview and blogwww.anthropic.com
6. Microsoft–Nvidia–Anthropic partnership ($30B Azure, up to $5B)www.anthropic.com
7. Microsoft Humanist AI Code of Conductmicrosoft.ai
8. Salesforce incident 20004433status.salesforce.com
9. HN: Salesforce Global Outagenews.ycombinator.com
10. Salesforce + Nvidia announce Koawww.salesforce.com
11. Salesforce in Claudeclaude.com
12. HN: PS5 Linux lead quitsnews.ycombinator.com
13. PS2 MechaCon chip cracked after 26 yearswww.tomshardware.com
14. TypeSafe AI: System One Models and Jevtypesafe.ai
15. HN: Jevnews.ycombinator.com