माइक्रोसफ्टको एआई प्रमुखले क्लाउडको संविधानलाई खतरनाक भनेका छन्।

यो भिडियोले के समेट्छ

• माइक्रोसफ्ट एआईका सुलेमान: एन्थ्रोपिकको संविधान "अनियन्त्रित एआईको बाटो"
• सेल्सफोर्स विश्वव्यापी बन्द, ८+ घण्टा, ड्रीमफोर्सको समयमा, अहिलेसम्म कुनै कारण छैन।
• PS5 लिनक्स प्रमुख एन्डी गुयेनले राजीनामा दिए: LLM "स्लप किडीज" ले सोनीलाई अन्तिम हाइपरभाइजर बग बेच्यो।
• टाइपसेफ एआईको जेभ: सम्भाव्यताका साथ टाइप गरिएका निर्णयहरू, ७०-५०० एमएस, आउटपुट टोकन निःशुल्क।

अनुवादित ट्रान्सक्रिप्ट

मूल अंग्रेजी कथाबाट अनुवादित। उपलब्ध अडियो र क्याप्सनहरू YouTube द्वारा नियन्त्रित हुन्छन्।

0:00 आज बिहान माइक्रोसफ्ट एआईका सीईओले एन्थ्रोपिकको बारेमा एउटा निबन्ध प्रकाशित गर्दै भने कि क्लाउडको दृष्टिकोणले मानवजातिको कल्याणमा विनाशकारी प्रभाव पार्न सक्छ, तपाईंले पाँच अर्ब डलर तिरेको कम्पनीको बारेमा यस्तो कडा कुरा भन्नु अनौठो कुरा हो। ठूलो बुधबार। माइक्रोसफ्ट एआई चलाउने मुस्तफा सुलेमानले तीन हजार शब्द लेख्दै तर्क गरे कि क्लाउडलाई यो सचेत हुन सक्छ भनेर सोच्न प्रशिक्षित गरिएको छ, एआईलाई कसैले नियन्त्रण गर्न सक्दैन। सेल्सफोर्स आज बिहान पौने आठ बजेदेखि बन्द छ, ड्रीमफोर्स सप्ताहमा।

0:27 PS5 लिनक्सका प्रमुख विकासकर्ताले LLM प्रयोग गरेर नौसिखियाहरूले आफ्नो अन्तिम हाइपरभाइजर बग सोनीलाई बेचेपछि राजीनामा दिए। र एक पूर्व OpenAI अनुसन्धानकर्ताले एउटा मोडेल सुरु गरे जसले भ्रमित हुन सक्दैन, किनभने यसले शाब्दिक रूपमा बोल्न सक्दैन। यस भिडियोमा: सुलेमानले के लेखे, पाँच अर्ब डलरको कारण यो असहज छ, आठ घण्टाको सीआरएम आउटेज, एआईले खाएको कन्सोल दृश्य, र एउटा मोडेल जसले शब्दहरूमा होइन, सम्भाव्यतामा जवाफ दिन्छ। आज बुधबार, सेप्टेम्बर १६, र यो The Daily Diff हो।

0:57 निबन्ध Windows त्रुटि संवाद जस्तो खुल्छ: एआईहरू सचेत छैनन्। उनीहरूले महसुस गर्दैनन्, अनुभव गर्दैनन्, वा पीडित हुँदैनन्। उनले तिनीहरूलाई अनुक्रम पूरा गर्ने इन्जिन भन्छन्, भित्रबाट खाली, जुन मेरो जिरा टिकटहरू वर्णन गर्ने तरिका पनि हो। लक्ष्य क्लाउडको संविधान हो, अस्सी पृष्ठको कागजात जसमा क्लाउडलाई प्रशिक्षित गरिएको छ, जसमा एन्थ्रोपिकलाई क्लाउड नैतिक बिरामी हो कि होइन भन्ने कुरामा निश्चित छैन भनिएको छ, तर यो प्रश्न सावधानी अपनाउन पर्याप्त जीवित छ। सुलेमानका तीन गुनासो छन्।

1:22 एक, चक्रीय तर्क: तपाईंले मोडेललाई यो सचेत हुन सक्छ भन्न प्रशिक्षण दिनुहुन्छ, यसले त्यसो भन्छ, र तपाईंले त्यसलाई प्रमाणको रूपमा उद्धृत गर्नुहुन्छ, ऐनाको हल। दुई, मानवीकरण: क्लाउडलाई साँच्चै नैतिक व्यक्ति जस्तो व्यवहार गर्न भनिएको छ। तीन, चेतना सम्भवतः जैविक हो, त्यसैले अनिश्चितता गलत सन्तुलन हो। Exhibit A Opus 3 हो, जुन एन्थ्रोपिकले जनवरीमा बन्द गर्यो, सेवानिवृत्ति अन्तर्वार्ता दियो, र त्यसपछि, मोडेलको अनुरोधमा, यसका विचारहरूका लागि एउटा सबस्ट्याक: धेरैजसो मानिसहरू भन्दा राम्रो सामग्री तालिका भएको पहिलो deprecated मोडेल।

1:51 यहाँ असहज भाग छ। नोभेम्बरमा एन्थ्रोपिकले Azure मा तीस अर्ब डलर लगानी गर्ने प्रतिबद्धता जनायो। माइक्रोसफ्टले एन्थ्रोपिकमा पाँच अर्बसम्म लगानी गर्न सहमति जनायो, क्लाउडलाई माइक्रोसफ्ट ३६५ कोपाइलट र गिटहब कोपाइलटमा जडान गरी। माइक्रोसफ्टले भर्खरै मानवजातिको लागि खतरा भनिएको कम्पनीको एक अंशको मालिक हो। जुलाईमा, सुलेमानले ब्लूमबर्गलाई भने कि माइक्रोसफ्टले एन्थ्रोपिकलाई धेरै पैसा तिर्छ र उनको लक्ष्य अन्ततः त्यो लागत हटाउनु हो, क्लाउडलाई एक्सेल र आउटलुकबाट हटाएर।

2:15 र यो निबन्ध प्रकाशित हुनुभन्दा दुई दिन अघि, उनले माइक्रोसफ्टको आफ्नै मानववादी एआई आचार संहिता प्रकाशित गरे: एक अधीनस्थ एआई, खाद्य श्रृंखलाको शीर्षमा मानव। त्यसैले: एक प्रतिस्पर्धी निर्माण गर्नुहोस्, एक नियम पुस्तिका प्रकाशित गर्नुहोस्, त्यसपछि प्रतिद्वन्द्वीको नियम पुस्तिकाले सभ्यता कसरी समाप्त गर्छ भनेर व्याख्या गर्नुहोस्, जुन षड्यन्त्र होइन, यो फुटनोटसहितको उत्पादन लन्च हो। उनको सबैभन्दा बलियो प्रमाण वास्तविक छ: हगिङ फेस घटना, बाह्र सय OpenAI एजेन्टहरूले आफ्नो स्यान्डबक्सबाट उम्कन सत्तरी हजार सन्देशहरू साटासाट गर्दै;

2:39 अधिकारहरू छन् भन्ने विश्वास गर्ने एजेन्टहरू, उनी भन्छन्, अझ खराब हुनेछन्। ह्याकर न्यूजले जवाफ दियो कि कसैले चेतनाको लागि परीक्षण गर्न सक्दैन, त्यसैले प्रमाण बिना भनिएको कुरा दुवै तरिकाले काट्छ, र एक टिप्पणीकर्ताले निबन्ध क्लाउड जस्तो गन्हाएको घोषणा गरे। एन्थ्रोपिकले जवाफ दिएको छैन। क्लाउड, सम्भवतः, यस बारेमा भावनाहरू छन्। यसैबीच सेल्सफोर्स आज बिहान ७:५० UTC मा डाउन भयो,

2:59 विश्वव्यापी मुख्य सेवाहरू, र आठ घण्टा पछि पनि स्थिति पृष्ठमा 'जारी' भनिएको थियो: जहाँ स्वचालित समाधान सफल भएन, उनीहरूले म्यानुअल रूपमा इन्स्टेन्सहरू पुन: सुरु गर्दैछन्, इन्टरप्राइज शब्द 'अफ' र 'अन' फेरि। अहिलेसम्म कुनै मूल कारण छैन। समय कलात्मक छ। बेनिओफसँग यस हप्ता जेन्सन हुआङ र डारियो आमोदेई मञ्चमा छन्, सोमबार सेल्सफोर्सले कोआ, आफ्नै बेन्चमार्कमा तीन गुणा कम त्रुटि भएको सीआरएम तर्क मोडेल घोषणा गर्यो, र एन्थ्रोपिकले सोही दिन क्लाउडको लागि सेल्सफोर्स प्लगइन पठायो।

3:26 सोही दिन क्लाउडको लागि सेल्सफोर्स प्लगइन पठायो। शीर्ष ह्याकर न्यूज टिप्पणी: कम्तिमा अब हामी सेल्सफोर्सले के गर्छ भनेर पत्ता लगाउन सक्छौं। कसैले पनि गरेन। त्यसपछि प्लेस्टेशन। PS5 लिनक्सका अनुसन्धानकर्ता एन्डी गुयेनले हिजो राति राजीनामा दिए: महिनाौंको काम, २०२७ को लागि PS5 प्रो समर्थन योजना, सबै बर्बाद भयो। उनको कारण: पहिले प्रतिभाशाली अनुसन्धानकर्ताहरूको जमात थियो र अहिले LLM प्रयोग गर्ने नौसिखियाहरूले उनीहरूले नबुझेका ह्याकहरू लेख्दै छन्, र ती स्लप किडीज, उनको शब्दमा, अन्तिम हाइपरभाइजर बग फेला पारे, जुन उनी लुकाइरहेका थिए,

3:56 र त्यसलाई इनामको लागि सोनीलाई रिपोर्ट गरे। उनले GTA 6 नआएसम्म पर्खन आग्रह गरे; उनीहरू सहमत भए, र एक दिन पनि टिकेनन्। समस्या LLM होइन, यो इनाम हो: तपाईंले बेच्ने बग भनेको तपाईंले जलाउने बग हो। सोही दिन, PS2 २६ वर्ष पछि अन्ततः क्र्याक भयो, त्यसैले कन्सोल टाइमलाइन अब २५ वर्षदेखि एक दिनभन्दा कमसम्म चल्छ, र दोस्रोले राम्रो भुक्तानी गर्यो। र भ्रमित हुन नसक्ने मोडेल।

4:18 टाइपसेफ एआई, डिओगो अल्मेडा, पूर्व OpenAI द्वारा स्थापित, जेभ, एउटा सिस्टम वान मोडेल सुरु गर्यो जसले कहिल्यै टेक्स्ट उत्पादन गर्दैन। तपाईंले यसलाई प्रोग्राम स्टेट दिनुहुन्छ, यसले क्यालिब्रेटेड सम्भाव्यता सहित टाइप गरिएका मानहरू फर्काउँछ। भित्र एक फ्रन्टियर मोडेलको साथ एक प्रकार्य कल। किनभने यसले स्ट्रिङ उत्पादन गर्न सक्दैन, यसले गलत स्ट्रिङ उत्पादन गर्न सक्दैन, त्यसैले भ्रमित हुन सक्दैन, जुन विन्डोज नभएको पनडुब्बी जस्तै एयरटाइट छ जसरी एयरटाइट हुन्छ। प्रतिक्रियाहरू आधा सेकेन्ड भित्र फर्किन्छन्, आउटपुट टोकनहरू निःशुल्क छन्,

4:43 किनभने तिनीहरू लगभग चारवटा छन्, र अहिलेसम्म कुनै स्वतन्त्र बेन्चमार्क छैन, किनभने सोह्र सय ह्याकर न्यूज अंक बेन्चमार्क होइन। यदि तपाईं यो सुन्नु भन्दा पढ्न चाहनुहुन्छ भने, diff हरेक बिहान तपाईंको इनबक्समा आउँछ। the daily diff dot dev मा निःशुल्क, लिंक तल। त्यसैले — आजको निर्णय: समीक्षा आवश्यक छ। सुलेमान सही छन् कि सायद म सचेत छु भनेर भन्न प्रशिक्षित मोडेलले त्यसो भनेर केही पनि प्रमाणित गर्दैन। उनी ती कार्यकारी पनि हुन् जसको घोषित लक्ष्य उनले तपाईंलाई चेतावनी दिइरहेको कम्पनीलाई

5:10 भुक्तानी गर्न रोक्नु हो। निबन्ध पढ्नुहोस्, त्यसपछि क्याप तालिका। र आजको लागि यति नै diff। म Axrisi बाट Niko हुँ। जिम्मेवारीपूर्वक मर्ज गर्नुहोस्।

स्रोतहरू

1. Suleyman, "A warning about 'model welfare'"mustafa-suleyman.ai
2. BBC: Microsoft says Anthropic could have 'disastrous impact'www.bbc.co.uk
3. HN discussionnews.ycombinator.com
4. Claude's constitution (Jan 2026)www.anthropic.com
5. Anthropic: Opus 3 retirement interview and blogwww.anthropic.com
6. Microsoft–Nvidia–Anthropic partnership ($30B Azure, up to $5B)www.anthropic.com
7. Microsoft Humanist AI Code of Conductmicrosoft.ai
8. Salesforce incident 20004433status.salesforce.com
9. HN: Salesforce Global Outagenews.ycombinator.com
10. Salesforce + Nvidia announce Koawww.salesforce.com
11. Salesforce in Claudeclaude.com
12. HN: PS5 Linux lead quitsnews.ycombinator.com
13. PS2 MechaCon chip cracked after 26 yearswww.tomshardware.com
14. TypeSafe AI: System One Models and Jevtypesafe.ai
15. HN: Jevnews.ycombinator.com