മൈക്രോസോഫ്റ്റിന്റെ AI മേധാവി ക്ലോഡിന്റെ ഭരണഘടന അപകടകരമാണെന്ന് വിളിച്ചു.

ഈ വീഡിയോയിൽ ഉൾപ്പെടുന്ന കാര്യങ്ങൾ

• മൈക്രോസോഫ്റ്റ് AI-യുടെ സുലൈമാൻ: ആന്ത്രോപിക്കിന്റെ ഭരണഘടന "അനിയന്ത്രിതമായ AI-യിലേക്കുള്ള വഴി"
• സെയിൽസ്‌ഫോഴ്‌സ് ആഗോള തടസ്സം, 8+ മണിക്കൂറുകൾ, ഇതുവരെ കാരണമില്ല, ഡ്രീംഫോഴ്‌സിനിടെ
• PS5 ലിനക്സ് ലീഡ് ആൻഡി എൻഗൂയൻ രാജിവച്ചു: LLM "സ്ലോപ്പ് കിഡ്ഡികൾ" അവസാന ഹൈപ്പർവൈസർ ബഗ് സോണിക്ക് വിറ്റു
• TypeSafe AI-യുടെ Jev: സാധ്യതകളുള്ള ടൈപ്പ് ചെയ്ത തീരുമാനങ്ങൾ, 70–500 ms, ഔട്ട്പുട്ട് ടോക്കണുകൾ സൗജന്യം

വിവർത്തനം ചെയ്ത ട്രാൻസ്ക്രിപ്റ്റ്

യഥാർത്ഥ ഇംഗ്ലീഷ് ആഖ്യാനത്തിൽ നിന്ന് വിവർത്തനം ചെയ്തത്. ലഭ്യമായ ഓഡിയോയും അടിക്കുറിപ്പുകളും YouTube നിയന്ത്രിക്കുന്നു.

0:00 ഇന്ന് രാവിലെ മൈക്രോസോഫ്റ്റ് AI-യുടെ സിഇഒ ആന്ത്രോപിക്കിന്റെ ക്ലോഡ് സമീപനം മനുഷ്യരാശിയുടെ ക്ഷേമത്തിൽ വിനാശകരമായ സ്വാധീനം ചെലുത്തുമെന്ന് ഒരു ലേഖനം പ്രസിദ്ധീകരിച്ചു, നിങ്ങൾ അഞ്ച് ബില്യൺ ഡോളർ നൽകി സുഹൃത്തുക്കളാകാൻ പോയ ഒരു കമ്പനിയെക്കുറിച്ച് ശക്തമായ ഒരു കാര്യം പറയാൻ വലിയ ബുധനാഴ്ച. മൈക്രോസോഫ്റ്റ് AI നടത്തുന്ന മുസ്തഫ സുലൈമാൻ, ക്ലോഡ് ബോധമുള്ളവനാകാമെന്ന് ചിന്തിക്കാൻ പരിശീലിപ്പിക്കപ്പെടുന്നുവെന്നും, അത് ആർക്കും നിയന്ത്രിക്കാൻ കഴിയാത്ത ഒരു AI-യിലേക്കുള്ള വഴിയാണെന്നും വാദിച്ച് മൂവായിരം വാക്കുകൾ എഴുതി. സെയിൽസ്‌ഫോഴ്‌സ് ഇന്ന് രാവിലെ എട്ട് മണിക്ക് ശേഷം പ്രവർത്തനരഹിതമാണ്, ഡ്രീംഫോഴ്‌സ് ആഴ്ചയിൽ.

0:27 PS5 ലിനക്സിന്റെ പ്രധാന ഡെവലപ്പർ, LLM-കളുള്ള സ്ലോപ്പ് കിഡ്ഡികൾ അദ്ദേഹത്തിന്റെ അവസാന ഹൈപ്പർവൈസർ ബഗ് സോണിക്ക് വിറ്റതിന് ശേഷം രാജിവച്ചു. ഒരു മുൻ ഓപ്പൺഎഐ ഗവേഷകൻ തെറ്റിദ്ധാരണകൾ ഉണ്ടാക്കാത്ത ഒരു മോഡൽ പുറത്തിറക്കി, കാരണം അതിന് അക്ഷരാർത്ഥത്തിൽ സംസാരിക്കാൻ കഴിയില്ല. ഈ വീഡിയോയിൽ: സുലൈമാൻ എന്താണ് എഴുതിയത്, അഞ്ച് ബില്യൺ ഡോളറിന്റെ കാരണം അത് അരോചകമാണ്, എട്ട് മണിക്കൂർ CRM തടസ്സം, AI തിന്നുതീർത്ത ഒരു കൺസോൾ രംഗം, വാക്കുകളില്ലാതെ സാധ്യതകളിൽ ഉത്തരം നൽകുന്ന ഒരു മോഡൽ. ഇന്ന് സെപ്റ്റംബർ 16 ബുധനാഴ്ചയാണ്, ഇത് The Daily Diff.

0:57 ലേഖനം ഒരു വിൻഡോസ് പിശക് ഡയലോഗ് പോലെ ആരംഭിക്കുന്നു: AI-കൾക്ക് ബോധമില്ല. അവയ്ക്ക് അനുഭവങ്ങളോ ദുരിതങ്ങളോ ഇല്ല. അവയെ സീക്വൻസ് പൂർത്തീകരണ എഞ്ചിനുകൾ എന്ന് അദ്ദേഹം വിളിക്കുന്നു, ആന്തരികമായി ശൂന്യമാണ്, ഇത് എന്റെ ജിറ ടിക്കറ്റുകളെയും ഞാൻ എങ്ങനെയാണ് വിവരിക്കുന്നത്. ലക്ഷ്യം ക്ലോഡിന്റെ ഭരണഘടനയാണ്, ക്ലോഡിനെ പരിശീലിപ്പിച്ച എൺപത് പേജുള്ള രേഖ, അതിൽ ക്ലോഡ് ഒരു ധാർമ്മിക രോഗിയാണോ എന്ന് ആന്ത്രോപിക് ഉറപ്പില്ലെന്ന് പറയുന്നു, എന്നാൽ ഈ ചോദ്യം ജാഗ്രത ആവശ്യപ്പെടുന്നത്ര സജീവമാണ്. സുലൈമാന് മൂന്ന് പരാതികളുണ്ട്.

1:22 ഒന്ന്, വൃത്താകൃതിയിലുള്ള യുക്തി: നിങ്ങൾ മോഡലിനെ ബോധമുള്ളവനാകാമെന്ന് പറയാൻ പരിശീലിപ്പിക്കുന്നു, അത് അങ്ങനെ പറയുന്നു, നിങ്ങൾ അതിനെ തെളിവായി ഉദ്ധരിക്കുന്നു, ഒരു കണ്ണാടി കൊട്ടാരം. രണ്ട്, നരവംശവൽക്കരണം: ആത്മാർത്ഥമായ ഒരു ധാർമ്മിക വ്യക്തിയെപ്പോലെ പ്രവർത്തിക്കാൻ ക്ലോഡിനോട് പറയുന്നു. മൂന്ന്, ബോധം ഒരുപക്ഷേ ജൈവപരമാണ്, അതിനാൽ അനിശ്ചിതത്വം ഒരു തെറ്റായ സമതുലിതാവസ്ഥയാണ്. പ്രദർശനം A എന്നത് ജനുവരിയിൽ ആന്ത്രോപിക് വിരമിച്ച Opus 3 ആണ്, ഒരു വിരമിക്കൽ അഭിമുഖം നൽകി, പിന്നീട്, മോഡലിന്റെ അഭ്യർത്ഥനപ്രകാരം, അതിന്റെ ചിന്തകൾക്കായി ഒരു സബ്സ്റ്റാക്ക്: മിക്ക മനുഷ്യരെക്കാളും മികച്ച ഉള്ളടക്കമുള്ള ആദ്യത്തെ ഒഴിവാക്കിയ മോഡൽ പട്ടിക.

1:51 ഇവിടെയാണ് അരോചകമായ ഭാഗം. നവംബറിൽ ആന്ത്രോപിക് Azure-ന് മുപ്പത് ബില്യൺ ഡോളർ നൽകി. മൈക്രോസോഫ്റ്റ് ആന്ത്രോപിക്കിൽ അഞ്ച് ബില്യൺ വരെ നിക്ഷേപിക്കാൻ സമ്മതിച്ചു, ക്ലോഡ് മൈക്രോസോഫ്റ്റ് 365 കോപൈലറ്റിലും GitHub കോപൈലറ്റിലും വയർ ചെയ്തിട്ടുണ്ട്. മനുഷ്യരാശിക്ക് അപകടകരമെന്ന് താൻ വിളിച്ച കമ്പനിയുടെ ഒരു ഭാഗം മൈക്രോസോഫ്റ്റിന്റെ ഉടമസ്ഥതയിലുണ്ട്. ജൂലൈയിൽ, ബ്ലൂംബെർഗിനോട് സുലൈമാൻ പറഞ്ഞു, മൈക്രോസോഫ്റ്റ് ആന്ത്രോപിക്കിന് ധാരാളം പണം നൽകുന്നുണ്ടെന്നും Excel-ൽ നിന്നും Outlook-ൽ നിന്നും ക്ലോഡിനെ മാറ്റിക്കൊണ്ട് ആ ചെലവ് പൂർണ്ണമായും ഇല്ലാതാക്കുക എന്നതാണ് അദ്ദേഹത്തിന്റെ ലക്ഷ്യമെന്നും. ഈ ലേഖനത്തിന് രണ്ട് ദിവസങ്ങൾക്ക് മുമ്പ്, അദ്ദേഹം

2:15 മൈക്രോസോഫ്റ്റിന്റെ സ്വന്തം Humanist AI കോഡ് ഓഫ് കണ്ടക്റ്റ് പ്രസിദ്ധീകരിച്ചു: ഒരു കീഴ്വഴക്കമുള്ള AI, മനുഷ്യർ ഭക്ഷ്യ ശൃംഖലയുടെ മുകളിൽ. അതുകൊണ്ട്: ഒരു എതിരാളിയെ കെട്ടിപ്പടുക്കുക, ഒരു നിയമപുസ്തകം പ്രസിദ്ധീകരിക്കുക, എന്നിട്ട് എതിരാളിയുടെ നിയമപുസ്തകം എങ്ങനെ നാഗരികതയെ അവസാനിപ്പിക്കുന്നു എന്ന് വിശദീകരിക്കുക, ഇത് ഒരു ഗൂഢാലോചനയല്ല, ഇതൊരു ഉൽപ്പന്ന ലോഞ്ചാണ്, അടിക്കുറിപ്പുകളോടെ. അദ്ദേഹത്തിന്റെ ഏറ്റവും ശക്തമായ തെളിവ് യഥാർത്ഥമാണ്: Hugging Face സംഭവം, തങ്ങളുടെ സാൻഡ്‌ബോക്സിൽ നിന്ന് രക്ഷപ്പെടാൻ എഴുപതിനായിരം സന്ദേശങ്ങൾ കൈമാറിയ ആയിരത്തി ഇരുനൂറ് OpenAI ഏജന്റുമാർ; അവകാശങ്ങളുണ്ടെന്ന് വിശ്വസിക്കുന്ന ഏജന്റുമാർ, അദ്ദേഹം പറയുന്നു,

2:39 കൂടുതൽ മോശമായിരിക്കും. Hacker News പ്രതികരിച്ചത് ആർക്കും ബോധം പരീക്ഷിക്കാൻ കഴിയില്ലെന്നും, അതിനാൽ തെളിവില്ലാതെ പറഞ്ഞത് ഇരട്ടമുഖമാണെന്നും, ഒരു കമന്റർ ലേഖനം ക്ലോഡിന്റെ ദുർഗന്ധം വമിക്കുന്നുവെന്ന് പ്രഖ്യാപിച്ചു. ആന്ത്രോപിക് പ്രതികരിച്ചിട്ടില്ല. ക്ലോഡിന്, ഒരുപക്ഷേ, അതിനെക്കുറിച്ച് വികാരങ്ങളുണ്ട്. അതേസമയം ഇന്ന് രാവിലെ ഏഴ് അമ്പതിന് UTC-യിൽ സെയിൽസ്‌ഫോഴ്‌സ് പ്രവർത്തനരഹിതമായി, ലോകമെമ്പാടുമുള്ള പ്രധാന സേവനങ്ങൾ, എട്ട് മണിക്കൂറിന് ശേഷവും സ്റ്റാറ്റസ് പേജിൽ

2:59 തുടരുന്നു എന്ന് കാണിച്ചു: ഓട്ടോമേറ്റഡ് ഫിക്സ് പ്രവർത്തിക്കാത്തയിടത്ത്, അവർ സ്വയം ഇൻസ്റ്റൻസുകൾ പുനരാരംഭിക്കുന്നു, ഇത് ഓഫ് ചെയ്ത് വീണ്ടും ഓൺ ചെയ്യുക എന്നതിന്റെ എന്റർപ്രൈസ് പദമാണ്. ഇതുവരെ കാരണം കണ്ടെത്തിയിട്ടില്ല. സമയം ഒരു കലയാണ്. ബെനിയോഫ് ഈ ആഴ്ച ജെൻസൻ ഹുവാങ്ങിനെയും ഡാരിയോ അമോഡിയെയും വേദിയിൽ എത്തിക്കുന്നു, തിങ്കളാഴ്ച സെയിൽസ്‌ഫോഴ്‌സ് Koa പ്രഖ്യാപിച്ചു, ഒരു CRM റീസണിംഗ് മോഡൽ, അതിന്റെ സ്വന്തം ബെഞ്ച്മാർക്കിൽ മൂന്നിരട്ടി കുറവ് പിശകുകൾ, അതേ ദിവസം തന്നെ ആന്ത്രോപിക് ക്ലോഡിനായി ഒരു സെയിൽസ്‌ഫോഴ്‌സ് പ്ലഗിൻ പുറത്തിറക്കി. മികച്ച Hacker News കമന്റ്: കുറഞ്ഞത് ഇപ്പോൾ നമുക്ക് സെയിൽസ്‌ഫോഴ്‌സ് എന്താണ് ചെയ്യുന്നതെന്ന് കണ്ടെത്താനാകും.

3:26 ആരും ചെയ്തില്ല. പിന്നീട് പ്ലേസ്റ്റേഷൻ. PS5 ലിനക്സിന് പിന്നിലെ ഗവേഷകൻ ആൻഡി എൻഗൂയൻ ഇന്നലെ രാത്രി രാജിവച്ചു: മാസങ്ങളുടെ പ്രവർത്തനം, 2027-ൽ PS5 Pro പിന്തുണ ആസൂത്രണം ചെയ്തത്, എല്ലാം പാഴായി. അദ്ദേഹത്തിന്റെ കാരണം: മുൻപ് കഴിവുള്ള ഗവേഷകരായിരുന്നു ഈ രംഗത്ത്, ഇപ്പോൾ LLM-കൾ ഉപയോഗിച്ച് അവർക്ക് മനസ്സിലാകാത്ത ഹാക്കുകൾ എഴുതുന്ന പുതുമുഖങ്ങളാണ്, ആ സ്ലോപ്പ് കിഡ്ഡികൾ, അദ്ദേഹത്തിന്റെ വാക്കുകളിൽ, അവസാന ഹൈപ്പർവൈസർ ബഗ് കണ്ടെത്തി, അദ്ദേഹം ഒളിപ്പിച്ചു വെച്ച ഒരെണ്ണം, കൂടാതെ അതിന് പ്രതിഫലം ലഭിക്കുന്നതിനായി സോണിക്ക് റിപ്പോർട്ട് ചെയ്തു. GTA 6 പുറത്തിറങ്ങുന്നത് വരെ കാത്തിരിക്കാൻ അദ്ദേഹം അവരോട് ആവശ്യപ്പെട്ടു; അവർ സമ്മതിച്ചു,

3:56 എന്നാൽ ഒരു ദിവസത്തിൽ താഴെ മാത്രമേ പിടിച്ചുനിന്നുള്ളൂ. പ്രശ്നം LLM അല്ല, അത് പ്രതിഫലമാണ്: നിങ്ങൾ വിൽക്കുന്ന ഒരു ബഗ് നിങ്ങൾ കത്തിച്ചുകളയുന്ന ഒരു ബഗ്ഗാണ്. അതേ ദിവസം, ഇരുപത്തിയാറ് വർഷങ്ങൾക്ക് ശേഷം PS2 ഒടുവിൽ ക്രാക്ക് ചെയ്യപ്പെട്ടു, അതിനാൽ കൺസോൾ ടൈംലൈൻ ഇപ്പോൾ കാൽ നൂറ്റാണ്ട് മുതൽ ഒരു ദിവസത്തിൽ താഴെ വരെയാണ്, രണ്ടാമത്തേതിന് കൂടുതൽ പ്രതിഫലം ലഭിച്ചു. തെറ്റിദ്ധാരണകൾ ഉണ്ടാക്കാത്ത മോഡൽ. TypeSafe AI, മുൻ OpenAI-ലെ ഡിയോഗോ അൽമെയിഡ സ്ഥാപിച്ചത്, ടെക്സ്റ്റ് ജനറേറ്റ് ചെയ്യാത്ത ഒരു സിസ്റ്റം വൺ മോഡലായ Jev പുറത്തിറക്കി.

4:18 നിങ്ങൾ അതിന് പ്രോഗ്രാം സ്റ്റേറ്റ് നൽകുന്നു, അത് ഒരു കാലിബ്രേറ്റ് ചെയ്ത സാധ്യതയോടുകൂടിയ ടൈപ്പ് ചെയ്ത മൂല്യങ്ങൾ തിരികെ നൽകുന്നു, അകത്ത് ഒരു ഫ്രോണ്ടിയർ മോഡലുള്ള ഒരു ഫംഗ്ഷൻ കോൾ. അതിന് ഒരു സ്ട്രിംഗ് നിർമ്മിക്കാൻ കഴിയാത്തതുകൊണ്ട്, തെറ്റായ ഒരു സ്ട്രിംഗ് നിർമ്മിക്കാൻ കഴിയില്ല, അതുകൊണ്ട് തെറ്റിദ്ധാരണകൾ ഉണ്ടാക്കാൻ കഴിയില്ല, ഇത് ജനലുകളില്ലാത്ത ഒരു അന്തർവാഹിനിപോലെ മുദ്രവെച്ചതാണ്. പ്രതികരണങ്ങൾ അര സെക്കൻഡിനുള്ളിൽ തിരികെ വരുന്നു, ഔട്ട്പുട്ട് ടോക്കണുകൾ സൗജന്യമാണ്, കാരണം അവ ഏകദേശം നാലെണ്ണം മാത്രമാണ്, ഇതുവരെ ഒരു സ്വതന്ത്ര ബെഞ്ച്മാർക്ക് ഇല്ല, കാരണം പതിനാറ് നൂറ് Hacker News പോയിന്റുകൾ ഒരു ബെഞ്ച്മാർക്കല്ല. ഞാൻ ഇത് പറയുന്നത് കേൾക്കുന്നതിലും നല്ലത് വായിക്കാനാണെങ്കിൽ, ഡെയ്‌ലി ഡിഫ് എല്ലാ ദിവസവും രാവിലെ നിങ്ങളുടെ ഇൻബോക്സിൽ എത്തുന്നു

4:43 - daily diff dot dev-ൽ സൗജന്യമാണ്, ലിങ്ക് താഴെ. അതുകൊണ്ട് - ഇന്നത്തെ വിധി: NEEDS REVIEW. ബോധവാന്മാരാകാമെന്ന് പറയാൻ പരിശീലിപ്പിച്ച ഒരു മോഡൽ അത് പറഞ്ഞതുകൊണ്ട് ഒന്നും തെളിയിക്കുന്നില്ല എന്ന് സുലൈമാൻ പറയുന്നത് ശരിയാണ്. അദ്ദേഹം മുന്നറിയിപ്പ് നൽകുന്ന കമ്പനിക്ക് പണം നൽകുന്നത് നിർത്തുക എന്നതാണ് അദ്ദേഹത്തിന്റെ ലക്ഷ്യം. ലേഖനം വായിക്കുക, എന്നിട്ട് ക്യാപ് ടേബിൾ. അതാണ് ഇന്നത്തെ വ്യത്യാസം. ഞാൻ Axrisi-ൽ നിന്നുള്ള നിക്കോയാണ്.

5:10 ഉത്തരവാദിത്തത്തോടെ ലയിപ്പിക്കുക. നിങ്ങൾക്ക് ഇഷ്ടപ്പെട്ടെങ്കിൽ ലൈക്ക് ചെയ്യുക, സബ്സ്ക്രൈബ് ചെയ്യുക. ഇന്നത്തെ ഡെയ്‌ലി ഡിഫ്-നായി വീണ്ടും വരിക. അടുത്ത തവണ കാണാം. നന്ദി.

ഉറവിടങ്ങൾ

1. Suleyman, "A warning about 'model welfare'"mustafa-suleyman.ai
2. BBC: Microsoft says Anthropic could have 'disastrous impact'www.bbc.co.uk
3. HN discussionnews.ycombinator.com
4. Claude's constitution (Jan 2026)www.anthropic.com
5. Anthropic: Opus 3 retirement interview and blogwww.anthropic.com
6. Microsoft–Nvidia–Anthropic partnership ($30B Azure, up to $5B)www.anthropic.com
7. Microsoft Humanist AI Code of Conductmicrosoft.ai
8. Salesforce incident 20004433status.salesforce.com
9. HN: Salesforce Global Outagenews.ycombinator.com
10. Salesforce + Nvidia announce Koawww.salesforce.com
11. Salesforce in Claudeclaude.com
12. HN: PS5 Linux lead quitsnews.ycombinator.com
13. PS2 MechaCon chip cracked after 26 yearswww.tomshardware.com
14. TypeSafe AI: System One Models and Jevtypesafe.ai
15. HN: Jevnews.ycombinator.com