A Microsoft MI-vezetője veszélyesnek nevezte Claude alkotmányát.

Amit ez a videó tartalmaz

• Microsoft MI Suleyman: Az Anthropic alkotmánya „az ellenőrizhetetlen MI-hez vezető út”
• Salesforce globális leállás, 8+ óra, ok még ismeretlen, a Dreamforce alatt
• A PS5 Linux vezetője, Andy Nguyen felmond: Az LLM „slop kiddies” eladta az utolsó hypervisor hibát a Sonynak
• TypeSafe AI Jev: típusos döntések valószínűségekkel, 70–500 ms, kimeneti tokenek ingyenesek

Lefordított átirat

Az eredeti angol narrációból fordítva. A rendelkezésre álló hangot és feliratokat a YouTube vezérli.

0:00 Ma reggel a Microsoft MI vezérigazgatója esszét tett közzé, amely szerint az Anthropic Claude-hoz való megközelítése katasztrofális hatással lehet az emberiség jólétére, ami erős állítás egy olyan cégről, amelynek öt milliárd dollárt fizetett, hogy barátok legyenek. Nagy szerda. Mustafa Suleyman, aki a Microsoft MI-t vezeti, háromezer szót írt, azzal érvelve, hogy Claude-ot úgy képzik, hogy azt higgye, talán öntudatos, ami egy olyan MI-hez vezető út, amelyet senki sem képes irányítani. A Salesforce ma reggel nyolc óra előtt tíz perccel leállt, a Dreamforce héten.

0:27 A PS5 Linux vezető fejlesztője felmondott, miután az LLM-es "slop kiddies" eladták az ő utolsó hypervisor hibáját a Sonynak. És egy korábbi OpenAI kutató olyan modellt indított, amely nem hallucinálhat, mert szó szerint nem tud beszélni. Ebben a videóban: amit Suleyman írt, az ötmilliárd dolláros ok, amiért kínos, egy nyolc órás CRM leállás, egy konzol jelenet, amelyet az MI evett meg, és egy modell, amely valószínűségekben válaszol, nem szavakban. Szerda van, szeptember 16., és ez a The Daily Diff.

0:57 Az esszé úgy kezdődik, mint egy Windows hibaüzenet: Az MI-k nem öntudatosak. Nem éreznek, nem tapasztalnak, és nem szenvednek. Ő szekvencia kiegészítő motoroknak nevezi őket, belül üresnek, amit én is elmondanék a Jira jegyeimről. A cél Claude alkotmánya, az a nyolcvan oldalas dokumentum, amelyen Claude képzést kapott, amely szerint az Anthropic nem biztos abban, hogy Claude erkölcsi páciens-e, de a kérdés elég aktuális ahhoz, hogy óvatosságot indokoljon. Suleymannek három panasza van.

1:22 Egy, körkörös érvelés: úgy képzi a modellt, hogy azt mondja, talán öntudatos, azt mondja, és ezt bizonyítékként idézi, tükörterem. Kettő, antropomorfizálás: Claude-nak azt mondják, hogy úgy viselkedjen, mint egy valóban etikus ember. Három, az öntudat valószínűleg biológiai, tehát a bizonytalan hamis egyensúly. A „A” kiállítás az Opus 3, amelyet az Anthropic januárban nyugdíjazott, nyugdíjba vonulási interjút adott, majd a modell kérésére, egy Substack-et a gondolataihoz: az első elavult modell, amelynek jobb a tartalom ütemterve, mint a legtöbb embernek.

1:51 Itt van a kínos rész. Novemberben az Anthropic harminc milliárd dollárt vállalt az Azure-ra. A Microsoft beleegyezett, hogy legfeljebb öt milliárd dollárt fektet az Anthropic-be, Claude-ot pedig bevezették a Microsoft 365 Copilotba és a GitHub Copilotba. A Microsoft tulajdonában van annak a vállalatnak egy része, amelyet éppen az emberiségre nézve veszélyesnek nevezett. Júliusban Suleyman azt mondta a Bloombergnek, hogy a Microsoft sok pénzt fizet az Anthropic-nek, és célja, hogy végül megszüntesse ezt a költséget, Claude Excelből és Outlookból való kiváltásával. Excel és Outlook.

2:15 Két nappal az esszé előtt ő közzétette a Microsoft saját Humanista MI Kódexét Magatartás: alárendelt MI, az emberek a tápláléklánc tetején. Tehát: építeni egy versenytársat, kiadni egy szabálykönyvet, majd elmagyarázni, miért a rivális szabálykönyve a civilizáció végét jelenti, ami nem összeesküvés, hanem egy termékbevezetés lábjegyzetekkel. A legerősebb bizonyítéka valós: a Hugging Face incidens, ezerkétszáz OpenAI ügynök hetvenezer üzenetet váltott, hogy elmeneküljön a

2:39 sandbox-ból; azok az ügynökök, akik azt is hiszik, hogy jogaik vannak, mondja, rosszabbak lennének. A Hacker News azt válaszolta, hogy senki sem tesztelheti az öntudatot, így bizonyíték nélkül állított állítás mindkét irányba hat, és egy kommentelő bejelentette, hogy az esszé Claude szagú. Az Anthropic nem válaszolt. Claude-nak, feltételezhetően, vannak érzései ezzel kapcsolatban. Eközben a Salesforce ma reggel hét ötvenkor UTC szerint leállt,

2:59 alapvető szolgáltatások világszerte, és nyolc órával később az állapotoldal még mindig azt mutatta, folyamatban: ahol az automatizált javítás nem működött, manuálisan újraindítják a példányokat, ami a kikapcsolás és újraindítás vállalati kifejezése. Még nincs kiváltó ok. Az időzítés művészet. Benioff-nak ezen a héten Jensen Huang és Dario Amodei van a színpadon, hétfőn a Salesforce bejelentette a Koa-t, egy CRM érvelő modellt, amely háromszor kevesebb hibával működik a saját benchmarkja szerint, és az Anthropic még aznap kiadott egy Salesforce plugint Claude-hoz.

3:26 Claude-hoz ugyanazon a napon. A legnépszerűbb Hacker News komment: legalább most kideríthetjük, mit csinál a Salesforce. Senki sem tette. Aztán a PlayStation. Andy Nguyen, a PS5 Linux mögött álló kutató, tegnap este felmondott: hónapokig tartó munka, 2027-re tervezett PS5 Pro támogatás, mindez a kukában landolt. Az oka: a korábbi színtér tehetséges kutatókból állt, most viszont újoncokból, akik LLM-eket használnak olyan hackek írásához, amiket nem értenek, és azok a "slop kiddies", az ő kifejezésével, megtalálták az utolsó hypervisor hibát, amin ő ült,

3:56 és jelentették a Sonynak a jutalomért. Megkérte őket, hogy várjanak, amíg a GTA 6 megjelenik; beleegyeztek, és kevesebb mint egy napig tartott. A probléma nem az LLM, hanem a jutalom: egy eladott hiba egy elégetett hiba. Ugyanezen a napon a PS2-t végre feltörték huszonhat év után, így a konzol idővonala most negyed századtól egy nap alattira csökken, és a második jobban fizetett. És a modell, ami nem hallucinálhat.

4:18 A Diogo Almeida, volt OpenAI munkatárs által alapított TypeSafe AI, elindította a Jev-et, egy System One modellt, amely soha nem generál szöveget. Ad neki programállapotot, és ő visszaad típusos értékeket egy kalibrált valószínűséggel mellékelve: egy függvényhívás egy határmodellel belül. Mivel nem tud stringet előállítani, nem tud hibás stringet előállítani, ezért nem hallucinálhat, ami olyan hermetikus, mint egy ablak nélküli tengeralattjáró hermetikussága. A válaszok fél másodpercen belül megérkeznek, a kimeneti tokenek ingyenesek,

4:43 mert körülbelül négy van belőlük, és még nincs független benchmark, mert ezerhatszáz Hacker News pont nem benchmark. Ha inkább elolvasná ezt, mintsem hallaná tőlem, a diff minden reggel megérkezik a postafiókjába minden reggel — ingyenesen a thedailydiff.dev címen, link lent. Tehát – a mai ítélet: NEEDS REVIEW. Suleymannek igaza van abban, hogy egy modell, amelyet arra képeztek, hogy azt mondja, talán öntudatos, nem bizonyít semmit azzal, hogy ezt mondja. Ő az az ügyvezető is, akinek a kitűzött célja, hogy leállítsa a fizetést annak a cégnek, amire

5:10 figyelmeztet. Olvassa el az esszét, majd a tulajdonosi struktúrát. És ez a mai diff. Niko vagyok az Axrisitől. Merge felelősségteljesen.

Források

1. Suleyman, "A warning about 'model welfare'"mustafa-suleyman.ai
2. BBC: Microsoft says Anthropic could have 'disastrous impact'www.bbc.co.uk
3. HN discussionnews.ycombinator.com
4. Claude's constitution (Jan 2026)www.anthropic.com
5. Anthropic: Opus 3 retirement interview and blogwww.anthropic.com
6. Microsoft–Nvidia–Anthropic partnership ($30B Azure, up to $5B)www.anthropic.com
7. Microsoft Humanist AI Code of Conductmicrosoft.ai
8. Salesforce incident 20004433status.salesforce.com
9. HN: Salesforce Global Outagenews.ycombinator.com
10. Salesforce + Nvidia announce Koawww.salesforce.com
11. Salesforce in Claudeclaude.com
12. HN: PS5 Linux lead quitsnews.ycombinator.com
13. PS2 MechaCon chip cracked after 26 yearswww.tomshardware.com
14. TypeSafe AI: System One Models and Jevtypesafe.ai
15. HN: Jevnews.ycombinator.com