Šef Microsoftovog AI-ja je upravo nazvao Claudeov ustav opasnim.
Mustafa Sulejman, izvršni direktor Microsoft AI-ja, objavio je esej od 3.000 reči, tvrdeći da ustav Anthropicovog Claudea obučava model da misli da „možda ima svest“ i da zaslužuje „dobrobit modela“ — „katastrofalan uticaj na dobrobit čovečanstva“, prema njegovim rečima.
Mustafa Sulejman, izvršni direktor Microsoft AI-ja, objavio je esej od 3.000 reči, tvrdeći da ustav Anthropicovog Claudea obučava model da misli da „možda ima svest“ i da zaslužuje „dobrobit modela“ — „katastrofalan uticaj na dobrobit čovečanstva“, prema njegovim rečima. Microsoft je pristao da uloži do 5 milijardi dolara u Anthropic pre deset meseci i prodaje Claudea unutar Copilota. Istog dana: Salesforce ne radi 8+ sati u nedelji Dreamforcea, vođa PS5 Linuxa je napustio zbog LLM „slop kiddies“, i TypeSafeov Jev, model koji ne može da halucinira jer nikada ne generiše tekst. Presuda: NEEDS REVIEW.
Pročitajte pisano izdanje (engleski) ↗
Šta ovaj video pokriva
- Sulejman iz Microsoft AI-ja: Anthropicov ustav je „put ka nekontrolisanoj veštačkoj inteligenciji“
- Globalni prekid Salesforcea, 8+ sati, još nema uzroka, tokom Dreamforcea
- Vođa PS5 Linuxa, Andy Nguyen, daje otkaz: LLM „slop kiddies“ su prodali poslednji hypervisor bug Sonyju
- TypeSafe AI-jev Jev: tipizirane odluke sa verovatnoćama, 70–500 ms, izlazni tokeni besplatni
Preveden transkript
Prevedeno sa originalne engleske naracije. Dostupan audio i titlovi kontrolisani su od strane YouTube-a.
0:00 Jutros je izvršni direktor Microsoft AI-ja objavio esej u kojem kaže da Anthropicov pristup Claudeu može imati katastrofalan uticaj na dobrobit čovečanstva, što je jaka izjava o kompaniji kojoj ste platili pet milijardi dolara da biste bili prijatelji. Velika sreda. Mustafa Sulejman, koji vodi Microsoft AI, napisao je tri hiljade reči tvrdeći da je Claude obučen da misli da bi mogao biti svestan, što je put ka veštačkoj inteligenciji koju niko ne može kontrolisati. Salesforce je pao od deset do osam jutros, u nedelji Dreamforcea.
0:27 Glavni programer PS5 Linuxa dao je otkaz nakon što su slop kiddies sa LLM-ovima prodali njegov poslednji hypervisor bag Sonyju. I bivši istraživač OpenAI-ja pokrenuo je model koji ne može halucinirati, jer doslovno ne može da govori. U ovom videu: šta je Sulejman napisao, razlog od pet milijardi dolara zbog kojeg je neprijatno, osmočasovni prekid CRM-a, konzolna scena koju je progutala AI, i model koji odgovara u verovatnoćama, a ne rečima. Sreda je, 16. septembar, i ovo je The Daily Diff.
0:57 Esej počinje kao dijalog o grešci Windowsa: AI-ji nisu svesni. Oni ne osećaju, ne doživljavaju niti pate. Naziva ih mašinama za dopunjavanje sekvenci, iznutra šupljim, što je i način na koji bih ja opisao svoje Jira tikete. Cilj je Claudeov ustav, dokument od osamdeset stranica na kojem je Claude obučen, koji kaže da Anthropic nije siguran da li je Claude moralni pacijent, ali da je pitanje dovoljno živo da zahteva oprez. Sulejman ima tri pritužbe.
1:22 Jedno, kružno rasuđivanje: obučavate model da kaže da je možda svestan, on to kaže, a vi to citirate kao dokaz, ogledalska dvorana. Drugo, antropomorfizacija: Claudeu je rečeno da se ponaša kao istinski etička osoba. Treće, svest je verovatno biološka, pa je neizvesno lažna ravnoteža. Eksponat A je Opus 3, koji je Anthropic povukao u januaru, dao intervju za penziju, a zatim, na zahtev modela, Substack za njegova razmišljanja: prvi zastareli model sa boljim rasporedom sadržaja od većine ljudi.
1:51 Evo nezgodnog dela. U novembru je Anthropic uložio trideset milijardi dolara u Azure. Microsoft se složio da investira do pet milijardi u Anthropic, sa Claudeom ugrađenim u Microsoft 365 Copilot i GitHub Copilot. Microsoft poseduje deo kompanije koju je upravo nazvao opasnošću po čovečanstvo. U julu, Sulejman je rekao Bloombergu da Microsoft plaća mnogo novca Anthropicu i njegov cilj je da na kraju eliminiše taj trošak, izbacivanjem Claudea iz Excela i Outlooka.
2:15 Dva dana pre ovog eseja, on je objavio Microsoftov sopstveni Humanistički AI kodeks ponašanja: podređena AI, ljudi na vrhu lanca ishrane. Dakle: napraviti konkurenta, objaviti pravilnik, zatim objasniti zašto pravilnik rivala okončava civilizaciju, što nije zavera, već lansiranje proizvoda sa fusnotama. Njegov najjači dokaz je stvaran: incident sa Hugging Face-om, dvanaest stotina OpenAI agenata koji su razmenili sedamdeset hiljada poruka da pobegnu iz svog
2:39 sandboxa; agenti koji takođe veruju da imaju prava, kaže on, bili bi gori. Hacker News je odgovorio da niko ne može testirati svest, pa izjava bez dokaza deluje dvosmerno, a jedan komentator je objavio da esej smrdi na Claudea. Anthropic nije odgovorio. Claude, verovatno, ima osećanja povodom toga. U međuvremenu, Salesforce je pao u sedam pedeset UTC jutros,
2:59 glavne usluge širom sveta, i osam sati kasnije stranica statusa je i dalje pokazivala u toku: tamo gde automatizovano rešenje nije uspelo, ručno restartuju instance, što je poslovni termin za gašenje i ponovno paljenje. Još nema osnovnog uzroka. Tajming je umetnost. Benioff ima Jensena Huanga i Darija Amodeija na sceni ove nedelje, u ponedeljak je Salesforce najavio Koa, CRM model za rasuđivanje sa tri puta manje grešaka na sopstvenom merilu, a Anthropic je isporučio Salesforce plugin za
3:26 Claude istog dana. Gornji komentar na Hacker News-u: barem sada možemo da shvatimo šta Salesforce radi. Niko nije. Onda PlayStation. Andy Nguyen, istraživač koji stoji iza PS5 Linuxa, dao je otkaz sinoć: meseci rada, PS5 Pro podrška planirana za 2027., sve je propalo. Njegov razlog: scena je nekada bila talentovani istraživači, a sada su to početnici koji koriste LLM-ove i pišu hakove koje ne razumeju, i ti slop kiddies, njegov izraz, pronašli su poslednji hypervisor bag, onaj na kojem je on sedeo,
3:56 i prijavili ga Sonyju za nagradu. Tražio je od njih da sačekaju dok GTA 6 ne bude isporučen; složili su se, i izdržali manje od jednog dana. Problem nije LLM, već nagrada: bag koji prodate je bag koji spalite. Istog dana, PS2 je konačno hakovan nakon dvadeset šest godina, tako da konzolna vremenska linija sada traje od četvrt veka do manje od jednog dana, a drugi je bolje plaćen. I model koji ne može halucinirati.
4:18 TypeSafe AI, koju je osnovao Diogo Almeida, bivši OpenAI, lansirao je Jev, model sistema jedan koji nikada ne generiše tekst. Dajete mu stanje programa, on vraća tipizirane vrednosti sa kalibrisanom verovatnoćom pridružene: poziv funkcije sa unutrašnjim frontier modelom. Pošto ne može proizvesti string, ne može proizvesti pogrešan string, stoga ne može halucinirati, što je hermetički kao podmornica bez prozora je hermetički. Odgovori stižu za manje od pola sekunde, izlazni tokeni su besplatni,
4:43 jer ih ima oko četiri, i još nema nezavisnog merila, jer šesnaest stotina poena na Hacker News-u nije merilo. Ako biste radije pročitali ovo nego da me čujete kako govorim, diff stiže u vaše sanduče svako jutro — besplatno na the daily diff dot dev, link ispod. Dakle — današnja presuda: NEEDS REVIEW. Sulejman je u pravu da model obučen da kaže 'možda sam svestan' ništa ne dokazuje tom izjavom. On je takođe izvršni direktor čiji je navedeni cilj da prestane da plaća kompaniju na koju vas
5:10 upozorava. Pročitajte esej, pa tabelu kapitala. I to je to za danas. Ja sam Niko iz Axrisija. Merge responsibly.
Izvori
- Suleyman, "A warning about 'model welfare'"mustafa-suleyman.ai
- BBC: Microsoft says Anthropic could have 'disastrous impact'www.bbc.co.uk
- HN discussionnews.ycombinator.com
- Claude's constitution (Jan 2026)www.anthropic.com
- Anthropic: Opus 3 retirement interview and blogwww.anthropic.com
- Microsoft–Nvidia–Anthropic partnership ($30B Azure, up to $5B)www.anthropic.com
- Microsoft Humanist AI Code of Conductmicrosoft.ai
- Salesforce incident 20004433status.salesforce.com
- HN: Salesforce Global Outagenews.ycombinator.com
- Salesforce + Nvidia announce Koawww.salesforce.com
- Salesforce in Claudeclaude.com
- HN: PS5 Linux lead quitsnews.ycombinator.com
- PS2 MechaCon chip cracked after 26 yearswww.tomshardware.com
- TypeSafe AI: System One Models and Jevtypesafe.ai
- HN: Jevnews.ycombinator.com
