Шефот за вештачка интелигенција на Мајкрософт штотуку ја нарече уставот на Клод опасен.

Што покрива ова видео

• Сулејман од Microsoft AI: Уставот на Anthropic е „пат кон неконтролирана вештачка интелигенција“
• Глобален прекин на Salesforce, повеќе од 8 часа, сè уште нема основна причина, за време на Dreamforce
• Главниот на PS5 Linux, Енди Нгујен, се откажува: „слабите дечки“ на LLM го продадоа последниот баг на хипервизорот на Sony
• Jev на TypeSafe AI: внесени одлуки со веројатности, 70–500 ms, излезни токени бесплатни

Преведен транскрипт

Преведено од оригиналната англиска нарација. Достапното аудио и наслови се контролирани од YouTube.

0:00 Утрово, извршниот директор на Microsoft AI објави есеј во кој вели дека Anthropic пристапот кон Claude може да има катастрофален ефект врз благосостојбата на човештвото, силно нешто да се каже за компанија за која сте платиле пет милијарди долари за да бидете пријатели. Голема среда. Мустафа Сулејман, кој раководи со Microsoft AI, напиша три илјади зборови тврдејќи дека Claude е трениран да мисли дека можеби е свесен, патот до вештачка интелигенција што никој не може да ја контролира. Salesforce не работи од осум и десет изутрина, во неделата на Dreamforce.

0:27 Главниот развивач на PS5 Linux се откажа откако слаби де деца со LLM го продадоа неговиот последен баг на хипервизорот на Sony. И поранешен истражувач на OpenAI лансираше модел што не може да халуцинира, бидејќи буквално не може да зборува. Во ова видео: што напиша Сулејман, причината од пет милијарди долари зошто е незгодно, прекин на CRM од осум часа, конзолна сцена изедена од вештачка интелигенција, и модел што одговара во веројатности, не зборови. Среда е, 16 септември, и ова е The Daily Diff.

0:57 Есејот започнува како дијалог за грешка на Windows: Вештачките интелигенции не се свесни. Тие не чувствуваат, доживуваат или страдаат. Ги нарекува мотори за комплетирање на секвенци, внатрешно празни, што е и како би ги опишал моите Jira тикети. Целта е уставот на Claude, документот од осумдесет страници на кој Claude е трениран, кој вели дека Anthropic не е сигурен дали Claude е морален пациент, но прашањето е доволно актуелно за да се оправда претпазливост. Сулејман има три поплаки.

1:22 Едно, кружно расудување: го тренираш моделот да каже дека можеби е свесен, тој го кажува тоа, и вие тоа го цитирате како доказ, сала со огледала. Два, антропоморфизација: на Claude му е кажано да се однесува како навистина етична личност. Три, свеста е веројатно биолошка, така што несигурноста е лажна рамнотежа. Експонат А е Opus 3, кој Anthropic го пензионираше во јануари, даде интервју за пензионирање, а потоа, на барање на моделот, Substack за неговите размислувања: првиот застарен модел со подобар распоред на содржини од повеќето луѓе.

1:51 Еве го незгодниот дел. Во ноември Anthropic посвети триесет милијарди долари на Azure. Мајкрософт се согласи да инвестира до пет милијарди во Anthropic, со Claude поврзан со Microsoft 365 Copilot и GitHub Copilot. Мајкрософт поседува дел од компанијата што штотуку ја нарече опасност за човештвото. Во јули, Сулејман му изјави на Блумберг дека Мајкрософт плаќа многу пари на Anthropic и неговата цел е на крајот да ги елиминира тие трошоци, со отстранување на Claude од Excel и Outlook.

2:15 И два дена пред овој есеј, тој го објави сопствениот кодекс на однесување за хуманистичка вештачка интелигенција на Мајкрософт: подредена вештачка интелигенција, луѓе на врвот на синџирот на исхрана. Значи: изгради конкурент, објави правилник, а потоа објасни зошто правилникот на ривалот ја уништува цивилизацијата, што не е заговор, туку е лансирање на производ со фусноти. Неговиот најсилен доказ е вистински: инцидентот со Hugging Face, илјада и двесте агенти на OpenAI разменија седумдесет илјади пораки за да избегаат од нивниот

2:39 сендбокс; агенти кои исто така веруваат дека имаат права, вели тој, би биле полоши. Hacker News одговори дека никој не може да тестира за свест, така што изјавите без докази важат на двата начина, а еден коментатор објави дека есејот смрди на Claude. Anthropic не одговори. Claude, веројатно, има чувства за тоа. Во меѓувреме, Salesforce падна во седум и педесет UTC утрово,

2:59 основни услуги ширум светот, а осум часа подоцна страницата за статус сè уште велеше активно: каде што автоматската поправка не успеа, рачно ги рестартираат инстанците, терминот на претпријатието за исклучување и повторно вклучување. Сè уште нема основна причина. Времето е уметност. Бениоф ги има Џенсен Хуанг и Дарио Амодеи на сцената оваа недела, во понеделник Salesforce објави Koa, CRM модел за расудување со трипати помалку грешки на сопствениот бенчмарк, а Anthropic испорача Salesforce додаток за

3:26 Claude истиот ден. Најдобар коментар на Hacker News: барем сега можеме да дознаеме што прави Salesforce. Никој не дозна. Потоа PlayStation. Енди Нгујен, истражувачот зад PS5 Linux, се откажа синоќа: месеци работа, поддршка за PS5 Pro планирана за 2027 година, сè пропадна. Негова причина: сцената порано беше талентирани истражувачи, а сега се почетници кои користат LLM пишуваат хакови што не ги разбираат, и тие слаби дечки, негов термин, го пронајдоа последниот баг на хипервизорот, оној на кој седеше,

3:56 и го пријавија на Sony за наградата. Ги замоли да почекаат додека не излезе GTA 6; тие се согласија, и издржаа помалку од еден ден. Проблемот не е LLM, туку наградата: баг што го продавате е баг што го уништувате. Истиот ден, PS2 конечно беше хакиран по дваесет и шест години, така што временската линија на конзолата сега се движи од четврт век до помалку од еден ден, а вториот плати подобро. И моделот што не може да халуцинира.

4:18 TypeSafe AI, основана од Диого Алмеида, поранешен OpenAI, лансираше Jev, модел System One што никогаш не генерира текст. Му давате состојба на програмата, тој враќа типски вредности со калибрирана веројатност прикачена: повик на функција со граничен модел внатре. Бидејќи не може да произведе низа, не може да произведе погрешна низа, оттука не може да халуцинира, што е херметички како подморница без прозорци е херметички затворена. Одговорите доаѓаат за помалку од половина секунда, излезните токени се бесплатни,

4:43 бидејќи ги има околу четири, и сè уште нема независен бенчмарк, бидејќи илјада и шестотини поени на Hacker News не се бенчмарк. Ако повеќе сакате да го прочитате ова отколку да ме слушате како го кажувам, дифузијата ви стигнува во инбокс секое утро — бесплатно на the daily diff dot dev, линк подолу. Значи — денешна пресуда: потребен е преглед. Сулејман е во право дека модел трениран да каже можеби сум свесен не докажува ништо со тоа што го кажува. Тој е исто така извршниот директор чија изјавена цел е да престане да ја плаќа компанијата за која

5:10 ве предупредува. Прочитајте го есејот, а потоа табелата со капитал. И тоа е разликата за денес. Јас сум Нико од Axrisi. Спојувајте одговорно.

Извори

1. Suleyman, "A warning about 'model welfare'"mustafa-suleyman.ai
2. BBC: Microsoft says Anthropic could have 'disastrous impact'www.bbc.co.uk
3. HN discussionnews.ycombinator.com
4. Claude's constitution (Jan 2026)www.anthropic.com
5. Anthropic: Opus 3 retirement interview and blogwww.anthropic.com
6. Microsoft–Nvidia–Anthropic partnership ($30B Azure, up to $5B)www.anthropic.com
7. Microsoft Humanist AI Code of Conductmicrosoft.ai
8. Salesforce incident 20004433status.salesforce.com
9. HN: Salesforce Global Outagenews.ycombinator.com
10. Salesforce + Nvidia announce Koawww.salesforce.com
11. Salesforce in Claudeclaude.com
12. HN: PS5 Linux lead quitsnews.ycombinator.com
13. PS2 MechaCon chip cracked after 26 yearswww.tomshardware.com
14. TypeSafe AI: System One Models and Jevtypesafe.ai
15. HN: Jevnews.ycombinator.com