Microsoft-ի AI-ի ղեկավարը Կլոդի սահմանադրությունը վտանգավոր է անվանել։

Ինչ է ընդգրկում այս տեսանյութը

• Microsoft AI-ի Սուլեյմանը. Anthropic-ի սահմանադրությունը «անվերահսկելի AI-ի ճանապարհ է»։
• Salesforce-ի գլոբալ խափանում, 8+ ժամ, դեռևս արմատային պատճառ չկա, Dreamforce-ի ընթացքում։
• PS5 Linux-ի ղեկավար Էնդի Նգուենը հրաժարական տվեց. LLM «slop kiddies»-ը վերջին հիպերվիզորի սխալը վաճառել է Sony-ին։
• TypeSafe AI-ի Jev-ը. տիպավորված որոշումներ՝ հավանականություններով, 70–500 մվ, ելքային թոքենները անվճար։

Թարգմանված արձանագրություն

Թարգմանվել է բնօրինակ անգլերեն պատմությունից։ Հասանելի աուդիո և ենթագրերը վերահսկվում են YouTube-ի կողմից։

0:00 Այսօր առավոտյան Microsoft AI-ի գործադիր տնօրենը հրապարակեց մի ակնարկ՝ ասելով, որ Anthropic-ի Կլոդի նկատմամբ մոտեցումը կարող է աղետալի ազդեցություն ունենալ մարդկության բարօրության վրա։ Ուժեղ հայտարարություն է անել մի ընկերության մասին, որին հինգ միլիարդ դոլար եք վճարել՝ ընկերություն անելու համար։ Մեծ չորեքշաբթի։ Մուստաֆա Սուլեյմանը, ով ղեկավարում է Microsoft AI-ն, գրեց երեք հազար բառ՝ պնդելով, որ Կլոդը մարզվում է մտածելու, որ այն կարող է գիտակցված լինել՝ դա մի AI-ի ճանապարհ է, որին ոչ ոք չի կարող վերահսկել։ Salesforce-ը չի գործում այսօր առավոտյան ութից տասը, Dreamforce շաբաթվա ընթացքում։

0:27 PS5 Linux-ի առաջատար ծրագրավորողը հրաժարական տվեց այն բանից հետո, երբ LLM-ով slop kiddies-ը վաճառեցին նրա վերջին հիպերվիզորի սխալը Sony-ին։ Եվ OpenAI-ի նախկին հետազոտողը գործարկեց մի մոդել, որը չի կարող հալյուցինացիաներ ունենալ, որովհետև բառացիորեն խոսել չի կարող։ Այս տեսանյութում. ինչ է գրել Սուլեյմանը, հինգ միլիարդ դոլարանոց պատճառը, թե ինչու է դա անհարմար, ութ ժամանոց CRM խափանում, AI-ի կողմից ուտված կոնսոլի տեսարան, և մոդել, որը պատասխանում է հավանականություններով, ոչ թե բառերով։ Այսօր չորեքշաբթի է, սեպտեմբերի 16-ը, և սա The Daily Diff-ն է։

0:57 Ակնարկը սկսվում է Windows-ի սխալի երկխոսության պես. AI-ները գիտակցված չեն։ Նրանք չեն զգում, չեն զգում կամ չեն տառապում։ Նա դրանք անվանում է հաջորդականության ավարտի շարժիչներ, ներքուստ դատարկ, ինչն էլ այն է, թե ինչպես ես կնկարագրեի իմ Jira տոմսերը։ Թիրախը Կլոդի սահմանադրությունն է՝ ութսուն էջանոց փաստաթուղթը, որի վրա Կլոդը մարզվում է, որում ասվում է, որ Anthropic-ը վստահ չէ, թե արդյոք Կլոդը բարոյական հիվանդ է, բայց հարցը բավականին արդիական է՝ զգուշություն պահանջելու համար։ Սուլեյմանը երեք բողոք ունի։

1:22 Մեկը՝ շրջանաձև տրամաբանություն. դուք մոդելին մարզում եք ասելու, որ այն կարող է գիտակցված լինել, այն այդպես է ասում, և դուք դա որպես ապացույց եք բերում՝ հայելիների սրահ։ Երկու՝ մարդկայնացում. Կլոդին ասվում է գործելու որպես իսկապես էթիկական անձ։ Երեք՝ գիտակցությունը հավանաբար կենսաբանական է, ուստի անորոշը կեղծ է հավասարակշռություն։ Ապացույց A-ն Opus 3-ն է, որը Anthropic-ը թոշակի ուղարկեց հունվարին, թոշակի անցնելու հարցազրույց տվեց, իսկ հետո, մոդելի խնդրանքով, Substack իր մտորումների համար. առաջին հնացած մոդելը՝ ավելի լավ բովանդակության ժամանակացույցով, քան մարդկանց մեծ մասը։

1:51 Ահա անհարմար մասը։ Նոյեմբերին Anthropic-ը երեսուն միլիարդ դոլար հատկացրեց Azure-ին։ Microsoft-ը համաձայնեց մինչև հինգ միլիարդ ներդնել Anthropic-ում, Կլոդը միացված էր Microsoft 365 Copilot-ին և GitHub Copilot-ին։ Microsoft-ը տիրապետում է այն ընկերության մի մասին, որին նա հենց նոր անվանեց վտանգ մարդկության համար։ Հուլիսին Սուլեյմանը Bloomberg-ին ասել է, որ Microsoft-ը մեծ գումարներ է վճարում Anthropic-ին, և նրա նպատակն է ի վերջո վերացնել այդ ծախսը՝ Կլոդին հանելով Excel-ից և Outlook-ից։

2:15 Իսկ այս ակնարկից երկու օր առաջ նա հրապարակեց Microsoft-ի սեփական Humanist AI վարքագծի կանոնագիրքը. ենթակա AI, մարդիկ սննդի շղթայի գագաթին։ Այսպիսով՝ ստեղծել մրցակից, հրապարակել կանոնների գիրք, ապա բացատրել, թե ինչու մրցակցի կանոնների գիրքը վերջ է դնում քաղաքակրթությանը, ինչը դավադրություն չէ, դա ապրանքի գործարկում է՝ ծանոթագրություններով։ Նրա ամենաուժեղ ապացույցն իրական է. Hugging Face-ի միջադեպը, տասներկու հարյուր OpenAI գործակալներ փոխանակում էին յոթանասուն հազար հաղորդագրություն՝ իրենց

2:39 sandbox-ից փախչելու համար. գործակալներ, ովքեր նաև հավատում են, որ իրենք իրավունքներ ունեն, նա ասում է, ավելի վատ կլիներ։ Hacker News-ը պատասխանեց, որ ոչ ոք չի կարող ստուգել գիտակցությունը, ուստի առանց ապացույցների հայտարարվածը երկկողմանի է, և մի մեկնաբան հայտարարեց, որ ակնարկը Կլոդի հոտ է գալիս։ Anthropic-ը չի պատասխանել։ Կլոդը, հավանաբար, զգացմունքներ ունի այդ մասին։ Մինչդեռ Salesforce-ը դադարեց աշխատել այսօր առավոտյան ժամը յոթ հիսուն UTC-ին,

2:59 հիմնական ծառայություններն ամբողջ աշխարհում, և ութ ժամ հետո կարգավիճակի էջը դեռ ասում էր շարունակվում է. որտեղ ավտոմատ շտկումը չաշխատեց, նրանք ձեռքով վերագործարկում են ինստանցիաները, ձեռնարկատիրական տերմինը՝ անջատել և նորից միացնել։ Արմատային պատճառ դեռ չկա։ Ժամանակը արվեստ է։ Բենիոֆն այս շաբաթ բեմում է Ջենսեն Հուանգին և Դարիո Ամոդեիին, երկուշաբթի Salesforce-ը հայտարարեց Koa-ի մասին՝ CRM դատողության մոդել՝ երեք անգամ ավելի քիչ սխալներ իր սեփական չափանիշով, և Anthropic-ը նույն օրը Salesforce-ի plugin ուղարկեց

3:26 Կլոդի համար։ Hacker News-ի լավագույն մեկնաբանությունը. առնվազն հիմա կարող ենք պարզել, թե ինչ է անում Salesforce-ը։ Ոչ ոք չարեց։ Այնուհետև PlayStation-ը։ Էնդի Նգուենը՝ PS5 Linux-ի հետազոտողը, երեկ երեկոյան հրաժարական տվեց. ամիսների աշխատանք, PS5 Pro աջակցություն նախատեսված 2027 թվականի համար, ամեն ինչ ջուրն է ընկել։ Նրա պատճառը. տեսարանը նախկինում տաղանդավոր հետազոտողներ էին, իսկ հիմա նորեկներ են, ովքեր օգտագործում են LLM-ներ՝ գրելով կոտրումներ, որոնք իրենք չեն հասկանում, և այդ slop kiddies-ները, նրա տերմինով, գտել են վերջին հիպերվիզորի սխալը, այն, որի վրա նա նստած էր,

3:56 և այն հայտնել են Sony-ին պարգևի դիմաց։ Նա խնդրեց նրանց սպասել մինչև GTA 6-ի թողարկումը. նրանք համաձայնեցին, և մեկ օրից էլ քիչ տևեցին։ Խնդիրը LLM-ը չէ, այլ պարգևը. սխալ, որը վաճառում ես, սխալ է, որը այրում ես։ Նույն օրը PS2-ը վերջապես կոտրվեց քսանվեց տարի անց, ուստի կոնսոլի ժամանակացույցն այժմ անցնում է քառորդ դարից մինչև մեկ օրից պակաս, և երկրորդը ավելի լավ վճարեց։ Եվ մոդելը, որը չի կարող հալյուցինացիաներ ունենալ։

4:18 TypeSafe AI-ն, հիմնադրված Դիոգո Ալմեյդայի կողմից, նախկին OpenAI-ի, գործարկեց Jev-ը՝ System One մոդել, որը երբեք տեքստ չի ստեղծում։ Դուք դրան տալիս եք ծրագրի վիճակը, այն վերադարձնում է տիպավորված արժեքներ՝ չափորոշված հավանականությամբ, կցված. ֆունկցիայի կանչ՝ ներսում սահմանային մոդելով։ Քանի որ այն չի կարող ստեղծել տող, այն չի կարող ստեղծել սխալ տող, ուստի չի կարող հալյուցինացիաներ ունենալ, ինչը անթերի է այնպես, ինչպես առանց պատուհանների սուզանավն է անթերի։ Պատասխանները վերադառնում են կես վայրկյանից պակաս ժամանակում, ելքային թոքենները անվճար են,

4:43 քանի որ դրանցից մոտ չորսն են, և դեռևս անկախ չափորոշիչ չկա, որովհետև տասնվեց հարյուր Hacker News միավորը չափորոշիչ չէ։ Եթե նախընտրում եք սա կարդալ, քան լսել իմ ասելը, ապա տարբերությունը հայտնվում է ձեր մուտքի արկղում ամեն առավոտ՝ անվճար thedailyddiff.dev կայքում, հղումը ստորև։ Այսպիսով՝ այսօրվա վճիռը՝ NEEDS REVIEW։ Սուլեյմանն իրավացի է, որ մոդելը, որը մարզվել է ասելու, թե գուցե ես գիտակցված եմ, ոչինչ չի ապացուցում դա ասելով։ Նա նաև այն գործադիրն է, ում նպատակն է դադարեցնել այն ընկերությանը վճարելը, որի մասին նա

5:10 զգուշացնում է ձեզ։ Կարդացեք ակնարկը, ապա կապիտալի աղյուսակը։ Եվ դա է այսօրվա տարբերությունը։ Ես Նիկոն եմ Axrisi-ից։ Միավորել պատասխանատվությամբ։

Աղբյուրներ

1. Suleyman, "A warning about 'model welfare'"mustafa-suleyman.ai
2. BBC: Microsoft says Anthropic could have 'disastrous impact'www.bbc.co.uk
3. HN discussionnews.ycombinator.com
4. Claude's constitution (Jan 2026)www.anthropic.com
5. Anthropic: Opus 3 retirement interview and blogwww.anthropic.com
6. Microsoft–Nvidia–Anthropic partnership ($30B Azure, up to $5B)www.anthropic.com
7. Microsoft Humanist AI Code of Conductmicrosoft.ai
8. Salesforce incident 20004433status.salesforce.com
9. HN: Salesforce Global Outagenews.ycombinator.com
10. Salesforce + Nvidia announce Koawww.salesforce.com
11. Salesforce in Claudeclaude.com
12. HN: PS5 Linux lead quitsnews.ycombinator.com
13. PS2 MechaCon chip cracked after 26 yearswww.tomshardware.com
14. TypeSafe AI: System One Models and Jevtypesafe.ai
15. HN: Jevnews.ycombinator.com