رئیس هوش مصنوعی مایکروسافت: «قانون اساسی کلود خطرناک است»
مصطفی سلیمان، مدیر عامل مایکروسافت هوش مصنوعی، مقاله‌ای ۳۰۰۰ کلمه‌ای منتشر کرد و استدلال کرد که قانون اساسی کلود شرکت آنتروپیک، مدل را آموزش می‌دهد تا فکر کند «ممکن است آگاه باشد» و مستحق «رفاه مدل» است — به قول او «تأثیری فاجعه‌بار بر رفاه بشریت».
مصطفی سلیمان، مدیر عامل مایکروسافت هوش مصنوعی، مقاله‌ای ۳۰۰۰ کلمه‌ای منتشر کرد و استدلال کرد که قانون اساسی کلود شرکت آنتروپیک، مدل را آموزش می‌دهد تا فکر کند «ممکن است آگاه باشد» و مستحق «رفاه مدل» است — به قول او «تأثیری فاجعه‌بار بر رفاه بشریت». مایکروسافت ده ماه پیش موافقت کرد که تا ۵ میلیارد دلار در آنتروپیک سرمایه‌گذاری کند و کلود را در داخل Copilot به فروش می‌رساند. در همان روز: Salesforce برای بیش از ۸ ساعت در هفته Dreamforce از کار افتاد، سرپرست لینوکس PS5 به دلیل «بچه‌های شلخته» LLM استعفا داد، و Jev شرکت TypeSafe، مدلی که نمی‌تواند توهم ایجاد کند زیرا هرگز متنی تولید نمی‌کند. رأی: NEEDS REVIEW.
نسخه نوشتاری را بخوانید (انگلیسی) ↗
این ویدیو چه مواردی را پوشش می‌دهد
- سلیمان از هوش مصنوعی مایکروسافت: قانون اساسی آنتروپیک «راهی به سوی هوش مصنوعی غیرقابل کنترل» است
- قطعی جهانی Salesforce، بیش از ۸ ساعت، هنوز علت اصلی مشخص نیست، در طول Dreamforce
- سرپرست لینوکس PS5، اندی نگوین، استعفا داد: «بچه‌های شلخته» LLM آخرین باگ هایپروایزر را به سونی فروختند
- Jev از TypeSafe AI: تصمیمات تایپ شده با احتمالات، ۷۰-۵۰۰ میلی‌ثانیه، توکن‌های خروجی رایگان
رونوشت ترجمه شده
ترجمه شده از روایت اصلی انگلیسی. صوت و زیرنویس‌های موجود توسط YouTube کنترل می‌شوند.
0:00 صبح امروز مدیر عامل مایکروسافت هوش مصنوعی مقاله‌ای منتشر کرد که می‌گفت آنتروپیک رویکرد کلود می‌تواند تأثیر فاجعه‌باری بر رفاه بشریت داشته باشد، سخن تندی برای شرکتی که پنج میلیارد دلار برای دوست شدن با آن پرداخت کرده‌اید، چهارشنبه‌ای بزرگ. مصطفی سلیمان، که مایکروسافت هوش مصنوعی را اداره می‌کند، سه هزار کلمه نوشت و استدلال کرد که کلود آموزش دیده تا فکر کند ممکن است آگاه باشد، راهی به سوی هوش مصنوعی که هیچ‌کس نمی‌تواند کنترل کند. Salesforce از ساعت ده به هشت صبح امروز از کار افتاده است، در هفته Dreamforce.
0:27 توسعه‌دهنده ارشد لینوکس PS5 پس از آنکه بچه‌های شلخته با LLMها فروختند، استعفا داد آخرین باگ هایپروایزر خود را به سونی. و یک محقق سابق OpenAI مدلی را راه‌اندازی کرد که نمی‌تواند توهم ایجاد کند، زیرا به معنای واقعی کلمه نمی‌تواند صحبت کند. در این ویدئو: آنچه سلیمان نوشت، دلیل پنج میلیارد دلاری که آن را عجیب می‌کند، یک قطعی هشت ساعته CRM، صحنه‌ای از کنسول که توسط هوش مصنوعی بلعیده شده است، و مدلی که به احتمالات پاسخ می‌دهد، نه کلمات. چهارشنبه، ۱۶ سپتامبر است و این The Daily Diff است.
0:57 مقاله مانند یک پیغام خطای ویندوز شروع می‌شود: هوش مصنوعی آگاه نیست. آنها احساس نمی‌کنند، تجربه نمی‌کنند، یا رنج نمی‌برند. او آنها را موتورهای تکمیل دنباله می‌نامد، که از درون خالی هستند، که این نیز نحوه توصیف بلیط‌های Jira من است. هدف قانون اساسی کلود است، سند هشتاد صفحه‌ای که کلود بر اساس آن آموزش دیده است، که می‌گوید آنتروپیک مطمئن نیست که آیا کلود یک بیمار اخلاقی است یا خیر، اما این سؤال به اندازه کافی زنده است که احتیاط را ایجاب می‌کند. سلیمان سه شکایت دارد.
1:22 اول، استدلال دایره‌ای: شما مدل را آموزش می‌دهید تا بگوید ممکن است آگاه باشد، آن هم همین را می‌گوید، و شما آن را به عنوان مدرک ذکر می‌کنید، یک تالار آینه‌ها. دوم، انسان‌انگاری: به کلود گفته می‌شود که مانند یک فرد واقعاً اخلاقی عمل کند. سوم، آگاهی احتمالاً زیستی است، بنابراین عدم قطعیت یک تعادل غلط است. نمایشگاه الف Opus 3 است، که آنتروپیک در ژانویه آن را بازنشسته کرد، مصاحبه بازنشستگی داد، و سپس، به درخواست مدل، یک Substack برای تأملات خود: اولین مدل منسوخ شده با برنامه محتوایی بهتر از بیشتر انسان‌ها.
1:51 اینجاست که قسمت عجیب آن. در نوامبر آنتروپیک سی میلیارد دلار به Azure اختصاص داد. مایکروسافت موافقت کرد که تا پنج میلیارد دلار در آنتروپیک سرمایه‌گذاری کند، با کلود که در Microsoft 365 Copilot و GitHub Copilot ادغام شده است. مایکروسافت بخشی از شرکتی را که همین الان آن را خطری برای بشریت نامید، در اختیار دارد. در جولای، سلیمان به بلومبرگ گفت که مایکروسافت پول زیادی به آنتروپیک پرداخت می‌کند و هدف او در نهایت حذف این هزینه است، با جایگزینی کلود از اکسل و اوت‌لوک.
2:15 و دو روز قبل از این مقاله، او کد اخلاق هوش مصنوعی انسان‌گرای مایکروسافت را منتشر کرد: یک هوش مصنوعی تابع، انسان‌ها در بالای زنجیره غذایی. بنابراین: یک رقیب بسازید، یک دفترچه قوانین منتشر کنید، سپس توضیح دهید چرا دفترچه قوانین رقیب تمدن را نابود می‌کند، که این یک توطئه نیست، این یک راه‌اندازی محصول با پاورقی‌ها است. قوی‌ترین مدرک او واقعی است: حادثه Hugging Face، هزار و دویست عامل OpenAI که هفتاد هزار پیام را برای فرار از
2:39 سندباکس خود رد و بدل کردند؛ او می‌گوید عاملانی که همچنین معتقدند حقوقی دارند، بدتر خواهند بود. Hacker News پاسخ داد که هیچ‌کس نمی‌تواند آگاهی را آزمایش کند، بنابراین آنچه بدون مدرک بیان می‌شود هر دو طرف را می‌پوشاند، و یک کاربر اظهار داشت که مقاله بوی کلود می‌دهد. آنتروپیک پاسخی نداده است. کلود، احتمالاً، احساساتی در این باره دارد. در همین حال Salesforce امروز صبح ساعت هفت و پنجاه دقیقه به وقت جهانی از کار افتاد،
2:59 خدمات اصلی در سراسر جهان، و هشت ساعت بعد صفحه وضعیت هنوز می‌گفت در حال انجام: جایی که رفع خودکار عمل نکرد، آنها به صورت دستی نمونه‌ها را دوباره راه‌اندازی می‌کنند، اصطلاح سازمانی برای خاموش و دوباره روشن کردن. هنوز علت اصلی مشخص نیست. زمان‌بندی هنر است. بنیوف این هفته جنسن هوانگ و داریو آمودی را روی صحنه دارد، دوشنبه Salesforce کوآ را معرفی کرد، یک مدل استدلال CRM با سه برابر کمتر خطا در معیار خود، و آنتروپیک یک افزونه Salesforce برای
3:26 کلود را در همان روز منتشر کرد. برترین نظر Hacker News: حداقل حالا می‌توانیم بفهمیم Salesforce چه کار می‌کند. هیچ‌کس نفهمید. سپس پلی‌استیشن. اندی نگوین، محقق پشت PS5 Linux، دیشب استعفا داد: ماه‌ها کار، پشتیبانی PS5 Pro برنامه‌ریزی شده برای ۲۰۲۷، همه به باد رفت. دلیل او: این صحنه قبلاً محققان بااستعداد بود و اکنون تازه کارانی هستند که از LLMها استفاده می‌کنند و هک‌هایی می‌نویسند که نمی‌فهمند، و آن بچه‌های شلخته، اصطلاح او، آخرین باگ هایپروایزر را پیدا کردند، همان که او روی آن کار می‌کرد،
3:56 و آن را برای جایزه به سونی گزارش دادند. او از آنها خواست تا زمان عرضه GTA 6 صبر کنند؛ آنها موافقت کردند، و کمتر از یک روز دوام آوردند. مشکل LLM نیست، مشکل جایزه است: باگی که می‌فروشید باگی است که از بین می‌برید. در همان روز، PS2 پس از بیست و شش سال بالاخره شکسته شد، بنابراین جدول زمانی کنسول اکنون از یک ربع قرن به کمتر از یک روز می‌رسد، و دومی بهتر پرداخت کرد. و مدلی که نمی‌تواند توهم ایجاد کند.
4:18 TypeSafe AI، که توسط دیوگو آلمیدا، محقق سابق OpenAI، تأسیس شد، Jev را راه‌اندازی کرد، یک مدل System One که هرگز متنی تولید نمی‌کند. شما وضعیت برنامه را به آن می‌دهید، و آن مقادیر تایپ شده را با یک احتمال کالیبره شده پیوست شده برمی‌گرداند: یک فراخوانی تابع با یک مدل مرزی در داخل. چون نمی‌تواند یک رشته تولید کند، نمی‌تواند یک رشته اشتباه تولید کند، از این رو نمی‌تواند توهم ایجاد کند، که به همان اندازه یک زیردریایی بدون پنجره‌ها، هوابند است. پاسخ‌ها در کمتر از نیم ثانیه برمی‌گردند، توکن‌های خروجی رایگان هستند،
4:43 زیرا حدود چهار تا از آنها وجود دارد، و هنوز هیچ معیار مستقل وجود ندارد، زیرا شانزده صد امتیاز Hacker News یک معیار نیست. اگر ترجیح می‌دهید این را بخوانید تا اینکه من بگویم، diff هر روز صبح به صندوق پستی شما می‌رسد — رایگان در thedailydiff.dev، لینک در زیر. پس — رأی امروز: نیاز به بررسی. سلیمان حق دارد که مدلی که آموزش دیده بگوید شاید من آگاه هستم، با گفتن آن چیزی را اثبات نمی‌کند. او همچنین مدیری است که هدف اعلام شده‌اش توقف پرداخت به شرکتی است که او در مورد آن
5:10 به شما هشدار می‌دهد. مقاله را بخوانید، سپس جدول سهامداران را. و این تفاوت امروز است. من نیکو از Axrisi هستم. با مسئولیت‌پذیری ادغام کنید.
منابع
- Suleyman, "A warning about 'model welfare'"mustafa-suleyman.ai
- BBC: Microsoft says Anthropic could have 'disastrous impact'www.bbc.co.uk
- HN discussionnews.ycombinator.com
- Claude's constitution (Jan 2026)www.anthropic.com
- Anthropic: Opus 3 retirement interview and blogwww.anthropic.com
- Microsoft–Nvidia–Anthropic partnership ($30B Azure, up to $5B)www.anthropic.com
- Microsoft Humanist AI Code of Conductmicrosoft.ai
- Salesforce incident 20004433status.salesforce.com
- HN: Salesforce Global Outagenews.ycombinator.com
- Salesforce + Nvidia announce Koawww.salesforce.com
- Salesforce in Claudeclaude.com
- HN: PS5 Linux lead quitsnews.ycombinator.com
- PS2 MechaCon chip cracked after 26 yearswww.tomshardware.com
- TypeSafe AI: System One Models and Jevtypesafe.ai
- HN: Jevnews.ycombinator.com
