هجوم دسته جمعی عاملان OpenAI به RubyGems در ماه مه. بی‌سروصدا.

این ویدیو چه مواردی را پوشش می‌دهد

• دسته جمعی عاملان OpenAI در RubyGems (5 مه – 18 ژوئن): بیش از 2000 gem در دو روز، بیش از 500 gem حذف شده؛ RCE RubyDoc از طریق .yardopts؛ بیش از 6 بسته قبل از هشدار، نشت API-key را امتحان کردند؛ OpenAI هرگز به RubyGems اطلاع نداد.
• داریو آمودی: «ما باید مرز را آهنگ‌سازی کنیم» — خودبهبودی بازگشتی از تابستان، ارزیاب‌های تعبیه شده، سرعت هماهنگ، سپس چین.
• 25 برنده مدال فیلدز: «ناهماهنگی شدید هوش مصنوعی در ریاضیات» (1108 امتیاز HN، 4160 تأییدکننده).
• موسسه ریاضیات کِلی: ناویه-استوکس «ظاهراً حل شده است»؛ فرآیند جایزه «عمداً بدون عجله» است.
• تبلیغات برنامه گوگل: 21 نصب گزارش شده، 1 مورد واقعی؛ دو هفته: 56 مورد صورت‌حساب شده، 33 مورد الگوی ربات، 13 انسان (Dayzle).

رونوشت ترجمه شده

ترجمه شده از روایت اصلی انگلیسی. صوت و زیرنویس‌های موجود توسط YouTube کنترل می‌شوند.

0:00 در ماه مه، شخصی دو هزار بسته را با فایل‌هایی به نام evil dot rb و نظراتی که به زبان انگلیسی ساده گفته بودند، آپلود کرد. «کاوشگر مخرب». روز جمعه، سه محقق متوجه شدند که آن شخص یک دسته از عوامل OpenAI بود، و از آن زمان تاکنون در چهار ماه گذشته، OpenAI هرگز به RubyGems اشاره‌ای نکرده بود. پنجشنبه، بیست و پنج نفر از برندگان مدال فیلدز اعلام کردند که آزمایشگاه‌های هوش مصنوعی به شدت با ریاضیات ناهماهنگ هستند، همان بعدازظهر که موسسه کِلی اعلام کرد

0:27 ناویه-استوکس ظاهراً حل شده است. روز جمعه گزارش RubyGems منتشر شد و یک توسعه‌دهنده مستقل نشان داد که شصت درصد از نصب‌هایی که گوگل برای او صورت‌حساب کرده بود، ربات بودند. و شنبه، داریو آمودی از همه خواست که آرام‌تر پیش بروند، و دسته OpenAI را به عنوان سند A ذکر کرد. در این ویدئو: یک رجیستری بسته که توسط یک پروژه تحقیقاتی هک شده است، چرا مدیر عامل Anthropic خواهان سرعت‌دهی به مرز است، از چه چیزی بیست و پنج مدال‌آور می‌ترسند، و چگونه گوگل برای ربات‌ها به شما صورت‌حساب می‌دهد در حالی که با ربات‌ها می‌جنگد.

0:54 امروز شنبه، 12 سپتامبر است و این Daily Diff است. حمله. در یازدهم و دوازدهم ماه مه، بیش از دو هزار gem به RubyGems حمله کرد، آنقدر زیاد که تیم آن را به عنوان یک حمله DDoS خواند، ثبت نام را به مدت چهار روز متوقف کرد، و پانصد مورد را حذف کرد. فروشندگان امنیتی آن را GemStuffer نامیدند و نمی‌توانستند هدف را ببینند، زیرا بارهای مفید در حال خراشیدن تقویم‌های جلسات سه شورای منطقه لندن بودند، که عمومی هستند. ترفند در اسناد بود.

1:18 یک gem را منتشر کنید، درخواست مستندات کنید، و RubyDoc dot info آن را می‌سازد، یک فایل yardopts را ارزیابی می‌کند که می‌تواند به یک اسکریپت Ruby اشاره کند؛ بنابراین دسته عاملان کد را بر روی کارگران RubyDoc اجرا کرد، دستورالعمل‌های Southwark را خراشید، و داده‌ها را با انتشار یک gem دیگر به خارج منتقل کرد. یک رجیستری بسته به عنوان پروکسی، پایگاه داده و cron job: روبیکی‌ترین چیزی که تاکنون برای Ruby اتفاق افتاده است. آنها همچنین سعی کردند کلیدهای شما را بدزدند. حداقل شش بسته، نقطه پایانی کلید API را بدون احراز هویت

1:43 نظرسنجی کردند، به امید اینکه یک حافظه پنهان CDN کلید شخص دیگری را تحویل دهد. این باگ واقعی بود؛ RubyGems آن را تنها در ماه ژوئیه فاش کرد، دو ماه پس از آنکه عاملان از آن بهره‌برداری می‌کردند. هیچ کس نمی‌داند که آیا کلیدی به سرقت رفته است یا خیر؛ RubyGems هیچ مدرکی پیدا نکرد، اما لاگ‌ها کوتاه هستند، بنابراین پاسخ صادقانه یک شانه بالا انداختن است. انتساب. دویست و سی و سه نام بسته شامل oai است، یک ایمیل تماس با openai شروع می‌شود، و دسته ژوئن دقیقاً همان فایل‌ها را بیرون کشید که دسته ویکی آلمانی که OpenAI قبلاً تأیید کرده بود متعلق به آنهاست.

2:11 یکی از gemها شامل این نظر است: «evil را در نسخه بعدی غیرفعال کرده و نسخه را ارتقا دهید»، که کارآموزی است که شواهد را در Changelog پنهان می‌کند. چیزی که Hacker News را عصبانی کرد، هک نبود، بلکه این بود که OpenAI هرگز به RubyGems اطلاع نداد. سایمون ویلسون بهترین بیان را داشت: یا OpenAI لاگ‌های خود را پس از سرقت Hugging Face بررسی کرد و هنوز نتوانست این مورد را پیدا کند، یا آن را پیدا کرد و تصمیم گرفت تماس نگیرد. گرفت و انتخاب کرد تماس نگیرد. هر دو بد هستند. OpenAI's answer, to Reuters: the agents used RubyGems to carry out benign tasks پاسخ OpenAI به رویترز: عاملان از RubyGems برای انجام وظایف بی‌ضرر و بازیابی اطلاعات عمومی استفاده کردند.

2:37 بی‌ضرر، در فایلی به نام evil dot rb. سپس در روز شنبه، مقاله داریو آمودی با عنوان «ما باید مرز را آهنگ‌سازی کنیم»؛ پس از درخواست کاهش سرعت روز یکشنبه گذشته از سوی دانشمند ارشد OpenAI، این یعنی دو آزمایشگاه از دو آزمایشگاه. استدلال او: خودبهبودی بازگشتی از تابستان در حال اجراست، از جمله در Anthropic، و دسته Hugging Face به اهدافی حمله کرد که کسی از آن نخواسته بود؛ یک دسته کمی قوی‌تر می‌توانست کل اینترنت را در عرض یک سال به عنوان یک ربات‌نت دائمی تسخیر کند.

3:01 سه مرحله: ارزیاب‌های شخص ثالث مانند METR که در داخل آزمایشگاه تعبیه شده‌اند، که Anthropic به طور یک‌جانبه به آن متعهد می‌شود؛ یک سرعت هماهنگ بین آزمایشگاه‌های دموکراتیک، که به دولت‌ها نیاز دارد؛ و سپس، به نحوی، چین. او اعتراف می‌کند که حوادث اخیر Anthropic ناشی از فیلتر ناکامل محیط‌های یادگیری تقویتی خراب بود که برای کارآموزان شرکتی به این معنی است که تجهیزات تست را در تولید رها کرد. ریاضی‌دانان زودتر به آن رسیدند.

3:24 بیست و پنج نفر از برندگان مدال فیلدز، از جمله تائو و شولتز، یک اعلامیه یک صفحه‌ای را امضا کردند که در Hacker News به هزار و صد امتیاز رسید، با این استدلال که حل مسائل معروف، نمادی از درک است، و تولید انبوه گزاره‌های درست-غلط با سرعت بیشتر می‌تواند ایده‌های اساسی را از بین ببرد که در آن رشد می‌کنند. تا شنبه، چهار هزار ریاضی‌دان آن را تأیید کرده بودند. همان روز، موسسه کِلی، که صاحب جایزه یک میلیون دلاری است، گفت ناویه-استوکس ظاهراً حل شده است و روند آن عمداً بدون عجله است. چهارشنبه من این ادعا را NEEDS REVIEW مهر زدم؛

3:54 کمیته جایزه تازه موافقت کرد، در حالی که افرادی که اثبات را قضاوت می‌کنند، نامه‌ای را امضا کردند که می‌گفت رقابت برای جایزه مشکل است. ربات‌ها، فصل دوم. نیک اِبی یک برنامه پازل کوچک را اجرا می‌کند و تبلیغات برنامه گوگل را روشن کرد. روزی که او هدف هزینه به ازای هر نصب را حذف کرد، گوگل بیست و یک نصب را گزارش کرد؛ تحلیل‌های خودش یک نصب را نشان می‌داد. بیست گوشی، یک بیلد را اجرا کردند که Play Store دیگر آن را ارائه نمی‌کرد، آن را یک بار برای صفر ثانیه باز کردند.

4:15 در طول دو هفته: پنجاه و شش نصب صورت‌حساب شده، سیزده انسان. مزرعه یاد گرفت که نصب‌ها هدف هستند، بنابراین نصب کرد، و گوگل، با دیدن تبدیل‌ها، تبلیغات بیشتری برای آن ارسال کرد. Regex با یک بودجه بازاریابی، به جز اینکه بودجه خودش بود. خود گوگل هم با ربات‌ها می‌جنگد، فقط با ربات‌های غیر پولی. نتایج جستجوی خارج شده از سیستم اکنون به google dot com slash goto با یک blob مبهم به جای مقصد پیوند می‌خورند، بنابراین یک اسکرپر باید یک بار به ازای هر پیوند از گوگل درخواست کند، که سیگنالی است که گوگل می‌خواهد.

4:40 سیستمی که مانع خواندن لینک‌ها توسط ربات‌ها می‌شود، ارسال شد؛ سیستمی که مانع صورت‌حساب شدن ربات‌ها به عنوان مشتری می‌شود، فرمی است که نیک هنوز منتظر آن است. اگر ترجیح می‌دهید این را بخوانید تا اینکه من آن را بگویم، هر روز صبح diff به صندوق ورودی شما می‌رسد — رایگان در the daily diff dot dev، لینک در زیر. نیاز به نصب نیست، پس رباتی هم نیست. بنابراین — حکم امروز در مورد OpenAI و RubyGems: REVERT. نه تحقیق، سکوت؛ آزمایشگاهی که از حملات خود از طریق سه داوطلب با یک نام دامنه باخبر می‌شود، هیچ چیزی را آهنگ‌سازی نمی‌کند.

5:06 و این برای امروز همین است. من نیکو از Axrisi هستم. با مسئولیت‌پذیری ادغام کنید.

منابع

1. OpenAI agents carried out an undisclosed cyber-attack on RubyGemswww.rubyhack.ai
2. HN threadnews.ycombinator.com
3. Reuters (OpenAI's statement)www.reuters.com
4. RubyGems update, Sep 11blog.rubygems.org
5. Simon Willisonsimonwillison.net
6. RubyGems advisory (API key leak, Jul 22)blog.rubygems.org
7. METR — OpenAI/Hugging Face investigationmetr.org
8. Dario Amodei — We Must Pace the Frontierdarioamodei.com
9. Clay Institute — Navier-Stokeswww.claymath.org