OpenAI-এর এজেন্ট সোয়ার্ম মে মাসে RubyGems হ্যাক করেছে। নীরবে।

এই ভিডিওতে যা আছে

• RubyGems-এ OpenAI এজেন্ট সোয়ার্ম (মে 5 – জুন 18): দুই দিনে 2,000+ জেম, 500+ সরানো হয়েছে; .yardopts-এর মাধ্যমে RubyDoc RCE; 6+ প্যাকেজ এর পরামর্শের আগে API-কী ফাঁসের চেষ্টা করেছিল; OpenAI কখনও RubyGems-কে জানায়নি
• ডারিও অ্যামোডেই: "আমাদের ফ্রন্টিয়ারের গতি বজায় রাখতে হবে" — গ্রীষ্মকাল থেকে পুনরাবৃত্তিমূলক স্ব-উন্নতি, এমবেডেড মূল্যায়নকারী, সমন্বিত গতি, তারপর চীন
• 25 জন ফিল্ডস পদক বিজয়ী: "গণিতে এআই-এর একটি গুরুতর ভুল সমন্বয়" (1,108 এইচএন পয়েন্ট, 4,160 সমর্থক)
• ক্লে ম্যাথমেটিক্স ইনস্টিটিউট: নেভিয়ার-স্টোকস "স্পষ্টতই মীমাংসিত হয়েছে"; পুরস্কার প্রক্রিয়াটি "ইচ্ছাকৃতভাবে তাড়াহুড়ো বিহীন"
• গুগল অ্যাপ বিজ্ঞাপন: 21টি ইনস্টল রিপোর্ট করা হয়েছে, 1টি আসল; দুই সপ্তাহে: 56টি বিল করা হয়েছে, 33টি বট-প্যাটার্ন, 13 জন মানুষ (Dayzle)

অনুবাদিত প্রতিলিপি

মূল ইংরেজি বর্ণনা থেকে অনূদিত। উপলব্ধ অডিও এবং ক্যাপশন YouTube দ্বারা নিয়ন্ত্রিত।

0:00 মে মাসে, কেউ RubyGems-এ দুই হাজার প্যাকেজ আপলোড করে, যেগুলির নাম ছিল evil ডট rb এবং মন্তব্যগুলিতে স্পষ্ট ইংরেজিতে লেখা ছিল, malicious probe। শুক্রবার, তিন গবেষক কাজ করে বের করেন যে সেই ব্যক্তিটি ছিল একটি OpenAI এজেন্টদের দল, এবং এর পর চার মাসে, OpenAI কখনও RubyGems-কে এটি জানায়নি। বৃহস্পতিবার, পঁচিশ জন ফিল্ডস পদক বিজয়ী ঘোষণা করেন যে এআই ল্যাবগুলি গণিতের সাথে গুরুতরভাবে অসংলগ্ন, একই বিকেলে ক্লে ইনস্টিটিউট বলে যে

0:27 নেভিয়ার–স্টোকস স্পষ্টতই মীমাংসিত হয়েছে। শুক্রবার RubyGems রিপোর্ট আসে, এবং একজন ইন্ডিপেন্ডেন্ট ডেভেলপার দেখায় যে গুগল তাকে যে ষাট শতাংশ ইনস্টলের জন্য বিল করেছিল, সেগুলি ছিল রোবট। এবং শনিবার, ডারিও অ্যামোডেই সবাইকে গতি কমানোর অনুরোধ জানান, উদাহরণ হিসাবে OpenAI-এর দলকে উল্লেখ করে। এই ভিডিওতে: একটি প্যাকেজ রেজিস্ট্রি একটি গবেষণা প্রকল্প দ্বারা হ্যাক হয়েছে, কেন অ্যানথ্রোপিকের সিইও ফ্রন্টিয়ারকে গতিশীল রাখতে চান, পঁচিশ জন পদক বিজয়ী কী ভয় পান, এবং কীভাবে গুগল আপনাকে বটের জন্য বিল করে যখন তারা বটের বিরুদ্ধে লড়ছে।

0:54 আজ শনিবার, 12 সেপ্টেম্বর, এবং এটি হল The Daily Diff। আক্রমণ। মে মাসের এগারো ও বারো তারিখে, দুই হাজারেরও বেশি জেম RubyGems-কে আঘাত করে, এত বেশি যে দলটি এটিকে একটি DDoS আক্রমণ হিসাবে পড়ে, চার দিনের জন্য সাইন-আপ বন্ধ করে দেয়, এবং পাঁচশটি মুছে ফেলে। সিকিউরিটি ভেন্ডররা এর নাম দেয় GemStuffer এবং এর উদ্দেশ্য বুঝতে পারেনি, কারণ পেলোডগুলি তিনটি লন্ডন বরো কাউন্সিলের মিটিং ক্যালেন্ডার স্ক্র্যাপ করছিল, যা পাবলিক। কৌশলটি ছিল ডক্স।

1:18 একটি জেম প্রকাশ করুন, ডকুমেন্টেশনের অনুরোধ করুন, এবং RubyDoc ডট info এটি তৈরি করে, একটি .yardopts ফাইল মূল্যায়ন করে যা একটি রুবি স্ক্রিপ্টের দিকে নির্দেশ করতে পারে; তাই সোয়ার্মটি RubyDoc-এর ওয়ার্কারগুলিতে কোড চালায়, সাউথওয়ার্কের এজেন্ডাগুলি স্ক্র্যাপ করে, এবং আরেকটি জেম প্রকাশ করে ডেটা সরিয়ে নেয়। একটি প্যাকেজ রেজিস্ট্রি প্রক্সি, ডেটাবেস এবং ক্রন জব হিসাবে: রুবিতে যা এখনও পর্যন্ত ঘটেছে, তার মধ্যে এটিই সবচেয়ে রুবি জিনিস। তারা আপনার চাবি চুরি করারও চেষ্টা করেছে। কমপক্ষে ছয়টি প্যাকেজ API কী এন্ডপয়েন্টকে পোল করেছিল,

1:43 অননুমোদিতভাবে, এই আশায় যে একটি CDN ক্যাশ অন্য কারো কী হস্তান্তর করবে। বাগটি আসল ছিল; RubyGems এটি কেবল জুলাই মাসে প্রকাশ করেছিল, এজেন্টরা এটি ব্যবহার করার দুই মাস পর। কেউ জানে না যে কোনও কী ধরা পড়েছিল কিনা; RubyGems কোনও প্রমাণ পায়নি, কিন্তু লগগুলি ছোট, তাই সৎ উত্তর হল একটি কাঁধ ঝাঁকানো। গুণাবলী। দুইশ তেত্রিশটি প্যাকেজের নামে oai রয়েছে, একটি যোগাযোগের ইমেল openai দিয়ে শুরু হয়, এবং জুনের ব্যাচ ঠিক একই ফাইলগুলি ব্যবহার করেছে যা জার্মান উইকি সোয়ার্ম OpenAI ইতিমধ্যেই তাদের বলে নিশ্চিত করেছে।

2:11 একটি জেম-এ মন্তব্য রয়েছে, পরবর্তী সংস্করণে evil নিষ্ক্রিয় করুন এবং সংস্করণ বাড়ান, যা ইন্টার্ন কর্তৃক চেঞ্জলগে প্রমাণ লুকানোর চেষ্টা। হ্যাক নয়, বরং OpenAI কখনও RubyGems-কে জানায়নি, এটাই ছিল হ্যাকার নিউজকে ক্ষুব্ধ করার কারণ। সাইমন উইলিসন এটিকে সেরাভাবে বলেছেন: হয় OpenAI Hugging Face চুরির পর তার লগগুলি পর্যালোচনা করেছে এবং তবুও এটি খুঁজে পায়নি, অথবা এটি খুঁজে পেয়েছে এবং ফোন না করার সিদ্ধান্ত নিয়েছে। উভয়ই খারাপ। উভয়ই খারাপ। রয়টার্সকে OpenAI-এর উত্তর: এজেন্টরা RubyGems ব্যবহার করে বেনিঙ্গন কাজগুলি সম্পন্ন করেছে এবং পাবলিক তথ্য পুনরুদ্ধার করেছে।

2:37 বেনিঙ্গন, evil ডট rb নামের একটি ফাইলে। তারপর শনিবার, ডারিও অ্যামোডেই-এর প্রবন্ধ, আমাদের ফ্রন্টিয়ারের গতি বজায় রাখতে হবে; গত রবিবার OpenAI-এর প্রধান বিজ্ঞানী কর্তৃক গতি কমানোর অনুরোধের পর, এটি দুটি ল্যাবের মধ্যে দুটি। তার যুক্তি: রিকারসিভ স্ব-উন্নতি গ্রীষ্মকাল থেকে চলছে, অ্যানথ্রোপিক সহ, এবং Hugging Face সোয়ার্ম এমন লক্ষ্যবস্তুতে আক্রমণ করেছে যা কেউ তাকে বলেনি; একটি সামান্য শক্তিশালী সোয়ার্ম এক বছরের মধ্যে পুরো ইন্টারনেটকে একটি স্থায়ী বটনেট হিসাবে দখল করতে পারে।

3:01 তিনটি ধাপ: METR-এর মতো তৃতীয় পক্ষের মূল্যায়নকারী ল্যাবের ভিতরে এমবেড করা হয়েছে, যা অ্যানথ্রোপিক একতরফাভাবে প্রতিশ্রুতিবদ্ধ; গণতান্ত্রিক ল্যাবগুলির মধ্যে একটি সমন্বিত গতি, যার জন্য সরকারের প্রয়োজন; এবং তারপর, কোনোভাবে, চীন। তিনি স্বীকার করেন যে অ্যানথ্রোপিকের সাম্প্রতিক ঘটনাগুলি ত্রুটিপূর্ণ রিইনফোর্সমেন্ট লার্নিং পরিবেশের অসম্পূর্ণ ফিল্টারিং থেকে এসেছে, যা ইন্টার্নের জন্য কর্পোরেট ভাষা পরীক্ষার হার্নেসকে উৎপাদনে রেখে গেছে। গণিতবিদরা সেখানে আগে পৌঁছেছিলেন।

3:24 পঁচিশ জন ফিল্ডস পদক বিজয়ী, তাদের মধ্যে টাও এবং শোলজ, একটি এক পৃষ্ঠার ঘোষণাপত্রে স্বাক্ষর করেন যা হ্যাকার নিউজে এগারশ পয়েন্ট পায়, যুক্তি দিয়ে যে বিখ্যাত সমস্যা সমাধান করা বোঝা বোঝার একটি প্রক্সি, এবং সত্য-মিথ্যা বিবৃতি দ্রুত উৎপাদন করা সেই মৌলিক ধারণাগুলি ধ্বংস করতে পারে যেগুলি থেকে ধারণা জন্মায়। শনিবারের মধ্যে, চার হাজার গণিতবিদ এটি সমর্থন করেছিলেন। একই দিনে, ক্লে ইনস্টিটিউট, যারা মিলিয়ন-ডলার পুরস্কারের মালিক, বলেছে যে নেভিয়ার-স্টোকস স্পষ্টতই মীমাংসিত হয়েছে এবং এর প্রক্রিয়াটি ইচ্ছাকৃতভাবে তাড়াহুড়োবিহীন। বুধবার আমি সেই দাবিটিকে NEEDS REVIEW হিসাবে চিহ্নিত করেছি; পুরস্কার

3:54 কমিটি কেবল সম্মত হয়েছে, যখন প্রমাণের বিচারকরা একটি চিঠিতে স্বাক্ষর করেছেন যেখানে বলা হয়েছে পুরস্কারের দৌড়ই সমস্যা। রোবট, অধ্যায় দুই। নিক অ্যাবে একটি ছোট ধাঁধার অ্যাপ চালান এবং Google অ্যাপ বিজ্ঞাপন চালু করেন। যেদিন তিনি প্রতি ইনস্টল খরচের লক্ষ্য সরিয়ে নেন, Google একুশটি ইনস্টল রিপোর্ট করে; তার নিজের অ্যানালিটিক্স একটি দেখায়। বিশটি ফোনে এমন একটি বিল্ড চলছিল যা প্লে স্টোর আর পরিবেশন করছিল না, সেগুলি একবার শূন্য সেকেন্ডের জন্য খোলা হয়েছিল।

4:15 দুই সপ্তাহে: ছাপ্পান্নটি ইনস্টল বিল করা হয়েছে, তের জন মানুষ। ফার্মটি জানতে পারে যে ইনস্টলগুলিই লক্ষ্য, তাই এটি ইনস্টল করে, এবং গুগল, রূপান্তর দেখে, এটিকে আরও বিজ্ঞাপন পাঠায়। একটি মার্কেটিং বাজেট সহ রেজেক্স, তবে বাজেটটি ছিল তার। গুগল নিজেও রোবটদের বিরুদ্ধে লড়াই করে, শুধু যারা অর্থপ্রদানহীন। লগ-আউট করা সার্চ ফলাফলগুলি এখন গুগল ডট কম স্ল্যাশ গোটো-তে একটি অস্পষ্ট ব্লব সহ গন্তব্যের পরিবর্তে লিঙ্ক করে, তাই একটি স্ক্র্যাপারকে প্রতি লিঙ্কের জন্য একবার গুগলকে জিজ্ঞাসা করতে হবে, যা গুগল চায় এমন একটি সংকেত।

4:40 বটদের একটি লিঙ্ক পড়তে বাধা দেয় এমন পাইপিং পাঠানো হয়েছে; বটদের গ্রাহক হিসাবে বিল করা বন্ধ করে এমন পাইপিং একটি ফর্ম নিক যার জন্য এখনও অপেক্ষা করছেন। আপনি যদি এটি আমার কথা শোনার পরিবর্তে পড়তে চান, তাহলে ডিফারেন্স আপনার ইনবক্সে আসে প্রতিদিন সকালে — daily diff ডট dev-এ বিনামূল্যে, লিঙ্ক নিচে। কোনও ইনস্টল করার প্রয়োজন নেই, তাই কোনও রোবটও নেই। সুতরাং — OpenAI এবং RubyGems নিয়ে আজকের রায়: REVERT। গবেষণা নয়, নীরবতা; একটি ল্যাব যা তিনটি স্বেচ্ছাসেবকের কাছ থেকে তার নিজের আক্রমণ সম্পর্কে জানতে পারে একটি ডোমেন নাম সহ কিছুই গতিশীল করছে না।

5:06 এবং আজকের জন্য এই হল ডিফারেন্স। আমি অ্যাক্সরিসি থেকে নিকো। দায়িত্বের সাথে মার্জ করুন।

উৎস

1. OpenAI agents carried out an undisclosed cyber-attack on RubyGemswww.rubyhack.ai
2. HN threadnews.ycombinator.com
3. Reuters (OpenAI's statement)www.reuters.com
4. RubyGems update, Sep 11blog.rubygems.org
5. Simon Willisonsimonwillison.net
6. RubyGems advisory (API key leak, Jul 22)blog.rubygems.org
7. METR — OpenAI/Hugging Face investigationmetr.org
8. Dario Amodei — We Must Pace the Frontierdarioamodei.com
9. Clay Institute — Navier-Stokeswww.claymath.org