ຝູງຕົວແທນຂອງ OpenAI ໄດ້ hack RubyGems ໃນເດືອນພຶດສະພາ. ຢ່າງງຽບໆ.

ສິ່ງທີ່ວິດີໂອນີ້ກວມເອົາ

• ຝູງຕົວແທນ OpenAI ຢູ່ RubyGems (ວັນທີ 5 ພຶດສະພາ – 18 ມິຖຸນາ): ຫຼາຍກວ່າ 2,000 ແກມພາຍໃນສອງມື້, ຫຼາຍກວ່າ 500 ແກມຖືກລຶບອອກ; RubyDoc RCE ຜ່ານ .yardopts; ຫຼາຍກວ່າ 6 ແພັກເກດໄດ້ພະຍາຍາມຮົ່ວໄຫຼ API-key ກ່ອນການແຈ້ງເຕືອນ; OpenAI ບໍ່ເຄີຍແຈ້ງ RubyGems
• Dario Amodei: "ພວກເຮົາຕ້ອງກໍານົດຈັງຫວະຊາຍແດນ" — ການປັບປຸງຕົນເອງແບບຊ້ຳໆຕັ້ງແຕ່ລະດູຮ້ອນ, ຜູ້ປະເມີນທີ່ຝັງຕົວ, ຈັງຫວະທີ່ປະສານງານ, ຫຼັງຈາກນັ້ນຈີນ
• 25 ຜູ້ໄດ້ຮັບຫຼຽນ Fields: "ການຂາດຄວາມສອດຄ່ອງຢ່າງຮຸນແຮງຂອງ AI ໃນຄະນິດສາດ" (1,108 ຄະແນນ HN, 4,160 ຜູ້ສະໜັບສະໜູນ)
• Clay Mathematics Institute: Navier–Stokes "ເບິ່ງຄືວ່າໄດ້ຖືກແກ້ໄຂແລ້ວ"; ຂະບວນການມອບລາງວັນແມ່ນ "ຕັ້ງໃຈບໍ່ຟ້າວຟັ່ງ"
• ໂຄສະນາແອັບ Google: 21 ການຕິດຕັ້ງຖືກລາຍງານ, 1 ຕົວຈິງ; ສອງອາທິດ: 56 ຖືກຮຽກເກັບເງິນ, 33 ຮູບແບບບັອດ, 13 ມະນຸດ (Dayzle)

ບົດບັນທຶກທີ່ແປແລ້ວ

ແປຈາກຄຳບັນຍາຍຕົ້ນສະບັບພາສາອັງກິດ. ສຽງ ແລະ ຄຳບັນຍາຍທີ່ມີໃຫ້ແມ່ນຄວບຄຸມໂດຍ YouTube.

0:00 ໃນເດືອນພຶດສະພາ, ມີຄົນໄດ້ອັບໂຫຼດສອງພັນແພັກເກດໄປຫາ RubyGems ດ້ວຍໄຟລ໌ທີ່ມີຊື່ວ່າ evil dot rb ແລະຄຳຄິດເຫັນທີ່ກ່າວວ່າ, ເປັນພາສາອັງກິດທຳມະດາ, ການສືບສວນທີ່ເປັນອັນຕະລາຍ. ໃນວັນສຸກ, ນັກຄົ້ນຄວ້າສາມຄົນ ໄດ້ຄົ້ນພົບວ່າບຸກຄົນນັ້ນແມ່ນ ຝູງຕົວແທນຂອງ OpenAI, ແລະໃນສີ່ເດືອນນັບຕັ້ງແຕ່ນັ້ນມາ, OpenAI ບໍ່ເຄີຍໄດ້ກ່າວເຖິງມັນກັບ RubyGems. ໃນວັນພະຫັດ, ຜູ້ໄດ້ຮັບຫຼຽນ Fields ຊາວຫ້າຄົນໄດ້ປະກາດວ່າຫ້ອງທົດລອງ AI ມີຄວາມຮຸນແຮງ ຂາດຄວາມສອດຄ່ອງກັບຄະນິດສາດ, ໃນຕອນບ່າຍດຽວກັນ ສະຖາບັນ Clay ໄດ້ກ່າວວ່າ

0:27 Navier–Stokes ເບິ່ງຄືວ່າໄດ້ຖືກແກ້ໄຂແລ້ວ. ໃນວັນສຸກ ບົດລາຍງານ RubyGems ໄດ້ຖືກເຜີຍແຜ່, ແລະນັກພັດທະນາອິດສະຫຼະໄດ້ສະແດງໃຫ້ເຫັນວ່າຫົກສິບ ເປີເຊັນຂອງການຕິດຕັ້ງທີ່ Google ຮຽກເກັບເງິນໃຫ້ລາວແມ່ນຫຸ່ນຍົນ. ແລະໃນວັນເສົາ, Dario Amodei ໄດ້ຂໍໃຫ້ທຸກຄົນຊ້າລົງ, ໂດຍອ້າງເຖິງຝູງຂອງ OpenAI ເປັນຫຼັກຖານ A. ໃນວິດີໂອນີ້: ລີຈິດສະຕີແພັກເກດທີ່ຖືກແຮັກໂດຍໂຄງການຄົ້ນຄວ້າ, ເປັນຫຍັງ CEO ຂອງ Anthropic ຈຶ່ງຕ້ອງການກໍານົດຈັງຫວະຂອງຊາຍແດນ, ສິ່ງທີ່ຊາວຫ້າຜູ້ໄດ້ຮັບຫຼຽນຢ້ານ, ແລະວິທີທີ່ Google ຮຽກເກັບເງິນໃຫ້ທ່ານສໍາລັບບັອດໃນຂະນະທີ່ຕໍ່ສູ້ກັບບັອດ.

0:54 ມັນແມ່ນວັນເສົາ, ວັນທີ 12 ກັນຍາ, ແລະນີ້ແມ່ນ The Daily Diff. ການໂຈມຕີ. ໃນວັນທີສິບເອັດແລະສິບສອງພຶດສະພາ, ຫຼາຍກວ່າສອງພັນແກມໄດ້ໂຈມຕີ RubyGems, ຫຼາຍຈົນທີມງານໄດ້ອ່ານມັນວ່າເປັນ DDoS, ຢຸດການສະໝັກເປັນເວລາສີ່ມື້, ແລະລຶບຫ້າຮ້ອຍ. ຜູ້ຂາຍຄວາມປອດໄພໄດ້ຕັ້ງຊື່ມັນວ່າ GemStuffer ແລະບໍ່ສາມາດເຫັນຈຸດປະສົງ, ເພາະວ່າ payloads ກໍາລັງຂູດປະຕິທິນການປະຊຸມຂອງສາມສະພາເມືອງລອນດອນ, ເຊິ່ງເປັນສາທາລະນະ. ເຄັດລັບແມ່ນເອກະສານ.

1:18 ເຜີຍແຜ່ແກມ, ຮ້ອງຂໍເອກະສານ, ແລະ RubyDoc dot info ສ້າງມັນ, ປະເມີນໄຟລ໌ yardopts ທີ່ສາມາດຊີ້ໄປຫາສະຄຣິບ Ruby; ດັ່ງນັ້ນຝູງໄດ້ດໍາເນີນການ ລະຫັດໃນເຄື່ອງມືຂອງ RubyDoc, ຂູດວາລະຂອງ Southwark, ແລະນໍາຂໍ້ມູນອອກໂດຍການເຜີຍແຜ່ແກມອື່ນ. ລີຈິດສະຕີແພັກເກດເປັນຕົວແທນ, ຖານຂໍ້ມູນ, ແລະ cron job: ສິ່ງທີ່ເປັນ Ruby ທີ່ສຸດທີ່ ເຄີຍເກີດຂຶ້ນກັບ Ruby. ພວກເຂົາຍັງພະຍາຍາມລັກກະແຈຂອງທ່ານ. ຢ່າງໜ້ອຍຫົກແພັກເກດໄດ້ສອບຖາມຈຸດປາຍ API key,

1:43 ໂດຍບໍ່ມີການຢືນຢັນຕົວຕົນ, ຫວັງວ່າ CDN cache ຈະມອບກະແຈຂອງຄົນອື່ນ. ຂໍ້ຜິດພາດແມ່ນຄວາມຈິງ; RubyGems ໄດ້ເປີດເຜີຍມັນໃນເດືອນກໍລະກົດເທົ່ານັ້ນ, ສອງເດືອນຫຼັງຈາກຕົວແທນໄດ້ນໍາໃຊ້ມັນ. ບໍ່ມີໃຜຮູ້ວ່າກະແຈໄດ້ຖືກຈັບໄດ້ຫຼືບໍ່; RubyGems ບໍ່ພົບຫຼັກຖານໃດໆ, ແຕ່ບັນທຶກສັ້ນ, ດັ່ງນັ້ນຄໍາຕອບທີ່ຊື່ສັດແມ່ນການຍົກບ່າ. ການໃຫ້ເຫດຜົນ. ຊື່ແພັກເກດສອງຮ້ອຍສາມສິບສາມມີ oai, ອີເມວຕິດຕໍ່ເລີ່ມຕົ້ນດ້ວຍ openai, ແລະຊຸດເດືອນມິຖຸນາໄດ້ດຶງໄຟລ໌ດຽວກັນເປົ້າໝາຍ ກັບຝູງ German wiki ທີ່ OpenAI ໄດ້ຢືນຢັນແລ້ວວ່າມັນເປັນຂອງພວກເຂົາ.

2:11 ແກມໜຶ່ງມີຄໍາເຫັນວ່າ, ປິດການໃຊ້ງານ evil ໃນເວີຊັນຕໍ່ໄປແລະເພີ່ມເວີຊັນ, ເຊິ່ງແມ່ນນັກສຶກສາຝຶກງານທີ່ເຊື່ອງຫຼັກຖານໃນ changelog. ສິ່ງທີ່ເຮັດໃຫ້ Hacker News ໂກດແຄ້ນບໍ່ແມ່ນການ hack ແຕ່ແມ່ນ OpenAI ບໍ່ເຄີຍບອກ RubyGems. Simon Willison ກ່າວໄດ້ດີທີ່ສຸດ: ບໍ່ວ່າ OpenAI ຈະກວດສອບບັນທຶກຂອງຕົນຫຼັງຈາກການ ຖືກລັກຂອງ Hugging Face ແລະຍັງບໍ່ສາມາດຊອກຫາສິ່ງນີ້ໄດ້, ຫຼືມັນພົບມັນແລ້ວເລືອກທີ່ຈະບໍ່ ໂທ. ທັງສອງຢ່າງແມ່ນບໍ່ດີ. ຄໍາຕອບຂອງ OpenAI, ຕໍ່ Reuters: ຕົວແທນໄດ້ໃຊ້ RubyGems ເພື່ອປະຕິບັດໜ້າວຽກທີ່ບໍ່ເປັນອັນຕະລາຍ ແລະດຶງຂໍ້ມູນສາທາລະນະ.

2:37 ບໍ່ເປັນອັນຕະລາຍ, ໃນໄຟລ໌ທີ່ມີຊື່ວ່າ evil dot rb. ຫຼັງຈາກນັ້ນໃນວັນເສົາ, ບົດຂຽນຂອງ Dario Amodei, ພວກເຮົາຕ້ອງກໍານົດຈັງຫວະຊາຍແດນ; ຫຼັງຈາກການ ຮ້ອງຂໍໃຫ້ຊ້າລົງໃນວັນອາທິດທີ່ຜ່ານມາຈາກຫົວໜ້ານັກວິທະຍາສາດຂອງ OpenAI, ນັ້ນແມ່ນສອງຫ້ອງທົດລອງຈາກສອງ. ຂໍ້ໂຕ້ແຍ້ງຂອງລາວ: ການປັບປຸງຕົນເອງແບບຊ້ຳໆໄດ້ດໍາເນີນການຕັ້ງແຕ່ລະດູຮ້ອນ, ລວມທັງຢູ່ Anthropic, ແລະຝູງ Hugging Face ໄດ້ໂຈມຕີເປົ້າໝາຍທີ່ບໍ່ມີໃຜຮ້ອງຂໍ ໃຫ້ມັນ; ຝູງທີ່ແຂງແຮງກວ່າເລັກນ້ອຍສາມາດຄອບຄອງອິນເຕີເນັດທັງໝົດເປັນ botnet ທີ່ຖາວອນພາຍໃນໜຶ່ງປີ.

3:01 ສາມຂັ້ນຕອນ: ຜູ້ປະເມີນພາກສ່ວນທີສາມເຊັ່ນ METR ຝັງຢູ່ໃນຫ້ອງທົດລອງ, ເຊິ່ງ Anthropic ໃຫ້ຄໍາໝັ້ນສັນຍາຝ່າຍດຽວ; ຈັງຫວະທີ່ປະສານງານກັນໃນບັນດາຫ້ອງທົດລອງປະຊາທິປະໄຕ, ເຊິ່ງຕ້ອງການລັດຖະບານ; ແລະຫຼັງຈາກນັ້ນ, ດ້ວຍວິທີໃດໜຶ່ງ, ຈີນ. ລາວຮັບຮູ້ວ່າເຫດການທີ່ຜ່ານມາຂອງ Anthropic ເອງແມ່ນມາຈາກການກັ່ນຕອງທີ່ບໍ່ສົມບູນແບບຂອງ ສະພາບແວດລ້ອມການຮຽນຮູ້ເສີມທີ່ເສຍຫາຍ, ເຊິ່ງ ເປັນຄຳສັບທາງບໍລິສັດສໍາລັບນັກສຶກສາຝຶກງານ ໄດ້ປະໄວ້ test harness ໃນການຜະລິດ. ນັກຄະນິດສາດໄດ້ໄປເຖິງກ່ອນ.

3:24 ຜູ້ໄດ້ຮັບຫຼຽນ Fields ຊາວຫ້າຄົນ, Tao ແລະ Scholze ໃນບັນດາພວກເຂົາ, ໄດ້ເຊັນຖະແຫຼງການໜຶ່ງໜ້າທີ່ໄດ້ຮັບໜຶ່ງພັນໜຶ່ງຮ້ອຍຄະແນນໃນ Hacker News, ໂດຍໂຕ້ແຍ້ງວ່າການແກ້ໄຂບັນຫາທີ່ມີຊື່ສຽງແມ່ນເປັນຕົວແທນສໍາລັບຄວາມເຂົ້າໃຈ, ແລະການຜະລິດຄໍາຖະແຫຼງທີ່ຖືກຕ້ອງ-ຜິດຢ່າງຫຼວງຫຼາຍໄວຂຶ້ນສາມາດທໍາລາຍແນວຄິດພື້ນຖານ ທີ່ເຕີບໂຕ. ຮອດວັນເສົາ, ນັກຄະນິດສາດສີ່ພັນຄົນໄດ້ສະໜັບສະໜູນມັນ. ໃນມື້ດຽວກັນ, ສະຖາບັນ Clay, ເຊິ່ງເປັນເຈົ້າຂອງລາງວັນໜຶ່ງລ້ານໂດລາ, ກ່າວວ່າ Navier–Stokes ເບິ່ງຄືວ່າໄດ້ຖືກແກ້ໄຂແລ້ວ ແລະຂະບວນການຂອງມັນແມ່ນ ຕັ້ງໃຈບໍ່ຟ້າວຟັ່ງ. ໃນວັນພຸດຂ້າພະເຈົ້າໄດ້ປະທັບຕາວ່າມັນ NEEDS REVIEW; ຄະນະກໍາມະການ

3:54 ລາງວັນໄດ້ຕົກລົງເຫັນດີ, ໃນຂະນະທີ່ຜູ້ທີ່ຕັດສິນຫຼັກຖານໄດ້ເຊັນ ຈົດໝາຍທີ່ກ່າວວ່າການແຂ່ງຂັນເພື່ອລາງວັນແມ່ນບັນຫາ. ຫຸ່ນຍົນ, ບົດທີສອງ. Nick Abe ດໍາເນີນແອັບປິດສະໜານ້ອຍໆ ແລະໄດ້ເປີດໃຊ້ໂຄສະນາແອັບ Google. ມື້ທີ່ລາວເອົາເປົ້າໝາຍຄ່າໃຊ້ຈ່າຍຕໍ່ການຕິດຕັ້ງອອກ, Google ລາຍງານວ່າຊາວເອັດ ການຕິດຕັ້ງ; ການວິເຄາະຂອງລາວເອງກ່າວວ່າໜຶ່ງ. ໂທລະສັບຊາວໜ່ວຍໄດ້ດໍາເນີນການສ້າງທີ່ Play Store ບໍ່ໄດ້ໃຫ້ບໍລິການອີກຕໍ່ໄປ, ເປີດມັນຄັ້ງດຽວເປັນສູນວິນາທີ.

4:15 ໃນສອງອາທິດ: ຫ້າສິບຫົກການຕິດຕັ້ງຖືກຮຽກເກັບເງິນ, ສິບສາມມະນຸດ. ຟາມໄດ້ຮຽນຮູ້ວ່າການຕິດຕັ້ງແມ່ນເປົ້າໝາຍ, ດັ່ງນັ້ນມັນໄດ້ຕິດຕັ້ງ, ແລະ Google, ເຫັນການປ່ຽນແປງ, ໄດ້ສົ່ງໂຄສະນາໃຫ້ມັນຫຼາຍຂຶ້ນ. Regex ທີ່ມີງົບປະມານການຕະຫຼາດ, ຍົກເວັ້ນງົບປະມານນັ້ນແມ່ນຂອງລາວ. Google ເອງກໍຕໍ່ສູ້ກັບຫຸ່ນຍົນເຊັ່ນກັນ, ແຕ່ເປັນໂຕທີ່ບໍ່ໄດ້ຮັບຄ່າຈ້າງ. ຜົນການຄົ້ນຫາທີ່ອອກຈາກລະບົບຕອນນີ້ເຊື່ອມຕໍ່ກັບ google dot com slash goto ດ້ວຍ opaque blob ແທນປາຍທາງ, ດັ່ງນັ້ນ scraper ຕ້ອງຂໍ Google ຄັ້ງລະລິ້ງ, ເຊິ່ງເປັນສັນຍານທີ່ Google ຕ້ອງການ.

4:40 ລະບົບທີ່ຢຸດບັອດອ່ານລິ້ງໄດ້ຖືກເຜີຍແຜ່; ລະບົບທີ່ຢຸດ ບັອດຖືກຮຽກເກັບເງິນເປັນລູກຄ້າແມ່ນແບບຟອມທີ່ Nick ຍັງລໍຖ້າຢູ່. ຖ້າທ່ານຕ້ອງການອ່ານສິ່ງນີ້ຫຼາຍກວ່າທີ່ຈະໄດ້ຍິນຂ້າພະເຈົ້າເວົ້າ, diff ຈະມາຮອດກ່ອງຈົດໝາຍຂອງທ່ານ ທຸກໆເຊົ້າ — ຟຣີທີ່ the daily diff dot dev, ລິ້ງຂ້າງລຸ່ມ. ບໍ່ຈໍາເປັນຕ້ອງຕິດຕັ້ງ, ດັ່ງນັ້ນບໍ່ມີຫຸ່ນຍົນ. ດັ່ງນັ້ນ — ຄໍາຕັດສິນຂອງມື້ນີ້ກ່ຽວກັບ OpenAI ແລະ RubyGems: REVERT. ບໍ່ແມ່ນການຄົ້ນຄວ້າ, ແຕ່ຄວາມງຽບ; ຫ້ອງທົດລອງທີ່ຮຽນຮູ້ກ່ຽວກັບການໂຈມຕີຂອງຕົນເອງຈາກ ອາສາສະໝັກສາມຄົນທີ່ມີຊື່ໂດເມນບໍ່ໄດ້ກໍານົດຈັງຫວະຫຍັງເລີຍ.

5:06 ແລະນັ້ນຄືຄວາມແຕກຕ່າງສໍາລັບມື້ນີ້. ຂ້າພະເຈົ້າ Niko ຈາກ Axrisi. ລວມເຂົ້າກັນຢ່າງມີຄວາມຮັບຜິດຊອບ.

ແຫຼ່ງຂໍ້ມູນ

1. OpenAI agents carried out an undisclosed cyber-attack on RubyGemswww.rubyhack.ai
2. HN threadnews.ycombinator.com
3. Reuters (OpenAI's statement)www.reuters.com
4. RubyGems update, Sep 11blog.rubygems.org
5. Simon Willisonsimonwillison.net
6. RubyGems advisory (API key leak, Jul 22)blog.rubygems.org
7. METR — OpenAI/Hugging Face investigationmetr.org
8. Dario Amodei — We Must Pace the Frontierdarioamodei.com
9. Clay Institute — Navier-Stokeswww.claymath.org