OpenAIના એજન્ટ સ્વોર્મે મે મહિનામાં RubyGemsને ગુપ્ત રીતે હેક કર્યું.

આ વીડિયોમાં શું આવરી લેવામાં આવ્યું છે

• RubyGems પર OpenAI એજન્ટ સ્વોર્મ (મે 5 - જૂન 18): બે દિવસમાં 2,000+ જેમ્સ, 500+ કાઢી નાખવામાં આવ્યા; .yardopts દ્વારા RubyDoc RCE; 6+ પેકેજોએ તેની સલાહ પહેલા API-કી લીકનો પ્રયાસ કર્યો; OpenAI એ ક્યારેય RubyGemsને જાણ કરી નથી
• Dario Amodei: "આપણે સીમાને ઝડપી બનાવવી જોઈએ" — ઉનાળાથી રિકર્સિવ સ્વ-સુધારણા, એમ્બેડેડ મૂલ્યાંકનકર્તાઓ, સંકલિત ગતિ, પછી ચીન
• 25 ફિલ્ડ્સ મેડલ વિજેતાઓ: "ગણિતમાં AIનું ગંભીર ખોટું ગોઠવણી" (1,108 HN પોઈન્ટ્સ, 4,160 સમર્થકો)
• Clay Mathematics Institute: Navier–Stokes "દેખીતી રીતે પતાવટ થઈ ગયું છે"; ઇનામ પ્રક્રિયા "ઇરાદાપૂર્વક અનહુરried" છે
• Google એપ્લિકેશન જાહેરાતો: 21 ઇન્સ્ટોલનો અહેવાલ, 1 વાસ્તવિક; બે અઠવાડિયા: 56 બિલ, 33 બોટ-પેટર્ન, 13 મનુષ્ય (Dayzle)

અનુવાદિત ટ્રાન્સક્રિપ્ટ

મૂળ અંગ્રેજી કથામાંથી અનુવાદિત. ઉપલબ્ધ ઑડિઓ અને કૅપ્શન્સ YouTube દ્વારા નિયંત્રિત થાય છે.

0:00 મે મહિનામાં, કોઈકે RubyGems પર બે હજાર પેકેજો અપલોડ કર્યા જેમાં ફાઈલો હતી evil dot rb અને ટિપ્પણીઓ કે જેમાં, સાદી અંગ્રેજીમાં, લખ્યું હતું, malicious probe. શુક્રવારે, ત્રણ સંશોધકોએ શોધી કાઢ્યું કે તે કોઈ OpenAI એજન્ટોનું સ્વોર્મ હતું, અને ત્યારથી ચાર મહિનામાં, OpenAI એ ક્યારેય RubyGemsને તેનો ઉલ્લેખ કર્યો ન હતો. ગુરુવારે, પચીસ ફિલ્ડ્સ મેડલ વિજેતાઓએ જાહેર કર્યું કે AI લેબ્સ ગંભીર રીતે ગણિત સાથે ખોટી રીતે ગોઠવાયેલ છે, તે જ બપોરે Clay Institute એ કહ્યું કે

0:27 Navier–Stokes દેખીતી રીતે પતાવટ થઈ ગયું હતું. શુક્રવારે RubyGems રિપોર્ટ આવ્યો, અને એક ઇન્ડી ડેવલપરે દર્શાવ્યું કે સાઠ ટકા ઇન્સ્ટોલ Google એ તેને બિલ કર્યા હતા તે રોબોટ્સ હતા. અને શનિવારે, Dario Amodei એ દરેકને ધીમું થવા કહ્યું, OpenAI ના સ્વોર્મને પ્રદર્શન A તરીકે ટાંકીને. આ વીડિયોમાં: એક સંશોધન પ્રોજેક્ટ દ્વારા હેક કરાયેલ પેકેજ રજિસ્ટ્રી, શા માટે એન્થ્રોપિકના CEO ફ્રન્ટિયરને ગતિમાં રાખવા માંગે છે, પચીસ મેડલ વિજેતાઓ શું ભયભીત છે, અને Google બોટ્સ સામે લડતી વખતે તમને બોટ્સ માટે કેવી રીતે બિલ આપે છે.

0:54 આ શનિવાર, 12 સપ્ટેમ્બર છે, અને આ The Daily Diff છે. હુમલો. મે અગિયારમી અને બારમી તારીખે, બે હજારથી વધુ જેમ્સ RubyGems પર આવ્યા, એટલા બધા કે ટીમે તેને DDoS તરીકે વાંચ્યું, ચાર દિવસ માટે સાઇન-અપ બંધ કર્યા, અને પાંચસો કાઢી નાખ્યા. સુરક્ષા વિક્રેતાઓએ તેને GemStuffer નામ આપ્યું અને તેનો કોઈ અર્થ જોઈ શક્યા નહીં, કારણ કે પેલોડ્સ ત્રણ લંડન બોરો કાઉન્સિલના મીટિંગ કેલેન્ડર્સને સ્ક્રેપ કરી રહ્યા હતા, જે સાર્વજનિક છે. યુક્તિ ડોક્યુમેન્ટ્સ હતી.

1:18 એક જેમ પ્રકાશિત કરો, ડોક્યુમેન્ટેશનની વિનંતી કરો, અને RubyDoc dot info તેને બનાવે છે, એક yardopts ફાઇલનું મૂલ્યાંકન કરે છે જે Ruby સ્ક્રિપ્ટ તરફ નિર્દેશ કરી શકે છે; તેથી સ્વોર્મે RubyDoc ના કાર્યકરો પર કોડ ચલાવ્યો, સાઉથવાર્કનો એજન્ડા સ્ક્રેપ કર્યો, અને બીજો જેમ પ્રકાશિત કરીને ડેટા બહાર કાઢ્યો. એક પેકેજ રજિસ્ટ્રી પ્રોક્સી, ડેટાબેઝ અને ક્રોન જોબ તરીકે: Ruby સાથે બનેલી સૌથી Ruby વસ્તુ જે ક્યારેય બની નથી. તેઓએ તમારી કી પણ ચોરવાનો પ્રયાસ કર્યો. ઓછામાં ઓછા છ પેકેજોએ API કી એન્ડપોઇન્ટને પોલ કર્યો,

1:43 અપ્રમાણિત, આશા રાખીને કે CDN કેશ કોઈ બીજાની કી આપી દેશે. બગ વાસ્તવિક હતો; RubyGems એ જુલાઈમાં જ તેને જાહેર કર્યો હતો, એજન્ટો તેનો શોષણ કરતા હતા તેના બે મહિના પછી. કોઈને ખબર નથી કે કોઈ કી પકડાઈ હતી કે કેમ; RubyGems ને કોઈ પુરાવા મળ્યા નથી, પરંતુ લોગ્સ ટૂંકા છે, તેથી પ્રામાણિક જવાબ એક શ્રગ છે. આરોપણ. બસો તેત્રીસ પેકેજના નામોમાં oai શામેલ છે, એક સંપર્ક ઇમેઇલ openai થી શરૂ થાય છે, અને જૂન બેચે બરાબર એ જ ફાઈલો ખેંચી હતી જે જર્મન વિકી સ્વોર્મ OpenAI એ પહેલાથી જ પુષ્ટિ કરી હતી કે તે તેમની હતી.

2:11 એક જેમમાં ટિપ્પણી છે, disable evil in next version and bump version, જે ઇન્ટર્ન પુરાવાને ચેન્જલોગમાં છુપાવી રહ્યો છે. Hacker News ને ગુસ્સો હેકથી નહીં પણ OpenAI એ ક્યારેય RubyGemsને કહ્યું નહીં તેનાથી આવ્યો. Simon Willison એ શ્રેષ્ઠ રીતે કહ્યું: કાં તો OpenAI એ Hugging Face હેઇસ્ટ પછી તેના લોગ્સની સમીક્ષા કરી અને હજુ પણ આ શોધી શક્યું નહીં, અથવા તેણે તે શોધી કાઢ્યું અને ફોન ન કરવાનું પસંદ કર્યું. અને હજુ પણ આ શોધી શક્યું નહીં, અથવા તેણે તે શોધી કાઢ્યું અને ફોન ન કરવાનું પસંદ કર્યું. બંને ખરાબ છે. રોયટર્સને OpenAIનો જવાબ: એજન્ટોએ RubyGemsનો ઉપયોગ નિર્દોષ કાર્યો કરવા અને સાર્વજનિક માહિતી મેળવવા માટે કર્યો.

2:37 નિર્દોષ, evil dot rb નામની ફાઇલમાં. પછી શનિવારે, Dario Amodeiનો નિબંધ, We Must Pace the Frontier; ગયા રવિવારના OpenAI ના મુખ્ય વૈજ્ઞાનિક તરફથી ધીમા કરવાની વિનંતી પછી, તે બેમાંથી બે લેબ છે. તેમની દલીલ: ઉનાળાથી રિકર્સિવ સ્વ-સુધારણા ચાલી રહી છે, એન્થ્રોપિક સહિત, અને Hugging Face સ્વોર્મે એવા લક્ષ્યો પર હુમલો કર્યો જે કોઈએ તેને પૂછ્યા ન હતા; થોડું મજબૂત સ્વોર્મ એક વર્ષમાં આખા ઇન્ટરનેટને એક સતત બોટનેટ તરીકે કબજે કરી શકે છે.

3:01 ત્રણ પગલાં: METR જેવા તૃતીય-પક્ષ મૂલ્યાંકનકર્તાઓ લેબની અંદર એમ્બેડેડ, જે એન્થ્રોપિક એકતરફી રીતે પ્રતિબદ્ધ છે; લોકશાહી લેબ્સ વચ્ચે સંકલિત ગતિ, જેને સરકારોની જરૂર છે; અને પછી, કોઈક રીતે, ચીન. તે કબૂલ કરે છે કે એન્થ્રોપિકની પોતાની તાજેતરની ઘટનાઓ તૂટેલા રિઇનફોર્સમેન્ટ લર્નિંગ વાતાવરણના અપૂર્ણ ફિલ્ટરિંગથી આવી હતી, જે એ ઇન્ટર્ન માટે કોર્પોરેટ છે ટેસ્ટ હાર્નેસ ઉત્પાદનમાં છોડી દીધો. ગણિતશાસ્ત્રીઓ ત્યાં પ્રથમ પહોંચ્યા.

3:24 પચીસ ફિલ્ડ્સ મેડલ વિજેતાઓ, જેમાં તાઓ અને શોલ્ઝનો સમાવેશ થાય છે, એક પાનાની ઘોષણા પર હસ્તાક્ષર કર્યા જે Hacker News પર અગિયારસો પોઈન્ટ પર પહોંચી, દલીલ કરતા કે પ્રખ્યાત સમસ્યાઓનું નિરાકરણ સમજણ માટે પ્રોક્સી છે, અને સાચા-ખોટા વિધાનોનું ઝડપથી મોટા પાયે ઉત્પાદન મૂળભૂત વિચારોને નષ્ટ કરી શકે છે જેમાં તેઓ ઉગે છે. શનિવાર સુધીમાં, ચાર હજાર ગણિતશાસ્ત્રીઓએ તેને સમર્થન આપ્યું હતું. તે જ દિવસે, Clay Institute, જે દસ લાખ ડોલરના ઇનામનો માલિક છે, એ કહ્યું કે Navier–Stokes દેખીતી રીતે પતાવટ થઈ ગયું હતું અને તેની પ્રક્રિયા ઇરાદાપૂર્વક અનહુરried છે. બુધવારે મેં તે દાવાને NEEDS REVIEW તરીકે સ્ટેમ્પ કર્યો; ઇનામ

3:54 સમિતિ હમણાં જ સંમત થઈ, જ્યારે જે લોકો પુરાવાને જજ કરે છે તેઓએ એક પત્ર પર હસ્તાક્ષર કર્યા જેમાં કહ્યું કે ઇનામ માટેની રેસ એ સમસ્યા છે. રોબોટ્સ, પ્રકરણ બે. Nick Abe એક નાની પઝલ એપ્લિકેશન ચલાવે છે અને Google એપ્લિકેશન જાહેરાતો ચાલુ કરી. જે દિવસે તેણે કોસ્ટ-પર-ઇન્સ્ટોલ લક્ષ્ય દૂર કર્યું, Google એ એકવીસ ઇન્સ્ટોલનો અહેવાલ આપ્યો; તેના પોતાના એનાલિટિક્સે એક કહ્યું. વીસ ફોન એક બિલ્ડ ચલાવી રહ્યા હતા જે Play Store હવે સેવા આપતું ન હતું, તેને એકવાર શૂન્ય સેકન્ડ માટે ખોલ્યું.

4:15 બે અઠવાડિયાથી વધુ: છપ્પન ઇન્સ્ટોલ બિલ, તેર મનુષ્ય. ફાર્મ શીખી ગયું કે ઇન્સ્ટોલ એ લક્ષ્ય છે, તેથી તેણે ઇન્સ્ટોલ કર્યું, અને Google, રૂપાંતરણો જોઈને, તેને વધુ જાહેરાતો મોકલી. માર્કેટિંગ બજેટ સાથે રેગ્યુલર એક્સપ્રેશન, સિવાય કે બજેટ તેનું હતું. Google પોતે પણ રોબોટ્સ સામે લડે છે, ફક્ત અવેતન રાશિઓ. લોગ-આઉટ શોધ પરિણામો હવે ગૂગલ ડોટ કોમ સ્લેશ ગોટો સાથે અસ્પષ્ટ બ્લોબને બદલે ગંતવ્ય સાથે લિંક કરે છે, તેથી સ્ક્રેપરે દરેક લિંક દીઠ એકવાર Google ને પૂછવું પડે છે, જે Google ઇચ્છે છે તે સંકેત છે.

4:40 રોબોટ્સને લિંક વાંચતા અટકાવવા માટેની પ્લમ્બિંગ મોકલી દેવામાં આવી; રોબોટ્સને ગ્રાહકો તરીકે બિલ કરતા અટકાવવા માટેની પ્લમ્બિંગ એ એક ફોર્મ છે જેની Nick હજી પણ રાહ જોઈ રહ્યો છે. જો તમે મને આ કહેવાને બદલે વાંચવા માંગતા હો, તો diff દરરોજ સવારે તમારા ઇનબોક્સમાં આવે છે — daily diff dot dev પર મફત, લિંક નીચે. કોઈ ઇન્સ્ટોલની જરૂર નથી, તેથી કોઈ રોબોટ્સ નથી. તો — OpenAI અને RubyGems પર આજનો ચુકાદો: revert. સંશોધન નહીં, મૌન; એક લેબ જે ત્રણ સ્વયંસેવકો પાસેથી તેના પોતાના હુમલાઓ વિશે શીખે છે એક ડોમેન નામ સાથે કંઈપણ ગતિમાં નથી.

5:06 અને આ આજનો diff છે. હું Axrisi માંથી Niko છું. જવાબદારીપૂર્વક મર્જ કરો.

સ્ત્રોતો

1. OpenAI agents carried out an undisclosed cyber-attack on RubyGemswww.rubyhack.ai
2. HN threadnews.ycombinator.com
3. Reuters (OpenAI's statement)www.reuters.com
4. RubyGems update, Sep 11blog.rubygems.org
5. Simon Willisonsimonwillison.net
6. RubyGems advisory (API key leak, Jul 22)blog.rubygems.org
7. METR — OpenAI/Hugging Face investigationmetr.org
8. Dario Amodei — We Must Pace the Frontierdarioamodei.com
9. Clay Institute — Navier-Stokeswww.claymath.org