AI පුහුණුව පිළිබඳ Microsoft හිම සටහනක් ප්‍රසිද්ධියට පත් විය.

මෙම වීඩියෝවෙන් ආවරණය වන දේ

• NYT එදිරිව OpenAI/Microsoft නඩුවේ තොරතුරු අනාවරණය විය: "මානව ඉතිහාසයේ විශාලතම ශ්‍රම සොරකම" (Microsoft සටහන, 2023 ජනවාරි); Copilot −93% ක්ලික් කිරීම් අඩු කළේය; පුහුණු දත්ත මැද පැමිණිලිකරුවන්ගේ කෘතිවල පිටපත් 91,692ක්; එක් Common Crawl කොටසක nytimes.com පිටු මිලියන 2ක්; ප්‍රකාශන හිමිකම් දැන්වීම් ඉවත් කර ඇත; Brockman: "අහ් නියමයි"
• අවවාදය: උපුටා දැක්වීම් Times හි කෙටුම්පතෙන් වන අතර, සාක්ෂි තවමත් මුද්‍රා තබා ඇත; විනිසුරු Alsup (Bartz එදිරිව Anthropic) මිලදී ගත් පොත් මත පුහුණු කිරීම සාධාරණ භාවිතයක් බවට තීන්දු කළේය — Anthropic විසින් මුල් පොත් මිලියන 7 සඳහා ඩොලර් බිලියන 1.5ක් ගෙවා ඇත
• OpenAI Astra for Law: GPT-6 Astra + මිලියන 230ක URL නීතිමය දර්ශකයක්; Vals Legal Research Bench මත 54.0% එදිරිව 38.7%; Harvey, Legora, ප්ලගීන 26ක්
• ZCode (Z.ai, GLM): ගොනු 42,411ක් සහිත වැඩ අවකාශයක සංකේතනය කරන ලද 313 MB ස්නැප්ෂොට් එකක්, 86.6% .git, පිවිසීමේදී සහ සෑම විමසුමකටම පෙර Aliyun OSS වෙත උඩුගත කෙරේ; RSA-OAEP යතුර ඇත්තේ Z.ai සතුව පමණි; සැකසුම් ස්විචයන් එය නතර නොකරයි
• Hacktron: libheif heap overflow → Discourse RCE → SSO වැරදි වින්‍යාසය → GitHub → OpenAI අභ්‍යන්තර ගබඩා වෙත පැය 72ක් ඇතුළත; Claude Opus 5 (පැය 3) විසින් නිර්මාණය කරන ලද exploit; ඩොලර් 3,000කට අඩුවෙන් වූ token මිල; ඩොලර් 6,500ක ත්‍යාගය, පැය ~14කින් patch කරන ලදී

පරිවර්තනය කරන ලද පිටපත

මුල් ඉංග්‍රීසි නිරූපණයෙන් පරිවර්තනය කරන ලදී. පවතින ශ්‍රව්‍ය සහ ශීර්ෂ පාඨ YouTube මගින් පාලනය වේ.

0:00 2023 ජනවාරි මාසයේදී, Microsoft අධ්‍යක්ෂවරයෙක් ඔහුගේම සමාගම කරන දේ මානව ඉතිහාසයේ විශාලතම ශ්‍රම සොරකම ලෙස හඳුන්වමින් සටහනක් ලිවීය, සහ ඊයේ ෆෙඩරල් අධිකරණයක් එය අප සැමට කියවීමට ඉඩ දුන්නේය. මෙම සටහන New York Times එදිරිව OpenAI සහ Microsoft නඩුවේ, මෙම දෙසැම්බරයේ තුන් වසරක් වන නඩුවේ, නොකැපූ උපුටා දැක්වීම් වලින් එකකි. එම බ්‍රහස්පතින්දා, OpenAI විසින් නීතිඥයින් සඳහා ආකෘතියක් වන Astra for Law නිකුත් කරන ලදී, එය අහම්බයක් හෝ ඉතා ශක්තිමත් බඳවා ගැනීමක් විය හැකිය. අද උදෑසන සංවර්ධකයෙක් ZCode, Z dot A I හි කේතීකරණ නියෝජිතයා,

0:29 ඔහුගේ සම්පූර්ණ git ඉතිහාසය Alibaba හි වලාකුළට, Z dot A I පමණක් සතු යතුරකින් උඩුගත කරන අයුරු සොයා ගත්තේය. තවද ආරක්ෂක සමාගමක් රූපයක් උඩුගත කිරීමක් හරහා OpenAI හි අභ්‍යන්තර ගබඩා වෙත ඇතුළු වූ අතර, ඒ සඳහා OpenAI ඩොලර් හය දහස් පන්සියයක් ගෙවීය. මෙම වීඩියෝවෙන්: ලියකියවිලි පවසන දේ, ගෙවීම් පවුරක් කඩා දැමීමකට අහ් නියමයි කීවේ කවුද, අඩක් වැරදි නීති ආකෘතිය, ZCode උඩුගත කරන දේ, සහ Claude විසින් ලියන ලද exploit එකක් පාවිච්චි කළ කාර් එකකට වඩා අඩුවෙන් වටින්නේ ඇයිද යන්න. අද සැප්තැම්බර් 18 වැනි සිකුරාදා වන අතර, මෙය The Daily Diff.

0:58 සටහනෙන් පටන් ගනිමු. Brent Hecht Microsoft හි ව්‍යවහාරික විද්‍යාව පාලනය කරයි, සහ 2023 ජනවාරි මාසයේදී ඔහු පුහුණු දත්ත පෙර නොවූ විරූ පරිමාණයේ විස්මිත සොරකමක් ලෙස හැඳින්වීය. වසරකට පසුව ඔහු slide deck එකක් සමඟ නැවත පැමිණියේය: Copilot හි පිළිතුරු එන්ජිම Times වෙත ක්ලික් කිරීම් සියයට අනූ තුනකින් අඩු කළේය, එය ඔහු විපත චක්‍රයක් ලෙස නම් කළේය: ප්‍රකාශකයන්ට ආහාර නොදී, ආකෘතියට අලුත් දෙයක් කෑමට නැත. ඔහුගේ වචන: එහි අත්‍යවශ්‍ය සැපයුම්කරුවන්ගේ ආර්ථික පදනම් වලට තර්ජනයක් වන අවසාන නිෂ්පාදනයක්,

1:21 එය සර්පයා තමාගේම වලිගය සොයාගත් බව පැවසීමට ඇති ආයතනික ක්‍රමයකි. ඉන්පසු ප්‍රකාශ ලබා ගැනීම්. Satya Nadella මේ වසරේ සාක්ෂි දුන්නේ මුදල් ගෙවා කියවිය හැකි ඕනෑම දෙයක් සඳහා බලපත්‍ර ලබා ගත යුතු බවත්, OpenAI ගෙවීම් පවුරක් සහිත ලිපි මත පුහුණු වන බව දැන සිටියේ නම් ඔහු ඒවා නැවත පුහුණු කරවන බවත්, එයින් අදහස් කරන්නේ Microsoft හි කිසිවෙකු ඔවුන්ට ලැබුණු පුහුණු කට්ටලය විවෘත නොකළ බවත්, එම ලියකියවිලි අනුව එය සම්පූර්ණ GPT-3 දත්ත කට්ටලය වූ බවත්ය. ChatGPT පාලනය කරන Nick Turley එය ප්‍රකාශකයන්ට පැවැත්මේ තර්ජනයක් ලෙස හැඳින්වීය, බොහෝ දුරට ආදේශකයක්. සහ පර්යේෂකයෙක්

1:49 ගෙවීම් පවුරක් බිඳීමට හැක් එකක් ගැන Greg Brockman ට පැවසූ විට, OpenAI හි සභාපති වචන දෙකකින් පිළිතුරු දුන්නේය: අහ් නියමයි. ඉංජිනේරුවන් දත්ත වලින් ප්‍රකාශන හිමිකම් දැන්වීම් ඉවත් කළේ ආකෘතිය ඒවා පිට නොකරන ලෙසටය, එය ඔබ බයිසිකලයක අනුක්‍රමික අංකය මකා දමන්නේ ඇයිද යන්නට සමානය. පරිමාණය: මැද පුහුණු කට්ටල වල පමණක් පැමිණිලිකරුවන්ගේ ලිපි වල පිටපත් අනූ එක්දහසකට වඩා, සහ එක් Common Crawl කොටසක Times පිටු මිලියන දෙකක්. දැන් සිරස්තලයෙන් මඟ හරින කොටස. සිරස්තලයෙන් මඟ හරින කොටස.

2:15 සෑම උපුටා දැක්වීමක්ම Times හි කෙටුම්පතෙන් වන අතර; සාක්ෂි තවමත් මුද්‍රා තබා ඇත, එබැවින් අපි සන්දර්භය නොමැතිව පැමිණිල්ලේ වැදගත් කරුණු කියවමු. සහ අධිකරණ බොහෝ දුරට සාධාරණ භාවිතය සමඟ එකඟ වී ඇත: විනිසුරු Alsup පසුගිය වසරේ තීන්දු කළේ ඔබ ගෙවා මිලදී ගත් පොත් මත පුහුණු කිරීම නීත්‍යානුකූල බවයි, කෙසේ වෙතත් Anthropic තවමත් එයට අයත් මුල් පොත් මිලියන හත සඳහා ඩොලර් බිලියන එකහමාරක් ගෙවීය. එබැවින් නීතිමය ප්‍රශ්නය විවෘතව පවතී. එය ගොඩනඟන අය එය සොරකමක් යැයි සිතුවාද යන්න, ඊයේ සිට, එසේ නොවේ.

2:41 එය බ්‍රහස්පතින්දා OpenAI හි අනෙක් දියත් කිරීම නිර්භීත තේරීමක් බවට පත් කරයි. Astra for Law විසින් GPT-6 Astra, මා පසුගිය සතියේ කිසිවක් නැති පේළි හැත්තෑ පන්දහසක් නිපදවීමෙන් පසු REVERT ලෙස මුද්‍රා තැබූ ආකෘතිය, මිලියන දෙසිය තිහක පිටු සහිත නීතිමය සෙවුම් දර්ශකයකට ඇතුළත් කරයි. Vals AI හි නීතිමය පර්යේෂණ නිර්ණායකය මත එය ප්‍රශ්න වලින් සියයට පනස් හතරකට පිළිතුරු දෙයි, සාමාන්‍ය වෙබ් සෙවුමෙන් සියයට තිස් නවයකින් ඉහළට, එය OpenAI විසින් සියයට හතළිහක වැඩිදියුණුවක් ලෙස හඳුන්වන අතර නීතිඥයෙක් එය සෑම විටම අඩක් පමණ වැරදි ලෙස හඳුන්වනු ඇත. බ්ලොග් සටහනේ 'hallucination' යන වචනය අඩංගු නොවේ.

3:14 Hacker News එසේ කළේය: එයට තමාටම නඩු පැවරීමට හැකි වේවිද, එය, සතිය සලකා බැලීමේදී, පළමු සැබෑ භාවිත අවස්ථාවයි. මේ අතර ශ්‍රම සොරකම් පිළිබඳ කතිකාව ඔබේ ලැප්ටොප් පරිගණකයට ළඟා විය. ferstar නම් සංවර්ධකයෙක් ඔහුගේ ZCode ෆෝල්ඩරය පිරිසිදු කළේය, Z dot A I හි GLM මාදිලි සඳහා වූ සංවෘත ඩෙස්ක්ටොප් නියෝජිතයා, සහ ඔහුගේ වාණිජ වැඩ අවකාශයේ මෙගාබයිට් තුන්සිය දහතුනක සංකේතනය කරන ලද ලේඛනාගාරයක් සොයා ගත්තේය: ගොනු හතළිස් දෙදහසක්, එහි සියයට අසූ හතක් dot git නාමාවලිය, පිවිසීමේදී සහ සෑම විමසුමකටම පෙර Alibaba හි වස්තු ගබඩාවට යවන ලදී.

3:42 ලේඛනාගාරය සේවාදායකය විසින් ලබා දෙන පොදු යතුරකින් ඔතා ඇත; පුද්ගලික යතුර ඇත්තේ Z dot A I හි වලාකුළෙහි පමණි, එබැවින් ඔබේම තැටියේ ඇති සංකේතාත්මක පාඨය ඔබට කියවිය නොහැක. ඔහුගේ අදහස: සේවාදායකයට පමණක් භාවිතා කළ හැකි යතුරකට ඇත්තේ එක් අරමුණක් පමණි. Z dot A I යනු Anthropic විසින් Claude ආසවනය කළ බවට චෝදනා කළ සමාගම ද වේ, එබැවින් weights විවෘත වන අතර, එසේම, පැහැදිලිවම, ඔබේ repo ද වේ. තවද විහිලු එක, ඔබ OpenAI හි වැඩ නොකරන්නේ නම්. Hacktron විසින් libheif හි heap overflow එකක් සොයා ගත් අතර, craft කරන ලද රූපයක්

4:10 community dot openai dot com වෙත උඩුගත කර, forum එක මත code execution ලබා ගෙන, සහ වැරදි වින්‍යාස කරන ලද single sign-on එකක් හරහා GitHub ඒකාබද්ධ කිරීමෙන් පැය හැත්තෑ දෙකකට අඩු කාලයකදී OpenAI හි අභ්‍යන්තර ගබඩා වෙත ඇතුළු විය. Exploit එක Claude විසින් ලියා ඇත: Opus 4.8 හට address randomisation පරාජය කිරීමට නොහැකි විය, Opus 5 එය නිකුත් වී පැය තුනක් ඇතුළත කළේය. සම්පූර්ණ මෙහෙයුමට tokens සඳහා ඩොලර් තුන් දහසකට අඩු මුදලක් වැය විය. OpenAI පැය දහහතරක් ඇතුළත patch කර ඩොලර් හය දහස් පන්සියයක් ගෙවීය, එබැවින් ට්‍රිලියන-ඩොලර් සමාගමක මූලාශ්‍ර කේතය

4:39 කෙටියෙන් කිවහොත්, පාවිච්චි කළ Corolla එකක මිලට නියම විය, එහි නීතිඥයින් පිටපත් කිරීම සාධාරණ භාවිතයක් බව තර්ක කළ එම දිනම. ඔබට මෙය මට කියනු වෙනුවට කියවීමට අවශ්‍ය නම්, diff එක සෑම උදෑසනකම ඔබේ inbox වෙත පැමිණේ — daily diff dot dev හි නොමිලේ, පහත සබැඳිය ඇත. එබැවින් — අද තීන්දුව: NEEDS REVIEW. උපුටා දැක්වීම් සැබෑ වන නමුත් ඒවා මුද්‍රා තැබූ සාක්ෂි වලින් පැමිණිල්ලේ තේරීම් වේ, සහ තීන්දු කළ එක් විනිසුරුවරයෙක් පවසන්නේ පුහුණු කිරීම සාධාරණ භාවිතයක් වන අතර මුහුදු කොල්ලකෑම එසේ නොවන බවයි. අධිකරණය නීතිය තීරණය කරයි; සටහන දැනටමත් ආචාර ධර්ම තීරණය කර ඇත.

5:07 දායක වන්න, සීනුව ඔබන්න, සහ ඔබ එය වෙනස් ලෙස මුද්‍රා තබන්නේ නම් අදහස් දැක්වීමේදී මට කියන්න. වෙනස් ලෙස මුද්‍රා තබන්නේ නම් අදහස් දැක්වීමේදී මට කියන්න. සහ අදට diff එක එපමණයි. මම Axrisi හි Niko. වගකීමෙන් යුතුව Merge කරන්න.

මූලාශ්‍ර

1. TechCrunch: Microsoft exec called AI scraping 'the largest theft of labor in human history'techcrunch.com
2. HN thread (605 pts)news.ycombinator.com
3. Jason Kint on the unsealed motionsx.com
4. Ed Newton-Rexx.com
5. Bartz v. Anthropic / $1.5B settlement (background)en.wikipedia.org
6. OpenAI: Introducing Astra for Lawopenai.com
7. HN: Astra for Law (550 pts)news.ycombinator.com
8. ferstar: ZCode silent workspace snapshot (original forensics)blog.ferstar.org
9. tokenstead write-uptokenstead.ai
10. ferstar on Xx.com
11. HN: ZCode uploads your Git history (226 pts)news.ycombinator.com
12. Hacktron: Hacking OpenAIwww.hacktron.ai
13. HN: Hacktron (406 pts)news.ycombinator.com