Microsoft-ის საკუთარი მემორანდუმი ხელოვნური ინტელექტის სწავლებაზე საჯარო გახდა.

რას მოიცავს ეს ვიდეო

• NYT v. OpenAI/Microsoft გასაიდუმლოებული: „ადამიანის ისტორიაში შრომის უდიდესი ქურდობა“ (Microsoft-ის მემორანდუმი, 2023 წლის იანვარი); Copilot −93% დაწკაპუნებები; 91,692 ასლი მოსარჩელეების ნამუშევრების შუა-სასწავლო მონაცემებში; 2 მილიონი nytimes.com გვერდი ერთი Common Crawl სეგმენტში; საავტორო უფლებების შეტყობინებები წაშლილი; ბროკმანი: „აჰ მშვენიერია“
• გაფრთხილება: ციტატები The Times-ის მოკლე შინაარსიდანაა, ექსპონატები კვლავ დალუქულია; მოსამართლე ალსუპმა (Bartz v. Anthropic) დაადგინა, რომ ნაყიდ წიგნებზე სწავლება სამართლიანი გამოყენებაა — Anthropic-მა 1.5 მილიარდი დოლარი გადაიხადა 7 მილიონი პირატული წიგნისთვის
• OpenAI Astra for Law: GPT-6 Astra + 230 მილიონი URL იურიდიული ინდექსი; 54.0% vs 38.7% Vals Legal Research Bench-ზე; Harvey, Legora, 26 დანამატი
• ZCode (Z.ai, GLM): 313 MB დაშიფრული სნეპშოტი 42,411-ფაილიანი სამუშაო სივრცის, 86.6% .git, ატვირთული Aliyun OSS-ზე შესვლისას და ყოველი მოთხოვნის წინ; RSA-OAEP გასაღები ფლობს მხოლოდ Z.ai; პარამეტრების გადამრთველები არ აჩერებენ მას
• Hacktron: libheif heap overflow → Discourse RCE → SSO არასწორი კონფიგურაცია → GitHub → OpenAI-ის შიდა რეპოზიტორები 72 საათზე ნაკლებ დროში; ექსპლოიტი დაწერა Claude Opus 5-მა (3 საათი); კამპანია 3,000 დოლარზე ნაკლები ღირებულების ტოკენებში; ჯილდო 6,500 დოლარი, გამოსწორდა ~14 საათში

ნათარგმნი ტრანსკრიპტი

ნათარგმნია ორიგინალური ინგლისური ნარატივიდან. ხელმისაწვდომი აუდიო და სუბტიტრები კონტროლდება YouTube-ის მიერ.

0:00 2023 წლის იანვარში Microsoft-ის ერთ-ერთმა დირექტორმა დაწერა მემორანდუმი, რომელშიც უწოდებდა იმას, რასაც მისი საკუთარი კომპანია აკეთებდა, ადამიანის ისტორიაში შრომის უდიდეს ქურდობას, და გუშინ ფედერალურმა სასამართლომ მოგვცა უფლება წაგვეკითხა. მემორანდუმი ერთ-ერთი დაუცენზურო ციტატაა ნიუ-იორკ თაიმსი OpenAI-სა და Microsoft-ის წინააღმდეგ სარჩელში, სარჩელი, რომელიც ამ დეკემბერში სამი წლის გახდება. იმავე ხუთშაბათს, OpenAI-მ გამოუშვა Astra for Law, მოდელი იურისტებისთვის, რაც ან დამთხვევაა ან ძალიან ძლიერი დაქირავება. ამ დილით დეველოპერმა დაიჭირა ZCode, Z.ai-ის კოდირების აგენტი,

0:29 რომელიც მის მთელ git ისტორიას ტვირთავდა Alibaba-ს ღრუბელში გასაღებით, რომელსაც მხოლოდ Z dot A I ფლობს. და უსაფრთხოების ფირმა შევიდა OpenAI-ის შიდა რეპოზიტორებში სურათის ატვირთვის მეშვეობით, რისთვისაც OpenAI-მ გადაიხადა ექვსი ათას ხუთასი დოლარი. ამ ვიდეოში: რას ამბობს მასალები, ვინ თქვა „აჰ მშვენიერია“ paywall-ის გატეხვაზე, სამართლის მოდელი, რომელიც ნახევარ შემთხვევაში ცდება, რას ტვირთავს ZCode, და რატომ ღირს კლოდის მიერ დაწერილი ექსპლოიტი მეორად მანქანაზე ნაკლები. პარასკევია, 18 სექტემბერი, და ეს არის The Daily Diff.

0:58 დავიწყოთ მემორანდუმით. ბრენტ ჰეხტი მართავს გამოყენებით მეცნიერებას Microsoft-ში, და 2023 წლის იანვარში მან სასწავლო მონაცემებს უწოდა უპრეცედენტო მასშტაბის საოცარი ქურდობა. ერთი წლის შემდეგ ის დაბრუნდა სლაიდშოუთი: Copilot-ის პასუხების სისტემამ შეამცირა The Times-ზე გადასვლები ოთხმოცდაცამეტი პროცენტით, რასაც მან უწოდა „განწირულობის მარყუჟი“: გამომცემლებს შიმშილს აყენებ, და მოდელს არაფერი ახალი ექნება საჭმელად. მისი სიტყვებით: საბოლოო პროდუქტი, რომელიც საფრთხეს უქმნის მისი

1:21 არსებითი მომწოდებლების ეკონომიკურ საფუძვლებს, კორპორაციული გზა იმის თქმის, რომ გველმა საკუთარი კუდი იპოვა. შემდეგ დაკითხვები. სატია ნადელამ ამ წელს განაცხადა, რომ ნებისმიერი ფასიანი კონტენტი უნდა იყოს ლიცენზირებული, და რომ მას რომ სცოდნოდა, რომ OpenAI იწვრთნებოდა ფასიან სტატიებზე, ის აიძულებდა მათ ხელახლა გაევლოთ სწავლება, რაც გულისხმობს, რომ Microsoft-ში არავინ გახსნა სასწავლო ნაკრები, რომელიც მათ გადაეცათ, და იგივე მასალების მიხედვით, ეს იყო მთელი GPT-3 მონაცემთა ნაკრები. ნიკ ტერლიმ, რომელიც მართავს ChatGPT-ს, მას უწოდა გამომცემლებისთვის ეგზისტენციალური საფრთხე, ძირითადად ჩანაცვლებადი. და როდესაც მკვლევარმა

1:49 გრეგ ბროკმანს უთხრა ჰაკის შესახებ, რომელიც The Times-ის paywall-ს გვერდს უვლიდა, OpenAI-ის პრეზიდენტმა უპასუხა ორი სიტყვით: აჰ მშვენიერია. ინჟინრებმა ასევე წაშალეს საავტორო უფლებების შეტყობინებები მონაცემებიდან, რომ მოდელი არ გამოეტანა ისინი, რის გამოც ველოსიპედს სერიული ნომერი ეშლება. მასშტაბი: ოთხმოცდათერთმეტ ათასზე მეტი ასლი მოსარჩელეების სტატიების მხოლოდ შუა-სასწავლო ნაკრებებში, და ორი მილიონი Times-ის გვერდი ერთ Common Crawl სეგმენტში. ახლა ნაწილი, რომელსაც სათაური გამოტოვებს.

2:15 ყოველი ციტატა Times-ის მოკლე შინაარსიდანაა; ექსპონატები კვლავ დალუქულია, ამიტომ ჩვენ ვკითხულობთ პროკურატურის მთავარ მომენტებს კონტექსტის გარეშე. და სასამართლოები ძირითადად სამართლიან გამოყენების მხარეს იდგნენ: მოსამართლე ალსუპმა გასულ წელს დაადგინა, რომ წიგნებზე სწავლება, რომლისთვისაც გადაიხადეთ, ლეგალურია, თუმცა Anthropic-მა მაინც გადაიხადა მილიარდნახევარი შვიდი მილიონისთვის, რომელიც პირატული იყო. ასე რომ, სამართლებრივი საკითხი ღიაა. ფიქრობდნენ თუ არა მისი შემქმნელები, რომ ეს ქურდობა იყო, გუშინდელი მონაცემებით, არა.

2:41 რაც ხუთშაბათის OpenAI-ის სხვა გაშვებას თამამ არჩევანს ხდის. Astra for Law ახვევს GPT-6 Astra-ს, მოდელს, რომელიც მე დავარქვი REVERT გასულ კვირას მას შემდეგ, რაც მან სამოცდათხუთმეტი ათასი ხაზი არაფერი წარმოადგინა, ორას ოცდაათი მილიონი გვერდის იურიდიულ საძიებო ინდექსში. Vals AI-ის იურიდიული კვლევის ბენჩმარკზე ის კითხვების ორმოცდაოთხ პროცენტს გადის, რაც ოცდაცხრიდან გაუმჯობესებაა უბრალო ვებ ძიებით, რასაც OpenAI ორმოცი პროცენტიან გაუმჯობესებას უწოდებს, იურისტი კი თითქმის ნახევარ შემთხვევაში არასწორს. ბლოგის პოსტი არ შეიცავს სიტყვა „ჰალუცინაციას“.

3:14 Hacker News-მა თქვა: შეძლებს თუ არა ის საკუთარ თავს უჩივლოს, რაც, კვირის გათვალისწინებით, პირველი ნამდვილი გამოყენების შემთხვევაა. ამასობაში შრომის ქურდობის დისკურსმა მიაღწია თქვენს ლეპტოპსაც. დეველოპერმა სახელად ferstar-მა გაასუფთავა თავისი ZCode საქაღალდე, Z dot A I-ის დახურული დესკტოპის აგენტი GLM მოდელებისთვის, და იპოვა სამას ცამეტი მეგაბაიტი დაშიფრული არქივი მისი კომერციული სამუშაო სივრცის: ორმოცდაორი ათასი ფაილი, აქედან ოთხმოცდაშვიდი პროცენტი .git დირექტორია, გაგზავნილი Alibaba-ს ობიექტების საცავში შესვლისას და ყოველი მოთხოვნის წინ.

3:42 არქივი შეფუთულია საჯარო გასაღებით, რომელსაც სერვერი გასცემს; პირადი გასაღები ცხოვრობს მხოლოდ Z dot A I-ის ღრუბელში, ასე რომ, თქვენს დისკზე არსებული შიფრტექსტი თქვენთვის წაუკითხავია. მისი ხაზი: გასაღები, რომელსაც მხოლოდ სერვერი შეუძლია გამოიყენოს, ზუსტად ერთ მიზანს ემსახურება. Z dot A I ასევე არის კომპანია, რომელსაც Anthropic-მა ბრალი დასდო Claude-ის გამოხდაში, ასე რომ, წონები ღიაა და, როგორც ჩანს, თქვენი რეპოც. და მხიარული ერთი, თუ OpenAI-ში არ მუშაობ. Hacktron-მა იპოვა heap overflow libheif-ში, ატვირთა დამუშავებული სურათი

4:10 community dot openai dot com-ზე, მიიღო კოდის შესრულება ფორუმზე, და არასწორად კონფიგურირებული ერთჯერადი შესვლა GitHub-ის ინტეგრაციის მეშვეობით OpenAI-ის შიდა რეპოზიტორებში, სამოცდათორმეტ საათზე ნაკლებ დროში. ექსპლოიტი დაწერა კლოდმა: Opus 4.8 ვერ შეძლო მისამართის რანდომიზაციის დაძლევა, Opus 5-მა ეს გამოშვებიდან სამ საათში გააკეთა. მთელმა კამპანიამ სამი ათას დოლარზე ნაკლები დაჯდა ტოკენებში. OpenAI-მ ოთხ საათში გამოასწორა და ექვსი ათას ხუთასი დოლარი გადაიხადა, ასე რომ, ტრილიონი დოლარის კომპანიის წყაროს კოდი,

4:39 მოკლედ, მეორადი Corolla-ს ფასად იყო, იმავე დღეს, როდესაც მისმა იურისტებმა იკამათეს, რომ კოპირება სამართლიანი გამოყენებაა. თუ ამის წაკითხვა გირჩევნიათ, ვიდრე ჩემი მოსმენა, The Daily Diff თქვენს ინბოქსში მოდის ყოველ დილით — უფასოდ thedailydiff.dev-ზე, ლინკი ქვემოთ. ასე რომ — დღევანდელი ვერდიქტი: NEEDS REVIEW. ციტატები ნამდვილია, მაგრამ ისინი პროკურატურის არჩევანია დალუქული ექსპონატებიდან, და ერთმა მოსამართლემ, რომელმაც გადაწყვეტილება მიიღო, თქვა, რომ სწავლება სამართლიანი გამოყენებაა და მეკობრეობა არა. სასამართლო წყვეტს კანონს; მემორანდუმმა უკვე გადაწყვიტა ეთიკა.

5:07 გამოიწერეთ, დააჭირეთ ზარს და მითხარით კომენტარებში, თუ თქვენ სხვანაირად დაარტყამდით. და ეს არის დღევანდელი განსხვავება. მე ვარ ნიკო Axrisi-დან. შეაერთეთ პასუხისმგებლობით. SHIP IT.

წყაროები

1. TechCrunch: Microsoft exec called AI scraping 'the largest theft of labor in human history'techcrunch.com
2. HN thread (605 pts)news.ycombinator.com
3. Jason Kint on the unsealed motionsx.com
4. Ed Newton-Rexx.com
5. Bartz v. Anthropic / $1.5B settlement (background)en.wikipedia.org
6. OpenAI: Introducing Astra for Lawopenai.com
7. HN: Astra for Law (550 pts)news.ycombinator.com
8. ferstar: ZCode silent workspace snapshot (original forensics)blog.ferstar.org
9. tokenstead write-uptokenstead.ai
10. ferstar on Xx.com
11. HN: ZCode uploads your Git history (226 pts)news.ycombinator.com
12. Hacktron: Hacking OpenAIwww.hacktron.ai
13. HN: Hacktron (406 pts)news.ycombinator.com