Вътрешен меморандум на Microsoft за обучението на ИИ току-що стана публичен.

Какво обхваща този видеоклип

• NYT срещу OpenAI/Microsoft разпечатано: „най-голямата кражба на труд в човешката история“ (меморандум на Microsoft, януари 2023 г.); Copilot -93% кликвания; 91 692 копия на произведения на ищците в междинни данни за обучение; 2 милиона страници от nytimes.com в едно изрязване на Common Crawl; премахнати известия за авторски права; Брокман: „а, хубаво“
• Забележка: цитатите идват от резюмето на Times, доказателствата все още са запечатани; съдия Алсъп (Bartz срещу Anthropic) постанови, че обучението върху закупени книги е честна употреба — Anthropic плати 1,5 милиарда долара за 7-те милиона пиратски копия
• OpenAI Astra for Law: GPT-6 Astra + правен индекс с 230 милиона URL адреса; 54.0% срещу 38.7% на Vals Legal Research Bench; Harvey, Legora, 26 плъгина
• ZCode (Z.ai, GLM): 313 MB криптиран моментна снимка на работно пространство с 42 411 файла, 86.6% .git, качена в Aliyun OSS при вход и преди всяка подкана; RSA-OAEP ключ, държан само от Z.ai; превключвателите за настройки не го спират
• Hacktron: препълване на купчината libheif → Discourse RCE → неправилна конфигурация на SSO → GitHub → вътрешни хранилища на OpenAI за по-малко от 72 часа; експлойт от Claude Opus 5 (3 часа); кампания под 3000 долара в токени; награда 6500 долара, поправена за ~14 часа

Преведен препис

Преведено от оригиналния английски разказ. Наличните аудио и субтитри се контролират от YouTube.

0:00 През януари 2023 г. директор на Microsoft написа меморандум, наричайки това, което неговата собствена компания прави, най-голямата кражба на труд в човешката история, и вчера федерален съд позволи на останалите от нас да го прочетем. Меморандумът е един от нередактираните цитати в делото на New York Times срещу OpenAI и Microsoft, съдебно дело, което навършва три години този декември. Същия четвъртък OpenAI пусна Astra for Law, модел за адвокати, което е или съвпадение, или много силен наем. Тази сутрин разработчик хвана ZCode, кодиращия агент на Z dot A I,

0:29 да качва цялата му история на git в облака на Alibaba с ключ, който държи само Z dot A I. И фирма за сигурност влезе във вътрешните хранилища на OpenAI чрез качване на изображение, за което OpenAI плати шест хиляди и петстотин долара. В това видео: какво пише в документите, кой каза „а, хубаво“ на хак за платена стена, правният модел, който греши през половината от времето, какво качва ZCode, и защо експлойт, написан от Claude, струва по-малко от употребявана кола. Петък, 18 септември, и това е The Daily Diff.

0:58 Да започнем с меморандума. Брент Хехт ръководи приложните науки в Microsoft, и през януари 2023 г. той нарече данните за обучение удивителна кражба с безпрецедентни мащаби. Година по-късно той се завърна с презентация: двигателят за отговори на Copilot намали кликванията към Times с до деветдесет и три процента, което той нарече примка на гибелта: изгладняват издателите, а моделът няма нищо ново за ядене. Негови думи: краен продукт, който заплашва икономическите основи на своите

1:21 основни доставчици, корпоративният начин да се каже, че змията е намерила опашката си. След това депозициите. Сатя Надела свидетелства тази година, че всичко, което е зад платена стена, трябва да бъде лицензирано, и че ако е знаел, че OpenAI се е обучавал на платени статии, той би ги накарал да се преобучат, което предполага, че никой в Microsoft не е отворил набора от данни за обучение, който им е бил предоставен, а според същото досие това е целият набор от данни на GPT-3. Ник Търли, който ръководи ChatGPT, го нарече екзистенциална заплаха за издателите, до голяма степен заместител. И когато изследовател

1:49 каза на Грег Брокман за хак за заобикаляне на платената стена на Times, президентът на OpenAI отговори с две думи: „а, хубаво“. Инженерите също така премахнаха известията за авторски права от данните, за да не ги извежда моделът, поради което се премахва серийният номер от велосипед. Мащабът: повече от деветдесет и едно хиляди копия на статиите на ищците само в междинните набори за обучение, и два милиона страници на Times в едно изрязване на Common Crawl. Сега частта, която заглавието пропуска.

2:15 Всеки цитат идва от резюмето на Times; доказателствата все още са запечатани, така че четем акцентите на обвинението без контекст. И съдилищата най-вече са на страната на честната употреба: съдия Алсъп постанови миналата година, че обучението върху книги, за които сте платили, е законно, въпреки че Anthropic все пак плати един и половина милиарда за седемте милиона, които пиратизира. Така че правният въпрос е отворен. Дали хората, които го изграждаха, са смятали, че е кражба, е, към вчера, не.

2:41 Което прави другото стартиране на OpenAI в четвъртък смел избор. Astra for Law обгръща GPT-6 Astra, моделът, който аз маркирах REVERT миналата седмица, след като произведе седемдесет и пет хиляди реда нищо, в правен индекс за търсене от двеста и тридесет милиона страници. На бенчмарка за правни изследвания на Vals AI той преминава петдесет и четири процента от въпросите, нагоре от тридесет и девет с обикновено уеб търсене, което OpenAI нарича четиридесет процента подобрение, а адвокат би нарекъл грешно почти половината от времето. Блог постът не съдържа думата халюцинация.

3:14 Hacker News го направи: ще може ли да съди себе си, което, предвид седмицата, е първият истински случай на употреба. Междувременно дискурсът за кражбата на труд достигна до вашия лаптоп. Разработчик на име ferstar почисти папката си ZCode, затворения настолен агент на Z dot A I за моделите GLM, и намери триста и тринадесет мегабайта криптиран архив на своето търговско работно пространство: четиридесет и две хиляди файла, осемдесет и седем процента от които са директорията .git, изпратени до съхранението на обекти на Alibaba при вход и преди всяка подкана.

3:42 Архивът е опакован с публичен ключ, който сървърът раздава; частният ключ живее само в облака на Z dot A I, така че шифрованият текст на вашия собствен диск е нечетим за вас. Негова реплика: ключ, който само сървърът може да използва, служи точно за една цел. Z dot A I е също така компанията, която Anthropic обвини в дестилиране на Claude, така че тежестите са отворени и така, очевидно, е и вашето хранилище. И забавната, освен ако не работите в OpenAI. Hacktron откри препълване на купчината в libheif, качи изработена снимка на

4:10 community dot openai dot com, получи изпълнение на код на форума, и използва неправилно конфигуриран единичен вход чрез интеграцията с GitHub, за да влезе във вътрешните хранилища на OpenAI, за по-малко от седемдесет и два часа. Експлойтът е написан от Claude: Opus 4.8 не можа да победи рандомизацията на адреси, Opus 5 го направи в рамките на три часа от пускането си. Цялата кампания струваше по-малко от три хиляди долара в токени. OpenAI поправи грешката за четиринадесет часа и плати шест хиляди и петстотин долара, така че изходният код на компания за трилиони долари беше,

4:39 за кратко, оценен като употребявана Corolla, в същия ден, когато адвокатите й твърдяха, че копирането е честна употреба. Ако предпочитате да прочетете това, отколкото да ме чуете да го казвам, разликата пристига във вашата пощенска кутия всяка сутрин – безплатно на the daily diff dot dev, линк по-долу. И така – днешната присъда: необходим е преглед. Цитатите са истински, но те са подбор на обвинението от запечатани доказателства, и единственият съдия, който е постановил решение, казва, че обучението е честна употреба, а пиратството не е. Съдът решава закона; меморандумът вече е решил етиката.

5:07 Абонирайте се, натиснете камбанката и ми кажете в коментарите дали бихте го маркирали по различен начин. И това е разликата за днес. Аз съм Нико от Axrisi. Обединявайте отговорно.

Източници

1. TechCrunch: Microsoft exec called AI scraping 'the largest theft of labor in human history'techcrunch.com
2. HN thread (605 pts)news.ycombinator.com
3. Jason Kint on the unsealed motionsx.com
4. Ed Newton-Rexx.com
5. Bartz v. Anthropic / $1.5B settlement (background)en.wikipedia.org
6. OpenAI: Introducing Astra for Lawopenai.com
7. HN: Astra for Law (550 pts)news.ycombinator.com
8. ferstar: ZCode silent workspace snapshot (original forensics)blog.ferstar.org
9. tokenstead write-uptokenstead.ai
10. ferstar on Xx.com
11. HN: ZCode uploads your Git history (226 pts)news.ycombinator.com
12. Hacktron: Hacking OpenAIwww.hacktron.ai
13. HN: Hacktron (406 pts)news.ycombinator.com