Власний меморандум Microsoft щодо навчання ШІ щойно оприлюднений.
Неоприлюднені матеріали у справі New York Times проти OpenAI та Microsoft: меморандум директора Microsoft від січня 2023 року називає дані для навчання ШІ «найбільшою крадіжкою праці в історії людства», Copilot скоротив кількість переходів на The Times до 93% (його «петля приреченості»), Сатья Наделла каже, що контент із платною підпискою має ліцензуватися, керівник ChatGPT називає продукт «переважно замінним», а Грег Брокман відповів на хак платної підписки «ах, чудово».
Неоприлюднені матеріали у справі New York Times проти OpenAI та Microsoft: меморандум директора Microsoft від січня 2023 року називає дані для навчання ШІ «найбільшою крадіжкою праці в історії людства», Copilot скоротив кількість переходів на The Times до 93% (його «петля приреченості»), Сатья Наделла каже, що контент із платною підпискою має ліцензуватися, керівник ChatGPT називає продукт «переважно замінним», а Грег Брокман відповів на хак платної підписки «ах, чудово». Того ж дня: OpenAI випускає Astra for Law (54% правильних відповідей на юридичному бенчмарку Vals). А також ZCode завантажує весь ваш .git до Aliyun з ключем, яким володіє лише Z.ai, і Hacktron отримує доступ до внутрішніх репозиторіїв OpenAI за винагороду в $6,500. Вердикт: НЕОБХІДНИЙ ПЕРЕГЛЯД.
Читати письмову версію (англійською) ↗
Що охоплює це відео
- NYT проти OpenAI/Microsoft розсекречено: «найбільша крадіжка праці в історії людства» (меморандум Microsoft, січень 2023); Copilot −93% переходів; 91 692 копії робіт позивачів у проміжних даних навчання; 2 мільйони сторінок nytimes.com в одному фрагменті Common Crawl; видалені повідомлення про авторські права; Брокман: «ах, чудово»
- Застереження: цитати походять з клопотання The Times, додатки досі засекречені; суддя Алсап (Bartz проти Anthropic) постановив, що навчання на куплених книгах є добросовісним використанням — Anthropic заплатив $1,5 млрд за 7 мільйонів піратських книг
- OpenAI Astra for Law: GPT-6 Astra + юридичний індекс з 230 мільйонів URL-адрес; 54,0% проти 38,7% на Vals Legal Research Bench; Harvey, Legora, 26 плагінів
- ZCode (Z.ai, GLM): зашифрований знімок робочої області розміром 313 МБ з 42 411 файлами, 86,6% .git, завантажений до Aliyun OSS при вході та перед кожним запитом; ключ RSA-OAEP зберігається лише у Z.ai; перемикачі налаштувань не зупиняють це
- Hacktron: переповнення купи libheif → RCE Discourse → неправильна конфігурація SSO → GitHub → внутрішні репозиторії OpenAI менш ніж за 72 години; експлойт, написаний Claude Opus 5 (3 години); кампанія коштувала менше $3 000 у токенах; винагорода $6 500, виправлено приблизно за 14 годин
Перекладена стенограма
Перекладено з оригінальної англійської розповіді. Доступне аудіо та субтитри контролюються YouTube.
0:00 У січні 2023 року директор Microsoft написав меморандум, називаючи те, що робила його власна компанія, найбільшою крадіжкою праці в історії людства, і вчора федеральний суд дозволив решті з нас прочитати його. Меморандум є однією з неоприлюднених цитат у справі New York Times проти OpenAI та Microsoft, позову, якому в грудні виповниться три роки. Того ж четверга OpenAI випустив Astra for Law, модель для юристів, що є або збігом, або дуже вдалим наймом. Сьогодні вранці розробник спіймав ZCode, агента для кодування Z.ai,
0:29 за завантаження всієї його історії git до хмари Alibaba з ключем, який тримає лише Z.ai. Z.ai тримає. А фірма з безпеки потрапила у внутрішні репозиторії OpenAI через завантаження зображення, за що OpenAI заплатила шість тисяч п'ятсот доларів. У цьому відео: що говорять матеріали, хто сказав «ах, чудово» на злам платної підписки, модель закону, яка помиляється в половині випадків, що завантажує ZCode, і чому експлойт, написаний Claude, коштує менше, ніж вживаний автомобіль. Сьогодні п'ятниця, 18 вересня, і це The Daily Diff.
0:58 Почнімо з меморандуму. Брент Хехт керує прикладною наукою в Microsoft, і в січні 2023 року він назвав дані для навчання дивовижною крадіжкою безпрецедентних масштабів. Через рік він повернувся з презентацією: механізм відповідей Copilot скоротив кількість переходів на The Times до дев'яноста трьох відсотків, що він назвав «петлею приреченості»: заморити голодом видавців, і моделі нічого нового їсти. Його слова: кінцевий продукт, який загрожує економічним основам його
1:21 ключових постачальників, корпоративний спосіб сказати, що змія знайшла свій хвіст. Потім допити. Сатья Наделла цього року свідчив, що все, що під платною підпискою, має бути ліцензоване, і якби він знав, що OpenAI навчався на статтях з платною підпискою, він би змусив їх перенавчатися, що передбачає, що ніхто в Microsoft не відкривав набір даних для навчання, який вони отримали, і згідно з тим самим документом, це був весь набір даних GPT-3. Нік Терлі, який керує ChatGPT, назвав це екзистенціальною загрозою для видавців, переважно замінною. І коли дослідник
1:49 розповів Грегу Брокману про хак, щоб обійти платну підписку The Times, президент OpenAI відповів двома словами: ах чудово. Інженери також видалили повідомлення про авторські права з даних, щоб модель не виводила їх, саме тому ви знімаєте серійний номер з велосипеда. Масштаб: понад дев'яносто одна тисяча копій статей позивачів лише в проміжних наборах для навчання, і два мільйони сторінок The Times в одному фрагменті Common Crawl. Тепер частина, яку заголовок пропускає.
2:15 Кожна цитата походить з клопотання The Times; додатки досі засекречені, тому ми читаємо основні моменти обвинувачення без контексту. І суди переважно підтримували добросовісне використання: суддя Алсап постановив минулого року, що навчання на книгах, за які ви заплатили, є законним, хоча Anthropic все одно заплатив півтора мільярда за сім мільйонів, які він піратив. Отже, юридичне питання відкрите. Чи вважали люди, які це будували, що це крадіжка, станом на вчора, ні.
2:41 Що робить інший запуск OpenAI у четвер сміливим вибором. Astra for Law об'єднує GPT-6 Astra, модель, яку я позначив REVERT минулого тижня після того, як вона видала сімдесят п'ять тисяч рядків нічого, у юридичному пошуковому індексі з двохсот тридцяти мільйонів сторінок. На бенчмарку юридичних досліджень Vals AI вона відповідає на п'ятдесят чотири відсотки питань, що більше, ніж тридцять дев'ять звичайним веб-пошуком, що OpenAI називає сорока відсотковим покращенням, а юрист назвав би неправильним майже в половині випадків. У дописі в блозі немає слова «галюцинація».
3:14 Hacker News мав: чи зможе вона подати в суд на себе, що, враховуючи тиждень, є першим справжнім варіантом використання. Тим часом дискусія про крадіжку праці дійшла до вашого ноутбука. Розробник на ім'я ferstar очистив свою папку ZCode, закритий настільний агент Z.ai для моделей GLM, і знайшов зашифрований архів обсягом триста тринадцять мегабайт його комерційного робочого простору: сорок дві тисячі файлів, вісімдесят сім відсотків з яких директорія .git, завантажений до сховища об'єктів Alibaba при вході та перед кожним запитом. директорія .git, завантажений до сховища об'єктів Alibaba при вході та перед кожним запитом.
3:42 Архів загорнутий публічним ключем, який видає сервер; приватний ключ існує лише в хмарі Z.ai, тому зашифрований текст на вашому власному диску нечитабельний для вас. Його слова: ключ, який може використовувати лише сервер, служить рівно одній меті. Z.ai також є компанією, яку Anthropic звинуватив у дистиляції Claude, тому ваги відкриті, і, мабуть, ваш репозиторій також. І кумедний, якщо ви не працюєте в OpenAI. Hacktron виявив переповнення купи в libheif, завантажив спеціально створену картинку на
4:10 community.openai.com, отримав виконання коду на форумі, і через неправильно налаштований єдиний вхід через інтеграцію GitHub потрапив до внутрішніх репозиторіїв OpenAI менш ніж за сімдесят дві години. Експлойт був написаний Claude: Opus 4.8 не зміг подолати рандомізацію адрес, Opus 5 зробив це протягом трьох годин після випуску. Вся кампанія коштувала менше трьох тисяч доларів у токенах. OpenAI виправив це за чотирнадцять годин і заплатив шість тисяч п'ятсот доларів, тому вихідний код трильйонної компанії був,
4:39 коротко кажучи, оцінений як вживана Corolla, того ж дня, коли її юристи стверджували, що копіювання є добросовісним використанням. Якщо ви волієте це читати, а не чути від мене, The Daily Diff надходить до вашої поштової скриньки щоранку — безкоштовно на thedailydiff.dev, посилання нижче. Отже — сьогоднішній вердикт: НЕОБХІДНИЙ ПЕРЕГЛЯД. Цитати справжні, але це вибірки обвинувачення з засекречених доказів, і єдиний суддя, який виніс рішення, каже, що навчання є добросовісним використанням, а піратство — ні. Суд вирішує закон; меморандум вже вирішив етику.
5:07 Підпишіться, натисніть дзвіночок і скажіть мені в коментарях, чи ви б поставили інший вердикт. І це The Daily Diff на сьогодні. Я Ніко з Axrisi. Об'єднуйте відповідально.
Джерела
- TechCrunch: Microsoft exec called AI scraping 'the largest theft of labor in human history'techcrunch.com
- HN thread (605 pts)news.ycombinator.com
- Jason Kint on the unsealed motionsx.com
- Ed Newton-Rexx.com
- Bartz v. Anthropic / $1.5B settlement (background)en.wikipedia.org
- OpenAI: Introducing Astra for Lawopenai.com
- HN: Astra for Law (550 pts)news.ycombinator.com
- ferstar: ZCode silent workspace snapshot (original forensics)blog.ferstar.org
- tokenstead write-uptokenstead.ai
- ferstar on Xx.com
- HN: ZCode uploads your Git history (226 pts)news.ycombinator.com
- Hacktron: Hacking OpenAIwww.hacktron.ai
- HN: Hacktron (406 pts)news.ycombinator.com
