Собственная записка Microsoft об обучении ИИ стала достоянием общественности.

Что освещается в этом видео

• NYT против OpenAI/Microsoft рассекречено: «крупнейшая кража труда в истории человечества» (записка Microsoft, январь 2023 г.); Copilot сократил количество переходов на 93%; 91 692 копии работ истцов в данных промежуточного обучения; 2 млн страниц nytimes.com в одном срезе Common Crawl; уведомления об авторских правах удалены; Брокман: «ах, здорово»
• Предостережение: цитаты взяты из краткого изложения Times, экспонаты все еще засекречены; судья Алсап (Bartz против Anthropic) постановил, что обучение на купленных книгах является добросовестным использованием — Anthropic заплатила 1,5 млрд долларов за 7 млн пиратских копий
• OpenAI Astra for Law: GPT-6 Astra + юридический индекс из 230 млн URL-адресов; 54,0% против 38,7% на Vals Legal Research Bench; Harvey, Legora, 26 плагинов
• ZCode (Z.ai, GLM): зашифрованный снимок рабочего пространства объемом 313 МБ с 42 411 файлами, 86,6% .git, загруженный в Aliyun OSS при входе в систему и перед каждым запросом; ключ RSA-OAEP хранится только у Z.ai; переключатели настроек не останавливают это
• Hacktron: переполнение кучи libheif → RCE Discourse → неправильная конфигурация SSO → GitHub → внутренние репозитории OpenAI менее чем за 72 часа; эксплойт написан Claude Opus 5 (3 часа); кампания стоимостью менее 3000 долларов в токенах; вознаграждение 6500 долларов, исправлено примерно за 14 часов

Переведенная стенограмма

Переведено с оригинального английского повествования. Доступные аудио и субтитры контролируются YouTube.

0:00 В январе 2023 года директор Microsoft написал записку, назвав то, что его собственная компания делала, крупнейшей кражей труда в истории человечества, и вчера федеральный суд позволил остальным из нас ее прочитать. Записка является одной из неотредактированных цитат в деле New York Times против OpenAI и Microsoft, судебного процесса, которому в декабре исполнится три года. В тот же четверг OpenAI выпустила Astra for Law, модель для юристов, что является либо совпадением, либо очень сильным наймом. Сегодня утром разработчик поймал ZCode, кодирующего агента Z.ai,

0:29 загружающего всю его историю git в облако Alibaba с ключом, который есть только у Z.ai. Z.ai. А фирма по безопасности проникла во внутренние репозитории OpenAI через загрузку изображения, за что OpenAI заплатила шесть тысяч пятьсот долларов. В этом видео: что говорится в материалах, кто сказал «ах, здорово» на взлом платного доступа, юридическая модель, которая ошибается в половине случаев, что загружает ZCode, и почему эксплойт, написанный Claude, стоит меньше подержанного автомобиля. Сегодня пятница, 18 сентября, и это The Daily Diff.

0:58 Начнем с записки. Брент Хехт руководит прикладными науками в Microsoft, и в январе 2023 года он назвал данные для обучения поразительной кражей беспрецедентных масштабов. Год спустя он вернулся с презентацией: механизм ответов Copilot сократил количество переходов на сайт Times до девяноста трех процентов, что он назвал гибельной петлей: морить голодом издателей, и модели нечего будет есть нового. Его слова: конечный продукт, который угрожает экономическим основам своих

1:21 ключевых поставщиков, корпоративный способ сказать, что змея нашла свой хвост. Затем показания. Сатья Наделла показал в этом году, что все, что имеет платный доступ, должно быть лицензировано, и что если бы он знал, что OpenAI обучалась на статьях с платным доступом, он бы заставил их переобучаться, что предполагает, что никто в Microsoft не открывал переданный им набор данных для обучения, и согласно тому же документу, это был весь набор данных GPT-3. Ник Тёрли, который руководит ChatGPT, назвал это экзистенциальной угрозой для издателей, в значительной степени замещающей. И когда исследователь

1:49 рассказал Грегу Брокману о взломе, чтобы обойти платный доступ Times, президент OpenAI ответил двумя словами: «ах, здорово». Инженеры также удалили уведомления об авторских правах из данных, чтобы модель не выводила их, что похоже на то, как вы счищаете серийный номер с велосипеда. Масштаб: более девяноста одной тысячи копий статей истцов только в промежуточных наборах для обучения, и два миллиона страниц Times в одном срезе Common Crawl. Теперь часть, которую пропускает заголовок.

2:15 Каждая цитата взята из краткого изложения Times; экспонаты все еще засекречены, поэтому мы читаем основные моменты обвинения без контекста. И суды в основном поддерживали добросовестное использование: судья Алсап постановил в прошлом году, что обучение на купленных книгах законно, хотя Anthropic все еще заплатила полтора миллиарда за семь миллионов, которые она пиратствовала. Так что юридический вопрос открыт. Думали ли люди, создающие это, что это была кража, по состоянию на вчерашний день, нет.

2:41 Что делает другой запуск OpenAI в четверг смелым выбором. Astra for Law включает GPT-6 Astra, модель, которую я отклонил (REVERT) на прошлой неделе после того, как она сгенерировала семьдесят пять тысяч строк пустоты, в юридическом поисковом индексе из двухсот тридцати миллионов страниц. На бенчмарке юридических исследований Vals AI она отвечает на пятьдесят четыре процента вопросов, по сравнению с тридцатью девятью при простом веб-поиске, что OpenAI называет сорокапроцентным улучшением, а юрист назвал бы неверным почти половину времени. В сообщении в блоге нет слова «галлюцинация».

3:14 Hacker News: сможет ли она подать в суд на себя, что, учитывая эту неделю, является первым настоящим вариантом использования. Тем временем дискуссия о краже труда достигла вашего ноутбука. Разработчик по имени ferstar очистил свою папку ZCode, закрытого настольного агента Z.ai для моделей GLM, и обнаружил триста тринадцать мегабайт зашифрованного архива своего коммерческого рабочего пространства: сорок две тысячи файлов, восемьдесят семь процентов из которых составлял каталог .git, отправленные в объектное хранилище Alibaba при входе в систему и перед каждым запросом.

3:42 Архив обернут открытым ключом, который выдает сервер; закрытый ключ находится только в облаке Z.ai, поэтому зашифрованный текст на вашем собственном диске вам нечитаем. Его слова: ключ, который может использовать только сервер, служит ровно одной цели. Z.ai также является компанией, которую Anthropic обвинила в дистилляции Claude, так что веса открыты, и, по-видимому, ваш репозиторий тоже. И забавная история, если только вы не работаете в OpenAI. Hacktron обнаружил переполнение кучи в libheif, загрузил специально созданное изображение на

4:10 community.openai.com, получил выполнение кода на форуме, и прошел через неправильно настроенную единую систему входа через интеграцию GitHub в внутренние репозитории OpenAI менее чем за семьдесят два часа. Эксплойт был написан Claude: Opus 4.8 не смог обойти рандомизацию адресов, Opus 5 сделал это в течение трех часов после выпуска. Вся кампания стоила менее трех тысяч долларов в токенах. OpenAI исправила за четырнадцать часов и заплатила шесть тысяч пятьсот долларов, так что исходный код компании стоимостью в триллион долларов был,

4:39 кратко, оценен как подержанная Corolla, в тот же день, когда ее юристы доказывали, что копирование является добросовестным использованием. Если вы предпочитаете прочитать это, а не услышать от меня, The Daily Diff приходит на ваш почтовый ящик каждое утро — бесплатно на thedailydiff.dev, ссылка ниже. Итак — сегодняшний вердикт: NEEDS REVIEW. Цитаты реальны, но это выбор обвинения из засекреченных экспонатов, и один судья, который вынес решение, говорит, что обучение является добросовестным использованием, а пиратство — нет. Суд решает закон; записка уже решила этику.

5:07 Подписывайтесь, жмите на колокольчик и скажите мне в комментариях, если бы вы оценили это иначе. И это The Daily Diff на сегодня. Я Нико из Axrisi. Объединяйте ответственно.

Источники

1. TechCrunch: Microsoft exec called AI scraping 'the largest theft of labor in human history'techcrunch.com
2. HN thread (605 pts)news.ycombinator.com
3. Jason Kint on the unsealed motionsx.com
4. Ed Newton-Rexx.com
5. Bartz v. Anthropic / $1.5B settlement (background)en.wikipedia.org
6. OpenAI: Introducing Astra for Lawopenai.com
7. HN: Astra for Law (550 pts)news.ycombinator.com
8. ferstar: ZCode silent workspace snapshot (original forensics)blog.ferstar.org
9. tokenstead write-uptokenstead.ai
10. ferstar on Xx.com
11. HN: ZCode uploads your Git history (226 pts)news.ycombinator.com
12. Hacktron: Hacking OpenAIwww.hacktron.ai
13. HN: Hacktron (406 pts)news.ycombinator.com