Microsoft-тың жасанды интеллектті оқыту туралы жеке меморандумы жарияланды.

Бұл бейне не туралы

• NYT v. OpenAI/Microsoft мөрі ашылды: «адамзат тарихындағы ең үлкен еңбек ұрлығы» (Microsoft меморандумы, 2023 жылғы қаңтар); Copilot −93% клик-тұрақтылық; орташа оқыту деректерінде талапкерлердің жұмыстарының 91 692 көшірмесі; бір Common Crawl фрагментінде 2 млн nytimes.com беттері; авторлық құқық туралы ескертулер жойылған; Брокман: «аһ жақсы»
• Ескерту: дәйексөздер Times басылымының қысқаша мазмұнынан алынған, экспонаттар әлі мөрленген; Судья Алсуп (Bartz v. Anthropic) сатып алынған кітаптарды оқытуды әділ пайдалану деп таныды — Anthropic 7 млн пираттық кітап үшін 1,5 млрд доллар төледі
• OpenAI Astra for Law: GPT-6 Astra + 230 млн URL-дан тұратын заңгерлік индекс; Vals Legal Research Bench-те 54.0% vs 38.7%; Harvey, Legora, 26 плагин
• ZCode (Z.ai, GLM): 42 411 файлдық жұмыс кеңістігінің 313 МБ шифрланған суреті, 86.6% .git, жүйеге кіргенде және әрбір сұрау алдында Aliyun OSS-ке жүктелді; RSA-OAEP кілті тек Z.ai-да сақталады; параметрлер ауыстырып-қосқыштары оны тоқтата алмайды
• Hacktron: libheif үйіндінің толып кетуі → Discourse RCE → SSO қате конфигурациясы → GitHub → OpenAI ішкі репозиторийлеріне 72 сағаттан аз уақытта кіру; Claude Opus 5 арқылы жасалған эксплуатация (3 сағат); науқан токендерде 3 000 доллардан аз; сыйақы 6 500 доллар, шамамен 14 сағатта патчталды

Аударылған транскрипция

Бастапқы ағылшын тіліндегі баяндамадан аударылған. Қолжетімді аудио және субтитрлерді YouTube басқарады.

0:00 2023 жылдың қаңтарында Microsoft директоры өз компаниясының не істеп жатқанын адамзат тарихындағы ең үлкен еңбек ұрлығы деп атаған меморандум жазды, және кеше федералды сот қалғандарымызға оны оқуға рұқсат берді. Меморандум Нью-Йорк Таймс пен OpenAI және Microsoft-қа қарсы ісіндегі түзетілмеген дәйексөздердің бірі, бұл сот ісі осы желтоқсанда үш жылға толады. Сол бейсенбіде OpenAI заңгерлерге арналған Astra for Law моделін шығарды, бұл не кездейсоқтық, не өте күшті жалдау. Бүгін таңертең әзірлеуші ZCode, Z.ai-дың кодтау агенті,

0:29 оның бүкіл git тарихын тек Z.ai иеленетін кілтпен Alibaba бұлтындағы серверге жүктеп жатқанын анықтады. және Z.ai иеленетін кілтпен. Ал қауіпсіздік фирмасы OpenAI-дың ішкі репозиторийлеріне сурет жүктеу арқылы кіріп кетті, ол үшін OpenAI алты мың бес жүз доллар төледі. Бұл видеода: материалдарда не айтылған, ақылы қабырғаны айналып өту хакына кім «аһ жақсы» деді, жарты уақытта қате көрсететін заң моделі, ZCode нені жүктейді, және неге Клод жазған эксплуатация ескі көліктен арзан тұрады. Бұл жұма, 18 қыркүйек, және бұл The Daily Diff.

0:58 Меморандумнан бастайық. Брент Хехт Microsoft-та қолданбалы ғылымды басқарады, және 2023 жылдың қаңтарында ол оқыту деректерін бұрын-соңды болмаған ауқымдағы таңғажайып ұрлық деп атады. Бір жылдан кейін ол слайд-шоумен қайта оралды: Copilot-тың жауап беру жүйесі Times басылымына кіруді тоқсан үш пайызға дейін қысқартты, оны ол ажал тұзағы деп атады: баспагерлерді аш қалдырсаң, модельде жейтін жаңа нәрсе қалмайды. Оның сөздері: негізгі жеткізушілерінің экономикалық негіздеріне қауіп төндіретін соңғы өнім, корпоративтік тілмен айтқанда, жылан өз құйрығын тапты.

1:21 Оның сөздері: негізгі жеткізушілерінің экономикалық негіздеріне қауіп төндіретін соңғы өнім, корпоративтік тілмен айтқанда, жылан өз құйрығын тапты. Содан кейін жауаптар. Сатя Наделла биыл ақылы кез келген контент лицензиялануы керек деп куәлік берді, және егер ол OpenAI ақылы мақалаларда оқытылғанын білсе, оларды қайта оқытуға мәжбүрлейтін еді, бұл Microsoft-та ешкім оларға берілген оқыту жиынтығын ашпады дегенді білдіреді, және сол құжатқа сәйкес бұл бүкіл GPT-3 деректер жиынтығы болды. ChatGPT-ді басқаратын Ник Терли оны баспагерлер үшін экзистенциялық қауіп деп атады, негізінен алмастырғыш. Ал зерттеуші

1:49 Грег Брокманға Times басылымының ақылы қабырғасын айналып өту хакы туралы айтқанда, OpenAI президенті екі сөзбен жауап берді: аһ жақсы. Инженерлер сондай-ақ модель оларды шығармау үшін деректерден авторлық құқық туралы ескертулерді алып тастады, сол себепті сіз велосипедтің сериялық нөмірін сызып тастайсыз. Ауқымы: тек орташа оқыту жиынтықтарында талапкерлердің мақалаларының тоқсан бір мыңнан астам көшірмесі, және бір Common Crawl фрагментінде екі миллион Times беті. Енді тақырыпта көрсетілмеген бөлігі.

2:15 Әрбір дәйексөз Times басылымының қысқаша мазмұнынан алынған; экспонаттар әлі мөрленген, сондықтан біз прокуратураның ерекшеліктерін контекстсіз оқып жатырмыз. Ал соттар негізінен әділ пайдалануды қолдады: Судья Алсуп өткен жылы сіз төлеген кітаптарда оқыту заңды деп шешті, дегенмен Anthropic әлі де пираттық жеті миллион кітап үшін бір жарым миллиард төледі. Сондықтан заңгерлік сұрақ ашық. Оны құрастырған адамдар мұны ұрлық деп санады ма, кешегі күннен бастап, жоқ.

2:41 Бұл бейсенбідегі OpenAI-дың басқа іске қосылуын батыл таңдау етеді. Astra for Law GPT-6 Astra моделін қамтиды, бұл модельді мен өткен аптада жетпіс бес мың жол еш нәрсе шығарғаннан кейін REVERT деп белгілегенмін, екі жүз отыз миллион беттен тұратын заңгерлік іздеу индексінде. Vals AI-дың заңды зерттеу көрсеткішінде ол сұрақтардың елу төрт пайызынан өтеді, қарапайым веб-іздеумен отыз тоғыздан жоғары, мұны OpenAI қырық пайыздық жақсарту деп атайды, ал заңгер жарты уақытта қате деп атайды. қарапайым веб-іздеумен отыз тоғыздан жоғары, мұны OpenAI қырық пайыздық жақсарту деп атайды, ал заңгер жарты уақытта қате деп атайды. Блог жазбасында «галлюцинация» сөзі жоқ.

3:14 Hacker News-те бар: ол өзін сотқа бере ала ма, бұл, аптаны ескере отырып, бірінші шынайы қолдану жағдайы. Сонымен қатар еңбек ұрлығы туралы пікірталас сіздің ноутбугіңізге жетті. Ferstar есімді әзірлеуші өзінің ZCode қалтасын тазартты, Z.ai-дың GLM модельдеріне арналған жабық жұмыс үстелі агенті, және оның коммерциялық жұмыс кеңістігінің үш жүз он үш мегабайттық шифрланған архивін тапты: қырық екі мың файл, оның сексен жеті пайызы .git каталогы, жүйеге кіргенде және әрбір сұрау алдында Alibaba-ның объектілік сақтау орнына жіберілді. жүйеге кіргенде және әрбір сұрау алдында Alibaba-ның объектілік сақтау орнына жіберілді.

3:42 Архив сервер тарататын жалпы кілтпен оралған; жеке кілт тек Z.ai бұлтында орналасқан, сондықтан сіздің дискіңіздегі шифрланған мәтінді сіз оқи алмайсыз. Оның сөзі: тек сервер қолдана алатын кілттің бір ғана мақсаты бар. Z.ai сонымен қатар Anthropic Claude-ді дистилляциялады деп айыптаған компания, сондықтан салмақтар ашық және, сірә, сіздің репозиторийіңіз де. Ал ең күлкілісі, егер сіз OpenAI-да жұмыс істемесеңіз. Hacktron libheif-те үйіндінің толып кетуін тапты, community.openai.com сайтына арнайы сурет жүктеді,

4:10 форумда кодты орындауға қол жеткізді, және қате конфигурацияланған бір реттік кіруді GitHub интеграциясы арқылы OpenAI-дың ішкі репозиторийлеріне жетпіс екі сағаттан аз уақытта кірді. Эксплуатацияны Claude жазды: Opus 4.8 адрестерді кездейсоқ таңдауды жеңе алмады, Opus 5 шығарылғаннан кейін үш сағат ішінде оны іске асырды. Бүкіл науқан токендерде үш мың доллардан аз тұрды. OpenAI он төрт сағат ішінде патч шығарды және алты мың бес жүз доллар төледі, сондықтан триллион долларлық компанияның бастапқы коды,

4:39 қысқаша айтқанда, ескі Corolla сияқты бағаланды, дәл сол күні оның заңгерлері көшіру әділ пайдалану деп дәлелдеді. Егер сіз мұны менің айтқанымнан гөрі оқығанды ​​жөн көрсеңіз, diff сіздің электрондық поштаңызға күн сайын таңертең келіп түседі — thedailydiff.dev сайтында тегін, сілтеме төменде. Сонымен — бүгінгі үкім: NEEDS REVIEW. Дәйексөздер шынайы, бірақ олар прокуратураның мөрленген экспонаттардан алынған таңдаулары, және үкім шығарған бір судья оқыту әділ пайдалану болып табылады, ал пираттық — жоқ деп санайды. Сот заңды шешеді; меморандум этиканы шешіп қойды.

5:07 Жазылыңыз, қоңырауды басыңыз және егер сіз оны басқаша белгілеген болсаңыз, түсініктемелерде айтыңыз. Бүгінгі diff осымен аяқталды. Мен Axrisi-ден Никомын. Жауапкершілікпен біріктіріңіз.

Дереккөздер

1. TechCrunch: Microsoft exec called AI scraping 'the largest theft of labor in human history'techcrunch.com
2. HN thread (605 pts)news.ycombinator.com
3. Jason Kint on the unsealed motionsx.com
4. Ed Newton-Rexx.com
5. Bartz v. Anthropic / $1.5B settlement (background)en.wikipedia.org
6. OpenAI: Introducing Astra for Lawopenai.com
7. HN: Astra for Law (550 pts)news.ycombinator.com
8. ferstar: ZCode silent workspace snapshot (original forensics)blog.ferstar.org
9. tokenstead write-uptokenstead.ai
10. ferstar on Xx.com
11. HN: ZCode uploads your Git history (226 pts)news.ycombinator.com
12. Hacktron: Hacking OpenAIwww.hacktron.ai
13. HN: Hacktron (406 pts)news.ycombinator.com