Интерни допис компаније Microsoft о обуци вештачке интелигенције управо је објављен у јавности.

Шта овај видео покрива

• NYT против OpenAI/Microsoft-а отпечаћено: „највећа крађа рада у људској историји“ (Microsoft допис, јануар 2023.); Copilot -93% кликова; 91.692 копије дела тужилаца у подацима за средњу обуку; 2М nytimes.com страница у једном Common Crawl сегменту; обавештења о ауторским правима скинута; Брокман: „ах, лепо“
• Напомена: цитати потичу из поднеска Times-а, докази су и даље запечаћени; судија Алсуп (Bartz против Anthropic-а) пресудио је да је обука на купљеним књигама поштена употреба — Anthropic је платио 1,5 милијарди долара за 7 милиона пиратских књига
• OpenAI Astra for Law: GPT-6 Astra + правни индекс од 230М URL-ова; 54,0% у односу на 38,7% на Vals Legal Research Bench; Харви, Легора, 26 додатака
• ZCode (Z.ai, GLM): 313 MB шифровани снимак радног простора од 42.411 датотека, 86,6% .git, учитан на Aliyun OSS приликом пријаве и пре сваког упита; RSA-OAEP кључ који поседује само Z.ai; подешавања прекидачи га не заустављају
• Hacktron: libheif heap overflow → Discourse RCE → SSO погрешна конфигурација → GitHub → OpenAI интерни репозиторијуми за мање од 72 сата; експлоит написао Claude Opus 5 (3 сата); кампања испод 3.000 долара у токенима; награда 6.500 долара, закрпљено за ~14 сати

Преведени транскрипт

Преведено са оригиналне енглеске нарације. Доступни аудио и титлови контролисани су од стране YouTube-а.

0:00 У јануару 2023. године, директор компаније Microsoft написао је допис називајући оно што је његова сопствена компанија радила највећом крађом рада у људској историји, а јуче нам је федерални суд дозволио да га прочитамо. Допис је један од нецензурисаних цитата у тужби New York Times против OpenAI и Microsoft-а, тужбе која пуни три године овог децембра. Истог четвртка, OpenAI је испоручио Astra for Law, модел за адвокате, што је или случајност или веома снажна одлука. Јутрос је програмер ухватио ZCode, Z.ai-јевог агента за кодирање,

0:29 како учитава целу његову гит историју на Алибабин облак са кључем који само Z dot A I поседује. А безбедносна фирма је ушла у интерне репозиторијуме OpenAI-а путем учитавања слике, за шта је OpenAI платио шест хиљада пет стотина долара. У овом видеу: шта кажу поднесци, ко је рекао „ах, лепо“ за хак за претплату, правни модел који је погрешан пола времена, шта ZCode учитава, и зашто експлоит који је написао Клод вреди мање од половног аутомобила. Петак је, 18. септембар, и ово је The Daily Diff.

0:58 Почнимо са дописом. Брент Хехт води примењену науку у компанији Microsoft, и у јануару 2023. године назвао је податке за обуку запањујућом крађом без преседана. Годину дана касније вратио се са презентацијом: Copilot-ов механизам за одговоре смањио је број кликова на Times за чак деведесет три процента, што је назвао фаталном петљом: изгладните издаваче, а модел нема ништа ново да једе. Његове речи: крајњи производ који угрожава економске темеље својих

1:21 есенцијалних добављача, корпоративни начин да се каже да је змија пронашла свој реп. Затим депоновања. Сатија Наделла је ове године сведочио да све што је под претплатом треба да буде лиценцирано, и да би, да је знао да је OpenAI тренирао на чланцима под претплатом, натерао их да се преобуче, што претпоставља да нико у Microsoft-у није отворио скуп података за обуку који им је предат, а према истом поднеску то је био цео GPT-3 скуп података. Ник Турли, који води ChatGPT, назвао га је егзистенцијалном претњом за издаваче, у великој мери супститутивним. А када је истраживач

1:49 рекао Грегу Брокману о хаку да заобиђе претплату Times-а, председник OpenAI-а је одговорио са две речи: ах, лепо. Инжењери су такође скинули обавештења о ауторским правима из података како модел их не би генерисао, због чега се скида серијски број са бицикла. Опсег: више од деведесет једне хиљаде копија чланака тужилаца у само средњим скуповима за обуку, и два милиона Times страница у једном Common Crawl сегменту. Сада део који наслов прескаче.

2:15 Сваки цитат потиче из поднеска Times-а; докази су још увек запечаћени, тако да читамо најважније делове тужилаштва без контекста. А судови су се углавном сложили са поштеном употребом: судија Алсуп је прошле године пресудио да је обука на књигама које сте платили легална, иако је Anthropic и даље платио милијарду и по за седам милиона које је пиратеризовао. Дакле, правно питање је отворено. Да ли су људи који су га правили мислили да је то крађа је, од јуче, не.

2:41 Што чини јучерашње друго лансирање OpenAI-а храбрим избором. Astra for Law обавија GPT-6 Astra, модел који сам означио REVERT прошле недеље након што је произвео седамдесет пет хиљада линија ничега, у правном индексу претраге од двеста тридесет милиона страница. На Vals AI-јевој референтној тачки за правна истраживања пролази педесет четири процента питања, што је пораст са тридесет девет са обичном претрагом веба, што OpenAI назива четрдесет процената побољшања, а адвокат би то назвао погрешним скоро пола времена. Блог пост не садржи реч халуцинација.

3:14 Hacker News јесте: да ли ће моћи да тужи самог себе, што, с обзиром на недељу, је први прави случај употребе. У међувремену, дискурс о крађи рада стигао је до вашег лаптопа. Програмер по имену ferstar очистио је своју ZCode фасциклу, Z.AI-јев затворени десктоп агент за GLM моделе, и пронашао триста тринаест мегабајта шифровану архиву свог комерцијалног радног простора: четрдесет две хиљаде датотека, осамдесет седам процената тога је директоријум .git, послато на Алибабин објекат за складиштење приликом пријаве и пре сваког упита.

3:42 Архива је омотана јавним кључем који сервер дели; приватни кључ живи само у Z.AI-јевом облаку, тако да је шифровани текст на вашем диску нечитљив за вас. Његова реченица: кључ који само сервер може да користи служи искључиво једној сврси. Z.AI је такође компанија коју је Anthropic оптужио за дестилацију Клода, тако да су тежине отворене и, очигледно, ваш репозиторијум. И она смешна, осим ако не радите у OpenAI-у. Hacktron је пронашао преливање хипа у libheif-у, учитао припремљену слику на

4:10 community.openai.com, добио извршавање кода на форуму, и прошао кроз погрешно конфигурисану јединствену пријаву кроз ГитХуб интеграцију у интерне репозиторијуме OpenAI-а, за мање од седамдесет два сата. Експлоит је написао Клод: Опус 4.8 није могао да победи рандомизацију адреса, Опус 5 је то урадио у року од три сата од објављивања. Цела кампања коштала је мање од три хиљаде долара у токенима. OpenAI је закрпио за четрнаест сати и платио шест хиљада пет стотина долара, тако да је изворни код компаније вредне билион долара био,

4:39 кратко, по цени половне Короле, истог дана када су њени адвокати тврдили да копирање је поштена употреба. Ако бисте радије ово прочитали него да ме чујете, дифф стиже у ваше сандуче сваког јутра — бесплатно на thedailydiff.dev, линк испод. Дакле — данашња пресуда: NEEDS REVIEW. Цитати су стварни, али су то избори тужилаштва из запечаћених доказа, и једини судија који је донео одлуку каже да је обука поштена употреба, а пиратерија није. Суд одлучује о закону; допис је већ одлучио о етици.

5:07 Претплатите се, кликните на звонце и реците ми у коментарима да ли бисте то означили другачије. И то је дифф за данас. Ја сам Нико из Axrisi-ја. Спајајте одговорно.

Извори

1. TechCrunch: Microsoft exec called AI scraping 'the largest theft of labor in human history'techcrunch.com
2. HN thread (605 pts)news.ycombinator.com
3. Jason Kint on the unsealed motionsx.com
4. Ed Newton-Rexx.com
5. Bartz v. Anthropic / $1.5B settlement (background)en.wikipedia.org
6. OpenAI: Introducing Astra for Lawopenai.com
7. HN: Astra for Law (550 pts)news.ycombinator.com
8. ferstar: ZCode silent workspace snapshot (original forensics)blog.ferstar.org
9. tokenstead write-uptokenstead.ai
10. ferstar on Xx.com
11. HN: ZCode uploads your Git history (226 pts)news.ycombinator.com
12. Hacktron: Hacking OpenAIwww.hacktron.ai
13. HN: Hacktron (406 pts)news.ycombinator.com