Wewnętrzna notatka Microsoftu na temat trenowania AI właśnie ujrzała światło dzienne.

Co obejmuje ten film

• NYT vs. OpenAI/Microsoft odtajnione: „największa kradzież pracy w historii ludzkości” (notatka Microsoftu, styczeń 2023); Copilot −93% kliknięć; 91 692 kopii prac powodów w danych śródtreningowych; 2 mln stron nytimes.com w jednym fragmencie Common Crawl; usunięto informacje o prawach autorskich; Brockman: „ach, miło”
• Uwaga: cytaty pochodzą z pisma Timesa, dowody nadal zapieczętowane; sędzia Alsup (Bartz vs. Anthropic) orzekł, że trenowanie na zakupionych książkach to dozwolony użytek — Anthropic zapłacił 1,5 mld USD za 7 mln pirackich egzemplarzy
• OpenAI Astra for Law: GPT-6 Astra + indeks prawny z 230 mln URL-i; 54,0% vs 38,7% na Vals Legal Research Bench; Harvey, Legora, 26 wtyczek
• ZCode (Z.ai, GLM): zaszyfrowana migawka o rozmiarze 313 MB z przestrzeni roboczej zawierającej 42 411 plików, 86,6% to .git, przesłana do Aliyun OSS przy logowaniu i przed każdym zapytaniem; klucz RSA-OAEP przechowywany tylko przez Z.ai; przełączniki ustawień tego nie zatrzymują
• Hacktron: przepełnienie stosu libheif → RCE w Discourse → błędna konfiguracja SSO → GitHub → wewnętrzne repozytoria OpenAI w mniej niż 72 godziny; exploit napisany przez Claude Opus 5 (3 godz.); kampania za mniej niż 3000 USD w tokenach; nagroda 6500 USD, załatane w ~14 godz.

Przetłumaczona transkrypcja

Przetłumaczono z oryginalnej narracji angielskiej. Dostępne audio i napisy są kontrolowane przez YouTube.

0:00 W styczniu 2023 roku dyrektor Microsoftu napisał notatkę, nazywając to, co jego własna firma robiła, największą kradzieżą pracy w historii ludzkości, a wczoraj sąd federalny pozwolił reszcie z nas ją przeczytać. Notatka jest jednym z niezredagowanych cytatów w sprawie New York Times przeciwko OpenAI i Microsoft, pozwie, który w grudniu skończy trzy lata. W ten sam czwartek OpenAI wprowadziło Astra for Law, model dla prawników, co jest albo zbiegiem okoliczności, albo bardzo mocnym posunięciem. Dziś rano deweloper odkrył, że ZCode, agent kodujący Z.A.I,

0:29 przesyła całą jego historię git do chmury Alibaba z kluczem, który posiada tylko Z .A.I. A firma ochroniarska dostała się do wewnętrznych repozytoriów OpenAI poprzez przesłanie obrazu, za co OpenAI zapłaciło sześć tysięcy pięćset dolarów. W tym filmie: co mówią dokumenty, kto powiedział „ach, miło” na hakowanie paywalla, model prawniczy, który myli się w połowie przypadków, co przesyła ZCode, i dlaczego exploit napisany przez Claude'a jest wart mniej niż używany samochód. Jest piątek, 18 września, a to jest The Daily Diff.

0:58 Zacznijmy od notatki. Brent Hecht kieruje działem nauk stosowanych w Microsoft, i w styczniu 2023 roku nazwał dane treningowe zdumiewającą kradzieżą o niespotykanych proporcjach. Rok później wrócił z prezentacją: silnik odpowiedzi Copilota zmniejszył liczbę kliknięć w Timesie nawet o dziewięćdziesiąt trzy procent, co nazwał pętlą zagłady: zagłodź wydawców, a model nie będzie miał nic nowego do jedzenia. Jego słowa: produkt końcowy, który zagraża ekonomicznym podstawom swoich

1:21 niezbędnych dostawców, korporacyjny sposób mówienia, że wąż znalazł swój ogon. Następnie zeznania. Satya Nadella zeznał w tym roku, że wszystko, co objęte jest paywallem, powinno być licencjonowane, i że gdyby wiedział, że OpenAI trenowało na artykułach objętych paywallem, kazałby im przetrenować, co zakłada, że nikt w Microsoft nie otworzył zestawu treningowego, który otrzymali, a według tych samych dokumentów był to cały zestaw danych GPT-3. Nick Turley, który zarządza ChatGPT, nazwał to egzystencjalnym zagrożeniem dla wydawców, w dużej mierze substytucyjnym. A kiedy badacz

1:49 opowiedział Gregowi Brockmanowi o hacku, by ominąć paywall Timesa, prezes OpenAI odpowiedział dwoma słowami: ach, miło. Inżynierowie usunęli również informacje o prawach autorskich z danych, aby model nie wyprowadzał ich, dlatego ściera się numer seryjny z roweru. Skala: ponad dziewięćdziesiąt jeden tysięcy kopii artykułów powodów w samych zestawach śródtreningowych, i dwa miliony stron Timesa w jednym fragmencie Common Crawl. Teraz część, którą pomija nagłówek.

2:15 Każdy cytat pochodzi z pisma Timesa; dowody są nadal zapieczętowane, więc czytamy najważniejsze punkty prokuratury bez kontekstu. A sądy w większości opowiedziały się za dozwolonym użytkiem: sędzia Alsup orzekł w zeszłym roku, że trenowanie na książkach, za które zapłaciłeś, jest legalne, chociaż Anthropic i tak zapłacił półtora miliarda za siedem milionów, które spiratował. Więc kwestia prawna jest otwarta. Czy ludzie, którzy to budowali, uważali to za kradzież, jest, od wczoraj, nie.

2:41 Co sprawia, że czwartkowe inne uruchomienie OpenAI jest odważnym wyborem. Astra for Law opakowuje GPT-6 Astra, model, który stemplowałem REVERT w zeszłym tygodniu po tym, jak wygenerował siedemdziesiąt pięć tysięcy linii niczego, w prawnym indeksie wyszukiwania zawierającym dwieście trzydzieści milionów stron. Na benchmarku Vals AI do badań prawnych przechodzi pięćdziesiąt cztery procent pytań, wzrost z trzydziestu dziewięciu przy zwykłym wyszukiwaniu w sieci, co OpenAI nazywa czterdziestoprocentową poprawą, a prawnik nazwałby to błędnym prawie w połowie przypadków. W poście na blogu nie ma słowa halucynacja.

3:14 Hacker News napisał: czy będzie w stanie pozwać samego siebie, co, biorąc pod uwagę tydzień, jest pierwszym prawdziwym przypadkiem użycia. W międzyczasie dyskurs o kradzieży pracy dotarł do twojego laptopa. Deweloper o pseudonimie ferstar wyczyścił swój folder ZCode, zamkniętego agenta desktopowego Z.A.I dla modeli GLM, i znalazł trzysta trzynaście megabajtowe zaszyfrowane archiwum swojej komercyjnej przestrzeni roboczej: czterdzieści dwa tysiące plików, osiemdziesiąt siedem procent z nich to katalog .git, wysłane do pamięci obiektowej Alibaba przy logowaniu i przed każdym zapytaniem.

3:42 Archiwum jest owinięte kluczem publicznym, który rozdaje serwer; klucz prywatny żyje tylko w chmurze Z.A.I, więc szyfrogram na twoim własnym dysku jest dla ciebie nieczytelny. Jego myśl: klucz, którego może używać tylko serwer, służy dokładnie jednemu celowi. Z.A.I to również firma, którą Anthropic oskarżył o destylację Claude'a, więc wagi są otwarte i, najwyraźniej, twoje repozytorium też. I ten zabawny, chyba że pracujesz w OpenAI. Hacktron znalazł przepełnienie sterty w libheif, przesłał spreparowany obraz do

4:10 community.openai.com, uzyskał wykonanie kodu na forum, i wykorzystał błędnie skonfigurowane pojedyncze logowanie poprzez integrację z GitHubem do wewnętrznych repozytoriów OpenAI, w mniej niż siedemdziesiąt dwie godziny. Exploit został napisany przez Claude'a: Opus 4.8 nie był w stanie pokonać randomizacji adresów, Opus 5 zrobił to w ciągu trzech godzin od wydania. Cała kampania kosztowała mniej niż trzy tysiące dolarów w tokenach. OpenAI załatało to w czternaście godzin i zapłaciło sześć tysięcy pięćset dolarów, więc kod źródłowy firmy wartej biliony dolarów był,

4:39 na krótko, wyceniony jak używana Corolla, tego samego dnia, gdy jej prawnicy argumentowali, że kopiowanie jest dozwolonym użytkiem. Jeśli wolisz to przeczytać, niż usłyszeć, jak to mówię, The Daily Diff ląduje w twojej skrzynce odbiorczej każdego ranka — za darmo na daily diff dot dev, link poniżej. Więc — dzisiejszy werdykt: NEEDS REVIEW. Cytaty są prawdziwe, ale są to wybrane przez prokuraturę fragmenty z zapieczętowanych dowodów, a jedyny sędzia, który wydał orzeczenie, mówi, że trening to dozwolony użytek, a piractwo nie. Sąd decyduje o prawie; notatka już zadecydowała o etyce.

5:07 Subskrybuj, naciśnij dzwonek i powiedz mi w komentarzach, czy oceniłbyś to inaczej. I to tyle na dziś. Jestem Niko z Axrisi. Łącz odpowiedzialnie.

Źródła

1. TechCrunch: Microsoft exec called AI scraping 'the largest theft of labor in human history'techcrunch.com
2. HN thread (605 pts)news.ycombinator.com
3. Jason Kint on the unsealed motionsx.com
4. Ed Newton-Rexx.com
5. Bartz v. Anthropic / $1.5B settlement (background)en.wikipedia.org
6. OpenAI: Introducing Astra for Lawopenai.com
7. HN: Astra for Law (550 pts)news.ycombinator.com
8. ferstar: ZCode silent workspace snapshot (original forensics)blog.ferstar.org
9. tokenstead write-uptokenstead.ai
10. ferstar on Xx.com
11. HN: ZCode uploads your Git history (226 pts)news.ycombinator.com
12. Hacktron: Hacking OpenAIwww.hacktron.ai
13. HN: Hacktron (406 pts)news.ycombinator.com