A Microsoft saját, mesterséges intelligencia képzésről szóló feljegyzése nyilvánosságra került.

Amit ez a videó tartalmaz

• NYT kontra OpenAI/Microsoft feloldva: "az emberiség történetének legnagyobb munkaerő-lopása" (Microsoft feljegyzés, 2023. január); Copilot −93% kattintások; 91 692 példány a felperesek műveiből a középső képzési adatokban; 2 millió nytimes.com oldal egy Common Crawl szeletben; szerzői jogi megjegyzések eltávolítva; Brockman: "ah nice"
• Figyelmeztetés: az idézetek a Times beadványából származnak, a mellékletek továbbra is zártak; Alsup bíró (Bartz kontra Anthropic) úgy ítélte meg, hogy a megvásárolt könyveken végzett képzés méltányos használat – az Anthropic 1,5 milliárd dollárt fizetett a 7 millió kalózmásolatért
• OpenAI Astra for Law: GPT-6 Astra + egy 230M URL-es jogi index; 54,0% vs 38,7% a Vals Legal Research Bench-en; Harvey, Legora, 26 plugin
• ZCode (Z.ai, GLM): 313 MB titkosított pillanatfelvétel egy 42 411 fájlból álló munkaterületről, 86,6% .git, feltöltve az Aliyun OSS-re bejelentkezéskor és minden prompt előtt; RSA-OAEP kulcsot csak a Z.ai birtokolja; a beállítások nem állítják le
• Hacktron: libheif heap overflow → Discourse RCE → SSO rossz konfiguráció → GitHub → OpenAI belső adattárak kevesebb mint 72 óra alatt; Claude Opus 5 által írt exploit (3 óra); a kampány kevesebb mint 3 000 dollár tokenben; 6 500 dollár jutalom, ~14 óra alatt javítva

Lefordított átirat

Az eredeti angol narrációból fordítva. A rendelkezésre álló hangot és feliratokat a YouTube vezérli.

0:00 2023 januárjában a Microsoft egyik igazgatója memozt írt, amelyben saját cégének tevékenységét az emberiség történetének legnagyobb munkaerő-lopásának nevezte, és tegnap egy szövetségi bíróság lehetővé tette, hogy a többiek is elolvassuk. A memo a New York Times kontra OpenAI és Microsoft perben szereplő, nem cenzúrázott idézetek egyike, amely idén decemberben lesz három éves. Ugyanezen a csütörtökön az OpenAI kiadta az Astra for Law-t, egy jogászoknak szánt modellt, ami vagy véletlen, vagy nagyon erős felvétel. Ma reggel egy fejlesztő elkapta a ZCode-ot, a Z.ai kódolóügynökét,

0:29 amint feltölti a teljes git előzményeit az Alibaba felhőjébe egy olyan kulccsal, amelyet csak a Z.ai birtokol. A Z.ai birtokol. És egy biztonsági cég egy képfeltöltésen keresztül jutott be az OpenAI belső adattáraiba, amiért az OpenAI hatezer-ötszáz dollárt fizetett. Ebben a videóban: mit mondanak az iratok, ki mondta, hogy "ah nice" egy fizetős tartalom hackre, a jogi modell, amely az idő felében téved, mit tölt fel a ZCode, és miért ér egy Claude által írt exploit kevesebbet, mint egy használt autó. Péntek van, szeptember 18., és ez a The Daily Diff.

0:58 Kezdjük a memóval. Brent Hecht vezeti az alkalmazott tudományt a Microsoftnál, és 2023 januárjában a képzési adatokat egy megdöbbentő, példátlan mértékű lopásnak nevezte. egy megdöbbentő, példátlan mértékű lopásnak nevezte. Egy évvel később visszatért egy diavetítéssel: a Copilot válaszadó motorja akár kilencvenhárom százalékkal is csökkentette a The Times-ra való kattintásokat, akár kilencvenhárom százalékkal is csökkentette a The Times-ra való kattintásokat, amit "végzetes körnek" nevezett: éhhalálra ítélni a kiadókat, és a modellnek nem lesz semmi újdonsága, amit enni tudna. Szavai szerint: egy olyan végtermék, amely veszélyezteti alapvető beszállítóinak gazdasági alapjait, ami vállalati nyelven azt jelenti, hogy a kígyó megtalálta a farkát.

1:21 amit enni tudna. Szavai szerint: egy olyan végtermék, amely veszélyezteti alapvető beszállítóinak gazdasági alapjait, ami vállalati nyelven azt jelenti, hogy a kígyó megtalálta a farkát. Aztán a vallomások. Satya Nadella idén azt vallotta, hogy minden fizetős tartalomnak licenceltnek kellene lennie, és ha tudta volna, hogy az OpenAI fizetős cikkeken képződött, akkor "újra képezte volna" őket, ami feltételezi, hogy senki a Microsoftnál nem nyitotta meg a nekik átadott képzési adatokat, és ugyanezen beadvány szerint ez volt a teljes GPT-3 adatkészlet. Nick Turley, aki a ChatGPT-t vezeti, "egzisztenciális fenyegetésnek" nevezte a kiadókra nézve, nagyrészt helyettesítőnek. És amikor egy kutató elmondta Greg Brockmannek

1:49 elmondta Greg Brockmannek egy hackről, amellyel megkerülhető a Times fizetős tartalma, megkerülhető a Times fizetős tartalma, az OpenAI elnöke két szóval válaszolt: válaszolt: ah nice. A mérnökök a szerzői jogi megjegyzéseket is eltávolították az adatokból, hogy a modell ne adjon ki belőlük, nice. A mérnökök a szerzői jogi megjegyzéseket is eltávolították az adatokból, hogy a modell ne adja ki azokat, ezért reszeli le az ember a kerékpár alvázszámát. A skála: több mint kilencvenegy ezer példány a felperesek cikkeiből csak a középső képzési adatkészletekben, a felperesek cikkeiből csak a középső képzési adatkészletekben, és kétmillió Times oldal egy Common Crawl szeletben. és kétmillió Times oldal egy Common Crawl szeletben. Most pedig az a rész, amit a cím kihagy.

2:15 Minden idézet a Times beadványából származik; a mellékletek továbbra is zártak, így az ügyészség kiemelt pontjait olvassuk, kontextus nélkül. És a bíróságok többnyire a méltányos használat mellett álltak: Alsup bíró tavaly úgy ítélte meg, hogy a megvásárolt könyveken való képzés jogszerű, bár az Anthropic még így is másfél milliárdot fizetett a hét millió kalózmásolatért. Így a jogi kérdés nyitott. Az, hogy az építők lopásnak tartották-e, tegnap óta tegnap óta nem. Ami a csütörtöki másik OpenAI bevezetést merész választássá teszi.

2:41 Ami a csütörtöki másik OpenAI bevezetést merész választássá teszi. Az Astra for Law a GPT-6 Astrát foglalja magában, azt a modellt, amelyet múlt héten REVERT-nek bélyegeztem, múlt héten REVERT-nek bélyegeztem, miután hetvenötezer sor semmit sem produkált, egy kétszázharminc millió oldalas jogi keresőindexben. A Vals AI jogi kutatási benchmarkján a kérdések ötvennégy százalékát oldja meg, szemben a harminckilenc százalékkal a sima webes keresésnél, amit az OpenAI negyven százalékos javulásnak nevez, és egy ügyvéd közel az idő felében hibásnak nevezne. A blogbejegyzés nem tartalmazza a "hallucináció" szót.

3:14 A Hacker News igen: képes lesz-e beperelni önmagát, ami, tekintve a hetet, az első igazi felhasználási eset. Eközben a munkaerő-lopásról szóló diskurzus elérte a laptopját. Egy ferstar nevű fejlesztő kitakarította a ZCode mappáját, a Z.ai zárt asztali ügynökét a GLM modellekhez, és talált egy háromszáz tizenhárom megabájtos titkosított archívumot a kereskedelmi munkaterületéről: negyvenkét ezer fájl, és talált egy háromszáz tizenhárom megabájtos titkosított archívumot a kereskedelmi munkaterületéről: negyvenkét ezer fájl, nyolcvankét százaléka a .git könyvtár, feltöltve az Alibaba objektumtárolójába bejelentkezéskor és minden prompt előtt. nyolcvankét százaléka a .git könyvtár, feltöltve az Alibaba objektumtárolójába bejelentkezéskor és minden prompt előtt.

3:42 Az archívum egy nyilvános kulccsal van beburkolva, amelyet a szerver ad ki; a privát kulcs csak a Z.ai felhőjében él, így a saját lemezén lévő titkosított szöveg Önnek olvashatatlan. csak a Z.ai felhőjében él, így a saját lemezén lévő titkosított szöveg Önnek olvashatatlan. Az ő sora: egy kulcs, amelyet csak a szerver használhat, pontosan egy célt szolgál. A Z.ai az a cég is, amelyet az Anthropic azzal vádolt, hogy desztillálja Claude-ot, így a súlyok nyitottak, és úgy tűnik, a repoja is. És a vicces, kivéve, ha az OpenAI-nál dolgozik. A Hacktron heap overflow-t talált a libheif-ben, feltöltött egy módosított képet a community.openai.com-ra,

4:10 kódfuttatást kapott a fórumon, és egy rosszul konfigurált egyszeri bejelentkezési mechanizmuson keresztül a GitHub integráción keresztül bejutott az OpenAI belső adattáraiba, kevesebb mint hetvenkét óra alatt. kódfuttatást kapott a fórumon, és egy rosszul konfigurált egyszeri bejelentkezési mechanizmuson keresztül a GitHub integráción keresztül bejutott az OpenAI belső adattáraiba, kevesebb mint hetvenkét óra alatt. OpenAI belső adattáraiba, kevesebb mint hetvenkét óra alatt. Az exploitot Claude írta: az Opus 4.8 nem tudta legyőzni a cím randomizációt, az Opus 5 a kiadás után három órán belül megtette. randomizációt, az Opus 5 a kiadás után három órán belül megtette. Az egész kampány kevesebb mint háromezer dollárba került tokenekben. Az OpenAI tizennégy órán belül javította és hatezer-ötszáz dollárt fizetett, így egy billió dolláros cég forráskódját röviden egy használt Corolla árával megegyező áron adták,

4:39 röviden, egy használt Corolla árával megegyező áron adták, ugyanazon a napon, amikor a jogászai azt állították, hogy a másolás méltányos használat. ugyanazon a napon, amikor a jogászai azt állították, hogy a másolás méltányos használat. Ha inkább elolvasná, mint hallaná, a diff minden reggel megérkezik a postaládájába – ingyenesen a thedailydiff.dev címen, link lent. ingyenesen a thedailydiff.dev címen, link lent. Szóval – a mai ítélet: ÁTTEKINTÉS SZÜKSÉGES. Az idézetek valódiak, de az ügyészség válogatásai lezárt mellékletekből, és az egyetlen bíró, aki ítéletet hozott, azt mondja, hogy a képzés méltányos használat, és a kalózkodás nem. A bíróság dönt a törvényről; a memo már döntött az etikáról.

5:07 Feliratkozás, nyomja meg a csengőt, és írja meg nekem a hozzászólásokban, ha másképp bélyegezte volna. másképp bélyegezte volna. És ennyi a mai diff. Niko vagyok az Axrisitől. Felelősségteljesen egyesítsen.

Források

1. TechCrunch: Microsoft exec called AI scraping 'the largest theft of labor in human history'techcrunch.com
2. HN thread (605 pts)news.ycombinator.com
3. Jason Kint on the unsealed motionsx.com
4. Ed Newton-Rexx.com
5. Bartz v. Anthropic / $1.5B settlement (background)en.wikipedia.org
6. OpenAI: Introducing Astra for Lawopenai.com
7. HN: Astra for Law (550 pts)news.ycombinator.com
8. ferstar: ZCode silent workspace snapshot (original forensics)blog.ferstar.org
9. tokenstead write-uptokenstead.ai
10. ferstar on Xx.com
11. HN: ZCode uploads your Git history (226 pts)news.ycombinator.com
12. Hacktron: Hacking OpenAIwww.hacktron.ai
13. HN: Hacktron (406 pts)news.ycombinator.com