Microsoftтун жасалма интеллектти окутуу боюнча өзүнүн меморандуму жарыяланды.

Бул видео эмнелерди камтыйт

• NYT OpenAI/Microsoft иши боюнча жарыяланды: "адамзат тарыхындагы эмгекти эң чоң уурдоо" (Microsoft меморандуму, 2023-жылдын январы); Copilot -93% басуулар; орто окутуу маалыматтарында доогерлердин эмгектеринин 91,692 көчүрмөсү; бир Common Crawl кесиминде 2 миллион nytimes.com баракчасы; автордук укук эскертүүлөрү алынып салынган; Брокман: "ах сонун"
• Эскертүү: цитаталар Times'тын билдирүүсүнөн алынган, экспонаттар дагы деле жабык; Сот Алсуп (Барц Антрропикке каршы) сатылып алынган китептерди окутууну ак ниеттүү колдонуу деп тапкан — Антрропик 7 миллион пираттык китеп үчүн 1,5 миллиард доллар төлөгөн
• OpenAI Astra for Law: GPT-6 Astra + 230 миллион URL дареги бар юридикалык индекс; Vals Legal Research Bench'те 54.0% 38.7%га каршы; Harvey, Legora, 26 плагин
• ZCode (Z.ai, GLM): 42,411 файлдык иш мейкиндигинин 313 МБ шифрленген сүрөтү, анын 86.6% .git, кирүүдө жана ар бир суроодон мурун Aliyun OSS'ка жүктөлөт; RSA-OAEP ачкычы Z.ai гана кармайт; орнотуулар аны токтотпойт
• Hacktron: libheif heap overflow → Discourse RCE → SSO туура эмес конфигурациясы → GitHub → OpenAI ички репозиторийлерине 72 сааттын ичинде; Claude Opus 5 тарабынан жазылган эксплойт (3 саат); токендерде 3,000 доллардан аз кампания; 6,500 доллар сыйлык, ~14 саатта оңдолгон

Котормо стенограмма

Англис тилиндеги баштапкы баяндамадан которулган. Жеткиликтүү аудио жана коштомо жазуулар YouTube тарабынан көзөмөлдөнөт.

0:00 2023-жылдын январь айында Microsoftтун бир директору өзүнүн компаниясы жасап жаткан ишти адамзат тарыхындагы эмгекти эң чоң уурдоо деп атаган, жана кечээ федералдык сот калганыбызга аны окууга уруксат берди. Мемо New York Times OpenAI жана Microsoftко каршы доо арызында келтирилген толук цитаталардын бири, бул доо ушул декабрда үч жылга толот. Ошол эле бейшембиде OpenAI юристтер үчүн модел болгон Astra for Law программасын ишке киргизди, бул же кокустук, же абдан күчтүү жумушка алуу. Бүгүн эртең менен иштеп чыгуучу ZCode, Z.AI'дын коддоо агенти,

0:29 анын бүт гитинин тарыхын Alibaba'нын булутуна Z.AI гана кармаган ачкыч менен жүктөй баштаганын байкады. кармоодо. Жана коопсуздук фирмасы OpenAI'дын ички репозиторийлерине сүрөт жүктөгөн аркылуу кирип кеткен, ал үчүн OpenAI алты миң беш жүз доллар төлөгөн. Бул видеодо: документтер эмне дейт, ким акы төлөнүүчү дубалды айланып өткөн хакка "ах сонун" деди, жарымында туура эмес болгон юридикалык модель, ZCode эмне жүктөйт, жана Клод жазган эксплойт эмне үчүн эски унаадан арзан. Бүгүн жума, 18-сентябрь, жана бул The Daily Diff.

0:58 Меморандумдан баштайлы. Брент Хехт Microsoftто прикладдык илимдерди жетектейт, жана 2023-жылдын январында ал окутуу маалыматтарын болуп көрбөгөндөй чоң уурдоо деп атаган. Бир жылдан кийин ал кайра слайддар топтому менен келди: Copilot'тун жооп берүү системасы The Times гезитине киргендердин санын токсон үч пайызга чейин кыскарткан, муну ал кыямат цикли деп атаган: басып чыгаруучуларды ачка калтырсаң, модель жаңы эч нерсеге ээ болбойт. Анын сөздөрү: өзүнүн маанилүү жеткирүүчүлөрүнүн экономикалык негиздерине коркунуч туудурган акыркы продукт, корпоративдик тилде жылан өз куйругун тапты дегендей.

1:21 акыркы продукт, корпоративдик тилде жылан өз куйругун тапты дегендей. Андан кийин сурактар. Сатья Наделла быйыл акы төлөнүүчү нерселердин баары лицензияланышы керек деп көрсөтмө берген, жана эгер ал OpenAI акы төлөнүүчү макалалар боюнча окутканын билсе, аларды кайра окутууга мажбур кылмак, бул Microsoftто эч ким аларга берилген окутуу топтомун ачкан эмес деп болжолдойт, жана ошол эле документке ылайык, ал бүт GPT-3 маалымат топтому болгон. ChatGPTти жетектеген Ник Терли аны басып чыгаруучулар үчүн экзистенциалдык коркунуч, негизинен алмаштыруучу деп атаган. негизинен алмаштыруучу. Жана бир изилдөөчү

1:49 Грег Брокманга The Times гезитинин акы төлөнүүчү дубалын айланып өткөн хак жөнүндө айтканда, OpenAI'дын президенти эки сөз менен жооп берди: ах сонун. Инженерлер дагы маалыматтардан автордук укук эскертүүлөрүн алып салышкан, ошондуктан модель аларды чыгарбашы үчүн, ошондуктан велосипеддин сериялык номерин өчүрүп саласың. Көлөмү: орто окутуу топтомдорунда гана доогерлердин макалаларынын токсон бир миңден ашык көчүрмөсү, жана бир Common Crawl кесиминде эки миллион Times баракчасы. Эми баш макала өткөрүп жиберген бөлүгү. баракчасы. Эми баш макала өткөрүп жиберген бөлүгү.

2:15 Ар бир цитата Times'тын билдирүүсүнөн алынган; экспонаттар дагы эле жабык, ошондуктан биз прокуратуранын контекстсиз урунттуу учурларын окуп жатабыз. Жана соттор көбүнчө ак ниеттүү колдонуу тарабында болушкан: Сот Алсуп өткөн жылы сен төлөгөн китептер боюнча окутуу мыйзамдуу деп чечим чыгарган, бирок Anthropic дагы эле пираттык 7 миллион китеп үчүн бир жарым миллиард төлөгөн. Ошондуктан юридикалык маселе ачык бойдон калууда. Аны куруп жаткан адамдар муну уурдоо деп ойлогонбу, кечээки күнгө карата, андай эмес.

2:41 Бул бейшембидеги OpenAI'дын башка ишке киришин тайманбас тандоо кылат. Astra for Law GPT-6 Astraны камтыйт, мен өткөн аптада эч нерсе чыгарбаган жетимиш беш миң сап кодду чыгаргандан кийин КАЙТАРУУ деп белгилеген моделимди эки жүз отуз миллион барактан турган юридикалык издөө индексине ороп салат. Vals AI'дын юридикалык изилдөө тестинде ал суроолордун элүү төрт пайызын өткөрөт, жөнөкөй веб-издөө менен отуз тогуздан жогору, муну OpenAI кырк пайыздык жакшыруу деп атайт жана юрист аны дээрлик жарымында туура эмес деп атамак. Блог постунда "галлюцинация" деген сөз жок.

3:14 Hacker News'те бар: ал өзүн соттой алабы, бул ушул жумага карата, биринчи чыныгы колдонуу учуру. Ошол эле учурда эмгекти уурдоо дискуссиясы сиздин ноутбугуңузга жетти. ferstar аттуу иштеп чыгуучу өзүнүн ZCode папкасын тазалаган, Z.AI'дын GLM моделдери үчүн жабык иш столунун агенти, жана өзүнүн коммерциялык иш мейкиндигинин үч жүз он үч мегабайттык шифрленген архивин тапкан: кырк эки миң файл, анын сексен жети пайызы .git каталогу, кирүүдө жана ар бир суроодон мурун Alibaba'нын объекттик сактагычына жөнөтүлгөн. кирүүдө жана ар бир суроодон мурун Alibaba'нын объекттик сактагычына жөнөтүлгөн.

3:42 Архив сервер тарабынан берилген ачык ачкыч менен оролгон; жабык ачкыч Z.AI'дын булутунда гана жашайт, ошондуктан өзүңүздүн дискиңиздеги шифрленген текст сиз үчүн окулбайт. Анын сөзү: сервер гана колдоно ала турган ачкыч так бир максатты аткарат. Z.AI ошондой эле Anthropic Claude'ду дистилдеген деп айыптаган компания, ошондуктан салмактар ачык жана, кыязы, сиздин репозиторийиңиз да ачык. Жана күлкүлүүсү, эгер сиз OpenAIда иштебесеңиз. Hacktron libheif'те heap overflow тапкан, crafted сүрөттү

4:10 community.openai.com'га жүктөгөн, форумда кодду аткарууга жетишкен, жана туура эмес конфигурацияланган бир жолку кирүүнү GitHub интеграциясы аркылуу OpenAI'дын ички репозиторийлерине, жетимиш эки сааттан аз убакытта кирген. Эксплойт Клод тарабынан жазылган: Opus 4.8 даректи рандомизациялоону жеңе алган жок, Opus 5 аны чыгарылгандан кийин үч сааттын ичинде жасады. Opus 5 аны чыгарылгандан кийин үч сааттын ичинде жасады. Бүт кампания токендерде үч миң доллардан азга түшкөн. OpenAI он төрт саатта оңдоп, алты миң беш жүз доллар төлөгөн, ошондуктан триллион долларлык компаниянын баштапкы коду,

4:39 кыска убакытка, колдонулган Королладай бааланган, ошол эле күнү анын юристтери көчүрүү ак ниеттүү колдонуу деп талашып жатышканда. Эгер сиз муну менден уккандын ордуна окуганды кааласаңыз, diff ар бир эртең менен сиздин почтаңызга келет — thedailydiff.dev дарегинде бекер, шилтеме ылдыйда. ар бир эртең менен сиздин почтаңызга келет — thedailydiff.dev дарегинде бекер, шилтеме ылдыйда. Ошентип — бүгүнкү өкүм: карап чыгуу керек. Цитаталар чыныгы, бирок алар прокуратуранын жабык экспонаттардан тандап алгандары, жана чечим чыгарган бир сот окутуу ак ниеттүү колдонуу, ал эми пираттык эмес дейт. Сот мыйзамды чечет; меморандум этиканы мурунтан эле чечкен.

5:07 Жазылыңыз, коңгуроону басыңыз жана комментарийлерде эгер сиз аны башкача белгилемек белеңиз, айтып бериңиз. башкача белгилемек белеңиз, айтып бериңиз. Жана бүгүнкү айырма ушул. Мен Axrisi'ден Нико. Жоопкерчиликтүү бириктиргиле.

Булактар

1. TechCrunch: Microsoft exec called AI scraping 'the largest theft of labor in human history'techcrunch.com
2. HN thread (605 pts)news.ycombinator.com
3. Jason Kint on the unsealed motionsx.com
4. Ed Newton-Rexx.com
5. Bartz v. Anthropic / $1.5B settlement (background)en.wikipedia.org
6. OpenAI: Introducing Astra for Lawopenai.com
7. HN: Astra for Law (550 pts)news.ycombinator.com
8. ferstar: ZCode silent workspace snapshot (original forensics)blog.ferstar.org
9. tokenstead write-uptokenstead.ai
10. ferstar on Xx.com
11. HN: ZCode uploads your Git history (226 pts)news.ycombinator.com
12. Hacktron: Hacking OpenAIwww.hacktron.ai
13. HN: Hacktron (406 pts)news.ycombinator.com