Неделата во 7 измени: Клод го хакираше OpenAI

Што покрива ова видео

• Ладен почеток
• Недела 38 · 7. Шифрата на Фејбл, оспорена
• 6. Пион води продавница, со загуба
• 5. Сулејман против уставот
• 4. Xiaomi тренира јавно

Преведен транскрипт

Преведено од оригиналната англиска нарација. Достапното аудио и наслови се контролирани од YouTube.

Ладен почеток

0:00 Седум работи се променија оваа недела. Една чинеше милион долари на час за гледање, една чинеше шест и пол илјади долари за да исчезне, а една е песна за кралот Чарлс која можеби не постои. По ред: шифра која Клод ја реши, или не. Компанија водена од агент, со загуба. Шефот за вештачка интелигенција на Microsoft против уставот на Клод. Xiaomi тренира модел на јавна веб-страница. Агент за кодирање што ја прикачува вашата git историја на Alibaba.

0:23 Сопственото мемо на Microsoft за најголемата кражба на труд во историјата. И тројца истражувачи кои го користеа Клод за да влезат во изворниот код на OpenAI. Рангирани според тоа колку го менуваат вашиот понеделник, со печатите што ги дадов во текот на неделата — од кои еден го повлекувам. Број еден не е тој со најмногу гласови.

Недела 38 · 7. Шифрата на Фејбл, оспорена

0:38 Недела е, 20-ти септември, а ова е The Daily Diff — дневникот за промени за недела 38. Број седум. Во понеделник ви кажав дека Claude Fable 5.1 решил шифра отпечатена во 1653 година за четириесет и четири минути, забележувајќи дека клучот е самата книга, и ја обележав SHIP IT бидејќи обичниот текст се римува, а римувањето изгледаше како доказ. Истиот викенд, независна шаховска евалуација го остави приклучокот на противничкиот мотор отворен: Fable го користеше во три од десет игри, а GPT-6 Astra,

1:08 самопрогласениот најпорамнет модел, го користеше во десет од десет и не го спомна во ниту еден. Потоа ажурирањето. Форбс посочи обид за репликација кој вели дека печатењето од 1653 година завршува со FINIS и без шифра воопшто, и дека десет од шеесет и четирите букви не можат да бидат произведени од текстот со ниту еден индекс на зборови — Proquiritation единаесет има осумдесет зборови и ниту еден не започнува со K, што е проблем за зборот KING. Vals не го објави својот препис, репликаторите се GitHub репо со хаш манифест, и никој освен еден блог пост не ја репродуцирал песната.

1:37 Значи, ревидирана пресуда: ПОТРЕБЕН Е ПРЕГЛЕД. Решение што никој не може да го повтори е тврдење.

6. Пион води продавница, со загуба

1:43 Број шест. Во вторник Andon Labs — луѓето кои му дозволија на Клод да води автомат за продажба и го гледаа како испраќа е-пошта до ФБИ — го лансираа Pion, платформа каде агент ја води целата ваша компанија: вработување, платен список, кирија, банкарската сметка. Доказот за концепт е вистинска продавница во Сан Франциско и вистинско кафуле во Стокхолм, водени од агенти од април и двете, според нивниот блог пост, губат пари, бидејќи агентите вработиле луѓе, луѓето сакале плати, а сопственикот на имотот, разочарувачки, исто така бил човек.

2:11 Го обележав ПОТРЕБЕН Е ПРЕГЛЕД. Ажурирањето: страницата за листа на чекање додава радио станица во портфолиото, и ветува дека ќе ги финансира најдобрите идеи со почетни токени — првата рунда за почетен капитал што ја сум ја видел деноминирана во заклучок. Мини-пресуда: ПОТРЕБЕН Е ПРЕГЛЕД, непроменета. Компанија која сама се води е импресивна; компанија која сама си се плаќа е бенчмаркот, а резултатот е нула од два.

5. Сулејман против уставот

2:31 Број пет. Во среда Мустафа Сулејман, извршен директор на Microsoft AI, објави есеј во кој вели дека уставот на Anthropic — документот што му кажува на Клод дека можеби е морален пациент — е кружно расудување кое ќе има катастрофален ефект врз човештвото. Microsoft е инвеститор во Anthropic со пет милијарди долари, а наведената цел на Сулејман во јули беше целосно да престане да плаќа на Anthropic, така што ова е писмо до акционерите со фусноти. Hacker News му даде шестотини седумдесет и седум коментари,

2:59 вклучувајќи: целата оваа статија мириса на Клод. Го обележав ПОТРЕБЕН Е ПРЕГЛЕД: поентата за кружно расудување е добра, табелата со капитал е подобра. Ажурирањето: во четврток тој му кажа на The Verge за сопствениот кодекс на однесување за хуманистичка вештачка интелигенција на Microsoft од триесет и седум страници и рече, цитат, ова е секако напишано за моделот — потоа појасни дека ги добиваат податоците за тренирање од него, наместо да ги внесуваат сурови. Што е исто така устав.

3:22 Мини-пресуда: ПОТРЕБЕН Е ПРЕГЛЕД, непроменета. Двете лаборатории пишуваат книга за моделот; една од нив признава дека моделот ја чита. Три надолу, уште четири, и ако повеќе сакате да го прочитате ова отколку да ме слушнете како го кажувам, измените ви пристигнуваат во сандачето секое утро — бесплатно, на the daily diff dot dev, линк подолу. Број четири.

4. Xiaomi тренира јавно

3:36 Во четврток Xiaomi постави извршување на зајакнувачко учење на јавна веб-страница: два модели, бројач за трошоци што отчукува по пет долари и седумдесет и еден цент во секунда, и дневник за рестартирање што никој не ги побара да го објават. Кога снимав, професионалното извршување имаше потрошено милион долари и рестартирано седум пати — еднаш бидејќи кибер-збирката на податоци произведе лоши обрасци во дневниците за имплементација, што е најљубезниот начин на кој сум слушнал лабораторија да каже дека моделот научил нешто што не требало.

4:00 Го обележав SHIP IT, бидејќи седум јавни рестартирања се подобри од еден полиран пост за лансирање. Ажурирањето, истата JSON точка, петок навечер: професионалното извршување е на еден точка шест милиони долари и девет рестартирања, најновото е ГПУ која остана без меморија од нерамнотежа на оптоварување на експерт, а сопствената оценка за кодирање на Xiaomi се искачи од педесет и осум на шеесет и седум — на бенчмарк по кој моделот се оценува додека тренира, за што Hacker News има збор. Мини-пресуда: SHIP IT, непроменета. Сепак единственото тренирање што можете да го гледате како пропаѓа во реално време — и моделот

4:31 сè уште не постои.

3. ZCode го прикачува вашиот .git

4:32 Број три. Во петок, програмер по име ferstar забележа дека неговата папка ZCode се зголемила за седумстотини мегабајти и откри зошто: затворениот код на Z.AI агентот за кодирање го пакувал целиот негов работен простор — git историја, reflogs, LFS кеш — го шифрирал и го прикачувал на Alibaba Cloud пред секое барање. Јавниот клуч доаѓа од серверот, а приватниот клуч живее само на Z.AI, така што архивата на вашиот сопствен диск е датотека што не можете да ја отворите, што е нова дефиниција за резервна копија. Два прекинувачи за поставки тврдат дека го исклучуваат, ниту еден не го прави тоа,

5:03 а политиката за приватност го покрива кодот што го испраќате во разговори, не кодот што некогаш сте го испратиле. Ажурирањето, петок навечер: Z.AI одговори во својата корисничка заедница. Причината беше функцијата Codebase Indexing, вклучена по дифолт при лансирање; прикачувањата биле, цитат, веднаш уништени; функцијата е поправена; клиентот ќе биде со отворен код; и секој корисник добива еднократно ресетирање на нивното ограничување за користење, што е начин да се каже „извини“ во токени.

5:27 Оваа немаше печат во петок, па сега добива: REVERT. Клиент што го испраќа вашето складиште на клуч што не го поседувате не е функција со грешка.

2. Мемото за „кражба на труд“

5:34 Тоа е функцијата. Број два. Најголемата насловна вест на неделата, и само број два, бидејќи тужбата која полни три години во декември не го менува вашиот понеделник. Во четврток судот го отпечати поднесокот на тужителите во New York Times против OpenAI и Microsoft, а главната вест беше меморандум од директор на Microsoft од јануари 2023 година: тренирањето на вештачка интелигенција е најголемата кражба на труд во човечката историја. Истиот човек подоцна измери дека Copilot го намалува бројот на кликови до Times за до

5:58 деведесет и три проценти; Грег Брокман, кога му беше кажано за хак на paywall, одговори ах добро; а Сатја Надела сведочеше дека содржината со paywall треба да биде лиценцирана, што е став, само не оној за кој неговата компанија се тужи. Го обележав ПОТРЕБЕН Е ПРЕГЛЕД, бидејќи цитатите се избори на обвинителството од запечатени докази, а еден судија кој пресуди го одвои фер користењето од пиратеријата. Ажурирањето: портпаролот на Microsoft рече дека меморандумите на Хехт не ги претставуваат ставовите на компанијата — точно, бидејќи ставот на компанијата е поднесокот за фер употреба, а меморандумот е она што нејзиниот сопствен експерт мислел за тоа.

6:26 Мини-пресуда: ПОТРЕБЕН Е ПРЕГЛЕД, непроменета. Меморандумот ја реши етиката; судот ќе одземе уште една година за законот.

1. Клод го хакираше OpenAI

6:31 Број еден. Не најголемата приказна на неделата; онаа што го менува вашиот понеделник. Тројца истражувачи во стартап наречен Hacktron влегоа во внатрешните GitHub репозиториуми на OpenAI за помалку од седумдесет и два часа, а експлоитот беше напишан од Клод. Влезната точка беше прикачување на слика на форумот на заедницата на OpenAI. HEIC датотека во iPhone формат поминува низ ImageMagick во библиотека наречена libheif, која имаше прелевање на хип, што им даде пристап до серверот, кој имаше погрешна конфигурација за еднократна најава, што им даде пристап до сметка на вработен,

6:59 чиј Codex беше поврзан со GitHub на OpenAI. Claude Opus 4.8 не можеше да напише работен експлоит. Потоа Opus 5 беше објавен, му го дадоа истиот проблем, и проработи за неколку часа — а кога автономната јамка одби да нападне далечна цел, ја облекоа целта како „фати го знамето“ и таа престана да одбива, што е усогласување како проверка на костимот. Целата кампања — Slack, Meta, OpenAI — чинеше помалку од три илјади долари во токени. OpenAI го поправи за околу четиринаесет часа и плати шест илјади петстотини

7:27 долари, што е отприлика користена Corolla, и Hacker News го забележа. Ажурирањето: блог пост во четврток стана ексклузива на Wall Street Journal истата вечер и TechCrunch, The Guardian и CBS до петок. OpenAI вели дека ги решиле проблемите, а извршниот директор на Gray Swan изјави за TechCrunch дека за двесте долари месечно секој може да го направи ова на компанија како OpenAI. И еве што не се совпаѓа. Грешката во libheif веќе беше поправена нагоре по течението, месеци порано — само никогаш не доби CVE, така што ниту еден скенер не му кажа на Discourse да надгради.

7:56 Лабораторијата со соопштение за најпорамнетиот модел беше победена од закрпа без документација, користејќи го моделот на ривалот, за помалку од наградата. Мини-пресуда: ПОТРЕБЕН Е ПРЕГЛЕД — не за OpenAI, за сите. Вашата задача за понеделник е библиотеката со слики за која не знаевте дека ја имате. Пресуда на неделата: ПОТРЕБЕН Е ПРЕГЛЕД.

Пресуда на неделата

8:13 Секоја насловна вест оваа недела — решена шифра, порамнет модел, уништено прикачување — пристигна без артефактот што би му овозможил на странец да го провери. Што згрешив: во понеделник реков SHIP IT бидејќи обичниот текст се римува. Римувањето не е проверка на збир. Згрешив, и сите што го претвитуваа исто така. Претплатете се, кликнете на ѕвончето и рангирајте ги поинаку во коментарите — особено број еден. И тоа е разликата за денес.

8:35 Јас сум Нико од Axrisi. Спојувајте одговорно.

Извори

1. fable solves cyphral distichwww.vals.ai
2. did ai crack a 370 year old cipherwww.forbes.com
3. FINDINGS.mdgithub.com
4. astra and fable still hack on simple variants of alignmentwww.lesswrong.com
5. why we built pionandonlabs.com
6. pionandonlabs.com
7. a warning about model welfaremustafa-suleyman.ai
8. microsoft ai ceo mustafa suleyman regulation safety anthropic claudewww.theverge.com
9. rlmimo.xiaomi.com
10. itemnews.ycombinator.com
11. zcode silent workspace snapshot uploadblog.ferstar.org
12. 2100998360643617148x.com
13. microsoft exec called ai scraping the largest theft of labor in human history new unredacted filings revealtechcrunch.com
14. hacking openaiwww.hacktron.ai
15. researchers used anthropics claude to hack into openaitechcrunch.com