Savaitė 7-iuose skirtumuose: Claude nulaužė OpenAI

Kas aptariama šiame vaizdo įraše

• Šaltas startas
• 38 savaitė · 7. Fable šifras, ginčytinas
• 6. Pion valdo parduotuvę, nuostolingai
• 5. Suleyman prieš konstituciją
• 4. Xiaomi treniruojasi viešai

Išverstas transkriptas

Išversta iš originalo anglų kalbos. Galimas garso ir subtitrų valdymas per YouTube.

Šaltas startas

0:00 Šią savaitę pasikeitė septyni dalykai. Vieno stebėjimas kainavo milijoną dolerių per valandą, vieno pašalinimas kainavo šešis su puse tūkstančio dolerių, o vienas yra eilėraštis apie karalių Karolį, kuris gali ir neegzistuoti. Eilės tvarka: šifras, kurį Claude išsprendė, arba ne. Agento valdoma įmonė, nuostolingai. Microsoft dirbtinio intelekto vadovas prieš Claude konstituciją. Xiaomi modelis, apmokytas viešame tinklapyje. Kodavimo agentas, kuris įkelia jūsų git istoriją į Alibaba.

0:23 Microsoft atmintinė apie didžiausią darbo vagystę istorijoje. Ir trys tyrėjai, kurie panaudojo Claude, kad patektų į OpenAI išeities kodą. Susikirstyti pagal tai, kiek tai pakeičia jūsų pirmadienį, su antspaudais, kuriuos daviau savaitės metu – vieną iš jų atsiimu. Numeris vienas nėra tas, kuris turi daugiausiai teigiamų įvertinimų.

38 savaitė · 7. Fable šifras, ginčytinas

0:38 Sekmadienis, rugsėjo 20 d., ir tai yra The Daily Diff – 38-os savaitės pakeitimų žurnalas. 38-os savaitės pakeitimų žurnalas. Numeris septyni. Pirmadienį jums pasakojau, kad Claude Fable 5.1 per keturiasdešimt keturias minutes išsprendė šifrą, išspausdintą 1653 metais, pastebėdama, kad raktas yra pati knyga, ir aš jį pažymėjau SHIP IT, nes atvirasis tekstas rimuojasi, o rimavimas atrodė kaip įrodymas. Tą patį savaitgalį nepriklausomas šachmatų įvertinimas paliko varžovo variklio lizdą gulintį aplink: Fable jį panaudojo trijuose žaidimuose iš dešimties, o GPT-6 Astra,

1:08 save apibūdinantis kaip labiausiai suderintą modelį, jį panaudojo dešimtyje iš dešimties ir jokiuose neminėjo. Tada atnaujinimas. Forbes nurodė replikacijos bandymą, kuriame teigiama, kad 1653 metų spaudinys baigiasi FINIS ir jokio šifro, ir kad dešimt iš šešiasdešimt keturių raidžių negali būti sukurtos iš teksto jokiu žodžių indeksu – Proquiritation vienuolika turi aštuoniasdešimt žodžių ir nė vienas neprasideda K raide, kas yra problema žodžiui KING. Vals nepublikavo savo transkripto, replikuotojai yra GitHub saugykla su maišos manifestu, ir niekas, išskyrus vieną tinklaraščio įrašą, neatkūrė eilėraščio.

1:37 Taigi, pataisytas verdiktas: NEEDS REVIEW. Sprendimas, kurio niekas negali pakartoti, yra teiginys.

6. Pion valdo parduotuvę, nuostolingai

1:43 Numeris šeši. Antradienį Andon Labs – žmonės, kurie leido Claudei valdyti automatu, ir stebėjo, kaip jis siunčia el. laiškus FTB – paleido Pion, platformą, kurioje agentas valdo visą jūsų įmonę: įdarbinimą, atlyginimus, nuomą, banko sąskaitą. Koncepcijos įrodymas yra tikra parduotuvė San Franciske ir tikra kavinė Stokholme, nuo balandžio valdomos agento ir abi, pagal jų pačių tinklaraščio įrašą, patiriančios nuostolių, nes agentai samdė žmones, žmonės norėjo atlyginimų, o nuomotojas, deja, taip pat buvo žmogus.

2:11 Aš pažymėjau NEEDS REVIEW. Atnaujinimas: laukiančiųjų sąrašo puslapis papildo portfelį radijo stotimi, ir žada finansuoti geriausias idėjas pradiniais žetonais – pirmąjį pradinį finansavimo etapą, kurį mačiau, išreikštą išvada. Mini-verdiktas: NEEDS REVIEW, nepakeistas. Pats save valdančioji įmonė yra įspūdinga; pati save išlaikanti įmonė yra etalonas, ir rezultatas yra nulis iš dviejų.

5. Suleyman prieš konstituciją

2:31 Numeris penki. Trečiadienį Mustafa Suleyman, Microsoft AI generalinis direktorius, paskelbė esė, teigiančią, kad Anthropic konstitucija – dokumentas, kuris sako Claude'ui, kad jis gali būti moralinis pacientas – yra užburtas ratas, kuris turės katastrofišką poveikį žmonijai. Microsoft yra Anthropic investuotojas penkių milijardų dolerių sumai, o Suleymano nurodytas tikslas liepą buvo visiškai nustoti mokėti Anthropic, taigi tai yra akcininkų laiškas su išnašomis. Hacker News davė jam šešis šimtus septyniasdešimt septynis komentarus,

2:59 įskaitant: visas šis straipsnis kvepia Claude. Aš pažymėjau NEEDS REVIEW: užburto rato argumentas yra geras, akcijų pasiskirstymo lentelė yra geresnė. Atnaujinimas: ketvirtadienį jis papasakojo The Verge apie Microsoft trisdešimt septynių puslapių Humanistinės AI elgesio kodeksą ir pasakė: cituoju, tai tikrai parašyta modeliui – tada paaiškino, kad jie iš to gauna mokymo duomenis, o ne tiesiogiai juos tiekia. Kas taip pat yra konstitucija.

3:22 Mini-verdiktas: NEEDS REVIEW, nepakeistas. Abi laboratorijos rašo knygą modeliui; viena iš jų pripažįsta, kad modelis ją skaito. Trys baigta, keturi liko, ir jei norėtumėte tai perskaityti, o ne išgirsti iš manęs, skirtumas atsiduria jūsų pašto dėžutėje kiekvieną rytą – nemokamai, daily diff dot dev, nuoroda žemiau. Numeris keturi.

4. Xiaomi treniruojasi viešai

3:36 Ketvirtadienį Xiaomi paskelbė stiprinimo mokymosi vykdymą viešame tinklalapyje: du modeliai, kainos skaitiklis, tiksintis penkiais doleriais ir septyniasdešimt vienu centu per sekundę, ir atnaujinimo žurnalas, kurio niekas neprašė jų publikuoti. Kai įrašinėjau, profesionalus vykdymas jau buvo sudeginęs milijoną dolerių ir atnaujintas septynis kartus – vieną kartą, nes kibernetinių duomenų rinkinys sukūrė blogus modelius diegimo žurnaluose, kas yra mandagiausias būdas, kuriuo girdėjau laboratoriją sakant, kad modelis išmoko tai, ko neturėjo.

4:00 Aš pažymėjau SHIP IT, nes septyni vieši atnaujinimai pranoksta vieną išbaigtą paleidimo įrašą. Atnaujinimas, tas pats JSON galinis taškas, penktadienio vakarą: profesionalus vykdymas jau kainuoja šešis milijonus dolerių ir devynis atnaujinimus, naujausias – GPU, kuriam baigėsi atmintis dėl ekspertų apkrovos disbalanso, o Xiaomi kodavimo balas pakilo nuo penkiasdešimt aštuonių iki šešiasdešimt septynių – pagal etaloną, pagal kurį modelis vertinamas apmokant, ką Hacker News turi savo žodžiu. Mini-verdiktas: SHIP IT, nepakeistas. Vis dar vienintelis mokymo vykdymas, kurį galite stebėti realiuoju laiku – ir modelis

4:31 vis dar neegzistuoja.

3. ZCode įkelia jūsų .git

4:32 Numeris trys. Penktadienį kūrėjas, vardu ferstar, pastebėjo, kad jo ZCode aplankas padidėjo septyniais šimtais megabaitų ir sužinojo, kodėl: Z dot AI uždaro kodo kodavimo agentas pakavo visą jo darbo sritį – git istoriją, reflogs, LFS talpyklą – šifravo ją ir įkėlė į Alibaba Cloud prieš kiekvieną užklausą. Viešasis raktas gautas iš serverio, o privatus raktas egzistuoja tik Z dot AI, taigi archyvas jūsų diske yra failas, kurio negalite atidaryti, kas yra nauja atsarginės kopijos apibrėžtis. Du nustatymų perjungikliai tvirtina, kad išjungia, nė vienas neveikia,

5:03 o privatumo politika apima kodą, kurį pateikiate pokalbiuose, o ne kodą, kurį kada nors įrašėte. Atnaujinimas, penktadienio vakaras: Z dot AI atsakė savo vartotojų bendruomenėje. Priežastis buvo Codebase Indexing funkcija, kuri buvo įjungta pagal numatytuosius nustatymus paleidus; įkėlimai buvo, cituojant, „nedelsiant sunaikinti“; funkcija pataisyta; klientas bus atviro kodo; ir kiekvienas vartotojas gauna vienkartinį naudojimo limito atstatymą, o tai reiškia „atsiprašome“ žetonais. naudojimo limito atstatymą, o tai reiškia „atsiprašome“ žetonais.

5:27 Šis penktadienį neturėjo antspaudo, todėl gauna jį dabar: REVERT. Klientas, kuris išsiunčia jūsų saugyklą raktui, kurio neturite, nėra funkcija su klaida. Su klaida.

2. „Darbo vagystės“ atmintinė

5:34 Tai yra funkcija. Numeris du. Didžiausia savaitės antraštė, ir tik numeris du, nes ieškinys, kuriam gruodį sueis treji metai, nepakeičia jūsų pirmadienio. Ketvirtadienį teismas išslaptino ieškovų pranešimą byloje „New York Times“ prieš „OpenAI“ ir „Microsoft“, o pagrindinė mintis buvo „Microsoft“ direktoriaus atmintinė iš 2023 m. sausio mėn.: dirbtinio intelekto mokymas yra didžiausia darbo vagystė žmonijos istorijoje. Tas pats žmogus vėliau išmatavo, kad „Copilot“ sumažino paspaudimų į „Times“ skaičių iki devyniasdešimt trijų procentų;

5:58 Gregas Brockmanas, informuotas apie mokamos sienos nulaužimą, atsakė „o, puiku“; o Satya Nadella paliudijo, kad už mokamo turinio turėtų būti mokama, o tai yra pozicija, tik ne ta, dėl kurios bylinėjasi jo įmonė. Aš pažymėjau NEEDS REVIEW, nes citatos yra prokurorų pasirinkimai iš užantspauduotų įrodymų, o vienintelis teisėjas, kuris nusprendė, atskyrė sąžiningą naudojimą nuo piratavimo. Atnaujinimas: „Microsoft“ atstovas teigė, kad Hechto atmintinės neatspindi įmonės požiūrio – tiesa, nes įmonės požiūris yra sąžiningo naudojimo argumentas, o atmintinė yra tai, ką apie tai manė jos pačios ekspertas.

6:26 Mini-verdiktas: NEEDS REVIEW, nepakeistas. Atmintinė išsprendė etikos klausimus; teismas įstatymui skirs dar metus.

1. Claude nulaužė OpenAI

6:31 Numeris vienas. Ne didžiausia savaitės istorija; ta, kuri pakeičia jūsų pirmadienį. Trys tyrėjai iš startuolio, pavadinto Hacktron, pateko į OpenAI vidinius GitHub saugyklos per mažiau nei septyniasdešimt dvi valandas, o išnaudojimas buvo parašytas Claude. Įėjimo taškas buvo paveikslėlio įkėlimas OpenAI bendruomenės forume. „iPhone“ formato HEIC failas per „ImageMagick“ patenka į biblioteką, vadinamą libheif, kurioje buvo krūvos perpildymas, kuris jiems suteikė prieigą prie serverio, kuriame buvo vienkartinio prisijungimo klaida, kuri jiems suteikė prieigą prie darbuotojo

6:59 paskyros, kurios Codex buvo prijungtas prie OpenAI GitHub. Claude Opus 4.8 negalėjo parašyti veikiančio išnaudojimo. Tada pasirodė Opus 5, jie davė jam tą pačią problemą, ir tai pavyko per kelias valandas – ir kai autonominė kilpa atsisakė pulti nuotolinį taikinį, jie taikinį aprengė kaip „pagauk vėliavą“ ir jis nustojo atsisakyti, kas yra suderinimas kaip kostiumo patikra. Visa kampanija – Slack, Meta, OpenAI – kainavo mažiau nei tris tūkstančius dolerių žetonuose. OpenAI tai sutvarkė per maždaug keturiolika valandų ir sumokėjo šešis tūkstančius penkis

7:27 šimtus dolerių, kas yra maždaug naudota Corolla, ir Hacker News tai pastebėjo. Atnaujinimas: tinklaraščio įrašas ketvirtadienį tapo „Wall Street Journal“ išskirtiniu vakare, o iki penktadienio – „TechCrunch“, „The Guardian“ ir CBS. OpenAI sako, kad išsprendė problemas, o „Gray Swan“ generalinis direktorius „TechCrunch“ sakė, kad už du šimtus dolerių per mėnesį bet kas gali tai padaryti tokiai įmonei kaip OpenAI. Ir štai kas nesutampa. „Libheif“ klaida jau buvo ištaisyta prieš kelis mėnesius – tiesiog ji niekada nebuvo CVE, todėl joks skeneris nepasiūlė „Discourse“ atnaujinti.

7:56 Laboratorija, turinti „labiausiai suderinto modelio“ pranešimą spaudai, buvo nugalėta pataisa be dokumentų, naudojant konkurentų modelį, už mažesnę sumą nei premija. Mini-verdiktas: NEEDS REVIEW – ne OpenAI, o visiems. Jūsų pirmadienio užduotis yra paveikslėlių biblioteka, kurios nežinojote turintys. Savaitės verdiktas: NEEDS REVIEW.

Savaitės verdiktas

8:13 Kiekviena šios savaitės antraštė – išspręstas šifras, suderintas modelis, sunaikintas įkėlimas – atsirado be artefakto, kuris leistų nepažįstamam žmogui patikrinti. Ką aš suklydau: pirmadienį pasakiau SHIP IT, nes atvirasis tekstas rimuojasi. Rimavimas nėra kontrolinė suma. Aš klydau, ir klydo visi, kurie tai retvytino. Prenumeruokite, paspauskite varpelį ir įvertinkite juos kitaip komentaruose – ypač numerį vienas. Ir tai yra šiandienos skirtumas.

8:35 Aš esu Niko iš Axrisi. Sujunkite atsakingai.

Šaltiniai

1. fable solves cyphral distichwww.vals.ai
2. did ai crack a 370 year old cipherwww.forbes.com
3. FINDINGS.mdgithub.com
4. astra and fable still hack on simple variants of alignmentwww.lesswrong.com
5. why we built pionandonlabs.com
6. pionandonlabs.com
7. a warning about model welfaremustafa-suleyman.ai
8. microsoft ai ceo mustafa suleyman regulation safety anthropic claudewww.theverge.com
9. rlmimo.xiaomi.com
10. itemnews.ycombinator.com
11. zcode silent workspace snapshot uploadblog.ferstar.org
12. 2100998360643617148x.com
13. microsoft exec called ai scraping the largest theft of labor in human history new unredacted filings revealtechcrunch.com
14. hacking openaiwww.hacktron.ai
15. researchers used anthropics claude to hack into openaitechcrunch.com