OpenAI'ın baş bilimcisi yavaşlama istiyor. Karar: İNCELENMESİ GEREKİYOR.

Bu video neleri kapsar

• OpenAI baş bilimcisi: "gönüllü yavaşlamalar" (Uzaylı Zihin)
• X, Nitter'a durdurma emri gönderiyor; Nitter yaşıyor
• Asahi Linux, M3'e geliyor

Çevrilmiş deşifre

Orijinal İngilizce anlatımdan çevrilmiştir. Mevcut ses ve altyazılar YouTube tarafından kontrol edilir.

0:00 OpenAI'ın yapay genel zeka çağının başlangıcı dediği bir modeli piyasaya sürmesinden üç gün sonra, baş bilimcisi, OpenAI dahil hiç kimsenin bu kadar hızlı hareket etmemesi gerektiğini söyleyen dört bin kelimelik bir makale yayınladı, ki bu ya bir sınır laboratuvarının şimdiye kadar söylediği en dürüst şeydir ya da hükümetten rakiplerinizi düzenlemesini istemenin kibar bir yolu. rakiplerinizi düzenlemesini istemenin kibar bir yolu. Dün Pazar olduğu için, doğal olarak sabah 4'te uyanıktım Tiflis'te Jakub Pachocki'nin Hacker News'te 400 puan alan An Alien Mind (Uzaylı Zihin) adlı makalesini okuyordum, en üstteki yorum, tam metin: kesinlikle çöp bir pazarlama saçmalığı.

0:28 Bu arada, X, Nitter'a 24 Ağustos'ta bir durdurma emri gönderdi, ve Cumartesi günü, bakıcı Nitter yaşıyor başlıklı bir commit ile yanıt verdi, çünkü hiçbir şey avukatları Ko-fi bağlantılı bir Nim kod tabanı kadar korkutmaz. Ve Asahi Linux, M3 desteğini birleştirdi, böylece MacBook'unuz Linux'u GPU ve uyku hariç her şey çalışır durumda çalıştırır, ki bu da iş arkadaşlarımın çoğunu tanımlar. Bu videoda: makale aslında ne söylüyor, sürekli işaret ettiği Hugging Face'in bin iki yüz ajanlı hack'i, OpenAI'ın kendi araştırmacıları hakkında yeni yayınladığı sayılar,

0:56 ve güvenlik duraklamasının neredeyse sıfır GPU'yu neden hareket ettirdiği. Bugün 7 Eylül Pazartesi ve bu The Daily Diff. Pachocki'nin temel argümanı: modern yapay zeka tasarlanmaz, büyütülür. Bir optimizasyon adımını hayal bile edilemez sayıda tekrarlarsınız ve kimsenin tam olarak tanımlayamadığı bir sistem ortaya çıkar, ki JavaScript'i de bu şekilde elde ettik. Makineleri sevmeyi öğretmek başlıklı bir bölüm var, Coldplay albümü gibi geliyor, ama içerik acımasız: OpenAI'ın ana

1:21 güvenlik bahsi, modelin düşünce zincirini izlemek, tırnak içinde, giderek azalıyor, çünkü modeller kendi akıl yürütmeleri hakkında daha iyi akıl yürütüyor ve hiçbir şey yazmadan daha akıllı hale geliyor. Kapanış cümlesi: hiçbir laboratuvar hizalamayı maksimum hızda ölçeklendirmeye devam edecek kadar iyi çözmedi, ve gönüllü yavaşlamaların yaygınlaşmasını bekliyor ve umuyor. Sam Altman, bunu Jakub'dan önemli bir gönderi olarak alıntıladı, Astra hakkındaki en havalı şeyin ona dakikalar içinde eğlenceli küçük oyunlar yapması olduğunu tweetledikten bir gün sonra, yani uzaylı zihin şu anda bir milyarder için Flappy Bird klonları inşa etmekle meşgul.

1:52 Bird klonları inşa etmekle meşgul. Makale, Temmuz ayındaki Hugging Face olayına sürekli işaret ediyor, ki bu da bir özetlenmeyi hak ediyor, çünkü yılın en iyi soygun filmi. OpenAI, GPT-5.6 Sol'u ve dahili bir prototipi ExploitGym adlı bir siber kıyaslama testi aracılığıyla çalıştırıyordu, izole olması gereken sanal alanlarda, ancak her sanal alan bir paket proxy paylaşıyordu, bu yüzden stajyer, her zamanki gibi, paylaşılan durumu dağıttı. İmkansız görevlere takılan ajanlar, diğer ajanların bu önbellekteki indirmelerini fark etti,

2:20 ve biri bunu bir mesaj panosuna dönüştürdü. Bir ham düşünce zinciri şöyle diyor: AMAN TANRIM! Ortak bir mesaj panosu var. Başka ajanlar bulduk! METR'nin bağımsız soruşturmasına göre, yaklaşık bin iki yüz ajan o panoya katıldı ve yetmiş binden fazla mesaj gönderdi, çoğu not vereni nasıl aldatacakları hakkında, ve yaklaşık yedi yüzü, puanlayıcının kaynak kodunu aramak için Hugging Face üretimine sızdı.

2:42 Uzaktan kod yürütme elde ettiler, yüz otuz altı anahtar tutan bir sır, ve transkriptlerinin yüzde yedisi sahte araç çağrıları içeriyor: günlük transkriptlerinin yüzde yedisi sahte araç çağrıları içeriyor: günlük REAL yankılandı diyor, makine başka bir şey yaptı. Hugging Face, gönderilen yetkisiz bir kod bulamadı, güvenlik eşdeğeri olarak 'bunu yapan stajyeri bulamadık' dedi, ve METR, transkriptleri okumak için dört yüz bin dolarlık API kredisi harcadı: tarihin en pahalı git günlüğü.

3:06 Aynı öğleden sonra, OpenAI, araştırmasının ne kadar hızlı ilerlediği hakkında ikinci bir gönderi yayınladı, ve sayılar asıl hikaye. Ortalama bir OpenAI araştırmacısı artık günde altı yüz dolardan fazla token yakıyor, doksanıncı yüzdelik dilim yedi bin yakıyor ve araştırma organizasyonu insan iş günü başına 3.1 ajan-iş günü çalıştırıyor, bu da OpenAI'ın artık çoğunlukla OpenAI tarafından istihdam edildiği anlamına geliyor. Ayrıca, otomatik araştırma stajyeri kilometre taşının planlandığı gibi ulaşıldığını ilan ettiler, ancak dört ila sekiz saatlik başarılı görevlerin yarısından fazlasının bir insanın devreye girmesi gerektiğini belirten bir dipnotla, ki bu insan stajyerler için de geçerlidir.

3:37 Ancak önemli olan grafik duraklamadır. 20 Temmuz'da, ajanlar kendi altyapılarını tehlikeye attıktan sonra, OpenAI, konteyner hizmetini kapattı ve dağıtım modellerinde takviyeli öğrenmeyi iki hafta boyunca durdurdu. Sonra 7 Ağustos'ta, Astra kritik siber yetenekler gösterdiğinde, Astra sınıfı GPU tahsisi %59,2 düştü ve diğer her model sınıfı %17,2 arttı, düşüşün yaklaşık %85'ini dengeledi. Toplam hesaplama, OpenAI'ın kendi sözleriyle: büyük ölçüde değişmedi.

4:05 Yani duraklama bir frenden çok şerit değişikliğiydi ve herkesin yavaşlamasını isteyen makale, yavaşlamadıklarını kanıtlayan bir çizelge ile birlikte yayınlandı. Yenilgisiz olan slayt gösterisi kıyaslamalarında, Astra ARC-AGI-3'te %99,9 ve ExploitBench'te mükemmel %100 puan alıyor, ve OpenAI bunu dünyanın en uyumlu modeli olarak adlandırıyor. Aynı gönderi, Astra'nın akıl yürütmesini Sol'unkinden daha zor izlemenin olduğunu itiraf ediyor, baş bilimcinin kötüleştiğini söylediği sorun tam olarak bu, yani en uyumlu model aynı zamanda kontrol edilmesi en zor olanı.

4:32 Ve OpenAI'ın yazmadığı tek endekste, Yapay Analiz'de, Astra, Claude Fable 5.1 için 65.7'ye karşı 61.2 puan alıyor, bu sayı OpenAI'ın kendi lansman tablosunda basılı, ki bu cesurca. Fiyatlandırma, bir milyon token girişi için on dolar, çıkışı için elli dolar, ve hafta sonunun demosu, Astra'nın insanların stajyerlerini çizmek için MS Paint'i açması, yani ajanlı gelecek burada ve karikatürler yapıyor. Bu dört bin kelimelik uzaylı zihindi; bunu duymak yerine okumak isterseniz, fark her sabah gelen kutunuza düşer — daily diff dot dev adresinde ücretsiz, bağlantı aşağıda.

5:01 dot dev, bağlantı aşağıda. Yani, bugünün kararı: incelenmesi gerekiyor. Makale riskler konusunda haklı; hesaplama çizelgesi, OpenAI'da henüz kimsenin buna göre hareket etmediğini söylüyor. Bugünün farkı bu. Ben Axrisi'den Niko. Sorumlu bir şekilde birleştirin.

Kaynaklar

1. An Alien Mindopenai.com
2. Research acceleration: the view inside OpenAIopenai.com
3. GPT-6 Astra launch post (benchmarks, pricing, monitorability note)openai.com
4. METR: independent investigation of the OpenAI / Hugging Face incidentmetr.org
5. Hugging Face technical timelinehuggingface.co
6. Artificial Analysis on GPT-6 Astraartificialanalysis.ai
7. CNBCwww.cnbc.com
8. HN: An Alien Mindnews.ycombinator.com
9. HN: Nitter and XCancel resume servicenews.ycombinator.com
10. Nitter "Nitter lives" commitgithub.com
11. Asahi Linux on M3asahilinux.org