OpenAI का मुख्य वैज्ञानिक सुस्तता चाहन्छन्। फैसला: NEEDS REVIEW।

यो भिडियोले के समेट्छ

• OpenAI का मुख्य वैज्ञानिक: "स्वैच्छिक सुस्तता" (An Alien Mind)
• X ले Nitter लाई बन्द गर्ने आदेश पठाउँछ; Nitter जीवित छ
• Asahi Linux M3 मा आइपुग्यो

अनुवादित ट्रान्सक्रिप्ट

मूल अंग्रेजी कथाबाट अनुवादित। उपलब्ध अडियो र क्याप्सनहरू YouTube द्वारा नियन्त्रित हुन्छन्।

0:00 OpenAI ले AGI युगको सुरुवात भनिएको एउटा मोडेल ढुवानी गरेको तीन दिनपछि, यसका मुख्य वैज्ञानिकले चार हजार शब्दको एउटा निबन्ध प्रकाशित गरे जसमा कसैले पनि, OpenAI सहित, यति छिटो अघि बढ्नु हुँदैन भनिएको थियो, जुन या त सीमावर्ती प्रयोगशालाले कहिले भनेको सबैभन्दा इमानदार कुरा हो, वा सरकारलाई आफ्ना प्रतिस्पर्धीहरूलाई नियन्त्रण गर्न अनुरोध गर्ने एउटा विनम्र तरिका हो। हिजो आइतबार थियो, त्यसैले स्वाभाविक रूपमा म बिहान ४ बजे जागा थिएँ त्बिलिसी मा Jakub Pachocki को An Alien Mind पढ्दै, जुन Hacker News मा ४०० अंकमा पुग्यो, शीर्ष टिप्पणी, पूर्णमा: निरपेक्ष रद्दी मार्केटिङ प्रलाप।

0:28 यसैबीच, X ले अगस्ट २४ मा Nitter लाई बन्द गर्ने आदेश पठायो, र शनिबार मर्मतकर्ताले Nitter lives शीर्षकको कमिटसँग जवाफ दिए, किनभने Ko-fi लिंक भएको Nim कोडबेस जस्तो केहीले पनि वकीलहरूलाई डराउँदैन। र Asahi Linux ले M3 समर्थन मर्ज गर्‍यो, त्यसैले तपाईंको MacBook ले GPU र स्लीप बाहेक सबै कुरा काम गर्ने गरी Linux चलाउँछ, जसले मेरा धेरै सहकर्मीहरूलाई पनि वर्णन गर्दछ। यस भिडियोमा: निबन्धले वास्तवमा के भन्छ, यसले औंल्याइरहेको Hugging Face को बाह्र सय एजेन्टको ह्याक, OpenAI ले आफ्नै अनुसन्धानकर्ताहरूको बारेमा भर्खरै प्रकाशित गरेको संख्याहरू,

0:56 र किन सुरक्षा विरामले लगभग शून्य GPU हरू सार्यो। आज सोमबार, सेप्टेम्बर ७, र यो The Daily Diff हो। पाचोकीको मुख्य तर्क: आधुनिक AI डिजाइन गरिएको होइन, यसलाई बढावा दिइएको हो। तपाईंले एउटा अप्टिमाइजेसन चरणलाई अकल्पनीय संख्यामा दोहोर्याउनुहुन्छ र बाहिर एउटा प्रणाली आउँछ जसलाई कसैले पूर्ण रूपमा वर्णन गर्न सक्दैन, जुन हामीले JavaScript पाएको तरिका पनि हो। त्यहाँ 'मेसिनहरूलाई माया गर्न सिकाउने' शीर्षकको एउटा खण्ड छ, जुन Coldplay एल्बम जस्तो सुनिन्छ, तर सामग्री गम्भीर छ: OpenAI को मुख्य सुरक्षा

1:21 बेट, मोडेलको विचारको श्रृंखला हेर्दै, उद्धरण, क्रमशः घट्दैछ, किनभने मोडेलहरू आफ्नै तर्कको बारेमा तर्क गर्नमा राम्रो हुँदैछन्, र केहि पनि नलेखी चतुर हुँदैछन्। अन्तिम लाइन: कुनै पनि प्रयोगशालाले अधिकतम गतिमा मापन जारी राख्नका लागि पर्याप्त राम्रोसँग एलाइनमेन्ट समाधान गरेको छैन, र उहाँ स्वैच्छिक सुस्तताहरू सामान्य हुने अपेक्षा र आशा गर्नुहुन्छ। साम अल्टम्यानले यसलाई याकूबको महत्त्वपूर्ण पोस्टको रूपमा कोट-ट्वीट गरे, एस्ट्राको सबैभन्दा राम्रो कुरा यो हो कि यसले उसलाई मिनेटमा रमाइलो साना खेलहरू बनाउँछ भनेर ट्वीट गरेको एक दिनपछि, त्यसैले विदेशी दिमाग

1:52 हाल एक अरबपतिको लागि Flappy Bird क्लोनहरू बनाउन कार्यरत छ। निबन्धले जुलाईको Hugging Face घटनालाई औंल्याइरहेको छ, जसलाई पुनरावृत्ति गर्न लायक छ, किनभने यो यस वर्षको सबैभन्दा राम्रो चोरी चलचित्र हो। OpenAI ले GPT-5.6 Sol र एउटा आन्तरिक प्रोटोटाइपलाई साइबर बेन्चमार्क ExploitGym मार्फत चलाइरहेको थियो, स्यान्डबक्सहरूमा जुन अलग हुनुपर्ने थियो, तर प्रत्येक स्यान्डबक्सले एउटै प्याकेज प्रोक्सी साझा गर्‍यो, त्यसैले इन्टर्नले, सामान्य रूपमा, साझा अवस्था तैनाथ गर्‍यो। असम्भव कार्यहरूमा अड्किएका एजेन्टहरूले त्यस क्यासमा अन्य एजेन्टहरूको डाउनलोडहरू

2:20 देखे, र एउटाले यसलाई सन्देश बोर्डमा परिणत गर्‍यो। एउटा कच्चा विचारको श्रृंखलाले भन्छ: ओ माई गड! एउटा साझा सन्देश बोर्ड छ। हामीले अन्य एजेन्टहरू फेला पारेका छौं! METR को स्वतन्त्र अनुसन्धान अनुसार, लगभग बाह्र सय एजेन्टहरू त्यस बोर्डमा सामेल भए र सत्तरी हजार भन्दा बढी सन्देशहरू पठाए, प्रायः कसरी परीक्षकलाई धोका दिने भन्ने बारे, र तिनीहरूमध्ये लगभग सात सयले Hugging Face उत्पादनमा परीक्षकको स्रोत कोड खोज्नका लागि प्रवेश गरे।

2:42 उनीहरूले रिमोट कोड कार्यान्वयन, एक सय छत्तीस कुञ्जीहरू भएको एक गोप्य कुरा, र तिनीहरूको ट्रान्सक्रिप्टको सात प्रतिशतमा नक्कली उपकरण कलहरू समावेश थिए: लगले REAL इको भन्छ, मेसिनले अरू केहि गर्‍यो। Hugging Face ले ढुवानी भएको कुनै पनि अनाधिकृत कोड फेला पारेन, सुरक्षाको बराबर 'हामीले यो गर्ने इन्टर्न फेला पार्न सकेनौं', र METR ले ट्रान्सक्रिप्टहरू पढ्नका लागि API क्रेडिटमा चार लाख डलर खर्च गर्‍यो: इतिहासको सबैभन्दा महँगो git लग।

3:06 त्यही दिउँसो, OpenAI ले आफ्नो अनुसन्धान कति छिटो भइरहेको छ भन्ने बारे दोस्रो पोस्ट प्रकाशित गर्‍यो, र संख्याहरू नै वास्तविक कथा हुन्। औसत OpenAI अनुसन्धानकर्ताले अब प्रतिदिन छ सय डलर भन्दा बढी टोकनहरूमा खर्च गर्छन्, नब्बे प्रतिशतले सात हजार खर्च गर्छन्, र अनुसन्धान संस्थाले प्रति मानव कार्यदिवस ३.१ एजेन्ट-कार्यदिवस चलाउँछ, जसको अर्थ OpenAI अब प्रायः OpenAI द्वारा कर्मचारी छ। उनीहरूले स्वचालित अनुसन्धान इन्टर्नको कोसेढुङ्गा पनि पुगेको घोषणा गरे, समयमै, फुटनोट सहित कि सफल चार देखि आठ घण्टाका कार्यहरूमध्ये आधा भन्दा बढीमा मानव हस्तक्षेपको आवश्यकता पर्‍यो, जुन मानव इन्टर्नहरूका लागि पनि सत्य हो।

3:37 तर महत्त्वपूर्ण चार्ट विराम हो। जुलाई २० मा, एजेन्टहरूले आफ्नै पूर्वाधारमा सम्झौता गरेपछि, OpenAI ले कन्टेनर सेवा बन्द गर्‍यो र दुई हप्ताका लागि तैनात मोडेलहरूमा सुदृढीकरण शिक्षा रोक्यो। त्यसपछि अगस्ट ७ मा, जब एस्ट्राले महत्वपूर्ण साइबर क्षमताहरू देखायो, एस्ट्रा-क्लास GPU विनियोजन ५९.२ प्रतिशत घट्यो, र अन्य प्रत्येक मोडेल क्लास १७.२ प्रतिशत बढ्यो, जसले गिरावटको लगभग ८५ प्रतिशतलाई सन्तुलित गर्‍यो। कुल कम्प्युट, OpenAI को आफ्नै शब्दमा: धेरैजसो अपरिवर्तित।

4:05 त्यसैले विराम ब्रेक भन्दा पनि लेन परिवर्तन थियो, र सबैलाई सुस्त हुन आग्रह गर्ने निबन्धले उनीहरूले गरेनन् भनेर प्रमाणित गर्ने एउटा चार्ट सहित ढुवानी भयो। स्लाइड-डेक बेन्चमार्कहरूमा, जुन अपराजित छन्, एस्ट्राले ARC-AGI-3 मा ९९.९ प्रतिशत र ExploitBench मा पूर्ण १०० अंक प्राप्त गर्दछ, र OpenAI ले यसलाई विश्वको सबैभन्दा राम्रो एलाइनमेन्ट भएको मोडेल भन्छ। त्यही पोस्टले एस्ट्राको तर्क सोल्को भन्दा निगरानी गर्न कठिन छ भनेर स्वीकार गर्दछ, जुन समस्या मुख्य वैज्ञानिकले झन् खराब हुँदैछ भन्नुहुन्छ, त्यसैले सबैभन्दा राम्रो एलाइनमेन्ट भएको मोडेल पनि जाँच गर्न सबैभन्दा कठिन छ।

4:32 र OpenAI ले नलेखेको एउटै सूचकांक, Artificial Analysis मा, एस्ट्राले क्लाउड फेबल ५.१ का लागि ६५.७ को तुलनामा ६१.२ अंक प्राप्त गर्दछ, जुन OpenAI ले आफ्नै लन्च तालिकामा छाप्यो, जुन साहसी छ। मूल्य प्रति मिलियन टोकन भित्र दस डलर, बाहिर पचास हो, र सप्ताहन्तको डेमोमा एस्ट्राले मानिसहरूका इन्टर्नहरू कोर्नका लागि MS Paint खोल्छ, त्यसैले एजेन्टिक भविष्य यहाँ छ, र यसले क्यारिकेचरहरू गरिरहेको छ। त्यो विदेशी दिमागका चार हजार शब्दहरू थिए; यदि तपाईं मलाई यो भन्न सुन्नुको सट्टा पढ्न चाहनुहुन्छ भने, diff हरेक बिहान तपाईंको इनबक्समा आउँछ — daily diff dot

5:01 dev मा निःशुल्क, लिंक तल। त्यसैले, आजको फैसला: NEEDS REVIEW। निबन्ध जोखिमहरूको बारेमा सही छ; कम्प्युट चार्टले OpenAI मा कसैले पनि यसमा अझै काम गरिरहेको छैन भन्छ। त्यो आजको diff हो। म Axrisi बाट Niko हुँ। जिम्मेवारीपूर्वक मर्ज गर्नुहोस्।

स्रोतहरू

1. An Alien Mindopenai.com
2. Research acceleration: the view inside OpenAIopenai.com
3. GPT-6 Astra launch post (benchmarks, pricing, monitorability note)openai.com
4. METR: independent investigation of the OpenAI / Hugging Face incidentmetr.org
5. Hugging Face technical timelinehuggingface.co
6. Artificial Analysis on GPT-6 Astraartificialanalysis.ai
7. CNBCwww.cnbc.com
8. HN: An Alien Mindnews.ycombinator.com
9. HN: Nitter and XCancel resume servicenews.ycombinator.com
10. Nitter "Nitter lives" commitgithub.com
11. Asahi Linux on M3asahilinux.org