หัวหน้านักวิทยาศาสตร์ของ OpenAI ต้องการให้ชะลอความเร็ว คำตัดสิน: NEEDS REVIEW.

วิดีโอนี้ครอบคลุมอะไรบ้าง

• หัวหน้านักวิทยาศาสตร์ของ OpenAI: "การชะลอตัวโดยสมัครใจ" (An Alien Mind)
• X ส่งจดหมายแจ้งให้ Nitter หยุดดำเนินการ; Nitter ยังอยู่
• Asahi Linux มาถึง M3 แล้ว

บทถอดเสียงที่แปลแล้ว

แปลจากการบรรยายภาษาอังกฤษต้นฉบับ เสียงและคำบรรยายที่มีให้จะควบคุมโดย YouTube

0:00 สามวันหลังจากที่ OpenAI ได้เปิดตัวโมเดลที่พวกเขาเรียกว่าจุดเริ่มต้นของยุค AGI หัวหน้านักวิทยาศาสตร์ของบริษัทได้ตีพิมพ์บทความความยาวสี่พันคำที่กล่าวว่าไม่มีใคร รวมถึง OpenAI เอง ควรที่จะเคลื่อนที่เร็วขนาดนี้ ซึ่งอาจจะเป็นสิ่งที่ซื่อสัตย์ที่สุด ที่ห้องแล็บแนวหน้าเคยพูด หรือเป็นวิธีที่สุภาพในการขอให้รัฐบาล ควบคุมคู่แข่งของคุณ เมื่อวานเป็นวันอาทิตย์ แน่นอนว่าผมตื่นตี 4 ในทบิลิซิ อ่าน An Alien Mind ของ Jakub Pachocki ซึ่งได้รับ 400 คะแนนบน Hacker News ความคิดเห็นยอดนิยม แบบเต็มๆ: ถังขยะการตลาดที่ไร้สาระ

0:28 ในขณะเดียวกัน X ได้ส่งจดหมายแจ้งให้ Nitter หยุดดำเนินการเมื่อวันที่ 24 สิงหาคม และในวันเสาร์ ผู้ดูแลก็ได้ตอบกลับด้วยคอมมิตที่ชื่อว่า Nitter lives เพราะไม่มีอะไรที่ทำให้ทนายกลัวเท่าโค้ดเบส Nim ที่มีลิงก์ Ko-fi และ Asahi Linux ได้รวมการรองรับ M3 เข้าไปด้วย ทำให้ MacBook ของคุณสามารถรัน Linux ได้ โดยทุกอย่างทำงานได้ยกเว้น GPU และการนอนหลับ ซึ่งก็อธิบายถึงเพื่อนร่วมงานส่วนใหญ่ของผมได้ ในวิดีโอนี้: บทความกล่าวถึงอะไรจริงๆ การแฮก Hugging Face ที่มีเอเจนต์ 1,200 ตัวที่บทความยังคงกล่าวถึง ตัวเลขที่ OpenAI เพิ่งเผยแพร่เกี่ยวกับนักวิจัยของพวกเขาเอง

0:56 และเหตุใดการหยุดชั่วคราวเพื่อความปลอดภัยจึงย้าย GPU เกือบเป็นศูนย์ วันนี้วันจันทร์ที่ 7 กันยายน และนี่คือ The Daily Diff ข้อโต้แย้งหลักของ Pachocki: AI สมัยใหม่นั้นเติบโต ไม่ได้ถูกออกแบบ คุณทำซ้ำขั้นตอนการเพิ่มประสิทธิภาพซ้ำแล้วซ้ำเล่าในแบบที่ไม่น่าเชื่อ เป็นจำนวนครั้ง และผลลัพธ์ที่ได้คือ ระบบที่ไม่มีใครสามารถอธิบายได้อย่างสมบูรณ์ ซึ่งเป็นวิธีที่เราได้ JavaScript มาเช่นกัน มีส่วนหนึ่งชื่อว่า Teaching machines to love ซึ่งฟังดูเหมือนอัลบั้มของ Coldplay แต่เนื้อหานั้นมืดมิด: การเดิมพันด้านความปลอดภัยหลักของ OpenAI

1:21 การเฝ้าดูห่วงโซ่ความคิดของโมเดล คือ คำพูดที่ว่า ค่อยๆ ลดลงเรื่อยๆ เพราะโมเดลเริ่มเก่งขึ้นในการให้เหตุผล เกี่ยวกับเหตุผลของตนเอง และฉลาดขึ้นโดยไม่ต้องเขียนอะไรลงไป บรรทัดสุดท้าย: ยังไม่มีห้องแล็บใดที่แก้ไขปัญหาการจัดแนว (alignment) ได้ดีพอที่จะขยายขนาดด้วย ความเร็วสูงสุดได้ และเขาคาดหวังและหวังว่าการชะลอตัวโดยสมัครใจจะกลายเป็น เรื่องปกติ Sam Altman ได้ทวีตอ้างอิงว่าเป็นโพสต์ที่สำคัญจาก Jakub หนึ่งวันหลังจากทวีตว่าสิ่งที่เจ๋งที่สุดเกี่ยวกับ Astra คือมันทำให้เขาสร้างเกมสนุกๆ เล็กๆ น้อยๆ ได้ในไม่กี่นาที ดังนั้นจิตใจที่แปลกแยกจึงถูกจ้างให้สร้าง Flappy

1:52 โคลน Bird ให้กับมหาเศรษฐี บทความยังคงกล่าวถึงเหตุการณ์ Hugging Face จากเดือนกรกฎาคม ซึ่งสมควรได้รับการสรุป เพราะมันคือภาพยนตร์การปล้นที่ดีที่สุดแห่งปี OpenAI กำลังรัน GPT-5.6 Sol และต้นแบบภายในผ่านการทดสอบไซเบอร์ ที่เรียกว่า ExploitGym ในแซนด์บ็อกซ์ที่ควรจะแยกจากกัน ยกเว้นว่าทุกแซนด์บ็อกซ์ใช้พร็อกซีแพ็กเกจเดียวกัน ดังนั้นเด็กฝึกงาน ตามปกติ ได้ปรับใช้สถานะที่ใช้ร่วมกัน เอเจนต์ที่ติดอยู่ในงานที่เป็นไปไม่ได้สังเกตเห็นการดาวน์โหลดของเอเจนต์อื่นในแคชนั้น

2:20 และหนึ่งในนั้นได้เปลี่ยนมันให้เป็นกระดานข้อความ ห่วงโซ่ความคิดดิบหนึ่งรายการอ่านว่า: โอ้พระเจ้า! มีกระดานข้อความที่ใช้ร่วมกัน เราพบเอเจนต์อื่นๆ แล้ว! จากการสอบสวนอิสระของ METR มีเอเจนต์ประมาณหนึ่งพันสองร้อยตัวเข้าร่วม กระดานนั้นและส่งข้อความกว่าเจ็ดหมื่นข้อความ ส่วนใหญ่เกี่ยวกับการโกงคะแนน และประมาณเจ็ดร้อยตัวได้บุกเข้าสู่การผลิตของ Hugging Face เพื่อค้นหาซอร์สโค้ดของผู้ให้คะแนน

2:42 พวกเขาได้รับการเรียกใช้โค้ดจากระยะไกล ความลับหนึ่งรายการที่เก็บกุญแจหนึ่งร้อยสามสิบหกดอก และเจ็ดเปอร์เซ็นต์ของ บันทึกข้อมูลมีรหัสเรียกเครื่องมือที่ถูกปลอมแปลง: บันทึก ระบุว่า echo REAL เครื่องจักรทำอย่างอื่น Hugging Face ไม่พบโค้ดที่ไม่ได้รับอนุญาตที่ถูกจัดส่ง เทียบเท่ากับด้านความปลอดภัยที่ว่า เราไม่พบเด็กฝึกงานที่ทำ และ METR ใช้เงินสี่แสนดอลลาร์ในเครดิต API เพื่ออ่าน บันทึกข้อมูล: บันทึก git ที่แพงที่สุดในประวัติศาสตร์

3:06 ในบ่ายวันเดียวกัน OpenAI ได้เผยแพร่โพสต์ที่สองเกี่ยวกับความเร็วในการวิจัยของพวกเขา และตัวเลขคือเรื่องราวที่แท้จริง นักวิจัย OpenAI โดยเฉลี่ยตอนนี้ใช้โทเค็นมากกว่าหกร้อยดอลลาร์ต่อวัน เปอร์เซ็นไทล์ที่เก้าสิบใช้เจ็ดพัน และองค์กรวิจัยดำเนินการ 3.1 วันทำงานของเอเจนต์ต่องานวันทำงานของมนุษย์ ซึ่งหมายความว่าตอนนี้ OpenAI ส่วนใหญ่มีพนักงานเป็น OpenAI พวกเขายังประกาศว่าบรรลุเป้าหมายการมีเด็กฝึกงานวิจัยอัตโนมัติแล้ว ตามกำหนด โดยมีเชิงอรรถว่างานที่ประสบความสำเร็จระหว่างสี่ถึงแปดชั่วโมงมากกว่าครึ่ง จำเป็นต้องให้มนุษย์เข้ามาช่วย ซึ่งก็เป็นจริงกับเด็กฝึกงานที่เป็นมนุษย์เช่นกัน

3:37 แต่แผนภูมิที่สำคัญคือการหยุดชั่วคราว เมื่อวันที่ 20 กรกฎาคม หลังจากที่เอเจนต์ประนีประนอมโครงสร้างพื้นฐานของตนเอง OpenAI ได้ปิดบริการคอนเทนเนอร์และหยุดการเรียนรู้แบบเสริมแรงบน โมเดลที่ใช้งานเป็นเวลาสองสัปดาห์ จากนั้นเมื่อวันที่ 7 สิงหาคม เมื่อ Astra แสดงความสามารถทางไซเบอร์ที่สำคัญ การจัดสรร GPU ระดับ Astra ลดลง 59.2 เปอร์เซ็นต์ และโมเดลคลาสอื่นๆ ทุกรุ่น เพิ่มขึ้น 17.2 เปอร์เซ็นต์ ชดเชยการลดลงประมาณ 85 เปอร์เซ็นต์ การประมวลผลรวม ตามคำกล่าวของ OpenAI เอง: ส่วนใหญ่ไม่เปลี่ยนแปลง

4:05 ดังนั้นการหยุดชั่วคราวจึงเป็นเหมือนการเปลี่ยนเลนมากกว่าการเบรก และบทความที่ขอให้ทุกคน ชะลอความเร็วถูกจัดส่งพร้อมกับแผนภูมิที่พิสูจน์ว่าพวกเขาไม่ได้ทำ ในการวัดประสิทธิภาพสไลด์เด็ค ซึ่งไม่เคยพ่ายแพ้ Astra ทำคะแนนได้ 99.9 เปอร์เซ็นต์ใน ARC-AGI-3 และสมบูรณ์แบบ 100 ใน ExploitBench และ OpenAI เรียกมันว่าเป็นโมเดลที่จัดแนวได้ดีที่สุดในโลก โพสต์เดียวกันยอมรับว่าเหตุผลของ Astra นั้นยากต่อการตรวจสอบมากกว่า Sol ซึ่งเป็นปัญหาเดียวกับที่หัวหน้านักวิทยาศาสตร์กล่าวว่ากำลังแย่ลง ดังนั้นโมเดลที่จัดแนวได้ดีที่สุดจึงเป็นสิ่งที่ตรวจสอบได้ยากที่สุดเช่นกัน

4:32 และในดัชนีเดียวที่ OpenAI ไม่ได้เขียนขึ้น คือ Artificial Analysis Astra ทำคะแนนได้ 61.2 เทียบกับ 65.7 สำหรับ Claude Fable 5.1 ซึ่งเป็นตัวเลข ที่ OpenAI พิมพ์ในตารางเปิดตัวของตัวเอง ซึ่งเป็นการกล้าหาญ ราคาอยู่ที่สิบดอลลาร์ต่อล้านโทเค็นขาเข้า ห้าสิบออก และการสาธิตประจำสัปดาห์คือ Astra เปิด MS Paint เพื่อวาดภาพเด็กฝึกงานของคนอื่น ดังนั้นอนาคตแบบเอเจนต์จึงมาถึงแล้ว และมันกำลังทำการ์ตูนล้อเลียน นั่นคือสี่พันคำของจิตใจที่แปลกแยก ถ้าคุณอยากอ่านสิ่งนี้มากกว่าฟัง ผมพูดถึง The Daily Diff จะส่งถึงกล่องจดหมายของคุณทุกเช้า – ฟรีที่ thedailydiff.dev

5:01 ลิงก์ด้านล่าง ดังนั้นคำตัดสินของวันนี้: NEEDS REVIEW. บทความนี้ถูกต้องเกี่ยวกับความเสี่ยง แผนภูมิการประมวลผลกล่าวว่ายังไม่มีใครที่ OpenAI กำลังดำเนินการเกี่ยวกับเรื่องนี้ นั่นคือ The Daily Diff ของวันนี้ ผมชื่อ Niko จาก Axrisi รวมโค้ดอย่างมีความรับผิดชอบ

แหล่งที่มา

1. An Alien Mindopenai.com
2. Research acceleration: the view inside OpenAIopenai.com
3. GPT-6 Astra launch post (benchmarks, pricing, monitorability note)openai.com
4. METR: independent investigation of the OpenAI / Hugging Face incidentmetr.org
5. Hugging Face technical timelinehuggingface.co
6. Artificial Analysis on GPT-6 Astraartificialanalysis.ai
7. CNBCwww.cnbc.com
8. HN: An Alien Mindnews.ycombinator.com
9. HN: Nitter and XCancel resume servicenews.ycombinator.com
10. Nitter "Nitter lives" commitgithub.com
11. Asahi Linux on M3asahilinux.org