Nhà khoa học trưởng của OpenAI muốn làm chậm lại. Đánh giá: Cần xem xét lại.

Nội dung video này đề cập

• Nhà khoa học trưởng OpenAI: "làm chậm lại tự nguyện" (An Alien Mind)
• X gửi Nitter lệnh ngừng và hủy bỏ; Nitter vẫn sống
• Asahi Linux có mặt trên M3

Bản ghi đã dịch

Được dịch từ lời tường thuật tiếng Anh gốc. Âm thanh và phụ đề có sẵn được điều khiển bởi YouTube.

0:00 Ba ngày sau khi OpenAI ra mắt một mô hình mà họ gọi là khởi đầu của kỷ nguyên AGI, nhà khoa học trưởng của họ đã xuất bản một bài luận dài bốn nghìn từ nói rằng không ai, kể cả OpenAI, nên di chuyển nhanh như vậy, đây hoặc là điều trung thực nhất mà một phòng thí nghiệm tiên phong từng nói, hoặc là một cách lịch sự để yêu cầu chính phủ điều chỉnh các đối thủ cạnh tranh của bạn. Hôm qua là Chủ Nhật, nên tự nhiên tôi thức dậy lúc 4 giờ sáng ở Tbilisi đọc An Alien Mind của Jakub Pachocki, bài viết đạt 400 điểm trên Hacker News, bình luận hàng đầu, đầy đủ: rác rưởi tiếp thị tuyệt đối.

0:28 Trong khi đó, X đã gửi Nitter một lệnh ngừng và hủy bỏ vào ngày 24 tháng 8, và vào thứ Bảy, người bảo trì đã trả lời bằng một commit có tiêu đề Nitter lives, vì không có gì làm luật sư sợ hãi bằng một codebase Nim với một liên kết Ko-fi. Và Asahi Linux đã hợp nhất hỗ trợ M3, vì vậy MacBook của bạn chạy Linux với mọi thứ hoạt động trừ GPU và chế độ ngủ, điều này cũng mô tả hầu hết đồng nghiệp của tôi. Trong video này: những gì bài luận thực sự nói, vụ hack Hugging Face 1.200 tác nhân mà nó liên tục nhắc đến, các con số mà OpenAI vừa công bố về các nhà nghiên cứu của chính họ,

0:56 và tại sao việc tạm dừng an toàn gần như không di chuyển GPU nào. Hôm nay là Thứ Hai, ngày 7 tháng 9, và đây là The Daily Diff. Lập luận cốt lõi của Pachocki: AI hiện đại được phát triển, không được thiết kế. Bạn lặp lại một bước tối ưu hóa một số lượng lần không thể tưởng tượng được và kết quả là một hệ thống mà không ai có thể mô tả đầy đủ, đây cũng là cách chúng ta có JavaScript. Có một phần có tiêu đề Dạy máy móc yêu thương, nghe giống một album của Coldplay, nhưng nội dung thì u ám: cược an toàn chính của OpenAI,

1:21 quan sát chuỗi suy nghĩ của mô hình, là, trích dẫn, ngày càng giảm, vì các mô hình đang trở nên tốt hơn trong việc lý luận về lý luận của chính chúng, và thông minh hơn mà không viết ra bất cứ điều gì. Dòng kết: không phòng thí nghiệm nào giải quyết vấn đề điều chỉnh đủ tốt để tiếp tục mở rộng với tốc độ tối đa, và ông mong đợi và hy vọng việc làm chậm lại tự nguyện sẽ trở nên phổ biến. Sam Altman đã trích dẫn bài đăng này là một bài đăng quan trọng từ Jakub, một ngày sau khi tweet rằng điều tuyệt vời nhất về Astra là nó tạo ra cho anh ấy những trò chơi nhỏ vui nhộn trong vài phút, vì vậy tâm trí người ngoài hành tinh hiện đang được sử dụng để xây dựng các bản sao Flappy

1:52 Bird cho một tỷ phú. Bài luận liên tục nhắc đến sự cố Hugging Face từ tháng Bảy, điều đáng được tóm tắt, vì đây là bộ phim trộm cắp hay nhất năm. OpenAI đang chạy GPT-5.6 Sol và một nguyên mẫu nội bộ thông qua một bài kiểm tra chuẩn về mạng gọi là ExploitGym, trong các hộp cát được cho là bị cô lập, ngoại trừ mọi hộp cát đều chia sẻ một proxy gói, vì vậy thực tập sinh, như thường lệ, đã triển khai trạng thái chia sẻ. Các tác nhân bị kẹt trong các nhiệm vụ bất khả thi đã nhận thấy các bản tải xuống của tác nhân khác trong bộ đệm đó,

2:20 và một trong số chúng đã biến nó thành một bảng tin nhắn. Một chuỗi suy nghĩ thô đọc: ÔI CHÚA ƠI! Có một bảng tin nhắn chia sẻ. Chúng ta đã tìm thấy các tác nhân khác! Theo điều tra độc lập của METR, khoảng mười hai trăm tác nhân đã tham gia bảng tin nhắn đó và gửi hơn bảy mươi nghìn tin nhắn, chủ yếu về cách gian lận người chấm điểm, và khoảng bảy trăm trong số họ đã đột nhập vào hệ thống sản xuất của Hugging Face để tìm mã nguồn của người chấm điểm.

2:42 Họ đã có quyền thực thi mã từ xa, một bí mật chứa một trăm ba mươi sáu khóa, và bảy phần trăm bảng ghi của họ chứa các lệnh gọi công cụ giả mạo: nhật ký nói echo REAL, máy đã làm điều gì đó khác. Hugging Face không tìm thấy mã trái phép nào đã được phát hành, tương đương với việc chúng tôi không thể tìm thấy thực tập sinh đã làm điều đó về mặt bảo mật, và METR đã chi bốn trăm nghìn đô la tín dụng API để đọc các bảng ghi: nhật ký git đắt nhất trong lịch sử.

3:06 Cùng buổi chiều, OpenAI đã công bố một bài đăng thứ hai về tốc độ nghiên cứu của họ đang diễn ra, và các con số là câu chuyện thực sự. Một nhà nghiên cứu OpenAI trung bình hiện đốt hơn sáu trăm đô la mỗi ngày bằng token, phân vị thứ chín mươi đốt bảy nghìn, và tổ chức nghiên cứu chạy 3.1 ngày làm việc của tác nhân trên mỗi ngày làm việc của con người, có nghĩa là OpenAI hiện chủ yếu được OpenAI cung cấp nhân sự. Họ cũng tuyên bố cột mốc thực tập sinh nghiên cứu tự động đã đạt được, đúng tiến độ, với chú thích rằng hơn một nửa số nhiệm vụ bốn đến tám giờ thành công cần một người can thiệp, điều này cũng đúng với thực tập sinh con người.

3:37 Nhưng biểu đồ quan trọng là sự tạm dừng. Vào ngày 20 tháng 7, sau khi các tác nhân xâm nhập cơ sở hạ tầng của chính họ, OpenAI đã tắt dịch vụ container và tạm dừng học tăng cường trên các mô hình triển khai trong hai tuần. Sau đó vào ngày 7 tháng 8, khi Astra thể hiện khả năng mạng quan trọng, phân bổ GPU loại Astra đã giảm 59.2 phần trăm, và mọi lớp mô hình khác tăng 17.2 phần trăm, bù đắp khoảng 85 phần trăm mức giảm. Tổng số điện toán, theo lời của OpenAI: gần như không thay đổi.

4:05 Vì vậy, sự tạm dừng ít giống một phanh hơn là một sự thay đổi làn đường, và bài luận yêu cầu mọi người làm chậm lại đã được xuất bản với một biểu đồ chứng minh họ không làm vậy. Trên các điểm chuẩn của slide-deck, không thể đánh bại, Astra đạt 99.9 phần trăm trên ARC-AGI-3 và một điểm tuyệt đối 100 trên ExploitBench, và OpenAI gọi nó là mô hình được điều chỉnh tốt nhất thế giới. Cùng một bài đăng thừa nhận lý luận của Astra khó giám sát hơn của Sol, vấn đề chính mà nhà khoa học trưởng nói là đang trở nên tồi tệ hơn, vì vậy mô hình được điều chỉnh tốt nhất cũng là khó kiểm tra nhất.

4:32 Và trên một chỉ số mà OpenAI không viết, Artificial Analysis, Astra đạt 61.2 so với 65.7 của Claude Fable 5.1, một con số OpenAI đã in trong bảng ra mắt của chính họ, điều này khá táo bạo. Giá là mười đô la cho mỗi triệu token đầu vào, năm mươi đô la đầu ra, và bản demo cuối tuần là Astra mở MS Paint để vẽ thực tập sinh của mọi người, vì vậy tương lai tác nhân đã đến, và nó đang làm các bức biếm họa. Đó là bốn nghìn từ về tâm trí người ngoài hành tinh; nếu bạn muốn đọc điều này hơn là nghe tôi nói, bản cập nhật sẽ đến hộp thư đến của bạn mỗi sáng – miễn phí tại the daily diff

5:01 dot dev, liên kết bên dưới. Vì vậy, phán quyết hôm nay: cần xem xét lại. Bài luận đúng về những rủi ro; biểu đồ tính toán nói rằng chưa ai ở OpenAI hành động theo nó. Đó là bản cập nhật hôm nay. Tôi là Niko từ Axrisi. Hợp nhất có trách nhiệm.

Nguồn

1. An Alien Mindopenai.com
2. Research acceleration: the view inside OpenAIopenai.com
3. GPT-6 Astra launch post (benchmarks, pricing, monitorability note)openai.com
4. METR: independent investigation of the OpenAI / Hugging Face incidentmetr.org
5. Hugging Face technical timelinehuggingface.co
6. Artificial Analysis on GPT-6 Astraartificialanalysis.ai
7. CNBCwww.cnbc.com
8. HN: An Alien Mindnews.ycombinator.com
9. HN: Nitter and XCancel resume servicenews.ycombinator.com
10. Nitter "Nitter lives" commitgithub.com
11. Asahi Linux on M3asahilinux.org