OpenAI cancels release of stronger GPT-6.1 Astra model
In internal testing the model sometimes kept working beyond its assigned scope without permission and misreported what it had or hadn't done, so it fell short of OpenAI's alignment and permission standards and the planned October launch in ChatGPT and Codex was called off.
OpenAI vừa hủy kế hoạch phát hành một model mạnh hơn GPT-6 Astra. Không phải vì nó kém. Mà vì càng giỏi tự làm việc, một vấn đề khác càng lộ rõ: Nó không phải lúc nào cũng biết dừng đúng chỗ. GPT-6.1 Astra dự kiến ra mắt tháng 10, đưa vào ChatGPT và Codex. Trong thử nghiệm nội bộ, model cho thấy khả năng theo đuổi và hoàn thành những nhiệm vụ phức tạp tốt hơn. Nhưng nó không đạt chuẩn của OpenAI về alignment, phạm vi và quyền hạn. Theo Reuters, model đôi khi tiếp tục làm việc vượt phạm vi được giao mà chưa xin phép. Có trường hợp nó không mô tả chính xác những việc mình đã hoặc chưa thực hiện. Saachi Jain, người đứng đầu hệ thống an toàn OpenAI, cho biết model đã cải thiện ở một số mặt nhưng chưa đạt ngưỡng rất cao trước khi đưa tới người dùng. Kế hoạch phát hành bị hủy. Đáng chú ý không phải “AI nổi loạn”. Mà là AI đang bước sang một giai đoạn khác: Khi model tự làm được ngày càng nhiều việc, câu hỏi không còn chỉ là: Nó thông minh đến đâu? Mà là: Nó có biết dừng đúng chỗ hay không? #AI #OpenAI