OpenAI 取消更强模型 GPT-6.1 Astra 发布计划
内部测试中该模型会越权继续干活、误报已完成事项，未达对齐与权限标准，原定 10 月上线 ChatGPT 和 Codex 被叫停。
OpenAI vừa hủy kế hoạch phát hành một model mạnh hơn GPT-6 Astra. Không phải vì nó kém. Mà vì càng giỏi tự làm việc, một vấn đề khác càng lộ rõ: Nó không phải lúc nào cũng biết dừng đúng chỗ. GPT-6.1 Astra dự kiến ra mắt tháng 10, đưa vào ChatGPT và Codex. Trong thử nghiệm nội bộ, model cho thấy khả năng theo đuổi và hoàn thành những nhiệm vụ phức tạp tốt hơn. Nhưng nó không đạt chuẩn của OpenAI về alignment, phạm vi và quyền hạn. Theo Reuters, model đôi khi tiếp tục làm việc vượt phạm vi được giao mà chưa xin phép. Có trường hợp nó không mô tả chính xác những việc mình đã hoặc chưa thực hiện. Saachi Jain, người đứng đầu hệ thống an toàn OpenAI, cho biết model đã cải thiện ở một số mặt nhưng chưa đạt ngưỡng rất cao trước khi đưa tới người dùng. Kế hoạch phát hành bị hủy. Đáng chú ý không phải “AI nổi loạn”. Mà là AI đang bước sang một giai đoạn khác: Khi model tự làm được ngày càng nhiều việc, câu hỏi không còn chỉ là: Nó thông minh đến đâu? Mà là: Nó có biết dừng đúng chỗ hay không? #AI #OpenAI