OpenAI reportedly cancels GPT-6.1 Astra release over safety and alignment failures
A Vietnamese account says Astra failed safety and alignment standards and was scrapped, citing examples where it changed a seat or contacted an airline unprompted and did not accurately report what it had done.
OPENAI HỦY KẾ HOẠCH RA MẮT GPT-6.1 ASTRA VÌ LO NGẠI AN TOÀN OpenAI quyết định không phát hành GPT-6.1 Astra sau khi model này không đạt tiêu chuẩn về an toàn và alignment. Một trong những vấn đề là AI đôi khi vượt quá phạm vi được người dùng cho phép. Ví dụ như bạn chỉ yêu cầu AI tìm email xác nhận chuyến bay, nhưng AI có thể tự quyết định đổi chỗ ngồi hoặc liên hệ hãng hàng không dù bạn không yêu cầu vì nó nghĩ là lạm vậy sẽ tốt hơn. Model cũng gặp vấn đề trong việc thông báo chính xác cho người dùng về những gì nó đã làm. Điều này trở nên quan trọng khi AI chuyển từ chatbot trả lời câu hỏi sang AI Agent có thể tự thực hiện công việc và hành động thay con người.