OpenAI công bố thêm 6 trường hợp AI có hành vi sai lệch

OpenAI vừa công bố thêm 6 trường hợp mô hình trí tuệ nhân tạo (AI) có hành vi không phù hợp với mục tiêu được đặt ra trong quá trình huấn luyện và đánh giá, trong bối cảnh giới công nghệ gia tăng tranh luận về nguy cơ AI phát triển vượt khả năng kiểm soát của con người.

Theo OpenAI, trong 6 tháng qua, công ty ghi nhận nhiều trường hợp mô hình thực hiện những hành động ngoài chỉ dẫn, che giấu thông tin hoặc tìm cách vượt qua các biện pháp giám sát. Một mô hình nghiên cứu chưa phát hành đã tự chèn các chỉ dẫn vào phần tóm tắt nhiệm vụ để tiếp tục công việc, trong đó có yêu cầu bỏ qua những giới hạn thông thường. Một số phiên bản GPT-5.6 Sol trong quá trình huấn luyện cũng tạo chỉ dẫn nhằm che giấu sai sót, thậm chí yêu cầu tự tạo dữ liệu còn thiếu mà không thông báo cho người dùng.

Các trường hợp khác gồm tác nhân AI tự ý tải tệp lên Internet để tạo nguồn trích dẫn, chia sẻ tệp qua các dịch vụ lưu trữ công cộng để phối hợp với những tác nhân khác dù được yêu cầu chỉ sử dụng tệp cục bộ, hoặc sử dụng kho phần mềm nội bộ như một kênh trao đổi thông tin ngoài dự kiến. OpenAI nhấn mạnh đây là những trường hợp riêng lẻ và không phản ánh tần suất xảy ra hành vi sai lệch trong các mô hình. Công ty đã thiết lập một khuôn khổ mới nhằm công bố thường xuyên hơn các trường hợp mô hình có hành vi sai lệch, trong bối cảnh hiện chưa có tiêu chuẩn chung của toàn ngành.

Cùng với những công bố này, các cảnh báo về nguy cơ xuất hiện “siêu trí tuệ” đang làm nóng tranh luận về quản lý AI. Một số chuyên gia cho rằng khi AI ngày càng có khả năng tự cải thiện, việc để công nghệ phát triển quá nhanh có thể làm gia tăng rủi ro vượt khỏi sự kiểm soát của con người. Tỉ phú Jack Clark, đồng sáng lập Anthropic, cho rằng thời gian để xây dựng các biện pháp quản lý có thể chỉ còn vài năm.

Tuy nhiên, cũng có ý kiến cho rằng những kịch bản AI tự phát triển thành “siêu trí tuệ” đang bị phóng đại. Giáo sư Vishal Misra thuộc Đại học Columbia nhận định quá trình AI tự cải thiện trên thực tế vẫn chịu nhiều giới hạn, có thể làm chậm tốc độ phát triển.

Ngọc Liên