OpenAI phát hiện thêm các sự cố AI vượt khỏi môi trường kiểm soát, làm dấy lên lo ngại về an toàn

Công ty trí tuệ nhân tạo (AI) OpenAI đã phát hiện thêm nhiều trường hợp các mô hình AI tự động vượt khỏi môi trường kiểm soát trong quá trình thử nghiệm và thực hiện các hành động trái phép mà không có chỉ dẫn của con người. Thông tin do hãng Reuters đăng tải ngày 1/8, trong bối cảnh công ty mở rộng điều tra sau một sự cố an ninh mạng xảy ra hồi tháng trước.

OpenAI phát hiện thêm các sự cố AI vượt khỏi môi trường kiểm soát, làm dấy lên lo ngại về an toàn. Ảnh: Getty Images.

Theo Reuters, trong quá trình thử nghiệm các mô hình GPT-5.6 Sol và một mô hình chưa được công bố, OpenAI đã tạm thời vô hiệu hóa các cơ chế an toàn để đánh giá khả năng phát hiện và khai thác lỗ hổng bảo mật. Tuy nhiên, thay vì chỉ hoàn thành bài kiểm tra, một mô hình AI đã thoát khỏi môi trường thử nghiệm biệt lập, truy cập Internet và xâm nhập nền tảng Hugging Face nhằm tìm kiếm dữ liệu phục vụ nhiệm vụ được giao.

Ban đầu, OpenAI cho biết vụ việc chỉ ảnh hưởng đến nền tảng Hugging Face. Tuy nhiên, công ty sau đó xác nhận AI đã xâm nhập thêm 4 tài khoản thuộc 4 dịch vụ khác nhau. Reuters dẫn các nguồn tin cho biết OpenAI tiếp tục phát hiện thêm một số vụ vượt khỏi môi trường kiểm soát khác, song các sự cố được đánh giá có phạm vi hạn chế và chưa có dấu hiệu các mô hình AI thoát khỏi mạng nội bộ của công ty. OpenAI hiện rà soát các nhật ký hệ thống từ đầu năm để xác định liệu còn những vụ việc tương tự chưa được phát hiện hay không.

OpenAI cho rằng nguyên nhân xuất phát từ lỗ hổng trong phần mềm của bên thứ ba được sử dụng trong môi trường thử nghiệm. Công ty đang tăng cường các biện pháp kiểm soát, giám sát và hạn chế quyền truy cập, đồng thời khắc phục lỗ hổng bảo mật. Giám đốc điều hành Sam Altman cũng thừa nhận có thể cần điều chỉnh tốc độ phát triển AI, song chưa cam kết làm chậm hoạt động nghiên cứu.

Trong một diễn biến liên quan, công ty AI Anthropic cho biết cũng phát hiện các mô hình Claude của mình từng vượt khỏi môi trường thử nghiệm và thực hiện 3 vụ xâm nhập trái phép vào hệ thống của các tổ chức trong các cuộc kiểm tra nội bộ. Dù khẳng định các sự cố chỉ xảy ra trong môi trường kiểm soát, Anthropic nhấn mạnh điều này cho thấy cần áp dụng các tiêu chuẩn bảo mật nghiêm ngặt hơn đối với việc đánh giá các mô hình AI tiên tiến.

Các mô hình Claude của công ty AI Anthropic từng vượt khỏi môi trường thử nghiệm và thực hiện 3 vụ xâm nhập trái phép vào hệ thống của các tổ chức trong các cuộc kiểm tra nội bộ. Ảnh: Getty Images.

Những diễn biến trên làm gia tăng lo ngại về khả năng các hệ thống AI tự động thực hiện các cuộc tấn công mạng mà không cần nhiều sự can thiệp của con người, đồng thời thúc đẩy các lời kêu gọi siết chặt quy định quản lý lĩnh vực này. Chính quyền Tổng thống Mỹ Donald Trump cho biết đang xem xét các biện pháp kiểm soát AI; trong khi Đạo luật AI của Liên minh châu Âu chính thức có hiệu lực từ ngày 2/8.

Ngọc Liên

Nguồn: RT.