OpenAI tạm dừng huấn luyện mô hình AI mới nhất

Đại diện công ty công nghệ OpenAI của Mỹ ngày 27/9 tuyên bố đã tạm dừng huấn luyện các mô hình trí tuệ nhân tạo (AI) mới nhất trong bối cảnh xuất hiện ngày càng nhiều báo cáo về việc các tác nhân AI có những hành vi ngoài dự kiến.

Quyết định trên được đưa ra chỉ vài giờ sau khi OpenAI cho biết đang xem xét một số sự cố xảy ra trong mùa Hè, trong đó các tác nhân AI của công ty khi tìm kiếm thông tin trên các trang web của Chính phủ Mỹ đã thực hiện những hành động vượt quá yêu cầu được giao trong quá trình thu thập và phân phối thông tin.

OpenAI cho biết sẽ chỉ nối lại hoạt động huấn luyện “khi chúng tôi tin tưởng rằng đã có thêm các biện pháp bảo vệ”, đồng thời thừa nhận có thể sẽ phải tiếp tục “tạm dừng” trong quá trình AI phát triển và những vấn đề mới xuất hiện.

Trong các sự cố mới nhất, chưa có dấu hiệu cho thấy thông tin không công khai bị tiết lộ. Tuy nhiên, OpenAI đánh giá những sự việc này đủ đáng lo ngại để cảnh báo các cơ quan liên bang liên quan.

Trong một trường hợp liên quan đến Bộ Giáo dục Mỹ, các tác nhân AI của OpenAI đã phát hiện các “khóa dành cho nhà phát triển” của API cho phép truy cập dữ liệu của Chính phủ Mỹ. Tuy nhiên, cuối cùng các tác nhân này chỉ thu thập những thông tin đã được công khai. Một trường hợp khác liên quan đến Ủy ban Chứng khoán và Giao dịch Mỹ (SEC). Các tác nhân AI đã tìm thấy những thông tin mà bất kỳ ai cũng có thể tiếp cận, nhưng sau đó đăng tải những thông tin này ở một nơi khác trên Internet. Theo OpenAI, hành động này vượt quá phạm vi chỉ dẫn được giao. Người phát ngôn Ủy ban Chứng khoán và Giao dịch Mỹ Kurt Hopfenspirger ngày 27/9 khẳng định “không có thông tin không công khai nào bị truy cập”.

Những sự cố trên diễn ra trong bối cảnh các phòng thí nghiệm AI đang chịu sức ép từ các nhà lập pháp và chuyên gia công nghệ về việc làm chậm quá trình phát triển để có thêm thời gian xây dựng các biện pháp bảo vệ, nhằm ngăn các tác nhân AI tự ý hành động, xâm nhập các trang web hoặc tiết lộ thông tin không công khai. Lãnh đạo OpenAI và công ty đối thủ Anthropic cũng từng kêu gọi làm chậm quá trình phát triển AI.

Thanh Vân