Anthropic đề xuất tạm dừng phát triển AI do lo ngại mất kiểm soát

Công ty trí tuệ nhân tạo Anthropic của Mỹ ngày 4/6 đã kêu gọi tạm dừng việc phát triển các hệ thống trí tuệ nhân tạo (AI) tiên tiến nhất trên toàn cầu, cảnh báo rằng các mô hình AI thế hệ mới đang bắt đầu xuất hiện dấu hiệu có thể vượt khỏi tầm kiểm soát của con người.

Công ty trí tuệ nhân tạo Anthropic đề xuất tạm dừng phát triển toàn cầu với AI do lo ngại mất kiểm soát. Ảnh: AFP.

Trong một báo cáo công bố tại New York, công ty có trụ sở tại San Francisco - đơn vị phát triển dòng mô hình Claude cho rằng việc làm chậm tiến trình phát triển AI tiên tiến ở quy mô toàn cầu “có thể là điều tốt cho thế giới”. Tuy nhiên, Anthropic cũng cảnh báo rằng nếu chỉ một công ty đơn phương dừng lại, các đối thủ sẽ nhanh chóng vượt lên trong cuộc đua công nghệ.

Theo Anthropic, một “lệnh tạm dừng thực sự” chỉ có thể đạt được nếu nhiều công ty AI lớn ở nhiều quốc gia, đặc biệt là Mỹ và Trung Quốc, cùng đồng thuận dừng phát triển đồng thời, dưới một cơ chế giám sát có thể kiểm chứng được.

Đề xuất này được đưa ra trong bối cảnh cuộc tranh luận về an toàn AI ngày càng gia tăng. Một số chuyên gia và quan chức tại Nhà Trắng cho rằng các cảnh báo của Anthropic về kịch bản xấu nhất có thể bị phóng đại, đồng thời lo ngại rằng việc kêu gọi “tạm dừng” có thể trở thành công cụ làm chậm đối thủ cạnh tranh.

Tuy vậy, Nhà Trắng cũng thừa nhận sức mạnh của các mô hình AI tiên tiến mà Anthropic đang phát triển, trong đó có một số hệ thống chưa được công bố rộng rãi do liên quan đến năng lực an ninh mạng.

Trong khi đó, đề xuất của Anthropic được đánh giá sẽ gặp nhiều trở ngại tại Washington và Thung lũng Silicon, nơi nhiều quan chức và lãnh đạo công nghệ cho rằng việc làm chậm phát triển AI có thể tạo lợi thế chiến lược cho Trung Quốc trong cuộc cạnh tranh công nghệ toàn cầu.

Tổng thống Mỹ Donald Trump ký sắc lệnh yêu cầu xem xét sơ bộ các mô hình AI mạnh nhất trước khi được phát hành. Ảnh: CNBC.

Tổng thống Mỹ Donald Trump gần đây cho biết ông đã thảo luận với Trung Quốc về khả năng hợp tác trong lĩnh vực an toàn AI, đồng thời ký sắc lệnh yêu cầu xem xét sơ bộ các mô hình AI mạnh nhất trước khi được phát hành.

Anthropic so sánh thách thức quản lý AI với các hiệp ước kiểm soát vũ khí hạt nhân, nhưng cho rằng việc giám sát AI còn khó khăn hơn do quá trình huấn luyện có thể diễn ra bí mật và khó phát hiện. Công ty cũng cho biết sẽ phối hợp với các chính phủ, nhà khoa học và doanh nghiệp để xây dựng cơ chế quản lý phù hợp trong thời gian tới.

Ngọc Liên