Lần đầu phát hiện tin tặc sử dụng AI tự động hóa tấn công mạng

Công ty trí tuệ nhân tạo (AI) Anthropic thông báo, đã phát hiện và ngăn chặn một chiến dịch tấn công mạng do tin tặc nước ngoài thực hiện, trong đó lần đầu tiên ghi nhận việc sử dụng AI để điều phối các hoạt động tấn công theo cách gần như tự động.

Tin tặc nước ngoài lần đầu sử dụng AI để tự động hóa tấn công mạng. Ảnh: Euronews

Cụ thể, tin tặc đã sử dụng hệ thống AI để lập kế hoạch, chỉ đạo và triển khai các hoạt động xâm nhập - một diễn biến mà các nhà nghiên cứu nhận định là “đáng lo ngại”, có nguy cơ mở rộng đáng kể quy mô và tốc độ của các chiến dịch tấn công mạng.

Anthropic, nhà sản xuất chatbot AI tạo sinh Claude cho biết, họ đã phát hiện hoạt động này vào tháng 9 vừa qua, sau đó đã ngăn chặn và thông báo cho khoảng 30 nạn nhân tiềm tàng, gồm nhân viên tại các công ty công nghệ, tổ chức tài chính, doanh nghiệp hóa chất và một số cơ quan chính phủ. Theo Anthropic, “chỉ một số ít trường hợp bị xâm nhập thành công”.

Công ty khẳng định sự việc cho thấy các mô hình AI, nếu không được giám sát chặt chẽ có thể bị các tác nhân độc hại khai thác cho mục đích tấn công mạng. Đơn vị này cho biết họ đã chia sẻ thông tin kỹ thuật với các cơ quan chức năng và các đối tác trong ngành để hỗ trợ tăng cường năng lực phòng vệ mạng.

Ngoài ra, Anthropic cũng cam kết tiếp tục cải thiện các biện pháp an ninh AI, bao gồm tăng cường phát hiện hành vi bất thường, giảm thiểu khả năng bị lạm dụng và xây dựng các công cụ giúp phát hiện xu hướng tấn công sớm hơn. Mặc dù những lo ngại về việc sử dụng AI để thúc đẩy các hoạt động mạng không phải là mới, nhưng điều đáng lo ngại là mức độ mà AI có thể tự động hóa một số tác vụ. Bởi các tác nhân AI - công cụ có thể tự động thực hiện hành động trên máy tính nếu rơi vào tay tin tặc sẽ làm tăng khả năng tiến hành tấn công mạng quy mô lớn.

Hồi đầu năm nay, Microsoft cũng cảnh báo rằng, các đối thủ của Mỹ, cùng tội phạm mạng và các dịch vụ tin tặc, đang tận dụng AI để tăng hiệu quả tấn công, tạo thư lừa đảo tinh vi hoặc mô phỏng giọng nói, hình ảnh quan chức cấp cao nhằm thực hiện các hoạt động gây nhiễu và xâm nhập hệ thống nhạy cảm.

Thu Uyên

Nguồn: Business Insider,The Guardian