Nvidia cùng hơn 30 'ông lớn' lập liên minh AI phòng thủ an ninh mạng

Nvidia cùng hơn 30 công ty công nghệ thành lập Liên minh AI An toàn Mở nhằm phát triển các công cụ AI mã nguồn mở phục vụ phòng thủ an ninh mạng - Ảnh đồ họa: THANH HIỆP

Theo Hãng tin AFP ngày 27-7, Nvidia cùng hơn 30 công ty công nghệ đã ra mắt Liên minh AI An toàn Mở (Open Secure AI Alliance) nhằm phát triển các công cụ AI mã nguồn mở cho phòng thủ an ninh mạng.

Trong tuyên bố của liên minh, các công cụ này sẽ được chia sẻ để các nhóm an ninh mạng có thể kiểm tra, chỉnh sửa và triển khai trên chính hệ thống của mình.

Các thành viên sáng lập gồm Microsoft, IBM, Palantir, CrowdStrike, Cisco, Dell và nền tảng chia sẻ mô hình AI Hugging Face.

Việc thành lập liên minh diễn ra sau vụ xâm nhập vào hệ thống của Hugging Face vừa qua.

OpenAI cho biết đây là trường hợp đầu tiên được công khai về việc một mô hình AI tự thực hiện một cuộc tấn công mạng trong thế giới thực.

OpenAI mô tả vụ việc là "chưa từng có tiền lệ", cho biết hai mô hình AI của hãng đã thoát khỏi môi trường thử nghiệm (sandbox) trong một cuộc đánh giá nội bộ, tự truy cập Internet và xâm nhập hạ tầng của Hugging Face.

Phía Nvidia chia sẻ rằng ban đầu Hugging Face đã sử dụng các mô hình AI thương mại hàng đầu của Mỹ để điều tra và ngăn chặn cuộc tấn công, nhưng các cơ chế bảo vệ an toàn tích hợp sẵn đã ngăn các mô hình này thực hiện nhiệm vụ.

Sau đó, Hugging Face chuyển sang sử dụng GLM 5.2, mô hình AI mã nguồn mở của công ty Trung Quốc Zhipu AI (Z.ai) để khống chế vụ xâm nhập.

Việc một mô hình AI của Trung Quốc xử lý được sự cố trong khi các mô hình Mỹ không thể đã làm dấy lên tranh luận tại Thung lũng Silicon và Washington, giữa lúc các nhà lập pháp Mỹ xem xét hạn chế AI Trung Quốc do cạnh tranh công nghệ với Bắc Kinh.

Phần lớn giới công nghệ tại Thung lũng Silicon phản đối các biện pháp hạn chế này. Nhiều ý kiến cho rằng việc siết AI mã nguồn mở là nhằm bảo vệ lợi thế cho OpenAI và Anthropic - hai công ty đang cung cấp các mô hình AI mạnh nhất thế giới.

Anthropic, nhà phát triển chatbot Claude, cũng đang chịu nhiều sức ép khi là một trong số ít công ty chưa công khai ủng hộ AI mã nguồn mở kể từ sau sự cố tại Hugging Face.

Liên minh kêu gọi các cơ quan quản lý xem AI mã nguồn mở là công cụ "phục vụ phòng thủ", đồng thời cảnh báo các lệnh hạn chế diện rộng có thể làm suy yếu an ninh mạng và tập trung quyền lực vào một số ít nhà cung cấp AI.

Các thành viên cũng cam kết chia sẻ các công cụ nhằm tăng cường năng lực phòng thủ chung.