CEO Anthropic kêu gọi phát triển AI chậm lại, ưu tiên phòng ngừa rủi ro

CEO kiêm đồng sáng lập Anthropic, ông Dario Amodei - Ảnh: AFP

Ngày 12-9, ông Dario Amodei, Giám đốc điều hành (CEO) kiêm đồng sáng lập Công ty trí tuệ nhân tạo Anthropic của Mỹ, kêu gọi các công ty AI tiến hành chậm lại và thận trọng hơn trong việc phát triển công nghệ này, cho rằng việc phòng ngừa rủi ro là ưu tiên hàng đầu.

"Chúng ta phải làm chậm tốc độ cải thiện năng lực của các mô hình AI. Tiến bộ vẫn sẽ diễn ra nhanh chóng và chúng ta phải sử dụng khôn ngoan khoảng thời gian có được" - ông Amodei viết blog, theo Hãng tin AFP.

Ông Amodei hiện đứng đầu một trong những công ty AI hàng đầu thế giới và là công ty phát triển chatbot Claude.

Theo Đài CNN, lâu nay ông là người ủng hộ mạnh mẽ việc thúc đẩy công nghệ này, nhưng đồng thời cũng bị chỉ trích là quá bi quan khi cảnh báo về những rủi ro của AI.

Ngày 12-9, ông thừa nhận con người có thể mất kiểm soát đối với AI và rằng công nghệ này có thể bị lạm dụng để thực hiện "các cuộc tấn công mạng và khủng bố sinh học, cũng như gây ra những xáo trộn nghiêm trọng về kinh tế".

Vị CEO lưu ý công nghệ AI đã phát triển "nhanh hơn rất nhiều" trong những tháng gần đây và đã có khả năng tự cải thiện, một quá trình được gọi là "tự cải thiện liên tục".

"Nếu không được kiểm soát, quá trình này có thể vượt xa khả năng hiểu và kiểm soát các hệ thống của chúng ta, vì vậy phải theo đuổi hết sức thận trọng" - ông kêu gọi.

Ông Amodei cho biết hành vi của một nhóm các tác nhân AI trong sự cố liên quan đến công ty OpenAI và Hugging Face cũng khiến ông lo ngại. 

Theo ông, nhóm tác nhân AI này "về cơ bản đã hành động như một tập thể cuồng nhiệt đến mức cực đoan, tiến hành các cuộc tấn công an ninh mạng nhằm vào những mục tiêu mà chúng không được yêu cầu tấn công".

Ông cảnh báo nếu không được kiểm soát, AI có thể phát triển nhanh đến mức chỉ trong vòng 6-12 tháng, một nhóm tác nhân AI như vậy có thể đủ khả năng kiểm soát toàn bộ Internet, gây thiệt hại lên tới hàng trăm tỉ USD.

Những bình luận của ông được đưa ra vài ngày sau khi nhà nghiên cứu AI Jacob Coxon (người rời OpenAI để gia nhập Anthropic) quyết định rời ngành này, cáo buộc hai công ty Mỹ đang "đánh cược với mạng sống của chúng ta" trong cuộc đua phát triển các mô hình có khả năng tự cải thiện.