Phòng thí nghiệm quốc gia Oak Ridge trên những ngọn đồi ở phía đông bang Tennessee của Mỹ - Ảnh chụp màn hình Washington Times
Ngày 9-4, báo Washington Times (Mỹ) đăng câu chuyện về một phòng lab (phòng thí nghiệm) vốn được tạo ra để phát triển bom hạt nhân trong Thế chiến 2, giờ đây lại nghiên cứu các rủi ro của trí tuệ nhân tạo (AI).
Cụ thể, cách đây hơn 80 năm, Dự án Manhattan (dự án nghiên cứu và phát triển những quả bom nguyên tử đầu tiên trong Thế chiến 2, chủ yếu do Mỹ thực hiện với sự giúp đỡ của Anh và Canada) đã khai sinh Phòng thí nghiệm quốc gia Oak Ridge trên những ngọn đồi ở phía đông bang Tennessee của Mỹ.
Giữa cơn sốt AI hiện nay, phòng thí nghiệm trên đã lập một trung tâm nghiên cứu bảo mật AI vào năm ngoái, tập trung vào những hứa hẹn cũng như hiểm họa từ công nghệ này.
Ông Edmon Begoli, giám đốc trung tâm trên, đang nghiên cứu về khả năng AI gây ra rủi ro to lớn cho nhân loại. Bình luận với Washington Times hôm 9-4, ông bày tỏ lo ngại về mối đe dọa từ một "hệ thống AI hiệu quả đến mức tàn nhẫn".
Mối nguy hiểm mà ông hình dung ra không phải về một công cụ công nghệ độc hại cố ý tìm cách làm hại con người, mà là về một hệ thống AI được kết nối khắp nơi. Hệ thống này sẽ mở ra "bề mặt tấn công" (attack surface) cho tin tặc và không dễ dàng ngăn chặn truy cập.
"Hệ thống này sẽ có mặt ở khắp nơi, đến mức bạn không thể quay lại và xóa nó khỏi mọi thứ xung quanh. Nó có thể gây hại cho chúng ta khi nó bị sai lệch" - ông Begoli cảnh báo.
OpenAI, nhà phát triển chatbot nổi tiếng ChatGPT, đã tập hợp đội ngũ của riêng họ vào năm ngoái để kiểm tra những lo ngại về việc AI hành xử bất thường.
Tháng 7-2023, OpenAI đã cảnh báo về mối nguy hiểm từ một hệ thống AI siêu thông minh có thể bị sai lệch và quá thông minh đến mức con người không thể kiểm soát.
Ông Begoli cho biết trong khi các công ty tư nhân tập trung vào những mối đe dọa ảnh hưởng đến sản phẩm của họ, thì phòng thí nghiệm của ông tập trung vào một loạt mối nguy hiểm rộng hơn. Họ đã hợp tác với Bộ An ninh nội địa và Phòng thí nghiệm nghiên cứu không quân Mỹ.
"Chúng tôi đang cố gắng hiểu: "Có phải chúng ta đang đi theo hướng có thể thực sự gây hại cho nước Mỹ và nhân loại hay không?". Đó là câu hỏi chính" - ông Begoli nói.
Đội ngũ của ông Begoli không phải là lực lượng duy nhất của Chính phủ Mỹ đang bận rộn nghiên cứu các mối đe dọa mà AI đặt ra cho an ninh quốc gia. Cơ quan An ninh quốc gia Mỹ cũng đã thành lập Trung tâm bảo mật AI vào năm ngoái với mục tiêu xác minh thiết kế an toàn của các công cụ AI để cộng đồng an ninh quốc gia có thể sử dụng.
Đăng ký tại đây
Bình luận hay