Cảnh sát Hàn Quốc phát triển phần mềm có thể phát hiện công nghệ deepfake

Khi công nghệ AI tiếp tục phát triển, các chuyên gia cảnh báo về mức độ phức tạp và tốc độ sản xuất deepfake ngày càng tăng cao, vượt xa các quy trình xác minh truyền thống. Ảnh minh họa. Nguồn: sivsa.com

Deepfake là công nghệ sử dụng trí tuệ nhân tạo (AI) để tạo ra hình ảnh, âm thanh và video giả mạo, sai sự thật, để bắt chước giọng nói và gương mặt của người.

Công nghệ này thường được bọn tội phạm dùng vào mục đích xấu như lừa đảo hoặc để truyền bá thông tin sai lệch.

Theo NOI, đơn vị thuộc Cơ quan Cảnh sát Quốc gia Hàn Quốc, phần mềm có thể phân biệt video bị nghi ngờ là deepfake chỉ sau 5-10 phút. Ứng dụng cũng có thể đưa ra kết quả để sử dụng trong các cuộc điều tra.

Cảnh sát cho biết thêm phần mềm có độ chính xác lên đến 80% nhưng họ sẽ sử dụng dữ liệu để yêu cầu điều tra chứ không dùng làm bằng chứng trực tiếp. Để giảm thiểu khả năng sai sót, cảnh sát sẽ kiểm tra chéo với các chuyên gia AI, nhất là khi liên quan đến các hành vi phạm tội làm sai lệch thông tin bầu cử.

Khi công nghệ AI tiếp tục phát triển, các chuyên gia cảnh báo về mức độ phức tạp và tốc độ sản xuất deepfake ngày càng tăng cao, vượt xa các quy trình xác minh truyền thống.

Không chỉ Hàn Quốc, nhiều nước trên khắp thế giới đang ngày càng lo ngại về sự tinh vi của công nghệ deepfake và mục đích sử dụng bất hợp pháp, và đang nỗ lực ngăn chặn những tác động độc hại từ công nghệ này./.