Nữ ca sĩ Taylor Swift - Ảnh: Getty Images
Theo New York Times, vào ngày 26-1, một hình ảnh deepfake với tư thế khiêu dâm cắt ghép dựa trên khuôn mặt của Taylor Swift gần đây đã lan truyền chóng mặt trên các mạng xã hội.
Tuy các tài khoản mạng đăng tải hình ảnh này đã bị khóa, nhưng trước đó những tấm hình giả mạo này đã đạt tới con số 47 triệu lượt xem.
Kêu gọi ban hành luật sau vụ việc của Taylor Swift
Những hình ảnh giả mạo này không rõ nguồn đăng, nhưng chủ yếu được chia sẻ trên các mạng xã hội Telegram, X (trước đây là Twitter) và lan truyền sang Instagram, Reddit.
Trước sự lan truyền chóng mặt của những hình ảnh nói trên, nhiều người hâm mộ của nữ ca sĩ bày tỏ sự phẫn nộ vì các mạng xã hội đã không kiểm duyệt kỹ các hình ảnh nhạy cảm được đăng tải và chậm chạp trong việc ngăn chặn nó.
Họ còn cố gắng làm loãng việc tìm kiếm hình ảnh deepfake của nữ ca sĩ bằng cách thêm các từ khóa liên quan cùng với câu "Protect Taylor Swift" (Bảo vệ Taylor Swift).
Trước làn sóng phẫn nộ của người dùng, đại diện của X cho biết: "Việc đăng tải hình ảnh khỏa thân không có sự đồng thuận bị nghiêm cấm trên X và chúng tôi có chính sách liên quan để xử lý những nội dung đó".
Taylor Swift đang trong thời gian chuẩn bị cho The Eras Tour sắp tới ở Nhật Bản ngày 7-2.
Có thể thấy việc phát triển của công nghệ AI tuy tiện lợi nhưng cũng tạo nên không ít hệ lụy trong dòng chảy đen tối của Internet.
Việc cắt ghép tinh vi và độ chân thật cao của công nghệ này khiến người xem khó phân biệt thật giả, gây ảnh hưởng xấu đến danh tiếng của người có liên quan.
Hiện chín tiểu bang của Mỹ đang thực thi luật cấm tạo hoặc chia sẻ ảnh deepfake, bắt chước ngoại hình của ai đó bằng AI mà không có sự cho phép từ chính chủ.
Trong cuộc họp ngày 26-1, thư ký báo chí Nhà Trắng, bà Karine Jean-Pierre bày tỏ sự lo ngại trước vụ việc của Taylor Swift và cho biết đây là một trong những vấn đề về AI mà chính quyền đã ưu tiên.
"Thật đáng buồn vì điều này có tác động xấu đến phụ nữ và trẻ em gái. Chúng tôi cam kết sẽ có biện pháp và tiếp tục hành động để ngăn chặn những rủi ro về hình ảnh do AI tạo ra. Quốc hội cũng phải thực hiện hành động lập pháp chiến lược để chống lại những hành vi xấu này".
Bà Karine Jean-Pierre nói về vụ việc của Taylor Swift trong cuộc họp ngày 26-1
Đồng thời bà Karine Jean-Pierre nói quản lý của các trang mạng xã hội cần phải thắt chặt hơn các quy tắc liên quan để ngăn chặn những thông tin xấu, ảnh hưởng đến người thật.
Deepfake là từ ghép của từ deep learning và fake, dùng để chỉ những hình ảnh, âm thanh, video giả mạo được tạo ra dựa trên công nghệ AI. Công nghệ này sử dụng trí tuệ nhân tạo để nghiên cứu sâu về biểu cảm, gương mặt, giọng nói của một người để tạo ra những sao chép giống y như thật.
Từ những hình ảnh nhạy cảm được tạo ra bằng công nghệ deepfake của Taylor Swift đã tạo nên một làn sóng dư luận mạnh mẽ hơn trong việc kêu gọi cần có những quy định mạnh mẽ đối với việc tạo hình ảnh giả mạo bằng AI.
Đăng ký tại đây
Bình luận hay