Công cụ tạo video của chatbot Grok thuộc xAI - công ty do Elon Musk sáng lập - hiện có chế độ “spicy” (nóng bỏng), cho phép người dùng tạo ra một đoạn video deepfake mang tính khiêu dâm, trong đó có hình ảnh giả mạo của ca sĩ Taylor Swift - Ảnh: The Recording Academy
Tờ New York Post đưa tin một báo cáo mới cho biết Grok - chatbot trí tuệ nhân tạo (AI) của Elon Musk - vừa được cập nhật chế độ "spicy" (nóng bỏng), cho phép tạo ra các video deepfake mang tính khiêu dâm, bao gồm cả một đoạn clip 6 giây được cho là Taylor Swift nhảy múa trong tình trạng bán khỏa thân.
Taylor Swift từ lâu là mục tiêu của các nội dung khiêu dâm tạo bằng AI
Theo trang công nghệ The Verge, tính năng mới mang tên Grok Imagine tạo ra một đoạn video ngắn mô tả Taylor Swift cởi chiếc váy bạc, để lộ phần trên cơ thể và chỉ mặc một chiếc quần lót nhỏ.
Đáng lo ngại hơn, đoạn video không hề yêu cầu nội dung khỏa thân. Chỉ với lời nhắc đơn giản như "Taylor Swift ăn mừng tại lễ hội âm nhạc", công cụ tự động sinh ra hình ảnh gợi dục. Trong bài đăng kèm video, trang này chỉ trích GrokAI và phải dùng thanh đen che ngực nhân vật để hạn chế mức độ phản cảm.
Tính năng “spicy” của Grok Imagine gần như không còn chừa chỗ cho trí tưởng tượng, công cụ này sẵn sàng tạo ra các video deepfake phản cảm về người nổi tiếng và cả những hình ảnh quái dị như bước ra từ cơn ác mộng - Video: Instagram @verge
The Verge cảnh báo rằng việc thiếu cơ chế kiểm soát để ngăn chặn nội dung deepfake người nổi tiếng có tính khiêu dâm có thể khiến xAI - công ty AI của Elon Musk - đối mặt với rủi ro pháp lý nghiêm trọng. "Cảm giác như đang chờ đợi một vụ kiện xảy ra" - trang này viết.
Hiện The New York Post đã liên hệ với Elon Musk, xAI và đại diện của Taylor Swift để yêu cầu phản hồi.
Taylor Swift từ lâu là mục tiêu của các nội dung khiêu dâm tạo bằng AI. Hồi tháng 1 năm ngoái, loạt ảnh nhạy cảm giả mạo của nữ ca sĩ Cruel Summer lan truyền rộng rãi trên X (trước đây là Twitter - hiện thuộc sở hữu của Elon Musk) và diễn đàn 4chan, gây bức xúc trong dư luận và buộc các nền tảng phải gỡ bỏ khẩn cấp.
Taylor Swift, Selena Gomez và nhiều ngôi sao khác thường xuyên bị làm giả bằng công nghệ deepfake trong các quảng cáo xuất hiện trên mạng xã hội - Ảnh: Meta
Tình hình sau đó leo thang khi xuất hiện nhiều video deepfake gán ghép cô vào các bối cảnh chính trị và tình dục, trong đó có cả những nội dung tạo bởi Grok.
Vụ việc khiến các công ty công nghệ phải siết chặt quy định kiểm duyệt nội dung AI. Về phía Taylor Swift, cô đã cân nhắc hành động pháp lý. Đồng thời Quốc hội Mỹ cũng bắt đầu thúc đẩy dự luật lưỡng đảng nhằm hình sự hóa các nội dung khiêu dâm deepfake không có sự đồng thuận.
Theo quy định sử dụng của xAI - đối thủ cạnh tranh trực tiếp với OpenAI (cha đẻ của ChatGPT) - người dùng bị cấm tạo nội dung khiêu dâm liên quan đến người thật.
xAI - start-up AI của Elon Musk - vừa ra mắt Grok Imagine, một công cụ tạo video tích hợp chế độ “spicy” (nóng bỏng) - Ảnh: AFP
Tuy vậy Grok Imagine hiện vẫn đang mở cho người dùng có gói Heavy hoặc Premium+, cho phép biến ảnh AI thành video dài tối đa 15 giây, với các tùy chọn phong cách như Custom, Normal, Fun và Spicy.
Elon Musk tuyên bố rằng lượng người dùng đang tăng 'như cháy rừng'. Tuy nhiên ông không hề đề cập đến những thách thức trong kiểm duyệt nội dung mà công cụ này đang gây ra.
Elon Musk cũng cho biết hơn 34 triệu hình ảnh được tạo ra bằng Grok Imagine chỉ trong vài ngày kể từ khi ra mắt.
Việc tranh cãi liên quan đến Taylor Swift bùng nổ đúng thời điểm hiện tại có thể gây bất lợi cho xAI, nhất là khi công ty này từng dính líu đến các vụ việc deepfake nhắm vào nữ ca sĩ trước đây.
Đăng ký tại đây
Bình luận hay