Dùng AI không kiểm chứng, một báo lớn ở Chicago giới thiệu cả những cuốn sách không tồn tại

Nội dung từ AI 'lừa' cả tòa soạn

Ngày 18-5, tờ Chicago Sun-Times (hay Sun-Times) thừa nhận đã vô tình đăng một “danh sách sách mùa hè” gồm nhiều tựa sách hoàn toàn do trí tuệ nhân tạo (AI) bịa ra, không hề tồn tại, trong một ấn phẩm báo in của mình.

Sự cố này làm dấy lên làn sóng chỉ trích về quy trình biên tập và kiểm chứng nội dung của Sun-Times, nhất là khi tòa soạn đang chịu áp lực cắt giảm nhân sự.

Theo báo cáo ngày 20-5 của trang kiểm chứng thông tin Snopes (Mỹ), danh sách sách nói trên xuất hiện trong chuyên mục mùa hè có tên Heat Index, do Công ty King Features phân phối.

Đơn vị này thuộc sở hữu của Tập đoàn truyền thông Hearst - chủ sở hữu nhiều tạp chí nổi tiếng như Cosmopolitan và Esquire.

“Danh sách đó được sản xuất từ bên ngoài, đội ngũ sản xuất của tòa soạn không tham gia cũng không hề hay biết”, công đoàn đại diện nhân viên tờ Sun-Times khẳng định trên nền tảng X ngày 21-5.

Trong thông cáo ngày 18-5, Sun-Times bày tỏ sự thất vọng sâu sắc khi phát hiện danh sách đã liệt kê các tựa sách không có thật.

Báo cáo của Snopes dẫn nguồn xác minh từ trang 404 Media cho biết người đứng sau danh sách gây tranh cãi là tác giả Marco Buscaglia.

"Tôi đã mắc sai lầm", ông Buscaglia viết trong thư trả lời Snopes, thừa nhận đã sử dụng AI và cho biết thường thì ông sẽ kiểm chứng kỹ càng thông tin, nhưng lần này lại bỏ qua.

Ông Buscaglia cũng cho biết mình có thể đã dùng các công cụ như ChatGPT hoặc Claude của Anthropic, thậm chí có lúc dùng Google Gemini, nhưng ông "không chắc chắn".

Lỗ hổng trong quy trình kiểm duyệt

Theo điều tra của trang 404 Media, chỉ có 5 tựa tiểu thuyết là có thật trong số 15 đầu sách được liệt kê, trong đó có một số tựa sách bị gán sai cho các tác giả nổi tiếng hoặc hoàn toàn không tồn tại.

Chẳng hạn một tác phẩm được bịa ra có tên Tidewater Dream được cho là của bà Isabel Allende, trong khi tên sách Migrations trùng với tiểu thuyết của tác giả Charlotte McConaghy, nhưng lại bị nêu nhầm là của tác giả Maggie O'Farrell.

Vụ việc gây bức xúc lớn trên các nền tảng như Reddit, X và Bluesky, đặc biệt khi xảy ra sau các đợt sa thải nhân sự trong tòa soạn Sun-Times.

Ngay sau vụ việc, tờ Sun-Times đã cam kết gỡ bỏ chuyên mục, hoàn tiền cho những người đã đăng ký số báo có nội dung sai lệch, đồng thời rà soát lại hợp tác với King Features.

Về phía King Features, công ty này cho biết đã chấm dứt hợp tác với ông Buscaglia do vi phạm chính sách cấm sử dụng AI để tạo nội dung.

Tuy nhiên họ không trả lời câu hỏi liệu danh sách các đầu sách có được kiểm duyệt trước khi phân phối hay không.

Theo Snopes, các công ty như OpenAI và Anthropic đều thừa nhận rằng việc AI tạo ra thông tin sai lệch nhưng trình bày một cách đầy thuyết phục là vấn đề hiện vẫn chưa thể khắc phục triệt để.

Ghibli, ChatGPT và linh hồn của tranh vẽ

TTCT - Van Gogh không còn có thể lên tiếng khi người ta tạo tranh theo phong cách của ông bằng vài dòng lệnh và một cú chạm điện thoại. Còn những họa sĩ đương thế thì sao?