Meta chật vật ngăn nội dung ấu dâm trên Instagram, Facebook

Theo báo Wall Street Journal (WSJ), Công ty Meta đã thành lập một "đội đặc nhiệm" về an toàn cho trẻ em trên mạng xã hội vào tháng 6-2023, sau khi các nhà nghiên cứu tại Đại học Stanford và Đại học Massachusetts Amherst (Mỹ) chỉ ra thuật toán của Instagram đang giúp kết nối các tài khoản "giúp tạo, mua và giao dịch các nội dung tình dục trẻ vị thành niên".

Nhưng hồi đầu tuần này, WSJ dẫn báo cáo của Trung tâm Bảo vệ trẻ em Canada cho thấy đến nay các thuật toán của Meta vẫn đề xuất các nội dung ấu dâm.

Một mạng lưới các tài khoản Instagram có tới 10 triệu người theo dõi đã phát trực tiếp (livestream) các nội dung lạm dụng tình dục trẻ em trong nhiều tháng, dù Meta đã được báo cáo về trường hợp này.

Điều tương tự cũng xảy ra trên Facebook - mạng xã hội với 3 tỉ người dùng hằng tháng.

WSJ nói khi họ báo cáo một nhóm cộng đồng có tên "Loạn luân" (Incest), nhưng Facebook đã phản hồi rằng nhóm đó "không đi ngược với tiêu chuẩn cộng đồng" của mạng xã hội này. Nhóm chỉ bị xóa sau khi WSJ báo cáo vụ việc tới bộ phận quan hệ công chúng của Meta.

Người phát ngôn của Meta khẳng định họ vẫn đang tích cực thực hiện các thay đổi được xác định bởi "đội đặc nhiệm" về an toàn cho trẻ em.

Với hơn 100 nhân viên, nhóm này đã ngăn chặn hàng ngàn thẻ hashtag (bắt đầu với ký hiệu #) được sử dụng bởi những kẻ ấu dâm, cũng như cải tiến công nghệ để xác định nội dung khỏa thân và hoạt động tình dục trong các video được phát sóng trực tiếp.

Facebook cũng vô hiệu hóa hàng ngàn tài khoản, ẩn 190.000 nhóm trong kết quả tìm kiếm và đầu tư vào các công cụ phần mềm nhằm giải quyết vấn đề hiệu quả hơn.

Hệ thống đề xuất nội dung cá nhân hóa và tập trung vào trải nghiệm người dùng đã giúp Meta trở thành công ty mạng xã hội lớn nhất thế giới. Dù vậy, họ đã phải "miễn cưỡng hạn chế đáng kể" hệ thống này.

Người phát ngôn của Meta khẳng định hệ thống của họ đã giúp kết nối hàng triệu người và các nhóm thú vị, tích cực với nhau, ví dụ như các nhóm hỗ trợ về ung thư hay tìm kiếm việc làm.

"Việc hạn chế hoặc loại bỏ hoàn toàn các tính năng kết nối người dùng với nội dung có thể chấp nhận được, không phải là cách tiếp cận hợp lý để ngăn chặn các đề xuất nội dung không phù hợp. Công ty Meta đầu tư vào sự an toàn để giữ cho nền tảng luôn lành mạnh", người này nói.

Meta bị kiện ở Mỹ vì hủy hoại giới trẻ

Hôm 24-10, 42 tổng chưởng lý ở Mỹ tuyên bố kiện Meta - công ty mẹ của Facebook, Instagram - với cáo buộc gây hại cho trẻ vị thành niên và góp phần gây ra cuộc khủng hoảng sức khỏe tâm thần ở nước này.