Dùng AI để phát hiện các biểu tượng thù địch trên mạng

Ảnh: YOUTUBE

Dự án NEMESIS của Emily Crose sẽ tìm kiếm những biểu tượng, biểu trưng, hình ảnh thể hiện thái độ thù ghét, cả những emoji không dễ nhận ra ý nghĩa đằng sau như mặt trời mọc, ếch Pepe… trên các mạng xã hội khác nhau như Twitter, Facebook và thậm chí là Reddit.

Mục đích của Crose là giúp các công ty truyền thông xã hội kiểm soát hiệu quả những hận thù như vậy bằng cách sử dụng AI. Cô cũng mong muốn để lộ những người đang tích cực và cố ý sử dụng và chia sẻ nội dung như vậy.

Crose cho biết: "Mục tiêu thực sự là để giáo dục con người trước khi mọi thứ chuyển thành một hệ tư tưởng gây nguy hiểm. Mặt khác, tôi cũng muốn các nền tảng mạng xã hội nên cân nhắc hơn trước khi triển khai các bộ emoji mới của mình. Bởi với họ, đôi khi đó chỉ là một cách thu hút người dùng, nhưng đằng sau nó lại chứa đựng nhiều hệ lụy sâu xa hơn."

Cơ chế hoạt động của NEMESIS khá đơn giản. AI sẽ thu nạp một số hình ảnh đã được xác định là gây thù hằn, xem qua các video để tìm kiếm các ký hiệu trực tuyến này và sẽ báo cáo chặn khi người dùng sử dụng những hình ảnh tương tự như vậy.

Tuy nhiên, Crose cũng thừa nhận NEMESIS vẫn còn nhiều thiếu sót khó khắc phục, đó là làm sao để AI hiểu bối cảnh và tâm lý của con người.

Crose giải thích: "NEMESIS nạp các biểu tượng và hình ảnh một cách thủ công và máy móc. Chẳng hạn như khi thấy "swastika", nó đã báo cáo chặn vì đây được biết đến rộng rãi là một biểu tượng Nazi. Thế nhưng, trong nguồn gốc của văn hóa Hindu, đây lại là biểu tượng tôn giáo của hàng triệu người."

Do đó, Crose vẫn đang khắc phục và tinh chế NEMESIS trước khi được triển khai. Twitter và Facebook có thể sử dụng AI này, nhưng nó vẫn có thể tồn tại độc lập với các nền tảng mạng xã hội.

Crose nói thêm: "Công nghệ này có thể áp dụng trên nhiều nền tảng khác nhau. Có như vậy, tình trạng kích động bạo lực và làm tổn thương người khác sẽ được ngăn chặn. Việc tranh luận trực tuyến cũng trở nên văn minh hơn."

Được biết, Twitter và Facebook đã phải đối mặt với rất nhiều phản ứng tiêu cực sau khi bị phát hiện cho phép các tài khoản troll tồn tại và can thiệp vào các cuộc tranh cử. Các mạng xã hội này cũng đã đồng ý thực hiện các chính sách của mình chặt chẽ hơn để hoạt động tốt hơn trong năm nay.