Vì sao Instagram, Facebook vẫn để lọt livestream bắn giết hàng loạt

Hiện trường vụ việc xả súng tại vụ xả súng và livestream tại siêu thị TOPS ở Buffalo, bang New York, ngày 14/5. Ảnh: Reuters.

Sáng 11/4, một nhân viên ngân hàng 25 tuổi nổ súng tại nơi làm việc ở trung tâm thành phố Louisville, bang Kentucky (Mỹ) khiến 5 người chết. Tay súng, Connor Sturgeon, đã phát trực tiếp vụ việc trên Instagram. Đây không phải lần đầu tiên các mạng xã hội trở thành nơi chuyển phát thông điệp cho những kẻ bắn giết hàng loạt.

Các hệ thống rà quét tự động vẫn chưa thể xác định yếu tố bạo lực trong các video một cách chính xác, theo Sarah T. Roberts, nhà nghiên cứu về kiểm duyệt nội dung mạng xã hội tại Đại học California Los Angeles.

“Sự phức tạp của định dạng video, bao gồm số khung hình mỗi giây và ý nghĩa thực sự của cảnh quay, là rất khó xác định với các thuật toán AI", Roberts cho biết.

Sự cố lặp đi lặp lại

“Cảnh sát đã thông báo cho chúng tôi ngay sau khi buổi phát trực tiếp bắt đầu và chúng tôi đã nhanh chóng xóa cả tài khoản Facebook và Instagram của kẻ xả súng cũng như video”, Meta thông báo sau vụ việc xả súng ở New Zealand được phát trực tiếp vào ngày 15/3/2019.

Hình ảnh từ livestream của kẻ xả súng tại nhà thờ Hồi giáo Masjid Al Noor ở Christchurch (New Zealand). Ảnh: Facebook.

Khi đó, kẻ thủ ác Brenton Tarrant bắt đầu livestream khi đang lái xe ôtô khi lái tới nhà thờ Hồi giáo Masjid Al Noor ở Christchurch (New Zealand). Khung hình cho thấy trên xe chất đống vũ khí, đạn dược và xăng. Tarrant bước vào nhà thờ và xả súng khiến hàng trăm người thiệt mạng hoặc bị thương. Dù vậy 17 phút sau livestream mới bị gỡ, sau “thông báo của cảnh sát”, như Meta cho biết.

Ngày 15/5/2022, Payton Gendron xả súng tại một siêu thị ở Buffalo, bang New York (Mỹ), giết chết 10 người. Kẻ này cũng livestream vụ việc trên Twitch. Gần đây hơn, ngày 7/9/2022, cảnh sát thành phố Memphis, bang Tennessee (Mỹ) bắt giữ nghi phạm Ezekiel Kelly, kẻ đã livestream trên Facebook cảnh mình đi vào cửa hàng và xả súng vào 5 người khác.

Sau vụ việc ở Memphis, đại diện Quỹ hưu trí bang New York, nhà đầu tư giữ hơn 1 tỷ USD cổ phiếu Meta vào thời điểm đầu năm 2022, lên tiếng yêu cầu cách chức CEO của công ty này vì không thực thi các tiêu chuẩn an toàn sau và để vụ việc Buffalo lặp lại.

Ezekiel Kelly, kẻ gây ra vụ xả súng tại Memphis, bị bắt giữ vào tối 7/9/2022. Ảnh: FOX13.

Dẫn chứng của quỹ này đưa ra là các clip và ảnh chụp màn hình từ livestream của tay súng, cũng như tuyên ngôn phân biệt chủng tộc của tội phạm, vẫn tiếp tục lan truyền trên các nền tảng của Meta.

"Đây là ví dụ mới nhất về việc Meta không thực thi các tiêu chuẩn và nguyên tắc cộng đồng để kiểm soát việc phổ biến ngôn từ kích động thù địch và nội dung bạo lực", quỹ này đánh giá về vụ việc Memphis.

Và đến ngày 11/4, một sự việc tương tự lại diễn ra, lần này trên Instagram. Meta cho biết đã gỡ livestream nhưng đến nay chưa rõ các hình ảnh và đoạn clip có bị lan truyền trên các nền tảng hay không.

"Điểm mù" của các thuật toán rà quét tự động

Một nguyên nhân lớn là các thuật toán rà quét tự động vẫn chưa xác định hiệu quả các nội dung thù hận, khiêu dâm hay bạo lực, đặc biệt là ở định dạng video.

Với dạng nội dung bạo lực, ngữ cảnh và bối cảnh là yếu tố quan trọng, trong khi đó đây là điểm yếu của các thuật toán, theo Daniel Lowd, nhà nghiên cứu trí tuệ nhân tạo và học máy tại Đại học Oregon, cho biết.

Các lỗ đạn tại hiện trường vụ xả súng tại ngân hàng ở thành phố Louisville, bang Kentucky (Mỹ) ngày 11/4. Ảnh: Reuters.

Những bình luận thoạt nghe có vẻ bạo lực có thể là những lời châm biếm để phản đối bạo lực, hoặc nghe có vẻ lành tính nhưng thực tế là nguy hiểm đối với người có kiến thức về tin tức gần đây hoặc văn hóa địa phương.

“Rất nhiều tác động của một vài từ phụ thuộc vào bối cảnh văn hóa”, Lowd nói, lưu ý rằng ngay cả những kiểm duyệt viên con người vẫn gặp khó khăn trong việc phân tích các bối cảnh này trên mạng xã hội.

Với định dạng video, vấn đề còn phức tạp hơn nữa. Ví dụ, vũ khí có thể bị khuất hoặc hiển thị ở các góc khác nhau, hoặc đoạn clip có vẻ bạo lực thực ra lại là đoạn phim hoặc mô phỏng, theo Roberts. Ngoài ra, các yếu tố như ánh sáng hoặc hình nền có thể gây nhiễu cho thị giác máy tính.

Việc sử dụng AI để thu thập ý nghĩa từ một video là khó, trong khi đó mỗi mạng xã hội gồm hàng trăm nghìn giờ video mỗi ngày. “Hàng trăm nghìn giờ video là thứ mà các công ty này kinh doanh", Roberts nói, nhưng lưu ý thêm trách nhiệm của nền tảng khi khối lượng lớn video như vậy là thứ mà họ thu hút và mong muốn.

TikTok ăn đậm từ livestream thách đấu bẩn Nền tảng thu lợi từ quảng cáo, tiền ủng hộ khi người xem tặng quà trên các phiên phát sóng thách đấu vô bổ. 09:47 7/4/2023