Ngày 15/3, một vụ xả súng xảy ra tại hai thánh đường Hồi giáo ở trung tâm và ngoại ô Christchurch, New Zealand đã cướp đi sinh mạng của 49 người, làm bị thương 20 người. Vụ khủng bố gây bàng hoàng toàn thế giới không chỉ vì số thương vong mà còn bởi cách nó được thực hiện.
Tên khủng bố lan truyền bản kế hoạch dài 87 trang trên mạng xã hội Twitter. Trước lúc hành động, hắn kêu gọi mọi người đăng ký kênh YouTube của Pewdiepie - có lẽ là game thủ hằn thần tượng. Lúc thực hiện vụ khủng bố, hắn phát đoạn video dài 17 phút trực tiếp trên Facebook. Tất cả được giúp sức bởi mạng xã hội.
Yếu kém kiểm duyệt, tiếp tay khủng bố
Từ câu nói kêu gọi đăng ký kênh Pewdiepie của tên sát nhân, có thể thấy ngoài việc cố gắng lan truyền tư tưởng diệt chủng, hắn còn bị ám ảnh bởi những chỉ số như lượt đăng ký, lượt xem và lượt thích. Bằng cách cướp đi sinh mạng của đồng loại, tên sát nhân đang cố chứng minh tầm ảnh hưởng của mình.
 |
| Lên kế hoạch trên Twitter, livestream trên Facebook, kêu gọi đăng ký kênh YouTube, kẻ giết người trong vụ khủng bố tại New Zealand tận dụng triệt để mạng xã hội để lan truyền tội ác của mình. |
Vụ xả súng kinh hoàng ngay từ đầu đã được thiết kế để gây chú ý cho dư luận. Nó tận dụng mọi phương tiện truyền thông xã hội để đảm bảo càng nhiều người biết càng tốt, biết đến cả những người tử vong lẫn thông điệp đầy thù hằn ẩn trong hành động độc ác.
"Việc phát trực tiếp cảnh xả súng tại New Zealand chắc chắn sẽ đặt ra nhiều câu hỏi về quy định và việc kiểm soát của Facebook. Họ đã cung cấp nền tảng cho cuộc tấn công khủng khiếp hôm nay và sẽ bị đặt câu hỏi về việc tạo điều kiện lan truyền sự cố này", Clement Thibault, chuyên gia phân tích của Investing đánh giá.
Đây không phải lần đầu tiên một vụ giết người bị phát trực tiếp lên mạng. Vào năm 2015, một kẻ nổ súng ở Bridgewater, Virginia, khi sát hại nạn nhân của mình đã phát sóng trên truyền hình trực tiếp và tải video lên Twitter và Facebook.
Bộ trưởng Nội vụ Anh Sajid Javid nói rằng các công ty truyền thông xã hội phải hành động để ngăn chặn chủ nghĩa cực đoan. "YouTube, Google, Facebook, Twitter phải làm việc nhiều hơn để ngăn chặn chủ nghĩa cực đoan đang được quảng bá trên nền tảng của các bạn", Javid viết trên Twitter.
Tuy vậy, Facebook, YouTube và nhiều mạng xã hội khác dường như không thể ngăn chặn nổi những video có nội dung bẩn với phương pháp hậu kiểm như hiện tại. Những video giết người, khủng bố, khiêu dâm khi bị phát hiện đều đã lan truyền mạnh mẽ tới hàng trăm nghìn người dùng.
Cụ thể, video thảm sát tại New Zealand vẫn tồn tại trên Facebook nhiều giờ sau khi vụ thảm sát kết thúc. Bên cạnh đó, các phiên bản reup (đăng tải lại) xuất hiện dày đặc trên các nền tảng YouTube, Facebook trước khi bộ phận kiểm duyệt bắt đầu ra tay.
AI khó có thể thay thế con người
Năm 2017, giám đốc kinh doanh của Google - Philipp Schindler - cho biết ông đã yêu cầu nhiều nhân lực hơn để giám sát các vấn đề về nội dung, nhưng nhấn mạnh rằng chỉ có trí thông minh nhân tạo mới có thể đáp ứng nổi quy mô của YouTube. "Vấn đề không thể giải quyết được bởi con người và không nên được giải quyết bởi con người", Schindler nhận định.
Sau hai năm đặt lòng tin vào AI, YouTube vẫn chưa hoàn toàn khắc phục những yếu kém trong khâu kiểm duyệt.
Theo CNN, với một lượng lớn bài đăng xuất hiện trên các trang này mỗi ngày, sự kết hợp giữa con người và máy móc khó có thể đáp ứng nổi nhu cầu kiểm duyệt.
 |
| AI khó có thể thay thế con người trong việc phát hiện những video có nội dung bạo lực và ngôn ngữ thù địch. |
"AI vẫn còn phải phát triển thêm rất lâu mới có thể hiểu được ngôn ngữ thù hằn, bạo lực, khiêu dâm", CNN viết.
Trí tuệ nhân tạo có thể nhận ra những nội dung bẩn dựa vào những gì chúng được học trong các bối cảnh cụ thể. Nếu cho AI học hình ảnh súng ống và các nội dung tôn giáo, nó chỉ có thể áp dụng cho những trường hợp tương tự. Tuy nhiên, không phải vụ thảm sát nào cũng giống nhau.
"Muốn phát hiện được ngôn ngữ kích động bạo lực thì bối cảnh là yếu tố quan trọng nhất", Daniel Lowd, Phó giáo sư tại Đại học Oregon, người nghiên cứu về trí tuệ nhân tạo và học máy.
Một số trường hợp, các phát ngôn bạo lực lại dùng để châm biếm, phản đối. Ngược lại, một số lời lẽ nghe có vẻ hòa nhã lại gây thù hắn tùy theo văn hóa từng vùng.
"Từ ngữ sẽ gây tác động rất lớn nếu đặt trong bối cảnh văn hóa phù hợp", Lowd nói.
Cũng theo phó giáo sư Lowd, ngay cả con người cũng khó nhận ra đâu là bạo lực trong các video chứ đừng nói những cỗ máy được đào tạo.
"Hàng trăm nghìn giờ video là những gì các công ty này kinh doanh. Đó thực sự là những gì họ chào mời và những gì họ muốn". Roberts, Giáo sư tại UCLA, người nghiên cứu kiểm duyệt nội dung và phương tiện truyền thông xã hội cho biết.
Bất lực với video phát trực tiếp
Cuối năm 2017 là lần gần nhất YouTube thông báo tuyển thêm 10.000 nhân sự kiểm duyệt nội dung. Dù YouTube cam kết có 10.000 nhân sự kiểm duyệt video nhưng con số này thật sự không thấm với 500 giờ video tải lên mỗi phút.
Đó là chưa kể đến những đoạn livestream - định dạng video phát trực tiếp khó kiểm soát được những gì đang diễn ra. Theo The Verge, bắt kịp các video livestream khi chúng diễn ra là rào cản lớn nhất trong việc kiểm duyệt nội dung của YouTube.
Theo Rasty Turek - CEO của nền tảng phân tích video Pex, điều này gần như không thể bởi nội dung trong các luồng phát trực tiếp liên tục thay đổi. Đó là lý do livestream là lĩnh vực rủi ro cao đối với YouTube và cả Faceboook.
 |
| Video khiêu dâm với 18 triệu lượt xem tồn tại gần một ngày trên Facebook. |
“Bạn có thể đổ lỗi cho YouTube về nhiều thứ nhưng không ai trên hành tinh này có thể khắc phục vấn đề livestream ngay lúc này”, Turek nói thêm.
Còn với Facebook, con số nhân lực kiểm duyệt còn tồi tệ hơn. Năm 2017, Facebook có 4.500 nhân viên kiểm duyệt nội dung gồm video và bài đăng. Tháng 5/2017, Facebook tuyên bố tuyển thêm 3.000 người. Mỗi ngày, một nhân viên kiểm duyệt phải xem 8.000 bài đăng được máy tính nhận diện có nội dung xấu.
Facebook đã đầu tư nhân lực để loại bỏ nội dung giả mạo khỏi nền tảng của mình bằng cách thuê hàng ngàn nhân viên để kiểm duyệt nội dung và đóng hàng trăm tài khoản đáng ngờ ở các quốc gia khác nhau. Tuy nhiên, nỗ lực đó như muối bỏ bể.
Cả YouTube và Facebook đều đang lệ thuộc vào thuật toán vốn chưa hoàn hảo và ý thức báo cáo nội dung của người dùng.
Kể cả có báo cáo cũng chưa chắc được giải quyết
Ngoài video thảm sát dài 17 phút tồn tại trong nhiều giờ liền, Facebook còn có nhiều bê bối liên quan khác. Ngày 21/11/2018, Zing.vn ghi nhận video khiêu dâm được đăng trên Facebook.
Video này tồn tại gần 20 giờ với 18 triệu lượt xem. Dù đã cố gắng báo cáo nội dung khiêu dâm với Facebook từ lúc video mới đăng nhưng mạng xã hội này vẫn không giải quyết. Điều này cho thấy, công cụ báo cáo của Facebook không phản ứng kịp thời trước những nội dung bẩn.
 |
| Dù người dùng đã cố báo cáo, công cụ kiểm duyệt của mạng xã hội vẫn không thể đáp ứng kịp. |
Đặc biệt, với những mẫu quảng cáo cờ bạc, súng ống, hàng cấm, Facebook nhận báo cáo nhiều tháng liền nhưng vẫn không giải quyết được. Các trường hợp báo cáo đều đang ở dạng mở (chờ giải quyết).
Tình trạng này không khá hơn với nền tảng video YouTube. Video có nội dung núp bóng hoạt hình dành cho trẻ em với nội dung bạo lực tồn tại và nhận quảng cáo từ YouTube.
Nội dung video mô tả một nhân vật trong bộ phim hoạt hình Cars đến nhà bạn gái của mình và phát hiện cô đang ngoại tình. Nhân vật này sử dụng chất kích thích và quay lại giết hai người kia.
Video trên hoàn toàn không được giới hạn độ tuổi. Trong phần bình luận xuất hiện rất nhiều tài khoản trẻ em.
Sau hơn một tháng miệt mài báo cáo video với YouTube, mạng xã hội này vẫn để đoạn phim trên tồn tại, thậm chí là thu tiền từ quảng cáo.
 |
| Video hoạt hình bạo lực, không giới hạn độ tuổi vẫn ngang nhiên hiển thị quảng cáo dù người dùng liên tục báo cáo. |
Trước đó, Free Hess, một bác sĩ nhi khoa ở Florida, Mỹ cho biết khi đang cùng con xem video về game Splatoon của Nintendo trên YouTube Kids, cô phát hiện một đoạn có hình ảnh một người đàn ông đeo kính râm, cầm con dao tưởng tượng và hướng dẫn trẻ cách cắt tay.
“Nhớ nhé mấy nhóc, cắt ngang để có được sự chú ý, cắt dọc nếu muốn ‘đạt kết quả’”, gã vừa nói, vừa mô phỏng hành động dùng dao rạch cổ tay. “Hãy kết liễu cuộc đời mình đi”.
Trong trường hợp của Free Hess, dù đã báo cáo, video trên vẫn tồn tại nhiều tuần liền. Đến khi những video này được báo cáo và gỡ bỏ, nó đã tiếp cận bao nhiêu trẻ em?
Mặc dù thông cảm với Google (chủ sở hữu YouTube) vì quản lý những video trên nền tảng là rất khó, nhưng Free Hess muốn YouTube phải phản ứng nhanh hơn khi người dùng báo cáo video vi phạm. “Chỉ gỡ những video đó thôi là chưa đủ. Tôi muốn nội dung độc hại phải bị xóa ngay lập tức khi bị báo cáo”.
Nếu không tiền kiểm, những nội dung bạo lực, khiêu dâm, khủng bố sẽ vẫn xuất hiện trên mạng xã hội bởi các phản ứng chậm trễ từ bộ phận kiểm duyệt và tiếp nhận báo cáo.
