Bạn có thể chuyển sang phiên bản mobile rút gọn của Tri thức trực tuyến nếu mạng chậm. Đóng

Cấm khiêu dâm, Tumblr chặn nhầm cả thịt gà, bàn chải

Tuyên bố loại bỏ các nội dung khiêu dâm, Tumblr đã gây cú sốc với cộng đồng, nhưng công ty chưa có thuật toán tốt để làm điều này.

Vào ngày 17/12, Tumblr sẽ cấm vĩnh viễn nội dung người lớn, đồng thời xoá mọi bỏ nội dung khiêu dâm từ trước như một động thái nhằm lọc lại nền tảng mạng xã hội này.

Theo Motherboard, quyết định trên của Tumblr vấp phải làn sóng phản đối từ những trang Web chuyên cung cấp nội dung người lớn. Thuật toán của Tumblr đã thể hiện sự yếu kém khi "gắn cờ" những nội dung hoàn toàn vô tội. Cụ thể, hình ảnh của một con ngựa một sừng đang nôn mửa, hình miếng thịt gà tươi trong siêu thị, ảnh chiếc máy chải giày đều bị dán mác hình ảnh khỏa thân, thô tục.

Tumblr chan nham anh 1
Hình ảnh con ngựa một sừng bị gắn cờ vi phạm trên Tumblr. Ảnh: Motherboard.

Người đại diện của Tumblr cho rằng việc "gắn cờ" được thực hiện bởi công nghệ machine learning kết hợp với đội ngũ chuyên gia An toàn và Bảo mật của riêng Tumblr. Tuy nhiên, Jeff D'Onofrio thừa nhận thuật toán nhận diện nội dung nhạy cảm của Tumblr còn lâu mới hoàn thiện được.

"Lọc bỏ những nội dung như khỏa thân vì mục đích chính trị hay tượng khỏa thân của David là rất khó khăn. Chúng ta dựa vào những công cụ tự động nhằm nhận diện nội dung đen, từ đó chúng sẽ tự học hỏi dần. Chúng tôi biết rằng sẽ có nhiều sai lầm, nhưng chúng tôi luôn cố gắng hết sức để đưa Tumblr vào khuôn phép", Jeff D'Onofrio trả lời Motherboard.

Hiện Tumblr đang gửi email cho những người dùng có nội dung bị gắn cờ cảnh báo, thông báo nội dung của họ sẽ bị đưa vào chế độ riêng tư. Người dùng cũng có thể khiếu nại nếu cho rằng nội dung của mình hoàn toàn hợp lệ.

"Chúng tôi muốn phát triển cộng đồng một cách nghiêm túc, chúng tôi phải thay đổi", Giám đốc điều hành Jeff D'Onofrio cho hay. Hồi tháng 8/2018, Tumblr cũng thông báo sẽ mạnh tay với các trường hợp phát tán nội dung khiêu dâm để trả thù, ngôn từ kích động hoặc hưởng ứng các vụ xả súng trong trường học.

"Còn rất nhiều trang web người lớn khác cho người xem. Với Tumblr, chúng tôi muốn nỗ lực tạo ra môi trường thân thiện nhất với tất cả mọi người", Jeff D'Onofrio cho biết.

Tumblr chan nham anh 2
Hình ảnh con gà trong siêu thị bị gắn mác nội dung khỏa thân. Ảnh: Motherboard.

Jilian York, Giám đốc tổ chức Tư do ngôn luận quốc tế trong lĩnh vực công nghệ thông tin cho rằng vấn đề kiểm duyệt dựa vào công cụ tự động và đưa ra nhiều kết quả sai lệch tồn tại ở rất nhiều nền tảng.

"Microsoft Bing khi mới ra đời cũng gặp vấn đề tương tự, những từ khóa như 'ức gà' hay 'ung thư vú' sẽ bị kiểm duyệt. Tumblr cần phải bớt dựa dẫm vào công cụ tự động mà phải tập trung điều chỉnh chính sách kiểm duyệt kĩ càng hơn", Jilian nói.

Tumblr sẽ xoá hết nội dung khiêu dâm từ 17/12

Kể từ khi ra đời năm 2007, Tumblr vẫn luôn đầy rẫy nội dung khiêu dâm. Những động thái kiểm soát nghiêm ngặt bắt đầu xuất hiện sau khi ứng dụng này thuộc về Verizon.

Ứng dụng mạng xã hội Tumblr bị gỡ khỏi App Store

Một số thông tin cho rằng ứng dụng Tumblr trên nền tảng iOS bị gỡ bỏ do vi phạm nguyên tắc nội dung của kho ứng dụng này.



Anh Thi

Theo Motherboard

Bạn có thể quan tâm