Mất nhiều năm để gỡ video khiêu dâm bị ghép mặt

Trí tuệ nhân tạo tạo sinh (Generative AI) đang ngày càng quen thuộc khi được sử dụng để sáng tạo các tác phẩm nghệ thuật, thử quần áo cho nhân vật trong các phòng thử đồ ảo hay thiết kế các chiến dịch quảng cáo. Tuy nhiên, nhiều chuyên gia trong ngành lại lo sợ mặt tối của các công cụ này. Chúng sẽ tiếp tay cho những hành vi lan truyền trái phép nội dung khiêu dâm bằng deepfake.

Noelle Martin (28 tuổi, ở Perth, Australia) là một trong những nạn nhân của thực tế này. Trong một lần tò mò, tìm hình ảnh của mình bằng công cụ tìm kiếm hình ảnh của Google, cô đã phát hiện video khiêu dâm deepfake ghép mặt mình từ 10 năm trước.

Đến tận ngày nay, Martin vẫn không biết ai là người tạo ra những tấm ảnh, video nhạy cảm đó. Cô cho rằng có thể ai đó đã dùng hình ảnh cô đăng trên mạng xã hội, trên Internet và gắn chúng vào các video đồi trụy.

Chia sẻ với SCMP, Martin cho biết cô rất sợ hãi. Trong suốt những năm qua, cô gái 28 tuổi đã liên hệ với rất nhiều website khác nhau để gỡ những tấm ảnh này xuống. Có trang web còn chẳng phản hồi. Có trang web đã gỡ xuống nhưng sau đó cô lại phát hiện nó tiếp tục được đăng lên.

“Đây là cuộc chiến tôi không thể giành chiến thắng. Nó cứ luôn ở đâu đó ngoài kia và hủy hoại tôi mãi mãi”, Martin chia sẻ.

AI càng phát triển, deepfake càng nguy hiểm

Theo SCMP, deepfake là những hình ảnh hoặc video được tạo ra bằng các công cụ kỹ thuật số hoặc bị can thiệp, chỉnh sửa bởi AI, máy học. Nội dung đồi trụy bằng deepfake lần đầu được lan truyền Internet khi một người dùng Reddit chia sẻ đoạn video ghép mặt nhiều người nổi tiếng vào cơ thể của các diễn viên khiêu dâm.

Kể từ đó, những người làm nội dung bằng deepfake đã lợi dụng những video có nội dung tương tự để tấn công những người nổi tiếng, cánh nhà báo hay những nhân vật của công chúng. Hàng nghìn video đồi trụy xuất hiện khắp Internet.

Công nghệ deepfake bị lạm dụng để tạo những video nhạy cảm của các cô gái, đặc biệt là người nổi tiếng. Ảnh: Samantha Cole.

Một số công cụ deepfake còn cho người dùng tự tạo hình ảnh hoặc video. Điều này đồng nghĩa với việc bất cứ ai cũng có thể biến những ảo tưởng đen tối của mình thành sự thật mà không có sự đồng thuận của người khác hay trở thành chiêu trò đe dọa, tống tiền họ.

Theo các chuyên gia, vấn nạn này ngày càng phổ biến vì việc tạo ra những nội dung deepfake tinh vi, trông giống thật không còn phức tạp như trước. Với sự xuất hiện của các công cụ AI tạo sinh, tình trạng sẽ càng tệ hơn. Chúng được rèn luyện dựa trên hàng tỷ hình ảnh trên Internet và có khả năng sáng tạo những nội dung hoàn toàn mới nhờ bộ dữ liệu này.

“Thực tế cho thấy công nghệ sẽ ngày càng tân tiến và tối giản hóa việc sản xuất nội dung deepfake chỉ bằng vài cú nhấp chuột”, Adam Dodge, nhà sáng lập tổ chức chức phi lợi nhuận giáo dục EndTAB, chia sẻ.

Nếu việc này vẫn còn tiếp diễn, mọi người sẽ tiếp tục lạm dụng công nghệ để gây hại đến người khác bằng cách bạo lực tình dục trực tuyến, video đồi trụy bằng deepfake hay làm giả ảnh khỏa thân.

Đã đến lúc những hãng công nghệ ra tay

Càng cố gắng lên tiếng chống lại chúng, Martin càng gặp thêm nhiều vấn đề. Thậm chí, nhiều người còn nói rằng cách cô ăn mặc hay đăng ảnh trên mạng xã hội chính là nguyên nhân khiến cô bị quấy rối bằng deepfake. Thay vì lên án những thủ phạm đằng sau video đồi trụy, những người này lại đổ lỗi lên nạn nhân.

Deepfake ngày nay rất tinh vi, khiến người dùng nhầm lẫn vì trông quá giống video thật. Ảnh: Another Body.

Cuối cùng, Martin đành tìm đến sự trợ giúp của pháp luật, yêu cầu nền tảng phải nộp phạt 555.000 AUD (370.000 USD) nếu không gỡ những nội dung này xuống. Tuy nhiên, luật Internet này chỉ có hiệu lực với quốc gia nơi cô sinh sống. Do đó, Martin cho rằng vấn nạn deepfake cần được quản lý bởi nỗ lực quốc tế.

Một báo cáo của công ty AI DeepTrace Labs cũng chỉ ra deepfake khiêu dâm được sử dụng như một vũ khí để tấn công phái nữ, trong đó nạn nhân chính là những diễn viên phương Tây và ca sĩ K-pop nổi tiếng.

Tính đến thời điểm hiện tại, nhiều công ty AI cho biết họ đã chặn quyền truy cập đến các hình ảnh nhạy cảm. Đơn cử như OpenAI sẽ xóa những nội dung này khỏi kho dữ liệu rèn luyện DALL-E, đồng thời tạo bộ lập cấm người dùng tạo ảnh AI từ người nổi tiếng, chính trị gia.

Một số công ty mạng xã hội cũng bắt đầu siết luật để bảo vệ nền tảng khỏi các nội dung độc hại. Tháng 3, TikTok đưa ra quy định tất cả nội dung deepfake hoặc bị chỉnh sửa cần phải được dán nhãn là dàn dựng hoặc là giả mạo. Trong khi đó, những nội dung deepfake về các nhân vật nổi tiếng, người trẻ cũng bị cấm khỏi nền tảng.

Apple và Google cũng cho biết gần đây đã gỡ một app ra khỏi kho ứng dụng vì lan truyền video deepfake khiêu dâm của các nữ diễn viên để quảng cáo sản phẩm. Đại diện Meta khẳng định quy định của công ty là cấm toàn bộ nội dung người lớn dù là do AI tạo lập hay không. Những ứng dụng thuộc Meta bao gồm Facebook, Instagram cũng tích hợp công cụ “Take It Down” nhằm xóa hình ảnh khiêu dâm của trẻ vị thành niên khỏi Internet.