Độ Mixi lên tiếng

Streamer nổi tiếng Độ Mixi. Ảnh: FBNV.

Đêm ngày 28/2, ông Phùng Thanh Độ (Độ Mixi) đăng bài cảnh báo cộng đồng về nội dung giả mạo bản thân. Theo đó, nam streamer bị cắt ghép video phát sóng, thêm giọng nói tạo từ AI với nội dung quảng cáo cho các hội nhóm tài xỉu, cờ bạc.

“Gần đây có bên dùng AI ghép giọng và lấy hình ảnh livestream nhiều người nổi tiếng, trong đó có cả của mình để đi lừa đảo, chạy cả quảng cáo Facebook. Bên mình đang phối hợp với cơ quan chức năng để xử lý nhanh nhất có thể. Mong các bạn khi thấy những hình này có thể tố cáo lừa đảo và trang bị đầy đủ kiến thức để không bị tội phạm công nghệ cao lợi dụng, tránh đáng tiếc không đáng có”, ông Độ viết trên trang Facebook hơn 5,6 triệu người theo dõi.

Bài đăng cảnh báo của ông Phùng Thanh Độ. Ảnh: FBNV.

Trước đó, nhiều người hâm mộ của YouTuber này nhìn thấy các bài đăng được chạy quảng cáo từ trang Facebook N.T. Tài khoản sử dụng video phát sóng cũ của Độ Mixi, thêm các thủ thuật AI để tạo nội dung giả mạo, người bình thường khó phát hiện. “Lúc đầu nghe anh em kể tôi cũng chưa tin đâu. Thế nào trong 30 phút, em N. kéo số tiền tôi bán vàng 20 triệu, lên được 400 triệu”, nhân vật Độ Mixi giả mạo trong video nói.

Khi người dùng nhắn tin hoặc bấm vào đường dẫn quảng cáo, sẽ được dẫn đến tài khoản trên Telegram. Sau đó, chúng dẫn dụ con mồi vào các hội nhóm cờ bạc. Thực tế, video gốc tồn tại trên Internet từ 2019, nội dung không liên quan gì đến quảng cáo nói trên.

Là người tạo nội dung trên YouTube, phát sóng trong nhiều năm, lượng dữ liệu giọng nói lớn là nguồn cấp để đào tạo ra các mô hình bắt chước âm thanh như thật. Trên Internet, những video ghép giọng Độ Mixi cover bài hát nổi tiếng xuất hiện từ lâu. Vì không gây hại, nên chúng vẫn thường xuyên được chia sẻ, thu về số lượt xem lớn.

Mô hình tạo video nhép miệng theo âm thanh bằng AI.

Ngoài ra, nhiều người cũng training sẵn giọng của Độ Mixi hoặc các người nổi tiếng trong nước khác như Đen Vâu, Sơn Tùng M-TP, Trấn Thành và chia sẻ công khai trên Internet. Chỉ bằng vài thao tác đơn giản, kẻ gian có thể sử dụng model này để giả giọng nhân vật nêu trên.

Ngoài ra, video AI streamer Độ Mixi nhắc đến còn được xử lý nhép miệng như thật. Công nghệ video tạo sinh hiện cũng hỗ trợ thủ thuật này. Người dùng chỉ cần cấp mẫu video hoặc ảnh tĩnh, thêm nguồn âm thanh. AI sẽ tự xử lý để khớp khuôn miệng, cử động đầu…

Vấn nạn video deepfake người nổi tiếng đã tồn tại từ lâu. Tuy nhiên, với sự phát triển của các mô hình AI hình ảnh, video, âm thanh thế hệ mới, việc tạo ra các nội dung như vậy dễ dàng hơn trước. Đây cũng là mối nguy hại đối với người dùng tin tưởng vào các hình ảnh, quảng cáo của người nổi tiếng, cũng như làm hại tới hình ảnh của người có ảnh hưởng.