Đây là dạng rác dễ nhận diện nhất trong toàn bộ hệ sinh thái “rác AI” bởi nó xuất hiện trực tiếp dưới những hình thức người dùng có thể nhìn thấy, nghe thấy hoặc đọc được, từ văn bản sai lệch, hình ảnh deepfake, âm thanh tổng hợp giả mạo cho đến video bị cắt ghép hoặc các loại báo cáo trông có vẻ hợp pháp nhưng thực chất là sản phẩm bịa đặt.

Đây là hậu quả hữu hình của việc AI tạo sinh được khai thác không đúng mục đích hoặc vận hành trong điều kiện thiếu kiểm soát, khiến những nội dung được tạo ra vừa có tính thuyết phục cao, vừa chứa đựng các sai lệch nghiêm trọng.

Trong khi rác dữ liệu hay rác mô hình thường khó quan sát và đòi hỏi kiến thức kỹ thuật để nhận biết, rác nội dung tác động trực tiếp đến công chúng và lan truyền trong xã hội với tốc độ nhanh chóng, tạo nên nguy cơ nhiễu loạn thông tin và làm suy giảm niềm tin của người dân và xã hội vào môi trường số.

Rác nội dung lan truyền trong xã hội với tốc độ nhanh, gây nhiễu loạn thông tin, thẩm mỹ, suy giảm niềm tin. Ảnh: Trang Thư.

- Về cơ chế hình thành rác nội dung

Rác nội dung được bắt nguồn từ hai loại nền tảng: rác dữ liệu và rác mô hình, trong đó rác dữ liệu cung cấp đầu vào méo mó, còn rác mô hình cung cấp cơ chế tạo sinh sai lệch.

Khi mô hình AI học từ dữ liệu nhiễu, thiếu kiểm chứng hoặc chứa thông tin thiên lệch, nó có xu hướng tái tạo lại chính những sai lệch đó dưới dạng văn bản, hình ảnh hay âm thanh. Điều nguy hiểm là những sản phẩm sai lệch này không đơn thuần là bản sao, mà thường được AI “tối ưu hóa” để trở nên mượt mà hơn, thuyết phục hơn và khó phân biệt hơn so với thông tin thật.

Mặt khác, rác mô hình cũng đóng vai trò quan trọng khi các mô hình tạo sinh bị tối ưu hóa sai mục tiêu, thiếu kiểm soát hoặc rơi vào trạng thái mất ổn định, khiến chúng tự tạo ra nội dung bịa đặt dù người dùng không yêu cầu. Tình trạng này thường thấy trong các mô hình ngôn ngữ lớn khi chúng tự bịa ra các sự kiện, trích dẫn, dữ liệu hoặc nhân vật hoàn toàn không tồn tại nhưng được trình bày với ngôn ngữ tự tin, lôgíc và nhất quán.

Bên cạnh đó, một thành phần quan trọng khác trong cơ chế hình thành rác nội dung là các hành vi chủ ý từ phía con người. AI tạo sinh ngày nay có khả năng tái tạo giọng nói, phong cách viết, hình dáng khuôn mặt hay hành vi của cá nhân với độ chính xác cao. Điều này mở ra cơ hội cho những kẻ xấu sử dụng AI để sản xuất tin giả nhằm lừa đảo chiếm đoạt tài sản, bịa đặt thông tin để phá hoại uy tín cá nhân hoặc tổ chức, thậm chí thao túng dư luận xã hội trong các thời điểm nhạy cảm. Những công cụ vốn được thiết kế để hỗ trợ sáng tạo hoặc tự động hóa nội dung ngày càng bị tận dụng như những “vũ khí thông tin”, gia tăng mức độ nguy hiểm so với tin giả truyền thống vì chúng có thể được tạo ra hàng loạt, với tốc độ cao và chi phí gần như bằng không.

- Về đặc điểm rác nội dung:

Đặc điểm nổi bật nhất của rác nội dung là tính thuyết phục và khả năng tùy biến cao. Nếu trước đây, nội dung giả thường bị phát hiện do sự thiếu tự nhiên trong giọng điệu, lỗi ngữ pháp, điểm bất thường trong hình ảnh hoặc video, thì sự phát triển của công nghệ tổng hợp đa phương thức hiện nay đã khiến các ranh giới này mờ dần.

Một hệ thống AI hiện đại có thể học phong cách viết của một nhà báo, mô phỏng giọng nói của một chính trị gia, hoặc sao chép nét mặt của một người nổi tiếng chỉ dựa trên một lượng dữ liệu rất nhỏ được thu thập từ Internet. Điều này cho phép nội dung giả được tạo ra theo từng nhóm mục tiêu, tối ưu hóa để phù hợp với thị hiếu, kiến thức, niềm tin hay tâm lý của người tiếp nhận, từ đó gia tăng đáng kể khả năng niềm tin mà không cần phải kiểm chứng.