Trước hết, cần khẳng định rằng, cả hai hiện tượng đều có thể dẫn tới hậu quả xã hội nghiêm trọng làm suy giảm niềm tin của công chúng, gây thiệt hại cho cá nhân và tổ chức, làm nhiễu loạn quá trình ra quyết định công và tư. Nhưng về bản chất, cơ chế hình thành, đặc trưng nhận dạng, tốc độ lan truyền, chi phí sản xuất, khả năng tùy biến và giải pháp khắc phục giữa “rác AI” và “tin giả” có những khác biệt quan trọng.

Việc làm rõ những khác biệt này không nhằm mục tiêu tách rời hai hiện tượng như hai vấn đề độc lập, mà nhằm cung cấp một lăng kính phân tích giúp nhà nghiên cứu, nhà quản lý và người làm truyền thông định danh rủi ro, xác định can thiệp phù hợp và phát triển biện pháp đối sách hiệu quả hơn.

Ảnh minh họa: iStock.

- Về nội hàm khái niệm:

“Tin giả” thường là những nội dung được tạo ra bởi con người hoặc qua các phương tiện chỉnh sửa thủ công nhằm mục đích đánh lừa công chúng, định hướng dư luận, trục lợi hay gây hỗn loạn. Những sản phẩm này thường được dựng bằng việc biên tập, viết lách, cắt ghép video hoặc thông qua các tổ chức xuất bản bài viết giả mạo.

Ngược lại, “rác AI” là những nội dung do các hệ thống AI tạo sinh hoặc hỗ trợ tạo sinh văn bản, hình ảnh, audio, video hoặc các kết hợp đa phương thức mà ở đó công nghệ tổng hợp đóng vai trò chủ đạo trong quá trình sản xuất.

Sự khác biệt này về nguồn gốc sản xuất mang theo một chuỗi hệ quả: “Rác AI” có thể được tạo ra với tốc độ cao, quy mô lớn, chi phí thấp, dễ tùy biến theo mục tiêu tấn công và có khả năng giả lập dấu hiệu xác thực truyền thống, trong khi “tin giả” thường cần nhiều nhân lực và thời gian hơn để đạt được mức thuyết phục tương đương.

- Về dấu vết xuất xứ và cách nhận diện:

“Tin giả” truyền thống thường có những dấu hiệu nhân tạo có thể nhận ra bởi người có kinh nghiệm: lỗi lôgíc trong kể chuyện, giọng điệu không nhất quán, nguồn trích dẫn thiếu căn cứ, không rõ ràng, hoặc dấu hiệu chỉnh sửa hình ảnh vụng về. Do đó, kỹ năng phân tích nội dung và kiểm chứng nguồn vẫn là công cụ hiệu quả để phát hiện sự giả mạo.

Ngược lại, “rác AI” có khả năng che giấu dấu vết tạo tác bởi khả năng tổng hợp ngày càng tinh vi của các mô hình học sâu. Một đoạn video deepfake có thể giữ lại nhiễu tự nhiên, ánh sáng nhất quán và biểu cảm mượt mà; một bài viết do mô hình ngôn ngữ lớn sinh ra có thể trình bày tư liệu tham khảo một cách mạch lạc, kèm dấu hiệu ngôn ngữ chuyên môn mà người đọc bình thường khó phân biệt. Do đó, “rác AI” đòi hỏi nhiều hơn là kỹ năng phê phán nội dung truyền thống; nó đòi hỏi công cụ kỹ thuật số phức tạp và hạ tầng tra cứu nguồn tin được tin cậy.

- Về quá trình tạo và lan truyền:

“Tin giả” thường có chu kỳ sản xuất - chỉnh sửa - phát tán tương đối dài hơn và phạm vi lan truyền một phần bị giới hạn bởi khả năng nhân lực và hạ tầng truyền thông.

“Rác AI” có khả năng được sinh tự động theo hàng loạt kịch bản, dễ dàng cá nhân hóa cho từng nhóm mục tiêu và phân bố đồng thời trên nhiều nền tảng với chiến lược tối ưu hóa mà không đòi hỏi chi phí nhân công cao. Kết quả là “rác AI” có độ bao phủ và tốc độ lan truyền rất lớn; một chiến dịch thông tin sai lệch có thể phóng đại hàng triệu biến thể nội dung chỉ trong vài giờ, làm quá tải các cơ chế kiểm chứng thủ công. Tính này khiến “rác AI” trở thành thách thức lớn cho các nền tảng và cơ quan quản lý bởi việc chặn, gỡ hay kiểm chứng thủ công gần như bất khả thi khi quy mô được mở rộng.

- Về mục tiêu:

“Tin giả” thường được tạo ra với mục tiêu rõ ràng của con người như: tuyên truyền chính trị, trục lợi tài chính, hạ thấp uy tín đối tượng hoặc tạo hỗn loạn.

“Rác AI” có thể được tạo ra cũng vì những mục đích đó, nhưng điểm khác là khả năng tự động, theo kịch bản hoặc thậm chí được tối ưu hóa bằng thuật toán để đạt mục tiêu mong muốn một cách hiệu quả nhất. Một loại rủi ro phát sinh là hành vi kết hợp giữa ý định xấu của người tạo và sức mạnh tự động hóa của AI, tức kẻ tấn công thiết kế chiến dịch ban đầu nhưng để AI mở rộng, biến thể và tối ưu hóa nội dung. Điều này làm thay đổi bản chất rủi ro: không còn là một bài bịa đặt lan truyền rộng rãi mà là hàng triệu mẩu tin vừa giống nhau, vừa tinh chỉnh, nhằm khai thác yếu điểm nhận thức của từng nhóm nhỏ người dùng.

- Về mặt kỹ thuật:

“Rác AI” dễ dàng mô phỏng các dấu hiệu xác thực vốn từng là tiêu chí đánh giá tin thật: trích dẫn, số liệu, phong cách ngôn ngữ, chất lượng hình ảnh hoặc giọng nói. Khả năng mô phỏng phong cách khiến người đọc hoặc người xem có cảm nhận giả tạo về độ tin cậy.

“Tin giả” có thể bật ra do lỗi phong cách, nhưng “rác AI” có thể “học” và áp dụng phong cách chính xác đến mức gây nhầm lẫn ngay cả với chuyên gia. Điều này đặt ra thách thức cho mọi biện pháp phát hiện dựa trên cảm nhận bề mặt; bằng chứng kỹ thuật hay so sánh hàm mật mã của file media hoặc tra cứu chuỗi dữ liệu gốc, trở nên quan trọng hơn bao giờ hết.

- Về khả năng cá nhân hóa và thích nghi:

“Tin giả” dù đôi khi được tinh chỉnh đối với từng thị trường, vẫn ít có khả năng biểu hiện đa dạng hóa theo từng cá nhân.

“Rác AI” không chỉ có thể tạo nội dung phù hợp với ngôn ngữ và văn hóa, mà còn có thể điều chỉnh giọng điệu, mức độ cảm xúc và các manh mối thuyết phục dựa trên hồ sơ người dùng. Khi kết hợp với dữ liệu người dùng lớn, “rác AI” có thể được điều chỉnh để khai thác niềm tin, sự lo lắng, hay định kiến của từng cá nhân, tăng khả năng thuyết phục và độ lan truyền. Tính cá nhân hóa này biến “rác AI” thành một công cụ tinh vi để thao túng hành vi mà các chiến lược chống tin giả truyền thống ít khi lường tới.

- Về chi phí và rào cản sản xuất:

Trước thời đại AI tạo sinh, để sản xuất nội dung giả mạo ở quy mô lớn cần nhiều nhân lực, kỹ năng công nghệ và nguồn lực. Hiện nay, với các mô hình tạo sinh rộng rãi, chi phí sản xuất sụt giảm nhanh chóng; một cá nhân với kiến thức kỹ thuật trung bình có thể tạo ra nội dung giả mạo chất lượng cao với chi phí thấp và không tốn nhiều thời gian.

Rào cản gia tăng về mặt kỹ thuật cũng trở nên ít rõ rệt, nhất là khi các công cụ dễ sử dụng được phổ biến rộng rãi. Yếu tố này làm thay đổi cấu trúc của mối đe dọa: không chỉ các tổ chức hoặc Nhà nước mới có khả năng triển khai chiến dịch thông tin sai lệch quy mô lớn; các tác nhân nhỏ, thậm chí cá nhân, cũng có thể tạo ra tác động lớn.