Phân loại “rác AI” là bước khởi đầu cần thiết để hiểu rõ bản chất, nguồn gốc và nguy cơ của từng dạng ô nhiễm trong hệ sinh thái AI. Chỉ khi xác định rõ được phân lớp, chúng ta mới có thể thiết kế giải pháp kỹ thuật, quy trình nghiệp vụ và khung pháp lý phù hợp, hiệu quả và có trọng tâm. Trong thực tiễn, “rác AI” có thể được tổ chức thành bốn nhóm chính mang ý nghĩa phân tích và can thiệp: Rác dữ liệu, rác mô hình, rác nội dung và rác hành vi.
 |
| Hình ảnh trên bìa sách Data Trush của Arthur Kroker và Michael A. Weinstein. |
Rác dữ liệu
Đây được xem là lớp “trầm tích” sâu nhất và nguy hiểm nhất trong toàn bộ hệ sinh thái AI, bởi mọi mô hình học máy và mô hình tạo sinh đều được xây dựng từ dữ liệu huấn luyện. Nếu thuật toán là bộ não, mô hình là cơ thể, thì dữ liệu chính là môi trường sống quyết định mức độ chính xác, công bằng và độ tin cậy của toàn bộ hệ thống. Một khi môi trường này bị ô nhiễm, dù thuật toán tốt đến đâu, dù năng lực tính toán mạnh đến mức nào, kết quả đầu ra vẫn sẽ biến dạng theo hướng phản ánh những sai lệch, thiếu sót hoặc độc tố ẩn trong dữ liệu.
Đây là lý do vì sao rác dữ liệu không chỉ là một vấn đề kỹ thuật đơn thuần, mà còn là một hiện tượng mang tính phương pháp luận, xã hội và cả chính trị khi các hệ thống AI ngày càng can thiệp sâu vào đời sống, quyết định chính sách và vận hành nền kinh tế số.
- Về phân loại rác dữ liệu:
Rác dữ liệu tồn tại dưới nhiều hình thức khác nhau và mỗi dạng lại có cơ chế gây hại riêng.
Thứ nhất là, dữ liệu nhiễu. Đây là những thông tin có sai số ngẫu nhiên xuất phát từ lỗi đo lường, lỗi cảm biến, lỗi truyền nhận hoặc lỗi nhập liệu. Trong thời đại Internet vạn vật, nơi hàng tỉ cảm biến liên tục phát ra dữ liệu, khả năng nhiễu tăng lên theo cấp số nhân. Khi mô hình học từ dữ liệu nhiễu, nó buộc phải “đoán” ra cấu trúc ẩn, khiến việc mô phỏng quy luật thật của thế giới trở nên khó khăn hơn, làm giảm độ chính xác trong dự báo và nhận diện.
Thứ hai là, dữ liệu bị gắn nhãn sai. Loại dữ liệu này phổ biến trong các hệ thống học có giám sát. Khi hàng triệu mẫu ảnh, văn bản hoặc tín hiệu âm thanh được gán nhãn bằng lao động thủ công hoặc bán tự động, sai sót là điều khó tránh khỏi. Các mô hình học sâu vốn có khả năng ghi nhớ rất tốt dữ liệu, nên khi gặp nhãn sai, chúng không chỉ học sai mà còn củng cố những hiểu biết lệch lạc. Điều này tạo ra một dạng rác dữ liệu nguy hiểm vì rất khó phát hiện do sai lệch lẫn vào trong quá trình học.
Thứ ba là, dữ liệu thiếu tính đại diện. Đây là tình trạng tập dữ liệu chỉ phản ánh một phần nhỏ, một nhóm nhất định hoặc một bối cảnh cụ thể nhưng lại được sử dụng để huấn luyện mô hình dự kiến áp dụng cho cộng đồng rộng lớn. Trong lĩnh vực y tế, nếu dữ liệu chẩn đoán chủ yếu được thu thập từ nam giới, mô hình có thể nhận diện triệu chứng ở nữ giới kém hiệu quả hơn.
Trong lĩnh vực tài chính, nếu dữ liệu được thu thập từ các nhóm có thu nhập cao, hệ thống chấm điểm tín dụng có thể đánh giá bất lợi hơn đối với nhóm thu nhập thấp. Trong quản trị hành chính, nếu dữ liệu phản ánh chỉ một nhóm dân cư đô thị, chính sách tạo ra có thể bỏ quên đặc thù của vùng nông thôn, miền núi và các nhóm yếu thế.
Vì vậy, dữ liệu thiếu tính đại diện là nguồn gốc trực tiếp của thiên lệch thuật toán, vốn đang trở thành một trong những thách thức đạo đức lớn nhất của kỷ nguyên trí tuệ nhân tạo.
Thứ tư là, dữ liệu bị thao túng. Đây là trường hợp dữ liệu huấn luyện bị can thiệp có chủ đích nhằm làm sai lệch hành vi của mô hình AI. Các cuộc tấn công có thể rất tinh vi: Chỉ cần chèn một tỷ lệ nhỏ dữ liệu độc hại cũng đủ khiến mô hình đưa ra những quyết định sai lầm có hệ thống. Ví dụ, một nhóm chủ thể xấu có thể chèn dữ liệu gợi ý rằng một khuôn mặt cụ thể không bao giờ xuất hiện trong danh sách truy nã, khiến hệ thống nhận diện gian lận.
Hoặc trong lĩnh vực thương mại điện tử, dữ liệu đánh giá sản phẩm bị thao túng có thể khiến mô hình đề xuất sai lệch, gây ảnh hưởng đến hành vi tiêu dùng và doanh thu. Có thể khẳng định, dữ liệu bị thao túng kéo theo những hệ lụy nghiêm trọng, bởi nó khiến hệ thống trở thành công cụ phục vụ cho ý đồ của kẻ tấn công mà người vận hành khó phát hiện được sự thay đổi bất thường.
Thứ năm là, dữ liệu lỗi thời. Trong nhiều lĩnh vực như tài chính, giao thông, thời tiết, an ninh mạng hoặc trong xu hướng tiêu dùng, dữ liệu có thể thay đổi theo giờ, thậm chí theo phút. Khi mô hình được huấn luyện trên dữ liệu cũ, nó không còn phản ánh hiện thực, dẫn đến các quyết định sai lệch. Ví dụ, mô hình dự báo hành vi gian lận thẻ tín dụng dựa trên mô hình giao dịch của 5 năm trước sẽ hoạt động kém hiệu quả vì kỹ thuật gian lận đã thay đổi hoàn toàn. Tương tự, mô hình gợi ý trên nền tảng số nếu dựa trên hành vi tiêu dùng lỗi thời sẽ không còn phù hợp. Dữ liệu lỗi thời làm giảm tính thích ứng của mô hình và tạo ra các quyết định không còn phù hợp với bối cảnh hiện tại.
- Về nguyên nhân phát sinh rác dữ liệu:
Rác dữ liệu có thể bắt nguồn từ quy trình thu thập tự động thiếu kiểm soát, nơi hệ thống thu thập dữ liệu web mà không có cơ chế lọc độ tin cậy; cũng có thể do sử dụng nguồn dữ liệu không được xác thực hoặc các nền tảng mạng xã hội nơi thông tin thật - giả lẫn lộn. Quy trình gán nhãn thiếu tiêu chuẩn nghề nghiệp cũng là một trong những nguyên nhân phổ biến. Trong nhiều dự án AI thương mại, người gán nhãn được thuê với chi phí rất thấp, không được đào tạo bài bản và không có thời gian để kiểm tra chất lượng, dẫn đến tỷ lệ sai sót cao.
Bên cạnh đó, các yếu tố xã hội, chính trị hoặc kinh tế có thể thúc đẩy chủ ý chèn dữ liệu gây nhiễu, nhằm điều khiển hành vi mô hình cho mục đích xấu. Tất cả những nguyên nhân này cho thấy, rác dữ liệu không phải là hiện tượng ngẫu nhiên, mà là sản phẩm của hệ sinh thái thu thập và sử dụng dữ liệu chưa được kiểm soát hiệu quả.
- Về cơ chế vận hành rác dữ liệu:
Khi mô hình học từ một tập dữ liệu chứa rác, nó không có khả năng tự phân biệt được đâu là thông tin đúng và đâu là thông tin sai; mô hình chỉ học các mẫu có xác suất xuất hiện cao mà không hiểu ngữ nghĩa nền tảng. Do đó, rác dữ liệu được mô hình hấp thụ giống như rác thông tin được bộ não con người tiếp nhận trong điều kiện thiếu tư duy phản biện.
Hiện tượng “đầu vào rác, đầu ra cũng rác” không chỉ mô tả lỗi kỹ thuật mà phản ánh một quy luật nền tảng: Chất lượng đầu vào quyết định chất lượng đầu ra. Khi rác dữ liệu được đưa vào mô hình tạo sinh, tác hại càng lớn hơn bởi mô hình không chỉ tái tạo, mà còn nhân rộng các sai lệch, khuếch đại các khuôn mẫu xã hội méo mó, thậm chí tạo ra các cấu trúc mới dựa trên sự sai lệch đó. Đây chính là nguyên nhân khiến rác dữ liệu trở thành một vấn đề mang tính hệ thống, ảnh hưởng đến nhiều tầng nấc của xã hội.
