Những hệ thống logic luẩn quẩn

Một thập kỷ trước, chẳng có mấy ý kiến cho rằng có thể có thiên vị trong trí tuệ nhân tạo. Nhưng giờ đây, các ví dụ về hệ thống AI phân biệt đối xử đã trở nên phổ biến, từ thiên vị giới tính trong thuật toán đánh giá tín nhiệm tín dụng của Apple đến phân biệt chủng tộc trong phần mềm đánh giá rủi ro tội phạm COMPAS cho đến thiên vị tuổi tác trong việc nhắm mục tiêu quảng cáo của Facebook.

Công cụ nhận dạng hình ảnh phân loại sai khuôn mặt người da đen, chatbot sử dụng ngôn ngữ phân biệt chủng tộc và kỳ thị giới tính, phần mềm nhận dạng giọng nói không nhận dạng được giọng nói giống phụ nữ và các nền tảng truyền thông xã hội hiển thị nhiều quảng cáo việc làm trả lương cao cho nam giới hơn là cho nữ giới.

Như các học giả Ruha Benjamin và Safiya Noble đã chỉ ra, có hàng trăm ví dụ về thiên vị trong toàn bộ hệ sinh thái công nghệ. Nhiều trường hợp khác nữa chưa bao giờ được phát hiện hoặc thừa nhận công khai.

Ảnh minh hoạ. Nguồn: BBC.

Cấu trúc tiêu biểu của một tập phim trong câu chuyện nhiều kỳ về vấn đề thiên vị đang diễn ra trong AI thường bắt đầu với việc một nhà báo điều tra hoặc một người tố giác tiết lộ cách thức một hệ thống AI tạo ra các kết quả phân biệt đối xử.

Câu chuyện này được chia sẻ rộng rãi và công ty liên quan hứa sẽ giải quyết vấn đề. Sau đó, hệ thống này hoặc bị thay thế bằng thứ gì đó mới mẻ hơn hoặc các can thiệp kỹ thuật được thực hiện nhằm cố gắng tạo ra kết quả bình đẳng hơn.

Những kết quả và bản sửa lỗi kỹ thuật đó vẫn là độc quyền và bí mật, và công chúng được thông báo rằng có thể yên tâm vì căn bệnh thiên vị đã được “chữa khỏi”. Hiếm khi có một cuộc tranh luận công khai nào về lý do tại sao những hình thức thiên vị và phân biệt đối xử này thường xuyên tái diễn và liệu có những vấn đề cốt lõi hơn đang diễn ra bên cạnh việc bộ dữ liệu nền tảng chỉ đơn giản là đang không đầy đủ hoặc thuật toán được thiết kế kém hay không.

Một trong những ví dụ điển hình về thiên vị trong thực tế đến từ lời kể của một nhân viên nội bộ tại Amazon. Vào năm 2014, công ty này quyết định thử nghiệm tự động hóa quy trình giới thiệu và tuyển dụng nhân viên. Theo logic của họ, nếu tự động hóa đã hiệu quả trong việc thúc đẩy lợi nhuận thông qua đề xuất sản phẩm và tổ chức kho hàng, thì nó cũng có thể hiệu quả trong quá trình tuyển dụng.

Dựa theo lời của một kỹ sư, “Họ thực sự muốn đây là một công cụ tự động, tôi nạp vào đó 100 hồ sơ xin việc, nó sẽ trả ra 5 ứng viên xếp hạng cao nhất. Và chúng tôi sẽ tuyển dụng những người đó”. Hệ thống học máy được thiết kế để xếp hạng mọi người trên thang điểm từ 1 đến 5, tương tự hệ thống đánh giá sản phẩm của Amazon.

Để xây dựng mô hình nền tảng, các kỹ sư của Amazon đã sử dụng bộ dữ liệu gồm hồ sơ xin việc của các nhân viên khác trong 10 năm qua, sau đó đào tạo một mô hình thống kê trên 50.000 thuật ngữ xuất hiện trong các hồ sơ đó. Hệ thống nhanh chóng bắt đầu gán giá trị giảm dần đối với các thuật ngữ kỹ thuật thường được sử dụng, chẳng hạn như ‘ngôn ngữ lập trình’, vì tất cả đều liệt kê chúng trong kinh nghiệm làm việc của họ.

Thay vào đó, các mô hình bắt đầu gán giá trị cao hơn cho những tín hiệu tinh tế hơn xuất hiện nhiều lần trong các đơn xin việc thành công. Hệ thống đặc biệt ưu tiên các động từ cụ thể. Các ví dụ mà các kỹ sư đề cập đến là những động từ như “thực hiện” và “nắm bắt”.

Các nhà tuyển dụng bắt đầu sử dụng hệ thống này như một công cụ bổ sung cho các cách tuyển dụng thông thường của họ. Chẳng bao lâu sau, một vấn đề nghiêm trọng xuất hiện: hệ thống không đề xuất ứng viên nữ nữa. Nó đang tích cực hạ thấp thứ hạng hồ sơ xin việc của các ứng viên tốt nghiệp trường nữ sinh cùng bất kỳ hồ sơ nào thậm chí có chứa từ “phụ nữ”.

Ngay cả sau khi chỉnh sửa hệ thống để loại bỏ ảnh hưởng của các tham chiếu rõ ràng về giới tính, sự thiên vị vẫn còn đó. Những từ ngữ chỉ tính nam thống trị tiếp tục xuất hiện trong bản thân cách sử dụng ngôn ngữ theo giới tính. Mô hình này không chỉ thiên vị chống lại phụ nữ như một nhóm mà còn chống lại những cách diễn đạt thường được gắn với giới tính.