Đó là sản phẩm của phần mềm AI có tên Face Depixelizer - website cho ra ảnh khuôn mặt người độ phân giải cao dựa trên ảnh gốc độ phân giải thấp - sử dụng thuật toán máy học có tên PULSE, được tạo ra bởi nhóm sinh viên Đại học Duke (Mỹ).
Trong bức ảnh đăng lên Twitter ngày 20/6, hình ảnh độ phân giải thấp của cựu Tổng thống Mỹ Barack Obama được đưa vào Face Depixelizer, tuy nhiên kết quả lại là ảnh của một người đàn ông da trắng.
 |
| Bức ảnh ông Obama trước và sau khi "phục chế" bởi Face Depixelizer. Ảnh: @Chicken3gg/Twitter. |
Robert Osazuwa Ness, kỹ sư tạo ra website altdeep.ai về kiến thức AI, cũng gặp tình trạng tương tự khi chạy thuật toán PULSE trên máy tính của mình.
Mô tả trên các diễn đàn, Ness cho biết thuật toán này cho ra ảnh người da trắng nếu ảnh đưa vào là khuôn mặt người da màu. Bằng chứng là ảnh độ phân giải thấp của chính trị gia Alexandria Ocasio-Cortez và diễn viên Lucy Liu khi qua thuật toán PULSE đều thành người da trắng.
Kết quả này làm dấy lên tranh cãi về tính phân biệt chủng tộc của AI, sự thiên vị đến từ người tạo ra chúng và dữ liệu mà chúng đang làm việc, trong trường hợp này là chuyển hình ảnh người da màu thành da trắng.
Denis Malimonov, lập trình viên đứng sau Face Depixelizer, cho biết công cụ này không thực sự phục hồi ảnh độ phân giải thấp, thay vào đó là tạo ra hình ảnh mới bằng trí tuệ nhân tạo.
"Mạng thần kinh (của công cụ) này chỉ đóng vai trò đoán ngoại hình", Malimonov cho biết. Dù vậy, hình ảnh ông Obama và nhiều nhân vật chứng tỏ Face Depixelizer không nhận diện đúng khuôn mặt của người da màu.
 |
| Một số hình ảnh cho thấy thuật toán PULSE nhận diện sai khuôn mặt người da màu, kết quả cho ra ảnh người da trắng. Ảnh: @osazuwa/Twitter. |
Trả lời trang Motherboard, nhóm tác giả PULSE nói rằng thuật toán này được huấn luyện dựa trên mô hình StyleGEN - bộ dữ liệu ảnh khuôn mặt lấy từ Flickr. Theo đó, PULSE sẽ tạo ra khuôn mặt phù hợp mà nó cho là tương đồng với ảnh khuôn mặt độ phân giải thấp do người dùng cung cấp.
Những tác giả cho biết bộ dữ liệu của mô hình StyleGEN đa dạng hơn CelebA (bộ dữ liệu khuôn mặt được sử dụng phổ biến trong thị giác máy tính, với gần 90% là khuôn mặt người da trắng). Dù vậy, họ thừa nhận PULSE cho ra ảnh người da trắng nhiều hơn.
Nhóm tác giả cũng nhắc lại ý kiến của Malimonov nói rằng PULSE không xác định khuôn mặt của bức ảnh bị mờ hoặc khôi phục ảnh độ phân giải thấp, thay vào đó chỉ dựa vào ảnh để tạo ra khuôn mặt người do nó tưởng tượng.
Kỹ sư Ness cho biết đây là vấn đề chung trong lĩnh vực máy học, tuy nhiên trường hợp này gây tranh cãi bởi bức ảnh được lan truyền là của cựu Tổng thống Obama. Vì quá nổi tiếng nên khi nhìn vào ảnh bị mờ, mọi người vẫn có thể tưởng tượng rõ khuôn mặt thật của ông.
Alexia Jolicoeur-Martineau, sinh viên tiến sĩ về AI, nhận định sự đa dạng sắc tộc trong nhóm nghiên cứu là điều cần thiết để giải quyết những sai sót này.
"Sự thiên vị vốn đến từ chính các nhà nghiên cứu, do đó chúng ta cần đa dạng sắc tộc. Nếu nhóm nghiên cứu toàn là nam da trắng, họ có thể không nghĩ đến sự đa dạng sắc tộc trong bộ dữ liệu hoặc nghiên cứu", Jolicoeur-Martineau nhận định.
