 |
| Ảnh minh họa: cottonbro studio/Pexels. |
Meredith Broussard là phó giáo sư tại Đại học New York và là một nhà khoa học về dữ liệu. Trong cuốn sách More than a Glitch (tạm dịch: Hơn cả một chút trục trặc), nhà khoa học này đề cập đến những vấn đề mà AI chưa thể giải quyết được.
Theo MIT Technology Review, Broussard bắt đầu nghiên cứu và viết cuốn sách này khi phát hiện ra AI đã tham gia vào quá trình chẩn đoán bệnh ung thư vú của bà. Qua trải nghiệm này, Broussard có nhiều suy niệm về ứng dụng của AI trong đời sống.
Tác giả cho rằng khi phải đối mặt với một căn bệnh đe dọa đến tính mạng, người ta thường mong được trao đổi và hỗ trợ trực tiếp từ các bác sĩ, y tá chứ không phải từ một AI khô cứng, máy móc.
Thế giới không thể chỉ có toàn thuật toán
Một trong những lập luận rất phổ biến về AI hiện nay là con người sẽ ngày càng ưu ái sử dụng AI và công nghệ trong mọi lĩnh vực đời sống. Trong cuốn sách của mình, Broussard đã phản đối lại lập luận này, cho rằng dù AI có nhiều tiềm năng, nó vẫn chỉ là thuật toán. Nữ tác giả cho rằng thuật toán không thể là tiêu chuẩn cho mọi thứ trên thế giới.
 |
| Sách More than a Glitch. Ảnh: Goodreads. |
Hiện nay, người ta đang bỏ qua những yếu tố về giới, trình độ, chủng tộc khi ứng dụng thuật toán - AI để giải quyết những vấn đề xã hội. Broussard cho rằng những vấn đề xã hội vẫn là khía cạnh mà AI chưa thể xử lý trọn vẹn. Cách ứng dụng AI thiếu cân nhắc như vậy có thể gây ra nhiều tác hại nghiêm trọng.
Thời gian gần đây, người dân bắt đầu nhận thấy tính năng nhận dạng khuôn mặt của AI hoạt động không hiệu quả trên gương mặt của người có tông da sẫm màu hơn - đặc biệt là với phụ nữ. Điều này dẫn đến việc xác định sai và nhầm đối với người da đen, khiến cảnh sát bắt giữ nhầm người.
Một phong trào cấm sử dụng công nghệ nhận diện khuôn mặt, đặc biệt là trong việc trị an, đã nổ ra. Mặc cho những ý kiến lập luận rằng điều này sẽ ngăn cản sự phát triển của công nghệ, Broussard ủng hộ phong trào này.
Trong cuốn sách Black Software (tạm dịch: “Phần mềm đen”), tác giả Charlton McIlwain - giáo sư ngành Truyền thông và Văn hóa Đại học New York - đã đề cập đến lịch sử mua bán và sử dụng máy tính tại Mỹ trong những năm 1960:
Để chứng minh được tính năng hiệu quả của máy tính, các công ty bán chúng nhấn mạnh vào những rắc rối mà máy tính có thể giải quyết. Broussard nhận định: "Nhưng máy tính không hiểu các vấn đề xã hội. Và cho đến hôm nay, chúng ta vẫn đang sống chung với những hậu quả tai hại của các quyết định đó".
Trong cuốn sách của mình, Broussard chỉ ra thực trạng trị an của nước Mỹ hiện nay. Nữ tác giả cho rằng các khu dân cư cho người da màu và người nghèo ở nước Mỹ vốn đã bị kiểm soát chặt chẽ. Việc sử dụng thêm công nghệ để quản lý trật tự ở những khu vực này không những không giúp ích, lại gây thêm phiền phức.
Là một nhà khoa học về dữ liệu, Broussard có kết nối với nhiều nhà khoa học xã hội. Điều này giúp nữ tác giả nhiều trong quá trình nghiên cứu. Đơn cử, cuộc trò chuyện với Jeff Lane - nhà khoa học xã hội, nhà dân tộc học, phó giáo sư trường Thông tin Rutgers - đã cho Broussard cái nhìn sâu sắc về mối tương quan giữa công nghệ và xã hội học.
Broussard cho rằng những dữ liệu không chuẩn xác và thiếu cập nhật của cảnh sát có thể gây rắc rối, thậm chí nguy hiểm, cho người da màu. Đây chính là điểm mà AI chưa hoàn thiện.
Kiểm định để AI công bằng, bình đẳng và thân thiện hơn
Hiện nay, tại một số trường học ở Mỹ, người ta đang sử dụng thuật toán để dự đoán điểm số và phân loại học sinh.
Tác giả thừa nhận đôi khi, mọi người có thể cảm thấy hào hứng với ý tưởng dự đoán tương lai dựa trên dữ liệu thực tế. Điều này giúp chúng ta cảm thấy bớt mờ mịt về tương lai.
 |
| PGS Meredith Broussard, tác giả sách More than a Glitch. Ảnh: MB. |
Nhưng một trong những điều tuyệt vời về trường học là mọi học sinh ngồi chung một lớp có thể có xuất phát điểm khác nhau nhưng qua sự hỗ trợ của giáo viên, các em có khả năng thay đổi và tiến xa hơn trên hành trình học tập. Việc sử dụng AI để phân loại và đóng khung học sinh, trong mắt Broussard, là phản khoa học và đi ngược lại với mục đích của giáo dục.
Theo nữ tác giả, con người sẽ luôn phải sống chung với những điều họ chưa thể biết rõ. Nhưng chính điều này sẽ tạo ra không gian để chúng ta thay đổi.
Broussard cũng đề cập đến vai trò quan trọng của việc kiểm tra và giám sát thuật toán. Đây là một quá trình xem xét thuật toán và kiểm tra những khuynh hướng đưa ra kết quả của nó.
Mặc dù lĩnh vực này còn mới, Broussard ghi nhận hội đồng FAccT (hội đồng được lập ra để nỗ lực làm cho trí tuệ nhân tạo có đạo đức hơn) đã đưa ra nhiều phương pháp để đánh giá sự công bằng của các thuật toán.
Trong cuốn sách, Broussard khẳng định đang tồn tại sự phân biệt trong hệ thống máy học - lĩnh vực nghiên cứu sao cho máy tính có khả năng tự hoàn thiện dựa trên việc sử dụng dữ liệu và thuật toán.
Bà cho rằng quan trọng là các nhà nghiên cứu cần liên tục đặt câu hỏi xem hệ thống này có đang được lập trình theo những định kiến về giới tính, trình độ và chủng tộc không. Câu trả lời thường là có và điều đó cần thay đổi.
