|
|
Ảnh: Lithub. |
Đã từ lâu, con người luôn bị thu hút bởi những người hứa hẹn sẽ xoa dịu nỗi lo lắng về tương lai bằng cách tiết lộ điều gì sẽ xảy ra.
Xương thú và AI đều có thể tiên tri?
Trong những chương đầu, nhà triết học Véliz của Đại học Oxford đã đưa người đọc vào một chuyến tham quan sống động xuyên suốt lịch sử, từ các nhà tiên tri của Hy Lạp và La Mã cổ đại cho đến sự ra đời của ngành bảo hiểm và quản trị rủi ro.
Trong khi việc tìm hiểu tương lai từ nội tạng động vật hay các loại xương thú nghe có vẻ kỳ quặc so với sự hiện đại của công nghệ, hay gần đây là AI và dữ liệu lớn, chúng có chung đặc điểm là đều muốn dự đoán sự phát triển của xã hội.
Ví dụ, các thuật toán trong ngành bảo hiểm đã sử dụng dữ liệu khách hàng để dự đoán ai có khả năng hoàn trả khoản vay và cả nguy cơ phạm tội tài chính. Để đưa ra tỷ lệ phán đoán, công nghệ máy học đã sử dụng các mô hình thống kê để dự đoán khả năng xảy ra.
|
| Cuốn sách ra mắt ngày 21/4. Ảnh: Amazon. |
Trong kỷ nguyên học máy, con người không chỉ dựa vào dự báo của thuật toán để định hướng các quyết định trong ngành kỹ thuật, mà còn trong chính sách công, quản trị doanh nghiệp và cả cuộc sống cá nhân.
Véliz lập luận rằng có một vấn đề cốt lõi với quá trình trên: dự đoán của công nghệ máy học chỉ mang tính xác suất, nhưng chúng lại được chấp nhận như những kết luận sẽ xảy ra, thậm chí được coi như sự thật.
Việc con người dễ dàng chấp nhận những kết luận này một phần đến từ việc chúng đã xoa dịu được nỗi lo lắng bẩm sinh của nhân loại về một tương lai bất định. Điều này cũng tương tự việc con người từ xưa đã tìm đến bói toán để định hướng cho tương lai của họ.
Hiểm họa của một xã hội AI
Nắm bắt được tâm lý này, công nghệ mới không tránh khỏi bị những kẻ muốn kiểm soát quyền lực chính trị hoặc giành lợi thế trên thị trường lợi dụng. Véliz cảnh báo: “Các thuật toán thường là những sát thủ được các công ty phái đến để thực hiện ý chí quyền lực của họ”.
Tác giả đã chỉ ra việc AI hiện nằm trong tay số ít tập đoàn công nghệ toàn cầu và đây mới chính là bộ não của công nghệ này. Trong khi đó, để đẩy mạnh sự phát triển của AI, các tỷ phú công nghệ này đang buộc cộng đồng phải chịu hệ lụy của các trung tâm dữ liệu ngốn năng lượng, còn họ thì xây dựng các hầm trú ẩn xa xỉ để chống chọi với thảm họa khí hậu sắp tới.
Chưa kể, Véliz còn chỉ ra một hệ lụy nữa của AI khi dựa chủ yếu vào phân tích thống kê để đưa ra phán đoán. Theo logic này, AI sẽ chọn các mức giá trị trung bình. Với đà phát triển này, sự đa dạng của xã hội bị tước bỏ. Ngôn ngữ trở nên nhạt nhòa, các thuật toán chỉ đề xuất những quán cà phê dễ chịu và trông na ná nhau.
Véliz so sánh xu hướng độc canh văn hóa này với độc canh cây trồng. Việc cắt giảm đa dạng cây trồng khiến môi trường phát triển cho loài cây được lựa chọn ít biến động hơn, tuy nhiên, khiến chúng dễ bị tổn thương hơn nếu xảy ra tình trạng mất kiểm soát.
Trong đời sống xã hội, mô hình phát triển dựa trên giá trị trung bình này có thể khiến người dân trả giá nhiều hơn. Ví dụ, khách hàng có thể phải trả nhiều tiền hơn để nhận được gói “định giá tài sản linh hoạt” khi làm việc với ngân hàng, hay phải mặc cả dữ dội với bảo hiểm y tế để có thể nhận được bồi thường nếu trường hợp của họ nằm ngoài diện chi trả tiêu chuẩn.
Một minh chứng đơn giản hơn ngay hiện tại là việc con người phải nói chuyện với các chatbot AI rất lâu trước khi có thể gặp nhân viên để nói về vấn đề họ gặp phải. Trong khi AI có thể giải quyết một số thắc mắc nhất định, chúng không thể giải quyết tình huống cá nhân của từng khách hàng cụ thể. Rất nhiều người đã phải chịu đựng sự phiền toái khi có những cuộc giao tiếp vô nghĩa với AI và vấn đề thì không được giải quyết.
Đây chính là điều thú vị khi Prophecy mang tới những mối liên hệ bất ngờ như vậy về AI trong đời sống và những nhận định đáng kinh ngạc về bản chất của nền kinh tế tư bản và những điểm yếu của nó.
Từ đó, Véliz cho rằng AI càng thành công trong việc chiếm lĩnh các cấu trúc kinh tế và xã hội hiện có thì thế giới càng trở nên khó đoán và nhiều rủi ro hơn.
Đọc được sách hay, hãy gửi review cho Tri Thức - Znews
Bạn đọc được một cuốn sách hay, bạn muốn chia sẻ những cảm nhận, những lý do mà người khác nên đọc cuốn sách đó, hãy viết review và gửi về cho chúng tôi. Tri Thức - Znews mở chuyên mục “Cuốn sách tôi đọc”, là diễn đàn để chia sẻ review sách do bạn đọc gửi đến qua Email: books@znews.vn. Bài viết cần gửi kèm ảnh chụp cuốn sách, tên tác giả, số điện thoại.
Trân trọng.