Theo The Guardian, trí tuệ nhân tạo (AI) đang mở ra những khả năng chưa từng có, nhưng cũng làm dấy lên lo ngại về việc quyền lực ngày càng tập trung vào một nhóm nhỏ doanh nhân công nghệ.
Đó là vấn đề được nhà sử học Mỹ Jill Lepore đặt ra trong cuốn The Rise and Fall of the Artificial State (tạm dịch: Sự trỗi dậy và suy tàn của nhà nước nhân tạo).
Lepore cho rằng mối đe dọa lớn nhất đối với nền dân chủ không nhất thiết đến từ bản thân AI, mà từ quyền lực của những tập đoàn công nghệ tư nhân, nơi các quyết định có thể ảnh hưởng đến hàng tỷ người nhưng không chịu sự giám sát tương xứng của công chúng.
Quyền lực trong tay các ông trùm công nghệ
Jill Lepore sử dụng khái niệm Artificial State (nhà nước nhân tạo) để mô tả viễn cảnh công nghệ và các hệ thống tự động dần thay thế những cơ chế quản trị truyền thống.
Ở dạng cực đoan, đó là một xã hội nơi giới tinh hoa công nghệ tìm cách vượt qua những giới hạn sinh học, môi trường, thậm chí cả các thiết chế dân chủ để hướng tới việc điều hành bằng máy móc và thuật toán.
Tuy nhiên, tác giả cho rằng những dấu hiệu của sự thay đổi này đã xuất hiện.
Một phần đáng kể các cuộc thảo luận công cộng đã chuyển sang những nền tảng trực tuyến do doanh nghiệp tư nhân sở hữu. Tại đó, thuật toán quyết định nội dung nào được ưu tiên hiển thị, còn sự chú ý của người dùng trở thành nguồn tạo doanh thu quảng cáo.
Mạng xã hội X, trước đây là Twitter, được Lepore lấy làm ví dụ. Theo bà, sự xuất hiện của các tài khoản tự động cùng những nội dung kích động cảm xúc góp phần làm gia tăng tình trạng phân cực trong các cuộc thảo luận trực tuyến.
 |
| Tác giả Lepore tỏ ra e ngại trước quyền lực công nghệ của một số tỷ phú. Ảnh: Amazon. |
Trong cuốn sách, Lepore nhắc đến Elon Musk, Mark Zuckerberg, Jeff Bezos, Peter Thiel và Sam Altman như những nhân vật có ảnh hưởng lớn đến hướng phát triển của công nghệ.
Bà cho rằng tham vọng của một số tỷ phú không chỉ dừng lại ở việc xây dựng doanh nghiệp, mà còn mở rộng sang những lĩnh vực có thể định hình tương lai nhân loại.
Trong khi thế giới phải đối mặt với biến đổi khí hậu, các doanh nhân công nghệ đang đầu tư mạnh vào chinh phục không gian, phát triển AI và xây dựng hạ tầng điện toán quy mô lớn.
Lepore đặt câu hỏi về những ưu tiên này, đặc biệt khi các trung tâm dữ liệu phục vụ AI tiêu thụ lượng điện năng đáng kể.
Tác giả cũng đề cập những ý tưởng mang màu sắc khoa học viễn tưởng, từ định cư trên sao Hỏa, xây dựng nơi trú ẩn biệt lập đến tham vọng vượt qua giới hạn sinh học bằng công nghệ.
Những ý tưởng ấy phản ánh niềm tin của một bộ phận giới công nghệ rằng tiến bộ kỹ thuật có thể giải quyết cả những vấn đề vốn thuộc phạm vi chính trị và xã hội.
Khi khoa học viễn tưởng trở thành hiện thực
Để lý giải nguồn gốc các tham vọng trên, Lepore lần theo lịch sử của những tư tưởng đề cao công nghệ, trong đó có ảnh hưởng từ các tác phẩm khoa học viễn tưởng thời Chiến tranh Lạnh.
Theo tác giả, nhiều câu chuyện viễn tưởng thế kỷ XX vốn được viết như lời cảnh báo về nguy cơ con người mất quyền kiểm soát trước máy móc.
Thế nhưng, một số nhân vật trong giới công nghệ ngày nay lại tiếp nhận những câu chuyện ấy như nguồn cảm hứng để xây dựng tương lai.
Lepore đặc biệt nhắc đến Isaac Asimov, nhà văn nổi tiếng với các tác phẩm về robot và AI. Bà cho rằng những người kiến tạo tương lai AI dường như coi các câu chuyện mang tính cảnh tỉnh ấy như bản hướng dẫn phát triển máy móc.
Cuốn sách cũng đề cập nguồn gốc hoạt động điều tra dân số tại vùng Lưỡng Hà cổ đại, cho thấy việc thu thập thông tin từ lâu đã gắn với khả năng quản lý và kiểm soát xã hội.
Tuy nhiên, lập luận của Lepore cũng có hạn chế khi bà đôi lúc đặt những công nghệ rất khác nhau vào cùng một nhóm.
Việc AI được sử dụng để nghiên cứu thuốc chữa bệnh không thể đánh giá giống hệ thống tự động phát tán thông tin sai lệch. Tương tự, robot hút bụi và thiết bị quân sự ứng dụng AI có mục đích, tác động hoàn toàn khác nhau.
Bản thân Lepore cũng thừa nhận bà không phản đối AI về bản chất. Theo tác giả, vấn đề là xã hội chưa xây dựng được chiến lược phát triển và sử dụng công nghệ có sự tham gia đầy đủ của các thiết chế dân chủ.
Ở phần kết, bà khuyến khích con người tạm rời các thiết bị điện tử để kết nối nhiều hơn với thiên nhiên và thế giới thực.
Sau cùng, câu hỏi lớn nhất mà cuốn sách để lại không phải liệu AI có thay thế con người, mà là ai sẽ nắm quyền quyết định cách công nghệ được phát triển, sử dụng và giám sát.
Tri Thức - Znews giới thiệu độc giả Tủ sách kiến thức kinh tế với đa dạng cuốn sách, câu chuyện trong lĩnh vực kinh doanh, kinh tế. Là nguồn tư liệu cho những người quan tâm và muốn nâng cao kiến thức trong lĩnh vực kinh tế. Những cuốn sách, câu chuyện trong Tủ sách không chỉ đơn thuần là những tác phẩm của tri thức mà còn chứa đựng bí quyết, kinh nghiệm quý báu từ các tác giả, nhà quản lý có uy tín và kinh nghiệm lâu năm trong ngành.
Đọc sách không chỉ giúp người đọc tiếp cận những kiến thức mới mà còn giúp mở rộng tầm nhìn và phát triển bản thân. Tủ sách kiến thức kinh tế mong muốn lan tỏa tri thức trong lĩnh vực kinh doanh, đồng thời phát triển văn hóa đọc cho người Việt.
