Elon Musk từng khuyến nghị một cuốn sách về trí tuệ nhân tạo (AI) xuất bản từ năm 2014. Bill Gates cũng viết lời giới thiệu cho tác phẩm, trong khi Sam Altman gọi đây là cuốn sách hay nhất ông từng đọc về chủ đề này.
Đó là Superintelligence: Paths, Dangers, Strategies của Nick Bostrom, triết gia tại Đại học Oxford. Cuốn sách đặt ra một câu hỏi mà ở thời điểm đó, còn khá xa với đời sống công nghệ: nếu máy móc một ngày có trí thông minh vượt con người, chúng ta sẽ kiểm soát chúng như thế nào?
Cuốn sách được nhiều tỷ phú công nghệ chú ý
Elon Musk, Bill Gates, Sam Altman sau này đều gắn với những bước phát triển lớn của ngành AI. Musk thành lập xAI, Gates dành nhiều thời gian nghiên cứu và viết về AI, còn Altman trở thành CEO của OpenAI.
Nhưng khi Superintelligence xuất hiện vào năm 2014, những cuộc trò chuyện về AI của họ chưa gắn với ChatGPT hay cuộc đua mô hình ngôn ngữ như hiện nay.
Nick Bostrom đã dùng cuốn sách để phân tích khả năng xuất hiện một hệ thống có trí thông minh vượt con người, những con đường có thể dẫn đến trạng thái này và cách con người kiểm soát nó.
Một trong những nội dung quan trọng của sách là “control problem” - bài toán kiểm soát. Theo lập luận của Bostrom, một hệ thống đủ thông minh có thể tìm ra những cách thực hiện mục tiêu mà con người không dự tính trước.
Chẳng hạn, nếu một hệ thống được giao một mục tiêu cụ thể, nó có thể tìm mọi cách để tối ưu mục tiêu đó. Vấn đề nằm ở chỗ những cách này chưa chắc phù hợp với điều con người thực sự mong muốn.
Bostrom vì thế dành nhiều phần trong sách để bàn về cách xây dựng mục tiêu và các điều kiện an toàn trước khi một hệ thống siêu trí tuệ xuất hiện.
Oxford University Press mô tả Superintelligence là công trình nghiên cứu các vấn đề có thể phát sinh khi trí tuệ máy vượt qua con người, cùng những chiến lược nhằm kiểm soát công nghệ này.
Những câu hỏi trong sách vẫn theo ngành AI
Năm 2015, một năm sau khi Superintelligence xuất bản, Altman viết rằng ông đặc biệt lo ngại về khả năng trí tuệ máy vượt con người.
Altman khi đó chưa điều hành OpenAI. Ông đang lãnh đạo Y Combinator, nhưng đã dành nhiều thời gian theo dõi sự phát triển của AI và những rủi ro dài hạn của công nghệ này.
Trong bài viết, Altman cho rằng AI có thể mang lại những lợi ích rất lớn nhưng cũng có thể tạo ra rủi ro nghiêm trọng nếu con người không chuẩn bị trước. Superintelligence được ông dẫn lại như một trong những tài liệu quan trọng để suy nghĩ về vấn đề này.
Musk cũng nhiều lần bày tỏ lo ngại tương tự. Khi giới thiệu Superintelligence, Musk cảnh báo rằng con người cần “cực kỳ thận trọng” với AI. Ông từng so sánh nguy cơ từ AI với những công nghệ có sức hủy diệt lớn nhất mà con người từng tạo ra. Nhận xét này sau đó được Oxford University Press sử dụng trên trang giới thiệu cuốn sách.
Gates tiếp cận vấn đề từ một góc khác. Ông từng nhiều lần nói về tiềm năng của AI trong y tế, giáo dục và năng suất lao động, đồng thời cho rằng xã hội cần chuẩn bị trước những thay đổi do công nghệ này tạo ra.
 |
| Nick Bostrom, tác giả cuốn sách Superintelligence: Paths, Dangers, Strategies. Ảnh: Christopher Pledger. |
Superintelligence vì thế nằm ở một điểm giao giữa hai câu chuyện, thứ nhất là AI có thể đem lại giá trị kinh tế rất lớn, thứ hai là chính năng lực đó cũng đặt ra những rủi ro mới. Đây cũng là vấn đề sau này được ngành công nghệ gọi bằng những thuật ngữ như AI safety và AI alignment.
AI alignment tập trung vào việc bảo đảm hệ thống AI thực hiện đúng mục tiêu mà con người mong muốn, thay vì chỉ tối ưu hóa một mệnh lệnh theo cách máy móc. Nhiều nghiên cứu trong lĩnh vực này chịu ảnh hưởng từ những câu hỏi được Bostrom đặt ra trong Superintelligence.
OpenAI cũng từng công bố quan điểm về quản trị siêu trí tuệ. Trong một bài viết năm 2023, Altman cùng Greg Brockman và Ilya Sutskever cho rằng một hệ thống siêu trí tuệ có thể xuất hiện trong tương lai và cần có các cơ chế quản trị phù hợp để kiểm soát rủi ro.
Tuy nhiên, Superintelligence không phải một lời tiên tri về AI. Bostrom không đưa ra mốc thời gian chắc chắn cho việc máy móc vượt con người. Những kịch bản trong sách cũng không phải những điều đã được chứng minh sẽ xảy ra.
Hơn 10 năm sau ngày xuất bản, nhiều câu hỏi trong sách vẫn chưa có câu trả lời thống nhất. Ngành công nghệ tiếp tục tranh luận về khả năng xuất hiện AGI, tốc độ phát triển của AI và cách kiểm soát những hệ thống ngày càng có nhiều năng lực.
Không phải ai cũng có cơ hội gặp gỡ, trò chuyện với những doanh nhân, tỷ phú, những nhà quản lý doanh nghiệp nổi tiếng. Vì vậy, sách trở thành phương thức hiệu quả để người đọc tiếp cận, tìm hiểu về câu chuyện kinh doanh, cuộc đời, kinh nghiệm của các doanh nhân, tỷ phú này.
Tri Thức - Znews giới thiệu độc giả Tủ sách doanh nhân - là những cuốn sách, câu chuyện về cuộc đời và kinh nghiệm của các tỷ phú, nhà quản lý nổi tiếng. Tủ sách không chỉ bao gồm các cuốn sách, câu chuyện từ tác giả độc lập mà còn bao gồm những cuốn sách do chính các tỷ phú viết về cuộc đời mình.
