|
|
Dario Amodei lo AI sắp vượt tầm kiểm soát của con người. Ảnh: Chesnot. |
Hôm 12/9, Dario Amodei kêu gọi các công ty phát triển trí tuệ nhân tạo (AI) cho phép bên thứ 3 đánh giá, hợp tác với chính phủ về tiêu chuẩn an toàn, đồng thời làm chậm tốc độ cải thiện năng lực của các mô hình AI.
Ở vị trí CEO Anthropic, cũng như nhà khoa học có đóng góp lớn đối với tiến bộ AI, ý kiến của Amodei nhận được sự tán đồng của những nhân vật nổi tiếng khác trong ngành, gồm cả Elon Musk và Sam Altman.
"Chúng ta phải đi đầu trong việc giảm tốc"
Trong bài luận đăng trên blog cá nhân, Dario Amodei vẫn lạc quan về việc AI sẽ là "kỳ tích công nghệ mới nhất trong một chuỗi dài những kỳ tích đã nâng tầm và làm cho nhân loại trở nên cao quý hơn".
Tuy nhiên, ông cho rằng các nhà nghiên cứu phải "đi tiên phong" trước những rủi ro như AI vượt tầm kiểm soát, sử dụng cho tội phạm, khủng bố và gây gián đoạn kinh tế.
"Trong vài tháng qua, tôi càng tin chắc rằng việc giải quyết triệt để các rủi ro đòi hỏi sự thận trọng hơn nữa, không chỉ đầu tư vào phòng ngừa rủi ro, mà còn phải điều chỉnh tốc độ phát triển năng lực sao cho công tác phòng ngừa rủi ro có thời gian theo kịp", Amodei viết.
"Chúng ta phải giảm tốc độ cải thiện khả năng của các mô hình AI. Tiến bộ vẫn có vẻ nhanh và chúng ta phải sử dụng thời gian có được một cách khôn ngoan", ông nói thêm.
Kế hoạch do Amodei đề xuất gồm 3 bước, không bước nào trong số đó tự thân đủ để làm chậm quá trình phát triển đáng kể. Ông kêu gọi các công ty AI cho phép tích hợp các bên đánh giá thứ 3, phối hợp với nhau và với chính phủ về các tiêu chuẩn an toàn và chính phủ Mỹ tìm kiếm sự phối hợp toàn cầu về an toàn AI.
Amodei đề xuất một số thỏa thuận khả thi "theo thứ tự độ khó tăng dần", bao gồm: cấm dùng AI vào mục đích độc hại rõ ràng như vũ khí sinh học, thử nghiệm các mô hình trước khi đưa vào sử dụng đối với "rủi ro khẩn cấp", giới hạn tốc độ tự cải tiến đệ quy, thoả thuận kiểm soát toàn diện, hoặc thậm chí là tạm dừng việc phát triển AI giữa các chính phủ.
Vài ngày trước khi Amodei công bố bài luận, nhà nghiên cứu Jacob Coxon của Anthropic từ chức. Trên mạng xã hội, ông tuyên bố rằng các công ty AI, bao gồm Anthropic và OpenAI đang "chạy đua thẳng đến siêu trí tuệ tự hoàn thiện".
Trả lời phỏng vấn CBS News, Coxon cho rằng sự phát triển của AI hiện nay "không khác mấy so với 'Kẻ hủy diệt' hay các bộ phim khoa học viễn tưởng.
Mâu thuẫn của Dario Amodei
Phát biểu Jacob Coxon phần nào giống với chính quan điểm của Dario Amodei khi từ chức Phó Chủ tịch Nghiên cứu tại OpenAI, một trong những vai trò quyền lực nhất trong lĩnh vực AI, vào năm 2021.
Tại thời điểm đó, Amodei cho rằng OpenAI không xem xét nghiêm túc những nguy hiểm tiềm ẩn của chính công nghệ mình đang phát triển.
Vài tuần sau, ông và em gái Daniela cùng với 5 đồng nghiệp thành lập Anthropic, tạo ra điều thường được xem là nghịch lý: những người sợ hãi AI nhất lại chính là những người xây dựng nó.
Trong cuốn The Scaling Curve: Dario Amodei, Anthropic, and the Race to Build and Survive Superintelligence, tác giả Claude St. John tường thuật lại hành trình đó cùng những đóng góp của Dario Amodei đối với các tiến bộ AI hiện đại.
Tác giả/Tác phẩm
The Scaling Curve: Dario Amodei, Anthropic, and the Race to Build and Survive Superintelligence
Cuốn sách kể về Dario Amodei, từ nhà nghiên cứu góp phần khám phá các quy luật thúc đẩy sự phát triển của AI đến khi rời OpenAI và cùng em gái thành lập Anthropic.
The Scaling Curve: Dario Amodei, Anthropic, and the Race to Build and Survive Superintelligence tái hiện hành trình xây dựng Claude, những bước ngoặt của ngành AI và nghịch lý khi Amodei vừa cảnh báo về những hiểm họa của AI, vừa nỗ lực phát triển công nghệ này mạnh mẽ hơn.
Cốt lõi của câu chuyện là một mâu thuẫn khác thường. Amodei cảnh báo Quốc hội Mỹ, các nhà lãnh đạo thế giới và công chúng rằng AI có thể là công nghệ nguy hiểm nhất mà nhân loại từng tạo ra.
Ông mô tả kịch bản các hệ thống siêu thông minh có thể vượt khỏi tầm kiểm soát của con người, gây bất ổn cho các quốc gia hoặc chấm dứt nền văn minh. Và rồi mỗi sáng, Amodei vẫn quay lại văn phòng và tiếp tục xây dựng nó, huy động hàng chục tỷ USD để làm cho các mô hình thông minh hơn, nhanh hơn và mạnh mẽ hơn.
Theo Amodei, không phải ông và nhiều nhà khoa học khác phóng đại mối nguy hiểm về AI. Chính mối nguy hiểm là lý do ông phải là tự đứng ra xây dựng công nghệ này.
Cuốn sách là câu chuyện về 2 anh em đặt cược tất cả vào một ý tưởng mà thế giới chưa sẵn sàng đón nhận. Đó cũng là câu chuyện về một nhóm nhà nghiên cứu đi tiên phong về AI. Giờ đây họ lại phải trả lời câu hỏi: nhân loại có thể sống sót sau phát minh vĩ đại của chính mình hay không.
The Scaling Curve: Dario Amodei, Anthropic, and the Race to Build and Survive Superintelligence vừa là tiểu sử, vừa là lời cảnh báo, đồng thời đặt ra câu hỏi mà Dario Amodei mượn từ cuốn Contact của Carl Sagan: Làm thế nào để các bạn sống sót qua thời kỳ công nghệ non trẻ này mà không tự hủy hoại bản thân?
Những câu hỏi chúng ta phải đối mặt trong thế giới AI
Chúng ta có rất nhiều câu hỏi về thế giới AI, mà đó đều là những nghi hoặc không dễ có ngay đáp án.
Cuốn sách Thời đại AI - Và tương lai loài người chúng ta trình bày cách AI làm thay đổi mối quan hệ của chúng ta với tri thức, chính trị và xã hội. Mục tiêu tối thượng của cuốn sách này là giải thích về AI và cung cấp cho độc giả những câu hỏi mà chúng ta sẽ phải đối mặt trong những năm tới lẫn bộ công cụ để bắt đầu trả lời chúng.
