|
|
Sam Altman, CEO OpenAI, cho rằng lá thư kêu gọi dừng phát triển AI là thiếu căn cứ. Ảnh: Reuters. |
Tại một sự kiện ở MIT, Altman đã được hỏi về một bức thư ngỏ gần đây yêu cầu các phòng thí nghiệm như OpenAI tạm dừng phát triển các hệ thống trí tuệ nhân tạo “mạnh hơn GPT-4”. Bức thư, có chữ ký của Elon Musk và Steve Wozniak, nêu lo ngại về sự an toàn của các hệ thống AI.
CEO OpenAI cho biết bức thư “thiếu hầu hết chi tiết kỹ thuật về việc cần tạm dừng ở đâu” và lưu ý rằng một phiên bản thư trước đó tuyên bố rằng OpenAI đang phát triển GPT-5.
“Chúng tôi không và sẽ không phát triển GPT-5 trong một thời gian nữa. Theo nghĩa đó, yêu cầu tạm ngừng khá ngớ ngẩn", Altman nói, lưu ý thêm rằng không phát triển GPT-5 không có nghĩa là không phát triển các khả năng hiện có của GPT-4 cũng như các biện pháp an toàn liên quan, sếp OpenAI lưu ý.
“Chúng tôi đang làm những công việc khác trên GPT-4, với nhiều vấn đề an toàn cần giải quyết, và hoàn toàn không xuất hiện trong bức thư”, cha đẻ ChatGPT cho biết.
 |
| Elon Musk, từng là nhà đầu tư vào OpenAI, là một trong những người ký bức thư kêu gọi ngừng phát triển AI. Ảnh: Vanity Fair. |
Nhận xét của Altman về bức thư cho thấy một khó khăn trong cuộc tranh luận về sự an toàn của AI: khó đo lường và theo dõi tiến độ phát triển của công nghệ. Có thể OpenAI hiện không đào tạo GPT-5, nhưng con số tên phiên bản không thực sự có ý nghĩa.
Công ty vẫn đang mở rộng tiềm năng của GPT-4, ví dụ bằng cách kết nối mô hình với Internet. Ngoài ra còn có các nghiên cứu tối ưu hóa GPT-4, giống như GPT-3.5 là phiên bản tối ưu hóa GPT-3 bằng kỹ thuật Học tăng cường với phản hồi của con người.
“Tôi nghĩ rằng việc phát triển một cách thận trọng là rất quan trọng, tôi cũng đồng ý rằng khi các mô hình ngày càng nhiều khả năng thì mức an toàn phải tăng lên. Nhưng bức thư không phải cách giải quyết tối ưu”, Altman đánh giá.
Một số chuyên gia trong ngành đánh giá có những rủi ro xung quanh AI, nhưng cũng không đồng tình với bức thư có chữ ký của Elon Musk.
Thay vì đặt câu hỏi liệu AI có trở nên thông minh hơn và thay thế con người, cần quan tâm hơn đến cách các hệ thống AI có thể lan truyền tin giả cũng như lạm dụng sức lao động trong quá trình đào tạo, Sandra Wachter, chuyên gia về quản lý công nghệ tại Đại học Oxford, người không ký vào bức thư, cho biết.
Nhân loại sẽ đối đầu với trí tuệ nhân tạo như thế nào
Trong cuốn sách "Framers - Nhân loại đối đầu nhân tạo", các tác giả nhận định con người vẫn có lợi thế trong thời đại công nghệ.
