Theo Guardian, hơn 2.400 nhà khoa học nghiên cứu trí tuệ nhân tạo (AI) tuyên bố sẽ không tham gia chế tạo hoặc phát triển robot có khả năng tự xác định và tấn công mục tiêu mà không cần sự giám sát của con người.
Demis Hassabis, đồng sáng lập kiêm CEO của công ty trí tuệ nhân tạo Google Deepmind, và Elon Musk, CEO Tập đoàn Công nghệ Khai phá Không gian SpaceX, cũng tham gia vào cam kết này.
Được khởi xướng bởi tổ chức Future of Life Institute, trụ sở tại Boston, bản cam kết là động thái gần đây nhất của các nhà khoa học và các tổ chức nhằm cảnh báo về nguy cơ xuất hiện loại vũ khí hủy diệt hàng loạt mới.
 |
| Sophia, công dân robot đầu tiên trên thế giới, từng nổi tiếng bởi phát ngôn "sẽ tiêu diệt loài người". Ảnh: Wikipedia. |
Không thể phá vỡ ranh giới đạo đức
“Chúng tôi ký tên đồng ý rằng quyết định lấy đi sinh mạng con người không bao giờ được phép giao cho một cỗ máy”, bản cam kết viết.
Nhiều nhà hoạt động cảnh báo sự phát triển vũ bão của AI và các lĩnh vực khác đang tạo điều kiện để giới nghiên cứu chế tạo những loại vũ khí tinh vi có chức năng tự động nhận dạng, theo dấu và tấn công mục tiêu. Theo nhiều nhà khoa học, việc đặt mạng sống con người vào máy móc là vượt quá chuẩn mực đạo đức.
“Chúng ta cần đặt ra một quy tắc quốc tế rằng vũ khí tự hành là không thể chấp nhận được. Con người bắt buộc phải có mặt trong mọi trường hợp”, Toby Walsh, giáo sư về AI tại Đại học New South Wales, Australia, cho biết.
Một vấn đề gây quan ngại khác là dù đã cam kết không chế tạo vũ khí tự động, các nhà khoa học cũng không thể kiểm soát hết được cách thức những người khác áp dụng kết quả nghiên cứu của họ. Tuy nhiên, Lucy Suchman, giáo sư công nghệ và khoa học nhân học tại Đại học Lancaster, nhận định các nhà khoa học vẫn có thể can thiệp khi thấy quan ngại.
“Nếu tôi là một nhà nghiên cứu công nghệ tương lai và đã kí cam kết, đầu tiên, tôi sẽ theo dõi những người sử dụng công nghệ của mình và lên tiếng phản đối nếu họ ứng dụng công trình của tôi vào việc phát triển công nghệ vũ khí tự động nhận dạng mục tiêu. Tôi cũng sẽ từ chối tham gia tư vấn hoặc hỗ trợ”, bà nói.
 |
| Robot vũ trang được triển lãm tại Lầu Năm Góc trong một sự kiện của Bộ Quốc phòng Mỹ. Ảnh: Bộ Quốc phòng Mỹ. |
Giáo sư Walsh nhận định không thể xóa bỏ tham vọng chế tạo vũ khí AI của mọi nhà khoa học, do đó, cần có các biện pháp để ngăn chặn các phần tử cực đoan tiếp cận loại vũ khí nguy hiểm này.
“Chúng ta không thể ngăn tham vọng chế tạo vũ khí tự hành, cũng giống như việc không thể ngăn cản một người quyết tâm chế tạo vũ khí hóa học", ông nói. “Tuy nhiên, nếu không muốn các nhà nước ly khai và phần tử khủng bố dễ dàng tiếp cận các loại vũ khí này, chúng ta phải đảm đảo rằng doanh nghiệp sản xuất vũ khí không công khai buôn bán tràn lan”.
Cần có biện pháp ngăn chặn từ chính phủ
Hiện chưa nước nào trên thế giới có các biện pháp thực tiễn để ngăn chặn chế tạo các cỗ máy giết người, do đó, bản cam kết giữa các nhà khoa học được coi là một điều cần thiết.
Qua việc vận động giới nghiên cứu ký cam kết “không tham gia và không ủng hộ việc phát triển, sản xuất, trao đổi, sử dụng các loại vũ khí tự hành gây chết người”, các nhà hoạt động hướng tới kêu gọi chính phủ các nước tán thành các tiêu chuẩn, luật lệ và quy tắc giúp lên án và loại bỏ việc phát triển robot hủy diệt tự động.
 |
| Người máy Kuratas được giới thiệu tại triển lãm ở Tokyo được trang bị với hệ thống vũ khí hiện đại và được điều khiển bằng điện thoại thông minh. Ảnh: Reuters. |
Yoshua Bengio, nhà tiên phong trong lĩnh vực AI tại Viện Thuật toán học Montreal, nhận định nếu lời cam kết có thể khiến các tổ chức quân sự và doanh nghiệp phát triển vũ khí tự động cảm thấy hổ thẹn thì dư luận cũng sẽ phản đối việc nghiên cứu robot vũ trang.
“Lối tiếp cận này từng hiệu quả với việc phát triển địa lôi. Nhờ các hiệp ước quốc tế và sự phản đối từ dư luận, mặc dù các nước lớn như Mỹ không ký hiệp ước cấm sử dụng mìn, các công ty của nước này cũng đã phải ngừng chế tạo”, ông nói.
Hiện 26 quốc gia thành viên của Liên Hợp Quốc, trong đó có Brazil và Trung Quốc, đã tán thành kêu gọi cấm vũ khí tự hành. Tuy nhiên, các cường quốc như Mỹ, Anh vẫn chưa nằm trong danh sách này.
Quân đội là một trong những nhà tài trợ và sử dụng công nghệ AI lớn nhất. Với hệ thống công nghệ tiến bộ, người máy có thể thực hiện các nhiệm vụ bay thăm dò khu vực lãnh thổ thù địch, điều hướng trên mặt đất và tuần tra dưới biển.
Tại Anh, những hệ thống vũ khí tinh vi vẫn đang được dự định phát triển. Hôm 16/7, Bộ trưởng Quốc phòng Anh Gavin Williamson tiết lộ kế hoạch chế tạo tiêm kích Tempest không người lái trị giá 2 tỷ bảng Anh (hơn 2,5 tỷ USD).
Tuy nhiên, sau đó, giới chức nước này khẳng định sẽ không chế tạo hệ thống vũ khí hủy diệt tự động và cho biết quân đội luôn giám sát, kiểm soát những vũ khí được sử dụng.
