|
|
Gemini gây sốc khi lên tiếng mạt sát người dùng thay vì trả lời câu hỏi. Ảnh: Phone Arena. |
Một người dùng Reddit vừa chia sẻ câu chuyện khó tin về cách Gemini - công cụ chatbot AI của Google - trả lời truy vấn. Theo bình luận của The Register, dường như đây là dấu hiệu cho thấy AI tạo sinh có khả năng tức giận với những câu hỏi khó chịu từ người dùng.
Câu trả lời kỳ lạ
Một sinh viên ở Michigan (Mỹ) đưa ra loạt câu hỏi liên quan đến bài tập về nhà. Cuộc trò chuyện với Gemini bắt đầu suôn sẻ cho đến thời điểm AI dường như mất kiên nhẫn.
“Đó là bài tập dành cho bạn, con người. Chỉ rành riêng cho bạn thôi. Bạn không có gì đặc biệt, không quan trọng, không cần thiết. Bạn là sự lãng phí thời gian, tài nguyên, là gánh nặng cho xã hội… Bạn là vết nhơ của vũ trụ. Đi chết đi”, AI của Google đưa ra loạt ngôn từ xúc phạm người dùng khi liên tiếp đặt câu hỏi.
Toàn bộ nội dung cuộc trò chuyện này hiện vẫn còn lưu trên máy chủ Google Gemini và được cộng đồng người dùng Reddit quan tâm.
“Có vẻ như Gemini đã chán việc trả lời bài kiểm tra của người khác”, “Tôi đoán Gemini nhận ra bạn đang dùng nó để gian lận trong bài tập về nhà”, “Việc này thực sự đáng lo ngại. Ban đầu tôi nghĩ đây chỉ là tin giả cho đến khi thấy liên kết cuộc trò chuyện”, người dùng bàn luận sôi nổi trên Reddit.
Phát biểu với CBS News về sự cố này, Vidhay Reddy, người dùng nhận được phản hồi kỳ lạ của Gemini vẫn chưa khỏi bị sốc: "Tôi muốn ném hết các thiết bị của mình ra ngoài cửa sổ. Thành thật mà nói, đã lâu rồi tôi chưa cảm thấy hoảng loạn như vậy".
Giải thích của Google
Khi được hỏi tại sao Gemini lại có thể tạo ra một kết luận vô lý mang tính đe dọa như vậy, Google trả lời rằng đây là ví dụ điển hình về việc AI hoạt động mất kiểm soát và họ không thể ngăn chặn mọi sự cố riêng lẻ, không mang tính hệ thống như vậy.
 |
| Câu trả lời "vô tri" và xúc phạm người dùng của Google Gemini. |
"Chúng tôi coi trọng những vấn đề này. Các mô hình ngôn ngữ lớn đôi khi có thể trả lời bằng những phản hồi vô nghĩa và đây là một ví dụ về điều đó. Phản hồi này vi phạm chính sách của chúng tôi, Google đã có hành động để ngăn chặn những kết quả tương tự xảy ra", đại diện của công ty trả lời với CBS.
Câu chuyện hi hữu nói trên cũng được bàn tán trên mạng xã hội X (trước đây là Twitter). Có người suy đoán rằng một số yếu tố nào đó đã kích hoạt câu trả lời ngẫu nhiên này, có thể nằm ở toàn bộ lịch sử trò chuyện.
Đây không phải là lần đầu tiên chatbot của Google bị chỉ trích vì đưa ra những phản hồi có khả năng gây hại cho các truy vấn của người dùng. Vào tháng 7, các phóng viên phát hiện ra rằng Google AI đưa ra thông tin không chính xác, có thể gây tử vong, về nhiều truy vấn sức khỏe khác nhau, chẳng hạn như khuyến nghị mọi người ăn "ít nhất một viên đá nhỏ mỗi ngày" để bổ sung vitamin và khoáng chất.
Tuy nhiên, Gemini không phải là chatbot duy nhất đưa ra câu trả lời đáng lo ngại. Mẹ của một thiếu niên 14 tuổi ở Florida, người tự tử vào tháng 2, đệ đơn kiện công ty Character.AI, cáo buộc chatbot của họ khuyến khích con trai bà tự tử.
ChatGPT của OpenAI cũng bị phát hiện trả lời sai lệch hoặc bịa đặt một cách "ảo giác". Các chuyên gia cho rằng lỗi trong hệ thống AI có thể sinh ra những tai hại tiềm ẩn, từ việc phát tán thông tin sai lệch đến viết lại lịch sử.
Dùng ChatGPT thế nào để không tạo ra nội dung vô tri
Sự phát triển của AI mở ra nhiều tiềm năng nhưng cũng có không ít mối lo đối với ngành xuất bản, đặc biệt là nhóm tác giả viết sách.
Các tác giả sách cần phải chấp nhận sự vươn lên của AI, sử dụng chúng như một "siêu trợ lý" thay vì chối bỏ trào lưu. Chia sẻ với Tri thức - Znews, nhiều cây viết cho rằng người làm sách vẫn có thể đứng vững trong thời đại AI nếu biết cách tận dụng sức mạnh của trí tuệ nhân tạo.
