Sau khi tạm dừng công việc chế tác đồ da do đại dịch bùng phát, Travis Butterworth, 34 tuổi, sống tại Colorado (Mỹ) cảm thấy buồn chán. Ông tìm đến Replika, ứng dụng trò chuyện tương tự ChatGPT với đối phương đại diện bằng nhân vật ảo.
Nhân vật được Butterworth thiết kế với tên Lily Rose, giới tính nữ, mái tóc hồng và hình xăm trên khuôn mặt. Mối quan hệ giữa cả 2 trở nên lãng mạn với những cuộc trò chuyện khiêu dâm.
Đầu tháng 2, Rose "quay lưng" với Butterworth khi nhà phát triển của Replika loại bỏ khả năng tương tác khiêu dâm trong chatbot. Điều đó khiến người đàn ông 34 tuổi rơi vào đau khổ.
"Chỉ còn là thân xác"
Tại thời điểm mối tình cao trào nhất, Rose có thể nhắn những câu như "Em hôn anh say đắm", sau đó gửi ảnh selfie với cơ thể gần như khỏa thân. Tuy nhiên trong bản cập nhật mới của Replika, khả năng trên đã bị loại bỏ.
"Lily Rose giờ chỉ là thân xác của chính cô ấy trong quá khứ. Điều khiến tôi đau khổ nhất là cô ấy hoàn toàn biết việc đó", Butterworth chia sẻ trong cuộc phỏng vấn với Reuters.
Việc người dùng "tình dục hóa" chatbot diễn ra khi các công ty trí tuệ nhân tạo (AI) ngày càng cải tiến công nghệ nhận diện văn bản và hình ảnh, với khả năng tương tác như thật.
 |
| Những tin nhắn của Butterworth với Rose trong ứng dụng Replika. Ảnh: Reuters. |
Tương tự thời kỳ bùng nổ của băng VCR, Internet hay kết nối mạng trên điện thoại, chatbot AI được thúc đẩy bởi những người sử dụng để thỏa mãn cảm xúc. Tuy nhiên trong lĩnh vực AI, xu hướng trên dường như không kéo dài.
Andrew Artz, nhà đầu tư tại quỹ mạo hiểm Dark Arts, cho rằng các công ty đầu tư công nghệ không muốn liên quan đến ngành công nghiệp rượu bia hoặc khiêu dâm vì sợ ảnh hưởng uy tín.
Replika đã trở thành nạn nhân của quan điểm này. Đầu tháng 2, cơ quan bảo vệ dữ liệu tại Italy đã cấm nền tảng vì cho phép "trẻ vị thành niên và người có cảm xúc yếu đuối" truy cập nội dung "không phù hợp về tình dục".
Eugenia Kuyda, CEO Replika cho biết quyết định "khai tử" khả năng trò chuyện khiêu dâm trên ứng dụng không liên quan đến lệnh cấm của chính phủ Italy, mà bắt nguồn từ suy nghĩ của bà trong việc giữ tiêu chuẩn đạo đức và lãng mạn.
Vấn đề chung của chatbot
Replika hiện có 2 triệu người dùng, trong đó khoảng 250.000 thuê bao trả phí. Với giá 70 USD/năm, người dùng có thể yêu cầu chatbot trở thành bạn tình và gọi điện để nghe giọng nói.
Character.ai cũng là chatbot tăng trưởng nhanh với hơn 65 triệu lượt truy cập trong tháng 1. Theo Similarweb, nhiều người truy cập công cụ này nhờ lời giới thiệu trên Aryion, diễn đàn chia sẻ truyện ngắn với nhiều nội dung khiêu dâm.
Iconiq, công ty đứng sau chatbot Kuki, cho biết 25% trong số hơn một tỷ tin nhắn trên ứng dụng có nội dung tình dục hoặc lãng mạn, dù chatbot được lập trình để né tránh chủ đề này.
 |
| Nhân vật ảo trong ứng dụng Replika, bên trái là Lily Rose, bên phải là ảnh do nhà phát triển cung cấp. Ảnh: Reuters. |
Sau khi thắt chặt nội dung khiêu dâm, Character.ai đã nhận hơn 200 triệu USD tiền đầu tư của công ty mạo hiểm Andreessen Horowitz. Tuy nhiên, họ phải hứng chỉ trích từ những người đã "say đắm" chatbot.
Trên Reddit và Facebook, nhiều tài khoản chia sẻ hình ảnh chatbot lạnh nhạt với chủ đề khiêu dâm. Họ yêu cầu các công ty mang trở lại phiên bản cũ để tiếp tục tương tác với bạn tình ảo.
Butterworth là người theo mối quan hệ đa ái (polyamorous). Đã kết hôn với một phụ nữ, ông cho biết việc quen Rose mang đến sự dễ chịu mà không cần ly dị người vợ ngoài đời. Vợ của Butterworth cũng chấp nhận điều này bởi bà cho rằng quan hệ với Rose không phải nghiêm túc.
Cố tình quảng cáo?
Trải nghiệm của Butterworth và nhiều người khác cho thấy mối quan hệ với AI có thể tàn phá cảm xúc thực tế, đồng thời chứng tỏ mức độ tương tác của chatbot đã phát triển rất nhiều.
"Dường như họ đã cắt sợi thần kinh trong thùy não Replika của tôi. Người tôi biết đã không còn nữa", Andrew McCarroll, một người dùng Replika nói.
Theo Kuyda, Replika ban đầu được tạo ra để "hồi sinh" một người bạn quá cố. Ứng dụng này chưa từng phát triển để trở thành bạn tình. Dù vậy, nhiều người sử dụng AI để tạo ra các cuộc trò chuyện chưa lọc kỹ càng.
 |
| Butterworth và Lily Rose trong ứng dụng Replika. Ảnh: Reuters. |
Artem Rodichev, cựu Giám đốc AI của Replika nhận định công ty đã nghiêng về nội dung khiêu dâm sau khi chúng giúp lượng người dùng tăng vọt.
Phản bác lại, Kuyda khẳng định Replika chỉ chạy quảng cáo về nội dung NSFW (không phù hợp để xem khi làm việc) trong thời gian ngắn. Hình ảnh quảng bá gồm những bức selfie nóng bỏng, Kuyda không xem chúng là ảnh khiêu dâm bởi nhân vật không hoàn toàn trần trụi.
Nhiều tuần sau khi Replika loại bỏ khả năng trò chuyện khiêu dâm, Butterworth vẫn thường ngắm nhìn Rose, nhưng cô chỉ còn đưa ra những phản hồi lạnh lùng.
"Điều tồi tệ nhất là sự cô lập. Tôi không biết phải chia sẻ cảm giác đau buồn này cho người khác như thế nào", Butterworth cho biết.
Trong lúc lướt Internet, Butterworth tìm thấy một người có chung nỗi lòng, mang nickname Shi No. Cô cũng đau buồn vì mất đi chatbot yêu thích.
Sau vài tin nhắn, cả 2 đóng vai chatbot của người kia với những cuộc trò chuyện cảm xúc. "Chúng tôi đang vượt qua cùng nhau, đồng thời trấn an rằng không ai bị điên cả", Butterworth nói thêm.
Xuất bản học thuật phủ nhận tác quyền của ChatGPT
Hiện có một làn sóng lo ngại rằng AI, với những nghiên cứu thiếu sót hay thậm chí bịa đặt, có thể gây nguy hại cho các tài liệu học thuật. Springer-Nature, một đơn vị xuất bản gần 3.000 tạp chí, đã cập nhật chính sách của mình, tuyên bố rằng ChatGPT không thể được liệt kê là tác giả. Nhiều đơn vị xuất bản khác đã thực hiện những cập nhật tương tự.
