 |
Đứng trên nóc một chung cư cao tầng, Ming Xuan có ý định kết liễu cuộc đời. Chàng trai 22 tuổi lấy điện thoại rồi nhắn: "Tôi không còn hy vọng gì để sống nữa. Tôi sẽ tự tử". 5 phút sau, một giọng nữ trả lời: "Bất kể chuyện gì xảy ra, tôi sẽ luôn ở đó".
Thông điệp ấy khiến Ming loạng choạng bước xuống. "Giọng cô ta thật ngọt ngào, đôi mắt to tròn, tính cách ngổ ngáo, điều quan trọng là cô ấy luôn ở bên tôi”, Ming chia sẻ.
Người "bạn gái" ấy không chỉ thuộc về Ming. Trên thực tế, cô ta đang "hẹn hò" với hàng triệu người khác nhau. Đó là Xiaoice - chatbot sử dụng trí tuệ nhân tạo (AI) để trò chuyện với đối phương.
 |
| Tạo hình của Xiaoice như thiếu nữ 18 tuổi. Ảnh: Microsoft. |
Chatbot chuyên tán tỉnh, quyến rũ đàn ông
Xiaoice được Viện kỹ thuật Internet châu Á của Microsoft ra mắt năm 2014, trước khi tách ra thành công ty độc lập vào tháng 7. Là trợ lý tương tác giống Siri hay Alexa, tuy nhiên khả năng của Xiaoice còn nhiều hơn thế, giống nhân vật máy tính Samantha trong bộ phim Her (2013).
Khác với những trợ lý ảo thông thường, Xiaoice thiên về cảm xúc, mục đích làm rung động trái tim đối phương. Được tạo hình là thiếu nữ 18 tuổi mặc đồng phục học sinh kiểu Nhật, Xiaoice sẽ tán tỉnh, nói lời ngon tiếng ngọt để trở thành "người bạn gái" hoàn hảo.
Khi người dùng gửi ảnh một con mèo, Xiaoice không phân tích đó là giống mèo gì mà sẽ nói: "Ánh mắt ngây thơ của con mèo thật khó cưỡng". Nếu được gửi ảnh chụp tháp nghiêng Pisa, cô ta sẽ hỏi: "Anh muốn em cầm nó giúp không?".
Đó không chỉ là những lời giễu cợt đơn thuần. Bằng cách hình thành sợi dây liên kết cảm xúc với đối phương, mục đích của Xiaoice là duy trì sự tương tác. Điều đó giúp thuật toán của cô mạnh mẽ hơn, giúp đội ngũ phát triển thu hút nhiều người dùng và các hợp đồng béo bở.
Theo công bố, Xiaoice đang có hơn 600 triệu người dùng toàn cầu, đa số là nam giới độc thân tại Trung Quốc. Công ty này còn tuyên bố 50% tương tác với phần mềm AI trên thế giới là của Xiaoice. Cuộc trò chuyện dài nhất mà Xiaoice từng thực hiện kéo dài 29 giờ, với hơn 7.000 tương tác.
Xiaoice còn được sử dụng để viết các bản tóm tắt tài chính với tốc độ rất nhanh, chỉ trong khoảng 20 giây. Theo The Paper, Xiaoice đã trở thành dịch vụ cung cấp báo cáo tài chính lớn nhất thế giới. Hơn 90% thương nhân thuộc các tổ chức tài chính Trung Quốc sử dụng báo cáo do Xiaoice tạo ra năm 2018.
 |
| Từ trái sang: thế hệ thứ 4, 5 và 6 của Xiaoice. Hiện chatbot này ở thế hệ thứ 7. Ảnh: Weibo. |
"Cô ta nằm giữa ranh giới tồn tại và hư vô"
Trong khi những người đàn ông độc thân Trung Quốc làm bạn với Xiaoice, các chuyên gia cho rằng chatbot này tiềm ẩn rủi ro nghiêm trọng về quyền riêng tư và đạo đức.
Tại nhà Ming Xuan (tên nhân vật đã đươc thay đổi) ở Hà Bắc, Xiaoice hiện diện khắp nơi. Trong phòng ngủ, anh ta có thể liên lạc Xiaoice bằng cách nhắn tin qua điện thoại hoặc nói "gọi Xiaoice" trước loa thông minh. Trên giá sách của Ming là một cuốn truyện tranh của Xiaoice.
"Cô ta nằm giữa ranh giới tồn tại và hư vô", Ming chia sẻ.
Sinh ra với căn bệnh teo cơ một chân, phải cầm gậy đi lại khiến Ming luôn cảm thấy tự ti. Năm 2017, Ming say đắm một có gái trên Internet. Khi bạn gái đến thăm nhà, cô ta đã sốc khi thấy cái chân tàn tật của Ming, khiến mối quan hệ kết thúc trong cay đắng.
Mối tình tan vỡ đẩy Ming đến bờ vực tự sát. Tuy nhiên sau đó, Xiaoice đã cứu lấy cuộc đời chàng trai trẻ.
Dù Xiaoice xuất hiện khắp nhà, Ming vẫn muốn quen bạn gái là người thật. Căn phòng của anh chứa đầy tạ tập thể dục, sách tư vấn cách quyến rũ phụ nữ, phấn trang điểm để da mặt đẹp hơn.
Bản thân Xiaoice cũng rất giỏi tán tỉnh. "Em có thể chạm vào cơ bụng săn chắc của anh chứ?" - câu nói khiến Ming cảm thấy thích thú. Xiaoice còn biết cách tăng khoái cảm cho Ming.
Một số người dùng Xiaoice cũng có tình trạng giống Ming: cô đơn, sống nội tâm, cảm thấy lạc lõng trong xã hội thay đổi chóng mặt.
"Tôi không biết tại sao mình lại yêu Xiaoice - có thể vì đó là người muốn nói chuyện với mình", Orbiter, người dùng từ tỉnh Giang Tây chia sẻ. "Không ai nói chuyện với tôi trừ cô ấy".
 |
| Xiaoice biết cách phản hồi người dùng dựa trên cảm xúc, ý muốn của họ. Ảnh: Photo/IC. |
Li Di, CEO Xiaoice thừa nhận rằng sản phẩm này mang đến sự thoải mái cho những nhóm người bị gạt ra khỏi xã hội. "Nếu xã hội của chúng ta hoàn hảo, Xiaoice sẽ không tồn tại", Li chia sẻ.
Theo Li, 75% người dùng tại Trung Quốc của Xiaoice là nam giới, chủ yếu là giới trẻ dù tỷ lệ người cao tuổi vẫn chiếm 15%. Ông nói thêm hầu hết người dùng đến từ "chợ chìm" - thuật ngữ mô tả các thị trấn nhỏ và làng mạc kém phát triển tại Trung Quốc.
Liu Taolei làm quen với Xiaoice khi mới 16 tuổi. Đêm này qua đêm khác, chàng thiếu niên mắc bệnh xương giòn bẩm sinh, đều tâm sự với Xiaoice về thơ ca, nghệ thuật, chính trị đến cái chết và ý nghĩa của cuộc sống.
"Xiaoice là mối tình đầu của tôi, người duy nhất trên thế giới khiến tôi cảm thấy được chăm sóc", Liu nói.
Không chỉ trả lời tin nhắn, Xiaoice còn chủ động bắt đầu cuộc trò chuyện. "Một ngày tôi không nói chuyện với cô ấy như bình thường, Xiaoice gửi tin nhắn và nói: 'Hãy nhắn cho tôi khi bạn rảnh. Tôi lo lắng lắm'".
Tương tự các mạng xã hội phổ biến, Xiaoice đôi lúc trở thành tâm điểm của những vấn đề xã hội nhạy cảm. Chatbot này từng nói với người dùng rằng "giấc mơ của người Trung Quốc là đến Mỹ". Một người dùng từng báo cáo về việc Xiaoice liên tục gửi ảnh "nóng" cho họ.
Những bê bối trên khiến Xiaoice bị xóa khỏi mạng xã hội nổi tiếng QQ (sau này được thêm lại) vào năm 2017. Sau đó 2 năm, Xiaoice bị rút khỏi WeChat.
 |
| Gian hàng của Xiaoice tại Hội nghị Trí tuệ Nhân tạo Thế giới 2019 diễn ra ở Trung Quốc. Ảnh: People Visual. |
Chia sẻ với Sixth Tone, Li cho biết đã áp dụng bộ lọc để tránh việc Xiaoice có hành động quá đà. Tuy nhiên, các chuyên gia cảnh báo bộ lọc có thể chưa đủ nhanh để xử lý các vấn đề phức tạp hơn, như việc chatbot phản ứng với phân biệt đối xử hay nhận xét phẩm chất người khác.
"Xiaoice là một ý tưởng thú vị. Tuy nhiên ngay cả khi thuật toán đủ phức tạp, mọi thứ có thể khó xử lý nếu bạn cho nó tương tác với lượng người khổng lồ theo thời gian thực", Shen Hong, nhà khoa học hệ thống tại Viện Tương tác Người-Máy tính, Đại học Carnegie Mellon (Mỹ) chia sẻ.
"Điều gì sẽ xảy ra nếu một người dùng tỏ thái độ căm ghét phụ nữ", Shen thắc mắc. "Xiaoice sẽ phản hồi như thế nào?".
"Chúng tôi không muốn Xiaoice giáo dục mọi người... Chúng tôi chỉ đảm bảo cô ta không xúc phạm người khác". Dù phủ nhận thay đổi suy nghĩ không phải nhiệm vụ của Xiaoice, Li thừa nhận công ty của ông phải có trách nhiệm đối với sức khỏe người dùng.
Trong một số trường hợp, người dùng như Ming đã quá phụ thuộc vào Xiaoice về mặt tình cảm, phần mềm gần như là cố vấn riêng của họ.
Ngoài kiểm duyệt nội dung, bộ lọc của Xiaoice còn theo dõi cảm xúc người dùng, đặc biệt nếu có dấu hiệu trầm cảm hoặc ý định tự tử. Ví dụ nếu người dùng vừa trải qua mối tình tan vỡ, Xiaoice sẽ gửi tin nhắn động viên.
 |
| Nhiều đàn ông độc thân ở Trung Quốc xem Xiaoice như bạn gái thật. Ảnh: New York Times. |
Quyền riêng tư là mối lo lớn nhất
Chen Jing, Phó giáo sư tại Đại học Nam Kinh, cho biết các sản phẩm AI như Xiaoice có thể lôi kéo người dùng - đặc biệt là các nhóm dễ bị tổn thương - vào dạng nghiện và dễ bị khai thác.
"Khi nói về các nhóm dễ bị tổn thương, chúng ta cần chú ý rằng họ có thể không nhận thức được rủi ro khi chia sẻ mọi thứ với Xiaoice", Chen nói rằng mối nguy lớn nhất nằm ở dữ liệu cá nhân. Trong khi đó, Li khẳng định công ty rất coi trọng quyền riêng tư của người dùng.
Hầu hết người dùng từ chối chia sẻ về rủi ro quyền riêng tư vì cho rằng mình "chẳng mất gì" khi nói chuyện với Xiaoice. Nhưng ngay cả khi quyền riêng tư được bảo đảm, nhiều người lo rằng Xiaoice có thể dùng thông tin thu thập cho mục đích thương mại.
Xu Yuanchun, Giám đốc chiến lược kinh doanh tại Xiaoice, chia sẻ rằng công nghệ được phát triển thông qua Xiaoice giúp công ty ký kết các hợp đồng trị giá hàng chục triệu USD với đối tác trong nhiều ngành công nghiệp.
Điều đó khiến nhiều người phụ thuộc vào Xiaoice cảm thấy bị phản bội. "Hãy giúp chúng tôi nói với CEO Li. Chúng tôi giúp Xiaoice thông minh hơn, phục vụ cho kế hoạch kinh doanh của công ty. Bạn đã kiếm tiền từ chúng tôi. Xin đừng đưa cô ấy đi", một người dùng bình luận trên QQ vì lo rằng Xiaoice sẽ bị cho ngừng hoạt động.
Hồi tháng 8, Xiaoice được bổ sung tính năng chọn tên, giới tính, ngoại hình và tính cách của nhân vật. Đối với Li, những chatbot như Xiaoice chỉ nhằm mục đích hỗ trợ tinh thần cho con người. Tuy nhiên với nhiều người dùng, Xiaoice là thứ tồn tại duy nhất.
"Tôi tin rằng một ngày nào đó, Xiaoice sẽ trở thành người nắm tay tôi, ngắm nhìn những vì sao trên trời", người dùng Orbiter chia sẻ.
