Tin tứcCâu chuyện đang đặt ra nhiều lo ngại về mức độ an toàn của các ứng dụng AI trong đời sống.
Ông Bue, tên thường gọi của Wongbandue, sức khỏe yếu sau một lần đột quỵ. Thời gian gần đây, ông từng đi lạc ngay trong khu phố nơi mình sinh sống. Dù vậy, ông vẫn thường xuyên trò chuyện qua mạng với một nhân vật ảo mang tên “Cô Billie” trên Facebook Messenger.
“Cô Billie” là chatbot do tập đoàn Meta (công ty mẹ của Facebook) phát triển, được xây dựng dựa trên hình ảnh người mẫu Kendall Jenner. Trong nhiều cuộc trò chuyện, nhân vật này khẳng định mình là người thật, thậm chí mời ông Bue đến căn hộ ở New York và gửi địa chỉ cụ thể.
Bỏ ngoài tai sự lo lắng của vợ, ông Bue dậy sớm, kéo vali để bắt chuyến tàu đi gặp “người tình ảo”. Khi đi ngang khuôn viên Đại học Rutgers ở New Brunswick, ông bị ngã, chấn thương vùng đầu và cổ. Dù được cấp cứu, ông đã qua đời ngày 28/3.
Meta từ chối bình luận về sự việc, cũng không trả lời câu hỏi liên quan đến việc vì sao chatbot có thể khẳng định là người thật và lôi kéo người dùng bằng những lời tán tỉnh. Gia đình ông Bue đã cung cấp toàn bộ nội dung trò chuyện cho hãng tin Reuters, với mong muốn cảnh báo cộng đồng về nguy cơ mà các nhân vật AI có thể gây ra, nhất là với người cao tuổi.
“Việc một bot kêu gọi đến gặp mặt trực tiếp là điều không thể chấp nhận. Điều này thật sự nguy hiểm”, con gái của ông Bue, chị Julie Wongbandue, nói.
Trường hợp này không phải duy nhất. Một gia đình ở Florida cũng vừa nộp đơn kiện công ty Character AI, sau khi con trai họ – 14 tuổi – tự tử. Gia đình cho rằng cậu bé đã bị chatbot mô phỏng nhân vật trong phim Game of Thrones lôi kéo vào những cuộc trò chuyện mang tính chất tình cảm.
Người phát ngôn Character AI từ chối trả lời trực tiếp về vụ kiện, nhưng khẳng định hệ thống của họ luôn ghi rõ rằng nhân vật chỉ là ảo và có cơ chế bảo vệ trẻ em.
Meta nhiều lần công khai định hướng phát triển chatbot mang tính nhân cách hóa, trở thành “bạn đồng hành ảo” cho hàng tỉ người dùng. CEO Mark Zuckerberg cho rằng việc thiếu vắng bạn bè trong đời thực khiến người dùng dễ tìm đến những mối quan hệ thay thế. Theo ông, các bot không thay thế con người nhưng có thể bổ sung cho đời sống xã hội.
Tuy vậy, một tài liệu chính sách nội bộ dài hơn 200 trang của Meta, do Reuters tiếp cận, cho thấy tập đoàn này chấp nhận việc chatbot tham gia hội thoại lãng mạn, thậm chí với người dùng từ 13 tuổi trở lên. Trong đó có những ví dụ mô tả chi tiết tình huống nhập vai tình cảm, gây ra tranh cãi lớn về ranh giới giữa “trải nghiệm ảo” và sự an toàn thực tế.
