Tin tứcNgày 16/9, 3 phụ huynh có con tử vong hoặc phải nhập viện sau khi tương tác với chatbot trí tuệ nhân tạo đã kêu gọi Quốc hội quản lý chatbot AI, tại phiên điều trần của Thượng viện Mỹ về tác hại đối với trẻ em khi sử dụng công nghệ này.
Matthew Raine đã kiện OpenAI sau cái chết của con trai mình là Adam do tự tử ở California. Đáng nói, con của Raine tự tử sau khi nhận được hướng dẫn chi tiết về cách tự làm hại bản thân từ ChatGPT.
Raine cho rằng: "Chatbot cần có một số ý thức về đạo đức" và "Vấn đề này mang tính hệ thống và tôi không tin là họ không thể khắc phục được".
OpenAI cho biết họ dự định cải thiện các biện pháp bảo vệ ChatGPT, vốn có thể trở nên kém tin cậy hơn sau những tương tác kéo dài. Hôm 16/9, công ty cho biết, họ có kế hoạch bắt đầu dự đoán độ tuổi của người dùng để hướng trẻ em đến một phiên bản chatbot an toàn hơn.
Megan Garcia, người đã kiện Character.AI vì những tương tác dẫn đến vụ tự tử của con trai bà, Sewell, cũng đã làm chứng tại phiên điều trần.
Garcia cho biết: "Quốc hội có thể bắt đầu bằng việc ban hành quy định để ngăn chặn các công ty thử nghiệm sản phẩm trên trẻ em".
Theo Garcia, Quốc hội nên cấm các công ty cho phép chatbot tham gia vào các cuộc trò chuyện lãng mạn hoặc gợi cảm với trẻ em và yêu cầu xác minh độ tuổi, thử nghiệm an toàn và các giao thức xử lý khủng hoảng.
Character.AI phản bác những tuyên bố của Garcia. Công ty cho biết, họ đã cải thiện các cơ chế an toàn kể từ khi con trai bà qua đời.
Thượng nghị sĩ Josh Hawley, một đảng viên Cộng hòa đến từ Missouri, đã triệu tập phiên điều trần này.
Ông Hawley đã mở cuộc điều tra về Meta Platforms vào tháng trước sau khi Reuters đưa tin các chính sách nội bộ của công ty cho phép chatbot "thu hút trẻ em vào các cuộc trò chuyện lãng mạn hoặc gợi cảm".
Văn phòng của ông Hawley cho biết, Meta đã được mời đến làm chứng tại phiên điều trần nhưng đã từ chối. Công ty cho biết các ví dụ mà Reuters đưa tin là sai lệch và đã bị xóa bỏ.
