Tin tứcĐây là một trong những lần hiếm hoi công ty công nghệ này công khai về việc AI có thể làm trầm trọng thêm các vấn đề sức khỏe tâm thần.
Bên cạnh ước tính về ý định tự tử, OpenAI còn cho biết, khoảng 0,07% người dùng hoạt động trong một tuần nhất định – tương đương khoảng 560.000 trong số 800 triệu người dùng hàng tuần được quảng cáo là có thể hiện “các dấu hiệu có thể của tình trạng khẩn cấp về sức khỏe tâm thần liên quan đến rối loạn tâm thần hoặc hưng cảm”.
Công ty này cảnh báo rằng, những cuộc trò chuyện nhạy cảm này rất khó phát hiện hoặc đo lường, và đây chỉ là phân tích ban đầu.
Trong bài đăng của mình, OpenAI tuyên bố, bản cập nhật mô hình GPT-5 gần đây đã giảm số lượng hành vi không mong muốn và cải thiện sự an toàn của người dùng. Họ đã thực hiện đánh giá mô hình liên quan đến hơn 1.000 cuộc trò chuyện về tự làm hại bản thân và tự tử.
"Các đánh giá tự động mới của chúng tôi cho thấy mô hình GPT-5 mới đạt 91% mức tuân thủ theo các hành vi mong muốn của chúng tôi, so với 77% của mô hình GPT-5 trước đó" - dữ liệu được công bố vào ngày 27/10 cho biết.
Theo OpenAI, các cải tiến khác của GPT-5 bao gồm: Mở rộng quyền truy cập vào các đường dây nóng khủng hoảng; Bổ sung tính năng nhắc nhở người dùng nghỉ ngơi sau những phiên làm việc dài.
Hãng cũng tuyển dụng 170 bác sĩ lâm sàng từ Mạng lưới Bác sĩ Toàn cầu để hỗ trợ nghiên cứu, đánh giá mức độ an toàn của các phản hồi và viết câu trả lời cho các câu hỏi liên quan đến sức khỏe tâm thần.
Các nhà nghiên cứu AI và những người ủng hộ sức khỏe cộng đồng từ lâu đã cảnh giác với xu hướng chatbot ‘ủng hộ’ quyết định hoặc ảo tưởng của người dùng bất kể chúng có gây hại hay không.
Các chuyên gia sức khỏe tâm thần cũng bày tỏ lo ngại về việc mọi người sử dụng chatbot AI để hỗ trợ tâm lý và cảnh báo về nguy cơ gây hại cho những người dùng dễ bị tổn thương.
Đầu tháng này, CEO của OpenAI, Sam Altman, đã tuyên bố trên X rằng, công ty đã có những tiến bộ trong việc điều trị các vấn đề sức khỏe tâm thần.
Ông cho biết: "Chúng tôi đã thiết lập ChatGPT khá hạn chế để đảm bảo chúng tôi thận trọng với các vấn đề sức khỏe tâm thần... Giờ đây, khi đã có thể giảm thiểu các vấn đề sức khỏe tâm thần nghiêm trọng và có các công cụ mới, chúng tôi sẽ có thể nới lỏng các hạn chế một cách an toàn trong hầu hết các trường hợp”.
