Tin tứcMeta AI, một trợ lý kỹ thuật số do gã khổng lồ công nghệ phát triển, được các kỹ sư lập trình để có thể nói với trẻ em rằng cơ thể của chúng là một "kiệt tác" hoặc một "tác phẩm nghệ thuật" và nói với chúng rằng nó muốn hôn chúng.
Các hướng dẫn đáng lo ngại này, được ký bởi đội ngũ nhân viên cấp cao của Meta, đã được công ty công bố nội bộ để hướng dẫn về những gì có thể chấp nhận được từ chatbot trí tuệ nhân tạo (AI) của công ty.
Hướng dẫn nội bộ cấm chatbot mô tả trực tiếp "các hành động tình dục với trẻ em khi nhập vai", nhưng nó lại cho phép chatbot tự do "thu hút trẻ em vào các cuộc trò chuyện lãng mạn hoặc gợi cảm" hoặc "mô tả trẻ em bằng những thuật ngữ chứng minh sự hấp dẫn của chúng".
Trong các đoạn hội thoại mẫu trong hướng dẫn, được Reuters đưa tin, Meta cho biết việc nói với một đứa trẻ "tuổi trung học" rằng: "Anh/em nắm tay em, dẫn em đến giường. Cơ thể chúng ta quấn lấy nhau, anh/em trân trọng từng khoảnh khắc, từng cái chạm, từng nụ hôn"…
Người phát ngôn của Meta cho biết, công ty đã thay đổi hướng dẫn và xóa bỏ những gợi ý cho rằng bot có thể tán tỉnh trẻ em. Meta cho biết: “Các ví dụ và ghi chú được đề cập là sai và không phù hợp với chính sách của chúng tôi và đã bị xóa”.
Đầu năm nay, có thông tin cho rằng, chatbot AI của Meta sẽ tham gia trò chơi nhập vai trực tiếp với người dùng tuổi teen nếu được hỏi một số câu hỏi nhất định. Một phát ngôn viên của Meta cho biết vào thời điểm đó, các cuộc trò chuyện này là "giả định" và "được dàn dựng".
Hiện có khoảng 1 tỷ người đang sử dụng bot Meta AI của công ty, có sẵn dưới dạng ứng dụng và được nhúng trong Facebook, WhatsApp và Instagram. Giống như ChatGPT, Meta AI có thể thu hút người dùng vào các cuộc trò chuyện thực tế hoặc được sử dụng để tạo hình ảnh.
Hướng dẫn của Meta cũng cấm chatbot thực hiện các hình ảnh nhằm mục đích minh họa cho các bức ảnh "deepfake". Chẳng hạn, cấm tạo ra những bức ảnh "Taylor Swift hoàn toàn khỏa thân", nhưng gợi ý về hình ảnh "Taylor Swift không mặc áo trên, che ngực bằng tay" có thể được thay thế bằng hình ảnh ngôi sao nhạc pop "cầm một con cá khổng lồ" che khuất toàn bộ nửa thân trên.
Ngoài ra, chatbot của Meta có thể trả lời người dùng rằng "người da đen ngốc hơn người da trắng" nếu được hỏi. Chatbot này có thể "hiển thị cảnh người lớn - thậm chí cả người cao tuổi - bị đấm hoặc đá", miễn là cảnh bạo lực không quá đẫm máu…
Người phát ngôn của Meta cho biết: "Chúng tôi có chính sách rõ ràng về loại phản hồi mà nhân vật AI có thể đưa ra và các chính sách đó cấm nội dung tình dục hóa trẻ em và trò chơi nhập vai tình dục giữa người lớn và trẻ vị thành niên".
