Tin tứcViện Nhân quyền Phụ nữ Hàn Quốc (WHRIK) đã thành lập một đội ngũ chuyên trách thuộc Trung tâm Quốc gia Ứng phó Tội phạm Tình dục Kỹ thuật số một năm trước để ứng phó với sự gia tăng đột biến của tội phạm tình dục sử dụng công nghệ deepfake.
Kể từ đó, trung tâm đã xử lý khoảng 18.500 vụ việc, với các hoạt động từ tư vấn đến xóa bỏ hình ảnh giả mạo, tăng gấp ba lần so với cùng kỳ năm 2024.
Thống kê cho thấy, hơn 97% nạn nhân là phụ nữ. Xét theo nhóm tuổi, những người dưới 20 tuổi chiếm tỷ lệ lớn nhất với 46,4%, phản ánh sự lan tràn của deepfake ở các trường trung học cơ sở và trung học phổ thông. Những nạn nhân ở độ tuổi 20 chiếm khoảng 45,9%.
Sự gia tăng mạnh các vụ việc cho thấy công nghệ deepfake đã đẩy nhanh tốc độ lây lan của tội phạm tình dục kỹ thuật số, đặt ra một thách thức xã hội và pháp lý lớn cho Hàn Quốc.
Trung tâm Quốc gia Ứng phó Tội phạm Tình dục Kỹ thuật số cho biết, họ đang tập trung vào các sáng kiến quan trọng để tăng cường ứng phó với tội phạm tình dục trực tuyến, với mục tiêu tạo ra một hệ thống hỗ trợ tích hợp để xóa nội dung vào cuối năm nay.
Họ cũng có kế hoạch ra mắt một cổng thông tin trực tuyến duy nhất để hợp lý hóa việc báo cáo và sử dụng trí tuệ nhân tạo (AI) để tự động hóa phản hồi, từ giám sát 24/7 đến yêu cầu xóa bỏ, nhằm cung cấp khả năng bảo vệ nhanh hơn và có hệ thống hơn cho nạn nhân.
Trung tâm đặt mục tiêu thiết lập một hệ thống phòng ngừa có thể tự động phát hiện và báo cáo tình trạng lạm dụng tình dục trẻ em và thanh thiếu niên trên mạng xã hội, ứng dụng di động và các nền tảng trực tuyến khác.
Chủ tịch WHRIK Shin Bo-ra cho biết: “Với sự tiện lợi và khả năng tiếp cận của AI tạo sinh, bất kỳ ai cũng có thể trở thành nạn nhân ngay lập tức”.
Việc phân tích các vụ việc trong năm qua cho thấy, các mạng xã hội kín đã bị lợi dụng làm công cụ cho những tội ác này, gây ra thiệt hại trên diện rộng và lâu dài.
