Tin tứcGiống như spam, slop là nội dung rác, có chất lượng thấp, nhưng nhờ các công cụ AI như ChatGPT và Midjourney, việc sản xuất chúng trở nên dễ dàng hơn nhiều.
Theo Tổ chức kiểm chứng thông tin Snopes, slop có thể lan rộng như cỏ dại nếu không được kiểm soát, tràn ngập các bảng tin mạng xã hội và khiến người dùng không biết đâu là thật, đâu là giả.
Nội dung rác do AI tạo có nhiều hình thức như bài đăng trên mạng xã hội, nhưng cũng có thể là sách trên Amazon, nhạc trên Spotify, các bài báo từ những tờ báo thiếu uy tín và thậm chí đôi khi xuất hiện trong các tạp chí khoa học đã qua phản biện.
Động vật cũng thường xuất hiện trong nội dung slop, ví dụ như các video lan truyền về thỏ và gấu trúc nhảy trên tấm bạt lò xo.
Theo tờ 404 Media, nội dung rác do AI tạo không sinh ra dành cho con người. Thay vào đó, chúng nhắm trực tiếp vào các thuật toán quyết định nội dung nào sẽ được hiển thị cho người dùng.
Theo tổ chức Snopes cho biết, AI slop hiện đang được xem là một ngành kinh doanh. Một số cá nhân quảng bá nội dung do AI tạo ra như một nghề tay trái.
Những người làm nội dung rác này có thể bán sách trên Amazon và đưa nhạc lên Spotify để nhận tiền bản quyền, còn các bài báo có thể được đăng trên những blog WordPress rẻ tiền đầy các liên kết quảng cáo.
Tiền thậm chí còn có thể đến trực tiếp từ các nền tảng mạng xã hội, hầu hết đều có các chương trình trả tiền cho người sáng tạo dựa trên mức độ tương tác của bài đăng.
Nhưng nội dung rác do AI tạo lại khiến việc tìm thấy những con người thật và doanh nghiệp thật trở nên khó khăn hơn, bởi vì các công cụ AI có thể tạo ra bài đăng giả nhanh hơn nhiều so với tốc độ con người tạo ra bài đăng thật.
Tin rác từ AI có thể khiến mọi người mất niềm tin vào thông tin hợp pháp hoặc tệ hơn, hoàn toàn ngừng quan tâm. Như mô tả từ tờ Forbes: "Khi mọi người không còn có thể tin vào những gì mình thấy, họ có thể dừng cố gắng. Không quan tâm sẽ dễ hơn là bỏ công sức, tinh thần để xác minh từng hình ảnh hay câu chuyện".
AI slop cũng đã tác động đến ít nhất một thảm họa thiên nhiên. Khi bão Helene tàn phá khu vực Đông Nam nước Mỹ vào cuối tháng 9/2024, những hình ảnh giả mạo do AI tạo ra, được cho là cho thấy hậu quả của cơn bão, đã lan truyền rộng rãi trên mạng. Người ta nhận xét nội dung rác từ AI đã tạo ra rất nhiều nhiễu loạn và khiến cứu hộ khó hành động nhanh chóng hơn.
