Báo động làn sóng tống tiền từ các ứng dụng khỏa thân có AI hỗ trợ

Sau khi Elijah Heacock, một thiếu niên, 16 tuổi, ở bang Kentucky của Mỹ, tự tử trong năm nay, cha mẹ cậu phát hiện ra cậu đã nhận được tin nhắn tống tiền 3.000 USD để xóa ảnh khỏa thân do trí tuệ nhân tạo (AI) tạo ra. Heacock chỉ là một trong số hàng nghìn trẻ vị thành niên Mỹ bị nhắm mục tiêu trong các vụ tống tiền kỹ thuật số như vậy.

Bi kịch này phản ánh mức độ gia tăng các vụ lừa đảo tống tiền nhắm vào trẻ em trên toàn thế giới, đặc biệt với sự phổ biến nhanh chóng của các ứng dụng khỏa thân nudify - công cụ AI cho phép loại bỏ quần áo bằng phương pháp kỹ thuật số hoặc tạo ra hình ảnh khiêu dâm.

Trả lời phỏng vấn CBS News, cha của Heacock cho biết các đối tượng theo dõi con của ông một cách có tổ chức. Chúng có nguồn tài trợ lớn và hành động rất tàn nhẫn. Chúng không cần ảnh thật, có thể tạo ra bất cứ thứ gì chúng muốn và dùng những hình ảnh đồi trụy đó để tống tiền trẻ em.

Các nhà điều tra Mỹ đang xem xét vụ việc khi nhận thấy các ứng dụng nudify - vốn nổi lên như một công cụ nhắm vào người nổi tiếng - đang ngày càng bị lợi dụng để nhắm vào trẻ em.

Cục Điều tra liên bang Mỹ (FBI) đã ghi nhận sự gia tăng đột biến các vụ tống tiền tình dục nhắm vào trẻ vị thành niên ở Mỹ. Nạn nhân thường là nam giới từ 14 đến 17 tuổi, kéo theo số vụ tự tử đáng báo động.

Trong một cuộc khảo sát gần đây, tổ chức phi lợi nhuận Thorn, vốn ngăn chặn nạn bóc lột trẻ em trực tuyến, phát hiện rằng 6% số thanh thiếu niên Mỹ là nạn nhân trực tiếp của ảnh khỏa thân deepfake.

Trong báo cáo năm ngoái, Tổ chức Giám sát Internet (IWF) của Anh cho biết các báo cáo về ảnh giả và ảnh deepfake - nhiều ảnh trong số đó được tạo ra bằng các ứng dụng nudify - dường như có liên quan chặt chẽ tới các báo cáo về tống tiền tình dục, hoặc tống tiền bằng hình ảnh khiêu dâm. Những kẻ phạm tội không còn cần phải lấy hình ảnh nhạy cảm từ trẻ em nữa vì chúng có thể tạo ảnh như thật bằng AI tạo sinh.

IWF đã xác định được một "hướng dẫn ấu dâm" do những kẻ săn mồi tạo ra, khuyến khích những kẻ phạm tội sử dụng các ứng dụng nudify để tạo ra hình ảnh/video tống tiền trẻ em.

Theo giới chuyên gia công nghệ, những ứng dụng này đang trở thành một ngành kinh doanh béo bở đối với các đối tượng tội phạm. Một phân tích mới về 85 trang web bán ứng dụng nudify cho thấy các ứng dụng này có thể có giá trị lên tới 36 triệu USD mỗi năm.

Qua phân tích, Indicator - một ấn phẩm của Mỹ chuyên điều tra lừa đảo kỹ thuật số, ước tính 18 trang web đã kiếm được từ 2,6 triệu đến 18,4 triệu USD trong 6 tháng (tính đến tháng 5 năm nay) từ việc bán các ứng dụng nudify.

Indicator cho biết hầu hết các trang web đều dựa vào cơ sở hạ tầng công nghệ của Google, Amazon và Cloudflare để hoạt động và vẫn có lãi bất chấp các biện pháp kiểm soát của các nền tảng và các cơ quan quản lý.