Các hãng công nghệ tuyên chiến với hình ảnh khiêu dâm trẻ em do AI dàn dựng

Biểu tượng của TikTok tại Culver City, Los Angeles, Mỹ. Ảnh: THX/TTXVN

Ngày 30/10, đại diện chính phủ và các công ty công nghệ lớn, trong đó có TikTok, Sapchat và Stability AI, đã ký tuyên bố chung cam kết phối hợp để giảm thiểu và ngăn chặn hình ảnh lạm dụng tình dục trẻ em là sản phẩm của Trí tuệ nhân tạo (AI).

Bản tuyên bố chung được Chính phủ Anh công bố ngày 30/10, tại sự kiện diễn ra trước thềm hội nghị thượng đỉnh AI toàn cầu tại London (Anh), với 27 chữ ký từ đại diện chính phủ các nước, trong đó có Mỹ, Đức và Australia.

Tham dự sự kiện, các tổ chức từ thiện, các công ty công nghệ, viện nghiên cứu học thuật và đại diện các chính phủ đã thảo luận về cách giải quyết mối đe dọa do tình trạng lan truyền các hình ảnh lạm dụng tình dục trẻ em mà AI dàn dựng.

Tuyên bố chung cam kết phối hợp để giảm thiểu tình trạng này. Tuyên bố có đoạn nêu rõ các nước quyết tâm duy trì đối thoại và sáng kiến công nghệ giúp giải quyết tình trạng lạm dụng tình dục trẻ em trong thời đại AI.

Các nước cam kết phối hợp để đảm bảo sử dụng AI một cách có trách nhiệm nhằm ngăn chặn nguy cơ lạm dụng tình dục trẻ em, đảm bảo các nguy cơ mà AI gây ra và các nỗ lực ngăn chặn tình trạng lạm dụng tình dục trẻ em không vượt quá tầm kiểm soát.

Các chính phủ hiện đang đẩy mạnh đầu tư cho việc sử dụng AI để ngăn chặn vấn nạn này và sẽ tiếp tục xác định những giải pháp sáng tạo tiềm năng nhằm ứng phó với nguy cơ từ những văn hóa phẩm khiêu dâm trẻ em do AI dàn dựng.

Bộ Nội vụ Anh dẫn các dữ liệu của Quỹ Giám sát Internet (IWF) cho thấy trên một diễn đàn web đen, người dùng đã chia sẻ gần 3.000 hình ảnh do AI dàn dựng là các tài liệu khiêu dâm trẻ em. Giám đốc điều hành IWF Susie Hargreaves nhấn mạnh hiện là lúc cần những hành động nêu gương và ngăn chặn việc lạm dụng công nghệ mới nổi trước khi tình trạng này trở thành vấn đề cố hữu.

Bộ trưởng Nội vụ Suella Braverman cho rằng tốc độ lan truyền các hình ảnh độc hại này trên mạng Internet rất nhanh, nhấn mạnh các công ty công nghệ phải đồng hành với cơ quan hành pháp để hạn chế những nội dung này.

Ngoài ra, những hình ảnh do AI dàn dựng nếu được lan truyền cũng cản trở nỗ lực của các cơ quan hành pháp nhận diện các nạn nhân và truy vết tội phạm. Các chính phủ cũng nhận thấy AI có thể là công cụ hữu hiệu nếu được sử dụng vì mục đích tốt.

Bộ trưởng Braverman nhấn mạnh AI mang lại cơ hội nâng cao hiệu quả ngăn chặn lạm dụng tình dục trẻ em. Cùng với cảnh sát và các đối tác khác, Bộ Nội vụ Anh đã phát triển cơ sở Dữ liệu hình ảnh lạm dụng trẻ em (CAID) có trang bị AI để đánh giá mức độ nghiêm trọng của các văn hóa phẩm khiêu dâm trẻ em.

Công cụ AI giúp cảnh sát nhanh chóng lọc một lượng lớn dữ liệu, phát hiện các hình ảnh vi phạm nhanh hơn để đẩy nhanh tốc độ điều tra, nhận diện và bảo vệ nạn nhân.