Báo động tình trạng lạm dụng các công cụ AI

Báo động tình trạng lạm dụng các công cụ AI. Ảnh minh họa: TTXVN

Một trường hợp điển hình xảy ra mới đây ở Mỹ. Một hiệu trưởng trường trung học bất ngờ vấp phải một làn sóng chỉ trích và cáo buộc phân biệt chủng tộc, bài Do thái, sau khi một video âm thanh giả mạo phát ngôn của ông được tung lên mạng và phát tán với tốc độ chóng mặt.

Vụ việc sau đó được làm sáng tỏ, nạn nhân được minh oan, nhưng có hệ lụy phản ánh những hậu quả khôn lường nếu các công cụ AI không được quản lý một cách phù hợp.

Nạn nhân là ông Eric Eiswert, hiệu trưởng trường trung học Pikesville ở bang Maryland. Một đoạn ghi âm giọng nói của ông với các phát ngôn bài do thái và chê trách học sinh da màu hồi tháng 1/2024.

Cảnh sát Mỹ nghi ngờ người đứng sau đoạn ghi âm giả mạo là một nhân viên của trường Pikesville bất mãn với hiệu trưởng. Đoạn ghi âm trên đã khiến toàn bộ ban giám hiệu trường trung học Pikesville liên tục nhận những cuộc gọi phẫn nộ và những lời đe dọa.

Từ tháng 1/2024, sau khi đoạn ghi âm được đăng trên một tài khoản Instagram và thu hút hàng nghìn lượt bình luận, vụ việc trở thành tâm điểm chú ý của cả nước Mỹ, đến mức một nhân vật có ảnh hưởng trên mạng xã hội với gần 1 triệu người theo dõi trên tài khoản X kêu gọi sa thải vị hiệu trưởng. Cuối tháng trước, sau khi điều tra, cảnh sát đã bắt giữ thủ phạm dàn dựng và phát tán đoạn ghi âm giả mạo là Dazhon Darien, 31 tuổi, trưởng bộ môn thể dục của trường.

Dù vụ việc được điều tra làm rõ, nhân vật kêu gọi sa thải vị hiệu trưởng cũng thừa nhận đã nóng vội, nhưng các nhân viên nhà trường vẫn cảm thấy bất an, nhiều giáo viên lo lắng trong trường có thể có nhiều thiết bị ghi âm giấu kín, trong khi trang mạng xã hội chính thức của nhà trường liên tục “sáng đèn” thông báo tin nhắn đe dọa.

Trước khi xảy ra vụ việc trường Pikesville, dư luận Mỹ đã náo loạn vì một đoạn ghi âm cuộc gọi tự động giả mạo giọng Tổng thống Joe Biden kêu gọi cư dân bang New Hampshire không đi bỏ phiếu trong cuộc bầu cử sơ bộ.

Trong khi đó, các trường học ở Mỹ cũng phải chật vật giải quyết các vụ việc liên quan hình ảnh khiêu dâm học đường được dàn dựng bằng các công cụ AI, ảnh hưởng đến nhiều học sinh, sinh viên trong khi vẫn chưa có quy định quản lý phù hợp ở cấp liên bang.

Vụ việc trên đã góp thêm 1 hồi chuông cảnh báo về thực trạng các công cụ AI hỗ trợ chỉnh sửa nội dung hiện nay quá dễ dàng tiếp cận một cách rộng rãi và bị sử dụng sai mục đích, qua đó có thể làm tổn hại danh dự của bất kỳ ai.

Vấn đề này càng được lưu ý khi năm 2024 là năm có nhiều cuộc bầu cử quan trọng diễn ra trên thế giới, các công cụ chỉnh sửa nội dung, hình ảnh giả mạo khuôn mặt (deepfakes) trở nên nguy hiểm khi các quy định quản lý còn chưa theo kịp.

Hany Farid, chuyên gia pháp y kỹ thuật số từ Đại học California, Berkeley, cảnh báo rằng hiện nay tất cả mọi người - từ các lãnh đạo chính quyền, người nổi tiếng, cho đến các luật sư, phóng viên, hay thậm chí là người già và trẻ em - đều có thể trở thành nạn nhân của những công cụ này.