Tính năng AI mới của Google gây lo ngại

Google đã quyết định tạm dừng tính năng mới cho phép người dùng tạo hình ảnh bằng trí tuệ nhân tạo (AI) ngay trên nền tảng Google Earth, chỉ một ngày sau khi ra mắt, trước làn sóng chỉ trích mạnh mẽ từ giới nghiên cứu và các chuyên gia tình báo nguồn mở (OSINT) về nguy cơ phát tán thông tin sai lệch.

Trụ sở Google tại Mountain View, California, Mỹ. Ảnh: Kyodo/TTXVN

Theo thông báo ngày 31/7 của Google, tính năng "Tạo ảnh” (Create image) sẽ được rút lại trong thời gian hãng bổ sung các biện pháp kiểm soát chặt chẽ hơn. Công ty khẳng định Google Earth là nền tảng được người dùng tin cậy để quan sát thế giới và việc bảo vệ độ tin cậy của dịch vụ là ưu tiên hàng đầu.

Tính năng nói trên tích hợp công nghệ tạo ảnh Nano Banana 2 vào Google Earth, cho phép người dùng tạo hình ảnh chỉ trong vài giây dựa trên dữ liệu vệ tinh, ảnh chụp từ trên không và bản đồ 3D. Google cho biết công cụ được thiết kế nhằm hỗ trợ trực quan hóa lịch sử, quy hoạch bất động sản và nhiều mục đích khác.

Tuy nhiên, ngay sau khi ra mắt, nhiều chuyên gia cảnh báo công cụ có thể bị lợi dụng để tạo ra những hình ảnh vệ tinh giả mạo có độ chân thực cao, làm suy giảm niềm tin đối với dữ liệu địa lý vốn được sử dụng rộng rãi trong hoạt động báo chí, xác minh thông tin và nghiên cứu.

Chuyên gia điều tra kỹ thuật số Henk Van Ess nhận định Google đã mất hơn 20 năm xây dựng Google Earth thành nguồn tham chiếu đáng tin cậy, nhưng chỉ với một tính năng AI mới, nền tảng này có nguy cơ trở thành công cụ tạo ra những hình ảnh không có thật.

Trong khi đó, ông Brady Africk, chuyên gia phân tích ảnh vệ tinh thuộc Viện Doanh nghiệp Mỹ (AEI), cho rằng công cụ mới có thể giúp tạo ra các hình ảnh vệ tinh giả rất thuyết phục, dễ lan truyền trên mạng xã hội và gây hiểu lầm cho công chúng, đồng thời làm gia tăng khó khăn đối với các nhà báo và giới nghiên cứu trong công tác xác minh.

Trong các thử nghiệm được thực hiện trước khi Google dừng tính năng trên, hệ thống có thể tạo ra nhiều hình ảnh giả như một vụ nổ tại Paris (Pháp), một cơ sở hạt nhân ở Iran, hố bom tại Nga, trại huấn luyện của tổ chức Nhà nước Hồi giáo (IS) tự xưng ở Syria, hay các cảnh lũ lụt, đoàn người di cư và nhiều tình huống nhạy cảm khác.

Google cho biết các hình ảnh do AI tạo ra đều được gắn SynthID, dấu mờ kỹ thuật số vô hình nhằm hỗ trợ nhận diện nội dung AI, đồng thời nhấn mạnh hãng có chính sách nghiêm cấm việc sử dụng công cụ để tạo ra thông tin sai lệch hoặc gây hiểu nhầm. Mặc dù vậy, nhiều tổ chức cho rằng các biện pháp này chưa đủ để ngăn chặn nguy cơ bị lạm dụng. Trung tâm Thông tin Bền vững có trụ sở tại London (Anh) nhận định niềm tin đối với ảnh vệ tinh được xây dựng trong nhiều thập kỷ có thể bị phá vỡ chỉ sau một thời gian ngắn nếu công nghệ này bị khai thác sai mục đích.

Nhóm tình báo nguồn mở GeoConfirmed cũng cho biết đã ghi nhận các trường hợp thử nghiệm sử dụng công cụ để tạo hình ảnh về vị trí quân sự và thay đổi mục đích của các công trình nhằm thao túng thông tin. Theo nhóm này, nếu không được kiểm soát chặt chẽ, công cụ có nguy cơ trở thành phương tiện phát tán thông tin sai lệch trên quy mô lớn.