OpenAI phát triển công cụ nhận diện hình ảnh do AI tạo ra

Công ty OpenAI vừa giới thiệu công cụ mới, có thể xác định liệu một hình ảnh kỹ thuật số có phải là sản phẩm của AI hay không. Công cụ này hiện đang trong quá trình thử nghiệm và chỉ hoạt động đối với các mô hình AI tạo sinh do OpenAI phát triển, như DALL-E 3 - nền tảng tạo hình ảnh dựa trên những gợi ý cho sẵn bằng văn bản.

Theo OpenAI, trong quá trình thử nghiệm nội bộ, công cụ này đã phát hiện chính xác khoảng 98% các hình ảnh do DALL-E 3 tạo ra, trong khi tỷ lệ kết quả sai là chưa tới 0,5%.

Tuy nhiên, công ty cũng cho biết nền tảng DALL-E 3 hiện đã được cải tiến và theo đó gây khó khăn hơn cho công cụ nhận diện hình ảnh này. Ngoài ra, công cụ này cũng mới chỉ xác định đúng 5-10% số hình ảnh do các mô hình AI khác tạo ra.

OpenAI cho biết công ty này sẽ chèn các watermark (ký tự nhận diện được làm mờ) vào hệ thống siêu dữ liệu hình ảnh AI, trong bối cảnh đang có nhiều công ty đăng ký tham gia các tiêu chuẩn của Liên minh chứng minh và xác thực nội dung (C2PA).

C2PA là một sáng kiến của ngành công nghệ, trong đó đặt ra tiêu chuẩn kỹ thuật để xác định nguồn gốc và tính xác thực của nội dung số.

Từ đầu tháng 5 này, nền tảng mạng xã hội Facebook của công ty Meta cũng bắt đầu gắn nhãn cho các thông tin truyền thông do AI tạo ra theo tiêu chuẩn C2PA. Tập đoàn Google cũng đã tham gia sáng kiến này.