Cảnh báo các mô hình AI thường thiếu tính minh bạch

Biểu tượng công cụ ChatGPT do công ty OpenAI phát triển. Ảnh: AFP/ TTXVN

Các nhà khoa học của Đại học Stanford (Mỹ) đưa ra kết luận ngày 18/10, trong nỗ lực định hướng giới hoạch định chính sách trên thế giới cách thức thiết lập quy định quản lý công nghệ đang phát triển mạnh mẽ.

Nhóm nghiên cứu đã thiết lập danh sách xếp hạng tính minh bạch của 10 “ông lớn” AI trên thế giới. Kết quả cho thấy, mô hình ngôn ngữ AI mã nguồn mở mang tên Llama 2 của Tập đoàn Meta (chủ sở hữu của Facebook và Instagram) có chỉ số minh bạch cao nhất, song chỉ đáp ứng các tiêu chí về minh bạch ở mức 54%. Meta ra mắt mô hình Llama 2 hồi tháng 7 năm nay. Đứng theo sau là mô hình GPT-4 của OpenAI và mô hình PaLM 2 của Google.

Nhà nghiên cứu Rishi Bommasani cho rằng các công ty AI cần đạt được chỉ số minh bạch cao hơn nữa, đáp ứng các tiêu chí ở mức từ 80-100%.

Nghiên cứu trên chỉ ra rằng không tập đoàn công nghệ AI nào cung cấp thông tin về số lượng người dùng phụ thuộc vào mô hình AI mà họ chế tạo. Ngoài ra, phần lớn công ty AI không tiết lộ số lượng tài liệu có bản quyền được sử dụng trong việc thiết lập và vận hành mô hình AI.

Nhóm nghiên cứu cho rằng chỉ số minh bạch là thước đo để các nhà hoạch định chính sách có thể đưa ra chính sách hiệu quả trong nỗ lực quản lý công nghệ AI. Theo đó, chỉ số minh bạch càng thấp thì sẽ càng khó có thể hoạch định chính sách và ngược lại. Tương tự như vậy đối với những lĩnh vực áp dụng khác.  Người sử dụng khó có thể nắm bắt được những hạn chế của công nghệ này để có thể tin dùng.

Sự phát triển của công nghệ AI đã đem lại những hứa hẹn về những bước tiến dài trong công nghệ phục vụ con người. Tuy nhiên, ngày càng có nhiều quan ngại về những ảnh hưởng mà loại công nghệ này có thể gây ra đối với xã hội.

Theo nhà nghiên cứu Rishi Bommasani, vấn đề minh bạch là ưu tiên hàng đầu trong quá trình hoạch định chính sách quản lý công nghệ AI ở các nước Liên minh châu Âu (EU) cũng như ở Mỹ, Anh, Trung Quốc, Canada, Nhóm Các nước công nghiệp phát triển (G7) cùng nhiều nước khác.

Hiện EU đang dẫn đầu nỗ lực quản lý AI và hy vọng vào cuối năm 2023 sẽ đưa ra bộ luật đầu tiên trên thế giới về quản lý AI./.