OpenAI nêu quan điểm về xây dựng tiêu chuẩn AI

Công ty OpenAI đã kêu gọi Mỹ dẫn dắt nỗ lực quốc tế xây dựng các tiêu chuẩn an toàn và bảo mật trong phát triển trí tuệ nhân tạo (AI), trong bối cảnh những lo ngại về rủi ro của công nghệ này ngày càng gia tăng.

Biểu tượng công cụ ChatGPT do công ty OpenAI phát triển. Ảnh: AFP/ TTXVN

Trong một bài đăng trên mạng xã hội ngày 21/9, OpenAI cho rằng Mỹ có lợi thế để đóng vai trò dẫn dắt nhờ ngành AI đang ở vị trí tiên phong về công nghệ. Công ty này cảnh báo nếu không hành động sớm, thế giới có thể hình thành một hệ thống quản trị AI phân mảnh và thiếu đồng nhất.

OpenAI ủng hộ tăng cường hợp tác quốc tế nhằm xây dựng bộ tiêu chuẩn chung về an toàn và bảo mật AI, qua đó giảm thiểu những rủi ro có thể phát sinh trong quá trình phát triển và triển khai công nghệ này. OpenAI cũng cho rằng không nên theo đuổi khả năng tự cải thiện đệ quy (RSI) của AI nếu chưa thể bảo đảm an toàn. RSI đề cập khả năng phần mềm tự học hỏi, cải tiến và tiếp tục phát triển mà không cần con người can thiệp thường xuyên. Giới chuyên gia lo ngại quá trình này có thể diễn ra nhanh hơn khả năng kiểm soát của con người nếu thiếu các cơ chế bảo đảm phù hợp.

Lập trường trên được OpenAI đưa ra sau một loạt sự cố liên quan đến an ninh AI. Tháng 7 vừa qua, các mô hình của OpenAI liên quan đến một vụ xâm nhập hệ thống Hugging Face - nền tảng được các nhà phát triển AI sử dụng để lưu trữ và chia sẻ mã nguồn. Mặc dù các mô hình liên quan chưa được phát hành và vẫn trong giai đoạn thử nghiệm, nhưng vụ việc đã làm gia tăng lo ngại về các tác nhân AI có khả năng tự thực hiện nhiệm vụ thay con người.

OpenAI nhấn mạnh vụ việc tại Hugging Face không phải là hệ quả trực tiếp của RSI, nhưng cho thấy những rủi ro có thể trở nên nghiêm trọng hơn nếu AI phát triển với mức độ tự chủ cao mà thiếu các biện pháp bảo vệ và cơ chế bảo đảm AI hoạt động phù hợp với mục tiêu của con người. Hai công ty Anthropic và Google cũng từng công bố các sự cố an ninh liên quan đến hệ thống AI của mình.

Giám đốc điều hành (CEO) OpenAI Sam Altman dự kiến sẽ có buổi báo cáo trực tiếp trước HĐBA LHQ vào tuần này. Cuộc họp do Pháp - quốc gia đang đảm nhiệm chức Chủ tịch luân phiên của Hội đồng - chủ trì tổ chức.

Ông Sam Altman dự kiến sẽ có buổi báo cáo trực tiếp trước Hội đồng Bảo an Liên hợp quốc (HĐBA LHQ) trong khuôn khổ các phiên thảo luận về rủi ro từ AI. Tổng Thư ký LHQ Antonio Guterres đã kêu gọi tăng cường phối hợp quốc tế để ứng phó với những rủi ro từ AI. Ông cho rằng hành động ở cấp quốc gia là cần thiết nhưng chưa đủ, bởi các nước cần phối hợp trên phạm vi toàn cầu để giải quyết những vấn đề do công nghệ này tạo ra.

Tranh luận về tốc độ phát triển AI cũng nóng lên trong những tháng gần đây. CEO Anthropic Dario Amodei đã kêu gọi thận trọng và giảm tốc độ phát triển AI, trong khi ông Sam Altman, CEO SpaceXAI Elon Musk và Chủ tịch Google DeepMind Demis Hassabis cũng từng bày tỏ quan điểm về việc cần tăng cường các biện pháp kiểm soát rủi ro. Trong khi đó, Tổng thống Mỹ Donald Trump bác bỏ hoàn toàn những cảnh báo về rủi ro AI, cho rằng các mối lo ngại này đang bị phóng đại quá mức.