Trung Quốc thúc đẩy ứng dụng AI an toàn trong lĩnh vực tài chính

Theo phóng viên TTXVN tại Trung Quốc, hướng dẫn này kêu gọi quản lý rủi ro và phân cấp chặt chẽ hơn đối với việc phát triển và ứng dụng AI tại các tổ chức ngân hàng và bảo hiểm để giải quyết hiệu quả những thách thức do sự phát triển của AI đặt ra, đồng thời phục vụ tốt hơn nền kinh tế thực và đáp ứng nhu cầu của người dân.

Một chi nhánh Ngân hàng Công Thương Trung Quốc (ICBC) ở Madrid, Tây Ban Nha. Ảnh: AFP/TTXVN

Một quan chức của NFRA cho biết hướng dẫn này nhằm mục đích điều chỉnh việc phát triển và sử dụng AI của các tổ chức ngân hàng và bảo hiểm, ngăn ngừa và kiểm soát hiệu quả các rủi ro phát sinh từ các ứng dụng AI, thúc đẩy phát triển tài chính số chất lượng cao và hướng dẫn phát triển lành mạnh, có trật tự các ứng dụng AI trong lĩnh vực tài chính theo cách có lợi, an toàn và công bằng.

Hướng dẫn yêu cầu các tổ chức tài chính phát triển và triển khai công nghệ AI phải tăng cường lập kế hoạch cấp cao và quản trị tổng thể bằng cách thiết lập một khuôn khổ quản lý vòng đời AI toàn diện và tăng cường giám sát các kịch bản ứng dụng và quy trình kinh doanh.

Các tổ chức được khuyến khích xây dựng cơ sở hạ tầng điện toán thông minh có thể kiểm soát độc lập, an toàn và hiệu quả. Các tổ chức tài chính lớn có khả năng cần được khuyến khích cung cấp dịch vụ điện toán cho các tổ chức nhỏ hơn và hỗ trợ các nỗ lực của ngành để cùng nhau xây dựng và chia sẻ cơ sở hạ tầng.

Ngoài ra, các tổ chức tài chính được yêu cầu phải tích hợp các rủi ro liên quan đến AI vào khuôn khổ quản lý rủi ro toàn diện của họ, thực hiện phân loại dựa trên rủi ro và quản lý theo cấp bậc, và thiết lập các biện pháp kiểm soát truy cập đối với các ứng dụng AI có rủi ro cao.

Các cơ chế giám sát và can thiệp của con người phải được thiết lập ở các giai đoạn quan trọng của các ứng dụng có rủi ro cao, đồng thời cần tăng cường quản lý rủi ro chuỗi cung ứng và thuê ngoài.

Quan chức trên cho biết các tổ chức tài chính nên tiến hành đánh giá và xem xét thường xuyên các rủi ro liên quan đến AI và các biện pháp kiểm soát, phòng ngừa các rủi ro như mô hình "hộp đen", ảo giác AI, đồng thời tăng cường an ninh mạng, bảo mật dữ liệu và bảo vệ thông tin khách hàng.

Các tổ chức tài chính nên xây dựng năng lực AI kết hợp giữa bảo mật, minh bạch và trách nhiệm giải trình, đồng thời cân bằng giữa kiểm soát rủi ro và phát triển kinh doanh. Những tổ chức này nên tăng cường bảo mật dữ liệu và bảo vệ thông tin cá nhân, thực hiện nghiêm ngặt các yêu cầu phân loại và bảo vệ dữ liệu, và cải thiện các biện pháp lọc nội dung và làm giảm độ nhạy cảm của dữ liệu.