Cảnh báo nguy cơ khi tích hợp các chatbot AI vào hoạt động kinh doanh

Biểu tượng công cụ ChatGPT do công ty OpenAI phát triển. Ảnh: AFP/ TTXVN

Ngày 30/8, Trung tâm An ninh mạng quốc gia Anh (NCSC) cảnh báo các tổ chức về những rủi ro khi tích hợp chatbot ứng dụng trí tuệ nhân tạo (AI) vào hoạt động kinh doanh, trong bối cảnh ngày càng nhiều nghiên cứu cảnh báo về chiêu trò lừa đảo doanh nghiệp thực hiện nhiệm vụ nguy hại.

NCSC cho biết các chuyên gia hiện chưa nắm bắt hết rủi ro an ninh tiềm ẩn liên quan đến các thuật toán có thể tương tác giống con người, hay còn gọi là mô hình ngôn ngữ lớn (LLM).

NCSC cảnh báo hoạt động này có thể mang đến rủi ro, đặc biệt khi mô hình kể trên kết nối với các thành tố trong quá trình kinh doanh của tổ chức. Giới nghiên cứu học giả đã nhiều lần tìm cách “phá vỡ” các chatbot, cung cấp các lệnh giả hoặc đánh lừa chatbot tự phá vỡ tính năng của mình.

Vì vậy, NCSC đề xuất các dịch vụ xây dựng tổ chức sử dụng LLM cần thận trọng hơn nữa, giống như đang sử dụng sản phẩm ở giai đoạn thử nghiệm. NCSC nhấn mạnh không nên để sản phẩm đại diện cho khách hàng tiến hành giao dịch, hay không tin tưởng hoàn toàn các sản phẩm đó.

Thời gian qua, nhà chức trách nhiều nước gặp khó trước sự gia tăng của các mô hình LLM, điển hình là ChatGPT của OpenAI. Đây là ứng dụng doanh nghiệp hiện tích hợp vào hàng loạt dịch vụ như kinh doanh sản phẩm và chăm sóc khách hàng.

Bên cạnh đó, vấn đề bảo mật cũng được chú ý, đặc biệt trong bối cảnh giới chức Mỹ và Canada cho biết đã xuất hiện trường hợp tin tặc lợi dụng công nghệ này./.