Cảnh báo nguy cơ khi tích hợp các chatbot AI vào hoạt động kinh doanh
Ngày 30/8, Trung tâm An ninh mạng quốc gia Anh (NCSC) cảnh báo các tổ chức về những rủi ro khi tích hợp chatbot ứng dụng trí tuệ nhân tạo (AI) vào hoạt động kinh doanh, trong bối cảnh ngày càng nhiều nghiên cứu cảnh báo về chiêu trò lừa đảo doanh nghiệp thực hiện nhiệm vụ nguy hại.
NCSC cho biết các chuyên gia hiện chưa nắm bắt hết rủi ro an ninh tiềm ẩn liên quan đến các thuật toán có thể tương tác giống con người, hay còn gọi là mô hình ngôn ngữ lớn (LLM).
NCSC cảnh báo hoạt động này có thể mang đến rủi ro, đặc biệt khi mô hình kể trên kết nối với các thành tố trong quá trình kinh doanh của tổ chức. Giới nghiên cứu học giả đã nhiều lần tìm cách “phá vỡ” các chatbot, cung cấp các lệnh giả hoặc đánh lừa chatbot tự phá vỡ tính năng của mình.
Vì vậy, NCSC đề xuất các dịch vụ xây dựng tổ chức sử dụng LLM cần thận trọng hơn nữa, giống như đang sử dụng sản phẩm ở giai đoạn thử nghiệm. NCSC nhấn mạnh không nên để sản phẩm đại diện cho khách hàng tiến hành giao dịch, hay không tin tưởng hoàn toàn các sản phẩm đó.
Thời gian qua, nhà chức trách nhiều nước gặp khó trước sự gia tăng của các mô hình LLM, điển hình là ChatGPT của OpenAI. Đây là ứng dụng doanh nghiệp hiện tích hợp vào hàng loạt dịch vụ như kinh doanh sản phẩm và chăm sóc khách hàng.
Bên cạnh đó, vấn đề bảo mật cũng được chú ý, đặc biệt trong bối cảnh giới chức Mỹ và Canada cho biết đã xuất hiện trường hợp tin tặc lợi dụng công nghệ này./.
- Từ khóa :
- chat
- chatbot
- chatgpt
- trí tuệ nhân tạo
Tin liên quan
-
Công nghệ
Việt Nam liệu có cần một “ChatGPT phiên bản Việt”?
08:02' - 19/08/2023
Theo Công ty cổ phần VinBigdata (Vingroup) trong xu hướng của công nghệ AI tạo sinh trên thế giới, gợi mở Việt Nam liệu có cần làm chủ công nghệ này và liệu có cần một “ChatGPT phiên bản Việt”?
-
Doanh nghiệp
Các doanh nghiệp Mỹ thận trọng khi sử dụng ChatGPT trong công việc
16:48' - 11/08/2023
Một thăm dò do Reuters/Ipsos thực hiện cho thấy nhiều nhân viên trên khắp nước Mỹ vẫn lo ngại việc sử dụng ChatGPT trong công việc.
Tin cùng chuyên mục
-
DN cần biết
Khôi phục hoạt động xuất nhập cảnh tại lối thông quan Tân Thanh (Việt Nam) - Pò Chài (Trung Quốc)
13:17' - 25/01/2025
Sáng 25/1, tại lối thông quan khu vực mốc 1090 – 1091 Tân Thanh (Việt Nam) - Pò Chài (Trung Quốc), đã khôi phục hoạt động xuất nhập cảnh tại lối thông quan Tân Thanh (Lạng Sơn, Việt Nam) - Pò Chài.
-
DN cần biết
Tổ chức hàng nghìn ca trực đảm bảo điện trong dịp Tết Ất Tỵ
11:14' - 25/01/2025
Nhằm cung cấp điện an toàn, ổn định, liên tục phục vụ nhân dân đón Tết Nguyên đán Ất Tỵ 2025, Tổng công ty Điện lực miền Bắc (EVNNPC) đã triển khai kế hoạch chi tiết với các nhiệm vụ trọng tâm.
-
DN cần biết
Xuất khẩu của Việt Nam sang Phillippines lần đầu vượt mức hơn 6 tỷ USD
09:37' - 24/01/2025
Hơn cả mức kỳ vọng và dự báo, kim ngạch xuất nhập khẩu giữa Việt Nam và Philippines năm 2024 vượt trên 8,5 tỷ USD, xuất khẩu lần đầu vượt hơn 6 tỷ USD, xuất siêu lần đầu vượt mức trên 3,5 tỷ USD.
-
DN cần biết
“Mỏ vàng” của dệt may Việt Nam
12:58' - 22/01/2025
Nhiều doanh nghiệp đã thành công đưa sản phẩm lên sàn thương mại điện tử để bứt phá.
-
DN cần biết
Đề xuất áp dụng thuế suất chung 1% với mặt hàng khô dầu đậu tương làm thức ăn chăn nuôi
12:16' - 22/01/2025
Cục Chăn nuôi kiến nghị áp dụng thuế suất chung 1% đối với mặt hàng khô dầu đậu tương làm thức ăn chăn nuôi.
-
DN cần biết
Việt Nam và Hoa Kỳ đạt thoả thuận trong giải quyết tranh chấp về chống bán phá giá cá tra, cá basa
15:38' - 20/01/2025
Theo thỏa thuận này, Công ty cổ phần Vĩnh Hoàn đã được đưa ra khỏi phạm vi áp dụng thuế chống bán phá giá khi xuất khẩu cá tra, cá basa vào Hoa Kỳ.
-
DN cần biết
Bộ Công Thương triển khai kế hoạch phát triển công nghiệp bán dẫn
10:39' - 17/01/2025
Bộ Công Thương vừa ban hành Kế hoạch triển khai Quyết định số 1018/QĐ-TTg của Thủ tướng Chính phủ phê duyệt Chiến lược phát triển công nghiệp bán dẫn Việt Nam đến năm 2030 và tầm nhìn 2050.
-
DN cần biết
Kích cầu tiêu dùng, không để thiếu hàng, tăng giá đột biến dịp Tết
08:58' - 16/01/2025
Bộ Công Thương yêu cầu Sở Công Thương các tỉnh, thành phố theo dõi sát diễn biến thị trường, cung cầu mặt hàng thiết yếu, nhất là mặt hàng có nhu cầu cao hoặc biến động giá nhiều trên địa bàn.
-
DN cần biết
Đầu tư xây dựng và kinh doanh kết cấu hạ tầng Khu công nghiệp Tràng Duệ 3 (Hải Phòng)
20:52' - 14/01/2025
Quy mô Dự án là 652,73 ha. Dự án được thực hiện tại các xã Trường Thọ, Trường Thành, An Tiến, Bát Trang, huyện An Lão, thành phố Hải Phòng với vốn đầu tư là 8.094,4 tỷ đồng.