Cảnh báo nguy cơ khi tích hợp các chatbot AI vào hoạt động kinh doanh
Ngày 30/8, Trung tâm An ninh mạng quốc gia Anh (NCSC) cảnh báo các tổ chức về những rủi ro khi tích hợp chatbot ứng dụng trí tuệ nhân tạo (AI) vào hoạt động kinh doanh, trong bối cảnh ngày càng nhiều nghiên cứu cảnh báo về chiêu trò lừa đảo doanh nghiệp thực hiện nhiệm vụ nguy hại.
NCSC cho biết các chuyên gia hiện chưa nắm bắt hết rủi ro an ninh tiềm ẩn liên quan đến các thuật toán có thể tương tác giống con người, hay còn gọi là mô hình ngôn ngữ lớn (LLM).
NCSC cảnh báo hoạt động này có thể mang đến rủi ro, đặc biệt khi mô hình kể trên kết nối với các thành tố trong quá trình kinh doanh của tổ chức. Giới nghiên cứu học giả đã nhiều lần tìm cách “phá vỡ” các chatbot, cung cấp các lệnh giả hoặc đánh lừa chatbot tự phá vỡ tính năng của mình.
Vì vậy, NCSC đề xuất các dịch vụ xây dựng tổ chức sử dụng LLM cần thận trọng hơn nữa, giống như đang sử dụng sản phẩm ở giai đoạn thử nghiệm. NCSC nhấn mạnh không nên để sản phẩm đại diện cho khách hàng tiến hành giao dịch, hay không tin tưởng hoàn toàn các sản phẩm đó.
Thời gian qua, nhà chức trách nhiều nước gặp khó trước sự gia tăng của các mô hình LLM, điển hình là ChatGPT của OpenAI. Đây là ứng dụng doanh nghiệp hiện tích hợp vào hàng loạt dịch vụ như kinh doanh sản phẩm và chăm sóc khách hàng.
Bên cạnh đó, vấn đề bảo mật cũng được chú ý, đặc biệt trong bối cảnh giới chức Mỹ và Canada cho biết đã xuất hiện trường hợp tin tặc lợi dụng công nghệ này./.
- Từ khóa :
- chat
- chatbot
- chatgpt
- trí tuệ nhân tạo
Tin liên quan
-
Công nghệ
Việt Nam liệu có cần một “ChatGPT phiên bản Việt”?
08:02' - 19/08/2023
Theo Công ty cổ phần VinBigdata (Vingroup) trong xu hướng của công nghệ AI tạo sinh trên thế giới, gợi mở Việt Nam liệu có cần làm chủ công nghệ này và liệu có cần một “ChatGPT phiên bản Việt”?
-
Doanh nghiệp
Các doanh nghiệp Mỹ thận trọng khi sử dụng ChatGPT trong công việc
16:48' - 11/08/2023
Một thăm dò do Reuters/Ipsos thực hiện cho thấy nhiều nhân viên trên khắp nước Mỹ vẫn lo ngại việc sử dụng ChatGPT trong công việc.
Tin cùng chuyên mục
-
DN cần biết
Xây dựng Thông tư về danh mục hàng hóa mua bán, trao đổi của cư dân biên giới
17:00'
Dự thảo Thông tư ban hành sẽ thay thế, bãi bỏ một số điều, phụ lục của Thông tư số 01/2018/TTBCT quy định chi tiết hàng hóa mua bán, trao đổi qua cửa khẩu phụ, lối mở biên giới của thương nhân.
-
DN cần biết
Bộ Công Thương lấy ý kiến Dự thảo Thông tư về kinh doanh xuất khẩu gạo
15:55'
Dự thảo Thông tư quy định về kinh doanh xuất khẩu gạo được Bộ Công Thương xây dựng sau khi Nghị định mới về kinh doanh xuất khẩu gạo ban hành đầu năm 2025.
-
DN cần biết
Đồng hành cùng doanh nghiệp trước xu hướng phòng vệ thương mại gia tăng
15:45'
Bộ Công Thương sẽ đồng hành cùng doanh nghiệp trong vụ việc điều tra; nghiên cứu rà soát và hoàn thiện pháp luật phòng vệ thương mại đảm bảo yêu cầu phù hợp và thống nhất với cam kết quốc tế.
-
DN cần biết
Doanh nghiệp tận dụng FTA để gia tăng xuất khẩu
10:42'
Bộ Công Thương sẽ hỗ trợ doanh nghiệp tận dụng cam kết trong FTA để đẩy mạnh xuất khẩu, thông qua tuyên truyền về quy tắc xuất xứ và cấp Giấy chứng nhận xuất xứ...
-
DN cần biết
Thành phố Hồ Chí Minh, Hưng Yên thông tin về tình hình lao động sau Tết
18:28' - 04/02/2025
Qua thu thập thông tin khảo sát hơn 13.500 người lao động đầu năm cho thấy, nhu cầu tìm kiếm việc làm của lao động phổ thông chiếm tỷ lệ cao nhất (25,74%).
-
DN cần biết
Sóc Trăng cải thiện môi trường đầu tư kinh doanh cho nhà đầu tư
09:03' - 04/02/2025
Tại Sóc Trăng, Tỉnh ủy, UBND tỉnh luôn cải thiện môi trường đầu tư kinh doanh cho nhà đầu tư, doanh nghiệp đến đầu tư tại địa phương và xem đây là nhiệm vụ trọng tâm gắn với nhiệm vụ chính trị.
-
DN cần biết
Tăng xử lý vi phạm về bảo vệ người tiêu dùng, kinh doanh đa cấp
17:33' - 03/02/2025
Thời gian vừa qua, Bộ Công Thương từng bước xây dựng, hoàn thiện chính sách, pháp luật cạnh tranh, bảo vệ quyền lợi người tiêu dùng, quản lý hoạt động kinh doanh theo phương thức đa cấp.
-
DN cần biết
Sớm tái khởi động đào tạo nguồn nhân lực cho điện hạt nhân
10:50' - 03/02/2025
Để phát triển nguồn nhân lực khoa học và công nghệ phục vụ chương trình điện hạt nhân, cần phải khẩn trương dự kiến được nhu cầu, quy mô lĩnh vực chuyên môn cần đào tạo trong thời gian sớm nhất.
-
DN cần biết
Quảng Bình đầu tư 40 tỷ đồng xây dựng cầu sông Thai mới
11:01' - 28/01/2025
UBND tỉnh Quảng Bình vừa ban hành Quyết định về việc phân bổ 40 tỷ đồng từ ngân sách tỉnh để xây dựng cầu sông Thai mới, thuộc địa phận xã Quảng Kim (huyện Quảng Trạch, Quảng Bình).