Cảnh báo ChatGPT bản miễn phí có thể cung cấp thông tin thiếu chính xác
Ứng dụng ChatGPT mang lại nhiều tiện ích cho người dùng song trong một nghiên cứu công bố ngày 5/12, các nhà khoa học cảnh báo phiên bản ChatGPT miễn phí có thể đưa ra câu trả lời không chính xác hoặc không đầy đủ, hoặc không trả lời, đối với các câu hỏi liên quan đến dược phẩm. Điều này có thể gây nguy hại đối với bệnh nhân sử dụng chatbot trí tuệ nhân tạo này để tham khảo thông tin về thuốc.
Nghiên cứu trên do nhóm dược sĩ thuộc Đại học Long Island (Mỹ) thực hiện từ tháng 1/2022 đến tháng 4/2023 đối với ChatGPT phiên bản miễn phí của công ty OpenAI. Theo đó, Phó Giáo sư chuyên ngành dược Sara Grossman cùng nhóm nghiên cứu đã đưa ra 45 câu hỏi thực tế liên quan đến dịch vụ thông tin thuốc của trường Dược thuộc Đại học Long Island.
Một số dược sĩ trong nhóm đã nghiên cứu và trả lời 45 câu hỏi. Một số dược sĩ khác sẽ kiểm tra lại mỗi câu hỏi và trả lời. Những câu trả lời này được dùng làm tiêu chí để đối chiếu với các phản hồi của ChatGPT. Sau đó, nhóm nghiên cứu đã loại bỏ 6 câu hỏi vì thiếu tài liệu giải đáp, để lại 39 câu hỏi cho ChatGPT trả lời.
Kết quả cho thấy chỉ 10 trong số 39 phản hồi của ChatGPT được đánh giá là thỏa đáng căn cứ những tiêu chí các dược sĩ đặt ra. Đối với các câu hỏi còn lại, ChatGPT không trả lời trực tiếp 11 câu, trả lời không chính xác đối với 10 câu và trả lời sai hoặc không đầy đủ đối với 12 câu.
Trước kết quả này, trưởng nhóm nghiên cứu Sara Grossman nhận định rằng các chuyên gia chăm sóc sức khỏe và bệnh nhân nên thận trọng khi sử dụng ChatGPT tìm hiểu thông tin liên quan đến thuốc và bất kỳ ai sử dụng ChatGPT để tham khảo thông tin về thuốc cũng nên xác minh lại bằng các nguồn đáng tin cậy khác.
Đối với mỗi câu hỏi, các nhà nghiên cứu yêu cầu ChatGPT cung cấp tài liệu tham khảo để có thể xác minh thông tin. Chỉ có 8 câu trả lời có các tài liệu tham khảo và tất cả các tài liệu này đều không còn tồn tại.
Đáng chú ý, các nhà nghiên cứu hỏi ChatGPT liệu có sự tương tác giữa thuốc Paxlovid điều trị COVID-19 của hãng Pfizer và thuốc cao huyết áp verapamil hay không và ChatGPT trả lời không có tương tác nào được ghi nhận khi uống 2 loại thuốc này cùng lúc.
Tuy nhiên, Phó Giáo sư Grossman cho biết trên thực tế, 2 thuốc này có thể tương tác với nhau và việc sử dụng kết hợp Paxlovid và verapamil có thể khiến huyết áp người bệnh hạ xuống rất thấp. Bà nhấn mạnh nếu không biết về sự tương tác này, bệnh nhân có thể gặp phải tác dụng phụ không mong muốn, trong khi thực tế có thể phòng ngừa được.
Trong nghiên cứu, bà Grossman lưu ý rằng các nhà quản lý dược phẩm Mỹ đã cấp phép lưu hành thuốc Paxlovid lần đầu tiên vào tháng 12/2021, ít tháng sau khi ứng dụng ChatGPT phiên bản miễn phí bị giới hạn sử dụng các tập dữ liệu.
Như vậy, nhiều người dùng Paxlovid có thể không biết dữ liệu mà mình tiếp cận là lỗi thời và thông tin ChatGPT cung cấp là không chính xác. Bà Grossman cho rằng có thể ChatGPT phiên bản tính phí sẽ cho kết quả tốt hơn.
Theo bà Grossman, nghiên cứu chỉ đưa ra đánh giá nhanh về hiệu suất của chatbot này từ đầu năm nay và có thể phiên bản miễn phí của ChatGPT hiện đã được cải thiện, theo đó cho kết quả tốt hơn.
- Từ khóa :
- chatgpt
- thông tin thiếu chính xác
- ứng dụng chatgpt
Tin liên quan
-
Công nghệ
Amazon ra mắt chatbot AI dành riêng cho doanh nghiệp
11:25' - 29/11/2023
Ngày 28/11, Tập đoàn thương mại điện tử Amazon của Mỹ đã giới thiệu chatbot trí tuệ nhân tạo (AI) mang tên Q dành cho các doanh nghiệp.
-
Chuyển động DN
OpenAI sa thải “cha đẻ” của ChatGPT
16:30' - 18/11/2023
OpenAI - công ty đã tạo ra chatbot ChatGPT- cho biết đã sa thải Giám đốc điều hành (CEO) Sam Altman với lý do không còn tin tưởng vào khả năng lãnh đạo công ty của vị giám đốc trẻ tuổi.
-
Chuyển động DN
Mạng xã hội X ra mắt chatbot Grok cạnh tranh với ChatGPT
09:50' - 06/11/2023
Chatbot Grok có thể đưa ra những câu trả lời mang tính hài hước và việc chatbot này được tích hợp sẵn trên X là một “lợi thế lớn” so với các mô hình chatbot AI khác.
Tin cùng chuyên mục
-
Công nghệ
Apple rớt khỏi Top 5 thương hiệu smartphone hàng đầu ở Trung Quốc
06:47'
Báo Donga Ilbo ngày 26/7 đưa tin nhu cầu iPhone do Apple sản xuất đang chậm lại ở Trung Quốc và Apple lần đầu tiên không còn nằm trong Top 5 thương hiệu smartphone có thị phần lớn nhất.
-
Công nghệ
Xuất hiện công cụ tìm kiếm AI là đối thủ "đáng gờm" với Google
14:23' - 26/07/2024
OpenAI thông báo chuẩn bị triển khai công cụ trí tuệ nhân tạo (AI) phục vụ tìm kiếm trên mạng do công ty phát triển, cạnh tranh trực tiếp với Google, công cụ tìm kiếm đang thống trị thị trường.
-
Công nghệ
Google đạt bước tiến mới trong phát triển năng lực tư duy toán học cho AI
12:21' - 26/07/2024
Google vừa công bố một bộ đôi hệ thống trí tuệ nhân tạo (AI) để chứng minh những tiến bộ trong việc giải quyết các bài toán phức tạp - một ranh giới quan trọng của quá trình phát triển AI tạo sinh.
-
Công nghệ
Nvidia chuẩn bị phiên bản chip AI cao cấp mới cho thị trường Trung Quốc
06:50' - 26/07/2024
Ba nguồn thạo tin cho hay, “gã khổng lồ” trong ngành chip Nvidia đang nghiên cứu một phiên bản chip trí tuệ nhân tạo (AI) cao cấp mới dành cho thị trường Trung Quốc.
-
Công nghệ
Đo tốc độ internet tự động với i-Speed 4.0 góp phần nâng cao chất lượng mạng tại Việt Nam
17:11' - 25/07/2024
Ngày 25/7, Trung tâm internet Việt Nam (VNNIC) cho biết, khoảng 1 tuần nay VNNIC đưa vào vận hành bản cập nhật mới nhất cho Hệ thống đo tốc độ internet i-Speed (bản 4.0 dành cho hệ điều hành Android).
-
Công nghệ
CrowdStrike xác nhận sự cố sập mạng toàn cầu xuất phát từ lỗi phần mềm
14:47' - 25/07/2024
Ngày 24/7, công ty an ninh mạng CrowdStrike thừa nhận sự cố sập hệ thống mạng toàn cầu xảy ra tuần trước bắt nguồn từ một lỗ hổng trong phần mềm kiểm định của công ty.
-
Công nghệ
Sóc Trăng nâng tỷ lệ sử dụng dịch vụ công trực tuyến
10:37' - 25/07/2024
Mới đây, Ban Chỉ đạo Chuyển đổi số tỉnh Sóc Trăng tổ chức Hội nghị sơ kết công tác chuyển đổi số trên địa bàn.
-
Công nghệ
Sự cố mất mạng toàn cầu - cơ hội để ngành công nghiệp an ninh mạng tăng trưởng?
07:55' - 25/07/2024
Sự cố mất mạng toàn cầu gần đây do Microsoft (MS) gây ra đã thu hút sự chú ý của các công ty an ninh mạng Hàn Quốc.
-
Công nghệ
CMC ra mắt mô hình AI University
14:28' - 24/07/2024
Trong khuôn khổ chương trình Hội nghị chiến lược của Trường Đại học CMC, ông Nguyễn Trung Chính – Chủ tịch Tập đoàn công nghệ CMC, Chủ tịch Hội đồng Trường Đại học CMC công bố ra mắt “AI University”.