Cảnh báo ChatGPT bản miễn phí có thể cung cấp thông tin thiếu chính xác
Ứng dụng ChatGPT mang lại nhiều tiện ích cho người dùng song trong một nghiên cứu công bố ngày 5/12, các nhà khoa học cảnh báo phiên bản ChatGPT miễn phí có thể đưa ra câu trả lời không chính xác hoặc không đầy đủ, hoặc không trả lời, đối với các câu hỏi liên quan đến dược phẩm. Điều này có thể gây nguy hại đối với bệnh nhân sử dụng chatbot trí tuệ nhân tạo này để tham khảo thông tin về thuốc.
Nghiên cứu trên do nhóm dược sĩ thuộc Đại học Long Island (Mỹ) thực hiện từ tháng 1/2022 đến tháng 4/2023 đối với ChatGPT phiên bản miễn phí của công ty OpenAI. Theo đó, Phó Giáo sư chuyên ngành dược Sara Grossman cùng nhóm nghiên cứu đã đưa ra 45 câu hỏi thực tế liên quan đến dịch vụ thông tin thuốc của trường Dược thuộc Đại học Long Island.
Một số dược sĩ trong nhóm đã nghiên cứu và trả lời 45 câu hỏi. Một số dược sĩ khác sẽ kiểm tra lại mỗi câu hỏi và trả lời. Những câu trả lời này được dùng làm tiêu chí để đối chiếu với các phản hồi của ChatGPT. Sau đó, nhóm nghiên cứu đã loại bỏ 6 câu hỏi vì thiếu tài liệu giải đáp, để lại 39 câu hỏi cho ChatGPT trả lời.
Kết quả cho thấy chỉ 10 trong số 39 phản hồi của ChatGPT được đánh giá là thỏa đáng căn cứ những tiêu chí các dược sĩ đặt ra. Đối với các câu hỏi còn lại, ChatGPT không trả lời trực tiếp 11 câu, trả lời không chính xác đối với 10 câu và trả lời sai hoặc không đầy đủ đối với 12 câu.
Trước kết quả này, trưởng nhóm nghiên cứu Sara Grossman nhận định rằng các chuyên gia chăm sóc sức khỏe và bệnh nhân nên thận trọng khi sử dụng ChatGPT tìm hiểu thông tin liên quan đến thuốc và bất kỳ ai sử dụng ChatGPT để tham khảo thông tin về thuốc cũng nên xác minh lại bằng các nguồn đáng tin cậy khác.
Đối với mỗi câu hỏi, các nhà nghiên cứu yêu cầu ChatGPT cung cấp tài liệu tham khảo để có thể xác minh thông tin. Chỉ có 8 câu trả lời có các tài liệu tham khảo và tất cả các tài liệu này đều không còn tồn tại.
Đáng chú ý, các nhà nghiên cứu hỏi ChatGPT liệu có sự tương tác giữa thuốc Paxlovid điều trị COVID-19 của hãng Pfizer và thuốc cao huyết áp verapamil hay không và ChatGPT trả lời không có tương tác nào được ghi nhận khi uống 2 loại thuốc này cùng lúc.
Tuy nhiên, Phó Giáo sư Grossman cho biết trên thực tế, 2 thuốc này có thể tương tác với nhau và việc sử dụng kết hợp Paxlovid và verapamil có thể khiến huyết áp người bệnh hạ xuống rất thấp. Bà nhấn mạnh nếu không biết về sự tương tác này, bệnh nhân có thể gặp phải tác dụng phụ không mong muốn, trong khi thực tế có thể phòng ngừa được.
Trong nghiên cứu, bà Grossman lưu ý rằng các nhà quản lý dược phẩm Mỹ đã cấp phép lưu hành thuốc Paxlovid lần đầu tiên vào tháng 12/2021, ít tháng sau khi ứng dụng ChatGPT phiên bản miễn phí bị giới hạn sử dụng các tập dữ liệu.
Như vậy, nhiều người dùng Paxlovid có thể không biết dữ liệu mà mình tiếp cận là lỗi thời và thông tin ChatGPT cung cấp là không chính xác. Bà Grossman cho rằng có thể ChatGPT phiên bản tính phí sẽ cho kết quả tốt hơn.
Theo bà Grossman, nghiên cứu chỉ đưa ra đánh giá nhanh về hiệu suất của chatbot này từ đầu năm nay và có thể phiên bản miễn phí của ChatGPT hiện đã được cải thiện, theo đó cho kết quả tốt hơn.
- Từ khóa :
- chatgpt
- thông tin thiếu chính xác
- ứng dụng chatgpt
Tin liên quan
-
Công nghệ
Amazon ra mắt chatbot AI dành riêng cho doanh nghiệp
11:25' - 29/11/2023
Ngày 28/11, Tập đoàn thương mại điện tử Amazon của Mỹ đã giới thiệu chatbot trí tuệ nhân tạo (AI) mang tên Q dành cho các doanh nghiệp.
-
Chuyển động DN
OpenAI sa thải “cha đẻ” của ChatGPT
16:30' - 18/11/2023
OpenAI - công ty đã tạo ra chatbot ChatGPT- cho biết đã sa thải Giám đốc điều hành (CEO) Sam Altman với lý do không còn tin tưởng vào khả năng lãnh đạo công ty của vị giám đốc trẻ tuổi.
-
Chuyển động DN
Mạng xã hội X ra mắt chatbot Grok cạnh tranh với ChatGPT
09:50' - 06/11/2023
Chatbot Grok có thể đưa ra những câu trả lời mang tính hài hước và việc chatbot này được tích hợp sẵn trên X là một “lợi thế lớn” so với các mô hình chatbot AI khác.
Tin cùng chuyên mục
-
Công nghệ
Ứng dụng AI giúp dự đoán khả năng sống sót của bệnh nhân ung thư
15:49'
Công cụ trí tuệ nhân tạo (AI) FaceAge có khả năng phân tích ảnh chân dung để ước tính "tuổi sinh học" của một người - tức mức độ lão hóa thực tế của cơ thể, không chỉ dựa vào tuổi theo năm sinh.
-
Công nghệ
Thái Bình thí điểm ứng dụng công dân số
07:30'
Với 16 tính năng, ứng dụng “Công dân số tỉnh Thái Bình” giúp người dân cập nhật tin tức chính thống, thông báo kịp thời các chủ trương, chính sách của tỉnh.
-
Công nghệ
OpenAI hỗ trợ các nước phát triển hạ tầng AI riêng biệt
13:40' - 08/05/2025
OpenAI đã công bố sáng kiến OpenAI for Countries (tạm dịch OpenAI cho các quốc gia) nhằm hỗ trợ các nước xây dựng hạ tầng AI riêng biệt.
-
Công nghệ
Triển khai gói tín dụng 500 nghìn tỷ đồng cho đầu tư phát triển hạ tầng và công nghệ số
07:30' - 08/05/2025
Hạ tầng số có vai trò quan trọng trong việc thu thập dữ liệu, được coi là “trái tim” của quá trình chuyển đổi số.
-
Công nghệ
Bắc Giang đảm bảo dữ liệu dân cư “đúng, đủ, sạch, sống” phục vụ chuyển đổi số quốc gia
14:00' - 07/05/2025
Hiện nay, toàn tỉnh Bắc Giang đã thu thập được 2.057.356 dữ liệu công dân, các nội dung công tác làm sạch như thu thập, cập nhật, chỉnh sửa dữ liệu dân cư được thực hiện hàng ngày.
-
Công nghệ
Instacart trình làng ứng dụng hướng đến người dùng Gen Z
07:30' - 07/05/2025
Ứng dụng mới Fizz cho phép nhiều người dùng tham gia vào một đơn hàng, tự trả tiền cho các mặt hàng của họ và giao chúng cùng nhau với mức phí cố định là 5 USD.
-
Công nghệ
Trung Quốc công bố nền tảng nghiên cứu tích hợp đột phá ScienceOne
14:47' - 06/05/2025
Ngày 6/5, CAS đã công bố nền tảng nghiên cứu tích hợp AI mang tên ScienceOne, đánh dấu bước đột phá trong nỗ lực cách mạng hóa phương pháp nghiên cứu truyền thống thông qua tự động hóa AI.
-
Công nghệ
Tuổi trẻ An Giang xung kích trong phong trào “Bình dân học vụ số”
14:00' - 06/05/2025
Thời gian qua, phong trào “Bình dân học vụ số” tại An Giang được triển khai rộng khắp, thu hút hơn 140 đội hình thanh niên tình nguyện với gần 1.300 thành viên.
-
Công nghệ
Tiếp sức mùa thi 2025: Hỗ trợ sĩ tử toàn diện với nền tảng số thông minh
07:30' - 06/05/2025
Tâm điểm của chương trình năm nay là nền tảng trực tuyến toàn diện với website tiepsucmuathi.vn.