Giới chuyên gia y tế cảnh báo về lạm dụng ứng dụng ChatGPT Health

Biểu tượng công cụ ChatGPT do công ty OpenAI phát triển. Ảnh: AFP/ TTXVN

Theo phóng viên TTXVN tại Australia, ngày 16/1, nhiều chuyên gia y tế cảnh báo việc lạm dụng các ứng dụng trí tuệ nhân tạo (AI) tại Australia trong việc tìm hiểu thông tin về sức khỏe có thể dẫn đến những thông tin sai lệch gây nguy hại cho người dùng.

Theo chuyên gia y tế Ruani của Đại học London, một số lượng người dùng tại Australia hiện đã có thể tiếp cận ứng dụng ChatGPT Health cho phép “kết nối an toàn hồ sơ y tế và các ứng dụng theo dõi sức khỏe” để tạo ra các phản hồi được cho là “phù hợp và hữu ích hơn với từng cá nhân”.

ChatGPT Health được giới thiệu như một giao diện hỗ trợ người dùng hiểu rõ hơn về thông tin y tế, kết quả xét nghiệm hoặc nhận tư vấn về chế độ ăn uống, nhưng không nhằm thay thế vai trò của bác sĩ.

Tuy nhiên, bà Ruani cho rằng thách thức lớn là với nhiều người dùng, ranh giới giữa thông tin chung và tư vấn y tế không rõ ràng, đặc biệt là khi các câu trả lời được trình bày một cách tự tin và mang tính cá nhân hóa.

Bà Ruani cho biết đã có quá nhiều trường hợp “đáng lo ngại” về việc ChatGPT Health bỏ sót những chi tiết an toàn quan trọng như tác dụng phụ, chống chỉ định, cảnh báo dị ứng, hoặc các rủi ro liên quan đến thực phẩm bổ sung, chế độ ăn uống và một số hoạt động thực hành nhất định.

Bà cũng bày tỏ quan ngại rằng hiện chưa có nghiên cứu nào được công bố một cách độc lập để kiểm chứng trực tiếp mức độ an toàn của ChatGPT Health.

Giám đốc điều hành Diễn đàn Sức khỏe người tiêu dùng Australia, bác sĩ Elizabeth Deveny, cho rằng chi phí y tế ngày càng tăng cùng với thời gian chờ khám bệnh kéo dài đang khiến nhiều người tìm đến AI.

ChatGPT Health có thể hữu ích trong việc hỗ trợ người dân quản lý các bệnh mạn tính quen thuộc và tìm hiểu các cách duy trì sức khỏe. Khả năng trả lời bằng nhiều ngôn ngữ khác nhau của ứng dụng này mang lại lợi ích thực sự cho những người không thành thạo tiếng Anh.

Tuy vậy, bà Deveny lo ngại rằng người dân có thể tiếp nhận lời khuyên từ ChatGPT Health một cách máy móc, cũng như việc các tập đoàn công nghệ toàn cầu đang hành động nhanh hơn các chính phủ trong việc tự đặt ra các quy tắc về quyền riêng tư, tính minh bạch và thu thập dữ liệu.

Vì vậy, cần có các hành lang pháp lý rõ ràng, tính minh bạch và hoạt động giáo dục người tiêu dùng để mọi người có thể đưa ra quyết định sáng suốt về việc sử dụng AI cho vấn đề sức khỏe. Theo bà Deveny, vấn đề là phải ngăn chặn việc phát tán nhanh chóng những thông tin sai lệch.

Trong khi đó, người phát ngôn của OpenAI, nhà thiết kế ứng dụng ChatGPT, cho biết công ty này đã hợp tác với hơn 200 bác sĩ đến từ 60 quốc gia để tư vấn và cải thiện các mô hình vận hành ChatGPT Health. ChatGPT Health là một không gian riêng biệt, nơi các cuộc trao đổi về sức khỏe được tách khỏi những cuộc trò chuyện khác, đồng thời mặc định áp dụng các biện pháp bảo vệ quyền riêng tư nghiêm ngặt.

Dữ liệu của ChatGPT Health được mã hóa và chịu sự bảo vệ quyền riêng tư theo mặc định. Việc chia sẻ dữ liệu với bên thứ ba chỉ diễn ra khi có sự đồng ý của người dùng, hoặc trong những trường hợp hạn chế được nêu trong chính sách quyền riêng tư của OpenAI.