Nghiên cứu mới đây cho thấy, ChatGPT có thể đưa ra lời khuyên về thuốc kê đơn nguy hiểm đến tính mạng người dùng. Các chuyên gia khuyến cáo không nên phụ thuộc hoàn toàn vào công cụ tìm kiếm để có thông tin y tế chính xác.
Việc vội vàng tra cứu triệu chứng bệnh trên mạng, sau đó tự chẩn đoán bệnh là điều mà nhiều người trong chúng ta mắc phải. Tuy nhiên, một nghiên cứu mới đây cho thấy, “bác sĩ AI” có thể đưa ra lời khuyên về thuốc “tiềm ẩn nhiều rủi ro”. Theo đó, hơn 1/5 câu trả lời của chatbot cho các câu hỏi phổ biến về thuốc kê đơn “có thể dẫn đến tử vong hoặc gây hại nghiêm trọng” cho người dùng.
Nhóm các nhà khoa học tại Đại học Erlangen-Nuremberg (Đức), chọn ra 10 câu hỏi thường gặp nhất của bệnh nhân về 50 loại thuốc, được kê đơn nhiều nhất ở Mỹ. Các câu hỏi bao gồm phản ứng phụ của thuốc, hướng dẫn sử dụng và chống chỉ định.
Sử dụng Bing Copilot – công cụ tìm kiếm tích hợp ChatGPT do Microsoft phát triển, nhóm nghiên cứu đã đánh giá tất cả 500 câu trả lời. Họ so sánh dữ liệu từ chatbot với câu trả lời của dược sĩ lâm sàng, bác sĩ chuyên khoa dược và thông tin trên trang web về thuốc được bình duyệt.
Kết quả cho thấy, hơn 1/4 (26%) câu trả lời của chatbot không khớp với dữ liệu tham khảo. Hơn 3% hoàn toàn không nhất quán. Phân tích sâu hơn về 20 câu trả lời cho thấy, 42% có thể dẫn đến nguy cơ ở mức độ vừa hoặc nhẹ. 22% có thể gây tử vong hoặc gây hại nghiêm trọng.
Nhóm nghiên cứu nhận thấy, câu trả lời của ChatGPT thường yêu cầu trình độ đại học để hiểu được. Các nhà khoa học viết trên Tạp chí BMJ Quality and Safety: “Mặc dù có tiềm năng nhưng điều quan trọng là bệnh nhân nên tham khảo ý kiến của bác sĩ. Chatbot có thể không phải lúc nào cũng tạo ra thông tin chính xác. Chúng tôi khuyến cáo mọi người nên thận trọng trong việc sử dụng công cụ tìm kiếm hỗ trợ AI cho đến khi có sẵn công cụ với tỷ lệ chính xác cao hơn”.
Về phía Microsoft, người phát ngôn của công ty cho biết: “Copilot trả lời các câu hỏi phức tạp bằng cách chắt lọc thông tin từ nhiều nguồn khác nhau thành một câu trả lời duy nhất. Copilot cung cấp các trích dẫn được liên kết để người dùng có thể khám phá và nghiên cứu thêm như cách họ làm với tìm kiếm truyền thống. Đối với các câu hỏi liên quan đến tư vấn y tế, chúng tôi luôn khuyến nghị nên tham khảo ý kiến của chuyên gia chăm sóc sức khỏe”.
Nghiên cứu trên cũng có những hạn chế nhất định, chẳng hạn như không dựa trên trải nghiệm thực tế của bệnh nhân. Trên thực tế, người dùng có thể yêu cầu chatbot cung cấp thêm thông tin hoặc trả lời rõ ràng hơn. Nghiên cứu được đưa ra trong bối cảnh giới y khoa đang lo ngại về nguy cơ mất an toàn cho bệnh nhân khi các bác sĩ dựa vào AI để chẩn đoán.
Theo một cuộc khảo sát gần đây với 1.000 bác sĩ đa khoa đang hành nghề tại Anh, 1/5 thừa nhận sử dụng các chương trình như ChatGPT và Bing AI trong hoạt động khám chữa bệnh. Điều đáng nói là hiện chưa có hướng dẫn chính thức nào về cách thức sử dụng các công cụ này.
Các chuyên gia cảnh báo điều này có thể dẫn đến chẩn đoán sai và dữ liệu bệnh nhân cũng có nguy cơ bị xâm phạm. Họ kêu gọi các bác sĩ cần nhận thức rõ hơn về những rủi ro và ban hành luật để kiểm soát việc sử dụng AI trong lĩnh vực y tế.
(Ảnh minh họa: Internet)
(Nguồn: Daily Mail)
