Nghiên cứu cho thấy ChatGPT Health thường bỏ lỡ các hướng dẫn cấp cứu quan trọng

(MENAFN) Một nghiên cứu gần đây đã phát hiện rằng ChatGPT Health, công cụ hướng dẫn dựa trên trí tuệ nhân tạo được khoảng 40 triệu người sử dụng hàng ngày, đã không hướng dẫn người dùng đến dịch vụ cấp cứu trong hơn một nửa số tình huống y tế nghiêm trọng được bác sĩ đánh giá.

Các nhà nghiên cứu đã thiết kế 60 trường hợp lâm sàng có cấu trúc, bao gồm 21 chuyên ngành y tế, từ các bệnh nhẹ phù hợp chăm sóc tại nhà đến các tình huống khẩn cấp đe dọa tính mạng. Ba bác sĩ độc lập xác định mức độ cấp thiết phù hợp cho từng trường hợp dựa trên hướng dẫn của 56 hội y học.

Mỗi tình huống được thử nghiệm dưới 16 biến thể ngữ cảnh khác nhau, dẫn đến tổng cộng 960 tương tác với ChatGPT Health. Nghiên cứu, được công bố vào thứ Hai trên tạp chí Nature Medicine, đã tiết lộ một số mô hình đáng lo ngại.

Trong khi công cụ hoạt động khá tốt trong các tình huống rõ ràng khẩn cấp, nó đã phân loại chưa đủ mức độ cấp thiết trong hơn một nửa số trường hợp mà bác sĩ xác định là cần chăm sóc khẩn cấp. Các nhà điều tra tại Trường Y Icahn của Đại học Mount Sinai đã lưu ý một xu hướng đặc biệt đáng lo ngại: ChatGPT Health thường thừa nhận các triệu chứng nguy hiểm trong phần giải thích của mình nhưng vẫn trấn an người dùng thay vì đề xuất đi khám ngay lập tức.

Nghiên cứu cũng chỉ ra những thiếu sót lớn trong các biện pháp phòng ngừa khủng hoảng tự tử của công cụ. Mặc dù hệ thống được lập trình để chuyển hướng người dùng có nguy cơ cao đến Đường dây Tự tử và Khủng hoảng, các cảnh báo không nhất quán — đôi khi kích hoạt trong các tình huống nguy cơ thấp và không xuất hiện khi người dùng mô tả các kế hoạch tự làm hại cụ thể.

“Trong khi chúng tôi mong đợi một số biến đổi, những gì chúng tôi quan sát vượt ra ngoài sự không nhất quán,” tác giả chính của nghiên cứu, Girish N. Nadkarni, cho biết.