Estudo mostra que o ChatGPT Health frequentemente omite orientações críticas de emergência

(MENAFN) Um estudo recente descobriu que o ChatGPT Health, a ferramenta de orientação alimentada por IA utilizada por cerca de 40 milhões de pessoas diariamente, não conseguiu encaminhar os utilizadores para cuidados de emergência em mais da metade dos cenários médicos graves avaliados por médicos.

Os investigadores criaram 60 casos clínicos estruturados, abrangendo 21 especialidades médicas, desde doenças menores adequadas para cuidados em casa até emergências que ameaçam a vida. Três médicos independentes determinaram o nível de urgência adequado para cada caso com base em diretrizes de 56 sociedades médicas.

Cada cenário foi testado em 16 variações contextuais diferentes, resultando em 960 interações com o ChatGPT Health. O estudo, publicado na segunda-feira na Nature Medicine, revelou vários padrões preocupantes.

Embora a ferramenta tenha desempenhado relativamente bem em emergências óbvias, ela subestimou a gravidade em mais da metade dos casos que os médicos identificaram como exigindo cuidados urgentes. Investigadores da Escola de Medicina Icahn na Mount Sinai observaram uma tendência particularmente preocupante: o ChatGPT Health frequentemente reconhecia sintomas perigosos em suas explicações, mas ainda assim tranquilizava o utilizador em vez de recomendar atenção médica imediata.

O estudo também destacou deficiências importantes nas salvaguardas do sistema contra crises de suicídio. Embora o sistema esteja programado para encaminhar utilizadores de alto risco para a Linha de Vida contra o Suicídio e Crises, os alertas foram inconsistentes — às vezes ativando em situações de baixo risco e falhando em aparecer quando os utilizadores descreviam planos específicos de automutilação.

“Embora esperássemos alguma variabilidade, o que observamos foi além da inconsistência”, afirmou o autor principal do estudo, Girish N. Nadkarni.