O ChatGPT não pode diagnosticá -lo. Aqui está o porquê

Do “Dr. Google” a chatbots movidos a IA, a Internet está cheia de conselhos de saúde. Mas para um exame ou diagnóstico seguro, os especialistas dizem que ainda é melhor deixá -lo para os profissionais.

Um desses especialistas é Ahmed Abdeen Hamed, pesquisador da Universidade de Binghamton que liderou recentemente um estudo para avaliar o quão bem a inteligência artificial pode se apresentar no espaço médico. Sua equipe se concentrou hoje na ferramenta mais comentada: ChatGPT. Publicado em isciênciao estudo serviu para responder a uma pergunta sobre a IA: quão bem o chatgpt realmente sabe suas coisas?

“As pessoas conversam com o bate -papo o tempo todo hoje em dia e dizem: ‘Eu tenho esses sintomas. Tenho câncer? Tenho parada cardíaca? Devo estar recebendo tratamento?'”, Disse Hamed em comunicado à imprensa.

O médico do WellStar da área de Atlanta, Dr. Andrew Thornton, enfatizou que, embora seja possível usar a IA e a Internet com segurança para obter informações sobre saúde, os pacientes nunca devem confiar neles durante emergências médicas ou passar um tempo excessivo pesquisando on-line.

“Essa é a hora de ligar para o 911 ou levar alguém a levá -lo a um hospital imediatamente”, disse Thornton.

Chatgpt não pode substituir seu médico

O ChatGPT não está pronto para fornecer conselhos médicos precisos, embora esteja mostrando promessa em alguns aspectos específicos do conhecimento médico. Durante o estudo, a equipe de Hamed fez uma descoberta interessante sobre esses certos aspectos, bem como a prova de que a ferramenta não pode diagnosticar os usuários de maneira eficaz.

Quando se trata de identificar termos da doença, medicamentos prescritos e informações sobre genes, o ChatGPT executou suas tarefas com precisão de 88% a 97%. No entanto, os usuários de IA também frequentemente procuram orientação para a saúde, não apenas fatos de saúde. É aqui que o grande modelo de idioma – ou LLM – pode ser quebrado.

“As doenças eram realmente muito fáceis de identificar, então o ChatGPT foi muito bom em identificar e produzir doenças que são realmente conhecidas na ontologia da doença”, disse Hamed ao AJC.

“(Foi a mesma história com as drogas, a mesma história com os genes, mas não a mesma história com os sintomas. E isso foi um pouco interessante, porque as implicações disso são realmente enormes”.

O ChatGPT lutou com a complexidade das consultas de usuários que usavam linguagem vaga ou casual para descrever os sintomas. Quando as perguntas eram conversacionais, a IA geralmente falhou em vincular com precisão os sintomas às suas possíveis causas médicas.

“O ChatGPT usa mais uma linguagem social e amigável, porque deveria estar se comunicando com pessoas comuns”, disse Hamed em comunicado à imprensa. “Na literatura médica, as pessoas usam nomes adequados. O LLM está aparentemente tentando simplificar a definição desses sintomas, porque há muito tráfego fazendo essas perguntas, então começou a minimizar as formalidades da linguagem médica para atrair esses usuários”.

A relutância da IA ​​em reconhecer quando não conhece a resposta correta às perguntas relacionadas à saúde em questão Thornton.

“Acho que é muito importante que os pacientes entendam que o ChatGPT não lhe dirá a confiança com a qual está apresentando certos pedaços de informação a você”, disse ele. “Isso vai apresentá -lo de uma maneira que parece muito confiante no que está dizendo, e fará isso da mesma maneira com informações imprecisas, como com informações precisas”.

Essa confiança convincente da IA ​​pode levar a riscos significativos à saúde.

Com que frequência as pessoas buscam conselhos de saúde da IA?

O uso da inteligência artificial em geral está crescendo rapidamente.

De acordo com uma pesquisa do Pew Research Center, cerca de 34% dos adultos dos EUA usaram o ChatGPT em algum momento de suas vidas – duas vezes quanto em 2023. Muitos usuários da Internet provavelmente também estão recebendo informações da IA ​​sem necessariamente procurá -las.

Examinando 2,5 milhões de visitas à página da web de março de 2025, o centro determinou que 93% dos usuários em destaque encontraram conteúdo relacionado à IA em algum momento durante suas pesquisas na Web. Cerca de 60% desses usuários visitaram páginas de resultados de pesquisa com resumos gerados pela IA simplesmente usando o mecanismo de pesquisa do Google.

Procurada ou não, a informação da IA ​​é proeminente on-line nos dias de hoje-e essa exposição levou muitos a pedir consultoria em tecnologia para a ponta de saúde.

Cerca de 17% dos adultos dos EUA que participam da pesquisa de rastreamento de desinformação em saúde de 2024 KFF disseram que usavam a IA Chatbots pelo menos uma vez por mês para informações sobre saúde e aconselhamento médico. Cerca de um quarto dos adultos com menos de 30 anos de idade usaram a IA para orientação para a saúde.

Thornton teve um aumento nos pacientes falando livremente sobre seus hábitos de pesquisa na Internet relacionados à saúde durante seus exames também, algo que ele diz que acontece em um ambiente de atendimento urgente o tempo todo.

“Acho que os pacientes estão mais próximos agora do que há 10 anos, tanto quanto, olhando as coisas na internet”, disse ele. “Acho que porque eles sabem que esperamos, e é uma coisa tão comum que eles seguem em frente e nos dizem as preocupações de que tenham baseado nas coisas que procuraram”.

Use -o com sabedoria

Embora o ChatGPT não esteja pronto para ser seu médico, ele ainda tem o potencial de ser uma poderosa ferramenta de saúde um dia. Por enquanto, porém, é melhor deixá -lo para os profissionais.

“Acho que as plataformas da Internet e da IA ​​podem ser usadas para adicionar informações, para dar a eles mais contexto sobre diferentes estados de doenças, além de talvez medicamentos que eles estão tomando”, disse Thornton. “Acho que nunca deve ser usado para restringir possíveis diagnósticos ao que o paciente provavelmente está experimentando.

“Ele realmente precisa ser usado para conhecimento geral sobre diferentes doenças ou medicamentos”.

2025 O Atlanta Journal-Constitution. Distribuído pela Tribune Content Agency, LLC.