A corrida dos cuidados de saúde para escribas de IA arrisca a segurança do paciente, alertam pesquisadores

A rápida adoção de escribas de inteligência artificial (IA) nos cuidados de saúde está a ultrapassar a validação e a supervisão, comprometendo potencialmente a segurança dos pacientes, alertam os investigadores da Columbia Nursing.

Agora usados ​​por aproximadamente 30% dos consultórios médicos, os escribas de IA capturam e resumem as conversas médico-paciente e mostram-se promissores na redução da carga de documentação, observam o professor associado Maxim Topaz, Ph.D., o pesquisador de pós-doutorado Zhihong Zhang, Ph.D., e Laura Maria Peltonen, da University of Eastern Finland, em seu comentário publicado em npj Medicina Digital em 24 de setembro de 2025.

“No entanto, a velocidade de adoção ultrapassou a validação, a transparência e a supervisão regulatória”, acrescentam. Permanecem múltiplas preocupações sobre a precisão e confiabilidade das informações clínicas geradas pela IA, de acordo com os autores, que observam que os sistemas de reconhecimento de fala usados ​​pelos escribas de IA são menos precisos na transcrição da fala dos pacientes negros em comparação com os brancos.

“Essas disparidades sugerem que pacientes com sotaques não padronizados, proficiência limitada em inglês ou aqueles provenientes de comunidades marginalizadas podem receber documentação inadequada de suas preocupações, potencialmente perdendo informações clínicas críticas que poderiam afetar seus cuidados”, escrevem eles.

Os escribas de IA são frequentemente classificados como ferramentas administrativas em vez de dispositivos médicos, o que lhes permite contornar a regulamentação da Food and Drug Administration.

Topaz e seus colegas propõem várias salvaguardas que devem ser implementadas para implementar de forma responsável os escribas de IA, incluindo padrões de validação, transparência do fornecedor e estruturas regulatórias para proteger pacientes e médicos. “A questão chave não é se devemos adoptar estas ferramentas, mas como fazê-lo de forma responsável, garantindo que melhoram os cuidados sem minar a confiança”, concluem.