A IA em cuidados de saúde precisa de regulamentação centrada no paciente para evitar a discriminação, como especialistas

Um novo comentário publicado no Jornal da Sociedade Real de Medicina Alerta que as abordagens regulatórias atuais baseadas em risco à inteligência artificial (IA) nos cuidados de saúde ficam aquém da proteção dos pacientes, potencialmente levando ao tratamento excessivo e subestimado, bem como discriminação contra grupos de pacientes.

Os autores descobriram que, embora os sistemas de AI e aprendizado de máquina possam melhorar a precisão clínica, as preocupações permanecem sobre sua imprecisão, opacidade e potencial inerente a viés que não são adequadamente abordados pelos atuais esforços regulatórios introduzidos pela Lei de IA da União Europeia.

Passado em 2025, a Lei da AI categoriza a IA médica como “alto risco” e introduz controles rígidos sobre fornecedores e implementadores. Mas os autores argumentam que essa estrutura baseada em risco ignora três questões críticas: preferências individuais de pacientes, efeitos sistêmicos e a longo prazo da implementação da IA ​​e o desesamo de capacitação de pacientes em processos regulatórios.

“Os pacientes têm valores diferentes quando se trata de precisão, viés ou o papel da IA ​​desempenha sob seus cuidados”, disse o principal autor Thomas Ploug, professor de dados e ética da IA ​​na Universidade de Aalborg, na Dinamarca. “A regulamentação deve ir além da segurança no nível do sistema e explicar os direitos e a participação individuais”.

Os autores pedem a introdução dos direitos dos pacientes relacionados ao diagnóstico ou planejamento de tratamento gerado pela IA, incluindo o direito a:

• solicitar uma explicação;
• dar ou retirar o consentimento;
• procure uma segunda opinião; e
• Recuse o diagnóstico ou triagem com base em dados publicamente disponíveis sem consentimento.

Eles alertam que, sem o envolvimento urgente das partes interessadas em assistência médica – incluindo médicos, reguladores e grupos de pacientes – esse risco de direitos sendo deixado para trás na rápida evolução da IA ​​nos cuidados de saúde.

“A IA está transformando os cuidados de saúde, mas não deve fazê -lo às custas da autonomia e da confiança dos pacientes”, disse o professor Ploug. “É hora de definir os direitos que protegerão e capacitarão os pacientes em um sistema de saúde orientado a IA”.