A IA não deve piorar as desigualdades de saúde para populações de minorias étnicas, dizem epidemiologistas

Os cientistas estão pedindo cautela antes que modelos de inteligência artificial (IA), como o ChatGPT, sejam usados ​​em cuidados de saúde para populações de minorias étnicas. Escrevendo no Jornal da Sociedade Real de Medicinaepidemiologistas da Universidade de Leicester e da Universidade de Cambridge dizem que as desigualdades existentes para minorias étnicas podem se tornar mais arraigadas devido a vieses sistêmicos nos dados usados ​​por ferramentas de IA de assistência médica.

Os modelos de IA devem ser “treinados” usando dados extraídos de diferentes fontes, como sites de assistência médica e pesquisas científicas. No entanto, as evidências mostram que os dados de etnia muitas vezes estão ausentes da pesquisa de cuidados de saúde. As minorias étnicas também estão menos representadas nos ensaios de pesquisa.

Mohammad Ali, Ph.D. Fellow em Epidemiologia no College of Life Sciences, University of Leicester, diz: “Essa representação desproporcionalmente menor de minorias étnicas na pesquisa tem evidências de causar danos, por exemplo, criando tratamentos com drogas ineficazes ou diretrizes de tratamento que podem ser consideradas racistas. Se a literatura publicada já contém vieses e menos precisão, é lógico que futuros modelos de IA irão mantê-los e exacerbá-los ainda mais.”

Os pesquisadores também estão preocupados com o fato de que as desigualdades na saúde possam piorar em países de baixa e média renda (LMICs). Os modelos de IA são desenvolvidos principalmente em nações mais ricas, como os EUA e a Europa, e existe uma disparidade significativa em pesquisa e desenvolvimento entre países de alta e baixa renda.

Os pesquisadores apontam que a maioria das pesquisas publicadas não prioriza as necessidades daqueles nos países de baixa e média renda com seus desafios de saúde únicos, particularmente em relação à prestação de cuidados de saúde. Os modelos de IA, dizem eles, podem fornecer conselhos com base em dados de populações totalmente diferentes daquelas dos países de baixa e média renda.

Embora crucial reconhecer essas dificuldades potenciais, dizem os pesquisadores, é igualmente importante focar nas soluções. “Devemos ter cautela, reconhecendo que não podemos e não devemos conter o fluxo do progresso”, diz Ali.

Os pesquisadores sugerem maneiras de superar desigualdades de saúde potencialmente exacerbadas, começando com a necessidade de modelos de IA para descrever claramente os dados usados ​​em seu desenvolvimento. Eles também dizem que é necessário trabalhar para abordar as desigualdades étnicas em saúde na pesquisa, incluindo a melhoria do recrutamento e registro de informações étnicas. Os dados usados ​​para treinar modelos de IA devem ser adequadamente representativos, com atores-chave como etnia, idade, sexo e fatores socioeconômicos considerados. Mais pesquisas também são necessárias para entender o uso de modelos de IA no contexto de populações etnicamente diversas.

Ao abordar essas considerações, dizem os pesquisadores, o poder dos modelos de IA pode ser aproveitado para gerar mudanças positivas na assistência médica, promovendo justiça e inclusão.