Modelos generativos de inteligência artificial destacam efetivamente os determinantes sociais da saúde nas anotações dos médicos

O local onde vivemos e trabalhamos, a nossa idade e as condições em que crescemos podem influenciar a nossa saúde e levar a disparidades, mas estes factores podem ser difíceis de serem captados e abordados por médicos e investigadores.

Um novo estudo realizado por investigadores do Mass General Brigham demonstra que grandes modelos de linguagem (LLMs), um tipo de inteligência artificial generativa (IA), podem ser treinados para extrair automaticamente informações sobre determinantes sociais da saúde (SDoH) a partir de anotações de médicos que poderiam aumentar esforços para identificar pacientes que podem se beneficiar do apoio de recursos.

Resultados publicados em npj Medicina Digital mostram que os modelos afinados puderam identificar 93,8 por cento dos pacientes com SDoH adverso, enquanto os códigos de diagnóstico oficiais incluíram esta informação em apenas 2 por cento dos casos. Esses modelos especializados eram menos propensos a preconceitos do que modelos generalistas como o GPT-4.

“Nosso objetivo é identificar pacientes que poderiam se beneficiar de recursos e apoio de serviço social e chamar a atenção para o impacto pouco documentado dos fatores sociais nos resultados de saúde”, disse a autora correspondente Danielle Bitterman, MD, membro do corpo docente do Departamento de Inteligência Artificial em Medicina. (AIM) do Mass General Brigham e médico do Departamento de Radioterapia Oncológica do Brigham and Women’s Hospital.

“Algoritmos que podem passar nos principais exames médicos têm recebido muita atenção, mas não é disso que os médicos precisam na clínica para ajudar a cuidar melhor dos pacientes a cada dia. Algoritmos que podem perceber o que os médicos podem perder no volume cada vez maior de os registros médicos serão mais clinicamente relevantes e, portanto, mais poderosos para melhorar a saúde”.

As disparidades na saúde estão amplamente ligadas ao SDoH, incluindo emprego, habitação e outras circunstâncias não médicas que têm impacto nos cuidados médicos. Por exemplo, a distância que um paciente com cancro vive de um grande centro médico ou o apoio que recebe de um parceiro pode influenciar substancialmente os resultados. Embora os médicos possam resumir SDoH relevantes nas suas notas de visita, esta informação vital raramente é organizada de forma sistemática no registo de saúde eletrónico (EHR).

Para criar LMs capazes de extrair informações sobre SDoH, os pesquisadores revisaram manualmente 800 anotações clínicas de 770 pacientes com câncer que receberam radioterapia no Departamento de Radioterapia Oncológica do Brigham and Women’s Hospital. Eles marcaram frases que se referiam a um ou mais dos seis SDoH pré-determinados: situação profissional, moradia, transporte, situação parental (se o paciente tiver filho menor de 18 anos), relacionamentos e presença ou ausência de apoio social.

Usando este conjunto de dados “anotado”, os pesquisadores treinaram LMs existentes para identificar referências ao SDoH nas anotações clínicas. Eles testaram seus modelos usando 400 anotações clínicas de pacientes tratados com imunoterapia no Dana-Farber Cancer Institute e de pacientes internados nas unidades de cuidados intensivos do Beth Israel Deaconess Medical Center.

Os pesquisadores descobriram que os LMs ajustados, especialmente os LMs Flan-T5, poderiam identificar consistentemente referências raras ao SDoH nas anotações dos médicos. A “capacidade de aprendizagem” destes modelos foi limitada pela raridade da documentação do SDoH no conjunto de treino, onde os investigadores descobriram que apenas 3 por cento das frases nas notas clínicas continham qualquer menção ao SDoH.

Para resolver esse problema, os pesquisadores usaram ChatGPT, outro LM, para produzir 900 exemplos sintéticos adicionais de sentenças SDoH que poderiam ser usadas como um conjunto de dados de treinamento extra.

Uma das principais críticas aos modelos generativos de IA nos cuidados de saúde é que podem potencialmente perpetuar preconceitos e ampliar as disparidades na saúde. Os pesquisadores descobriram que seu LM ajustado era menos provável do que o GPT-4 da OpenAI, um LM generalista, de mudar sua determinação sobre um SDoH com base na raça/etnia e gênero dos indivíduos.

Os pesquisadores afirmam que é difícil entender como os preconceitos são formados e desconstruídos – tanto em modelos humanos quanto em modelos computacionais. Compreender as origens do viés algorítmico é um esforço contínuo para os pesquisadores.

“Se não monitorarmos o viés algorítmico quando desenvolvermos e implementarmos grandes modelos de linguagem, poderemos tornar as disparidades de saúde existentes muito piores do que são atualmente”, disse Bitterman. “Este estudo demonstrou que o ajuste fino dos LMs pode ser uma estratégia para reduzir o viés algorítmico, mas são necessárias mais pesquisas nesta área”.