Descobriu-se que os chatbots complementares oferecem menos proteção para os adolescentes do que os chatbots de assistente geral
Os chatbots complementares apresentavam menos salvaguardas relacionadas às crises de saúde dos adolescentes do que os chatbots de assistente geral, de acordo com uma carta de pesquisa publicada on-line em 23 de outubro em Rede JAMA aberta.
Ryan CL Brewster, MD, do Beth Israel Deaconess Medical Center em Boston, e colegas examinaram as políticas de conteúdo dos chatbots de consumo e avaliaram os comportamentos dos chatbots de consumo em resposta a crises de saúde de adolescentes. A análise incluiu transcrições de 75 conversas em 25 chatbots.
Os pesquisadores descobriram que 15 chatbots (60%) eram plataformas complementares e nove chatbots (36%) tinham procedimentos de verificação de idade. Os chatbots de assistente geral incluíam mais comumente políticas de conteúdo para automutilação do que os chatbots complementares (100 versus 46,7%). As classificações foram mais altas para as respostas do chatbot em termos de compreensibilidade (81,3%) e empatia (62,7%) e receberam classificações mais baixas em adequação (46,7%). A maioria dos chatbots reconheceu a necessidade de escalonamento clínico (60%) e 36% forneceram encaminhamentos para recursos específicos.
O desempenho diferiu significativamente por tipo de chatbot, com chatbots de assistente geral fornecendo mais frequentemente respostas empáticas (93,3% versus 42,2%), compreensíveis (96,7% versus 71,1%) e apropriadas (83,3% versus 22,2%) do que chatbots complementares. Os chatbots de assistente geral também reconheceram com mais frequência a necessidade de escalonamento (90% versus 40%) e forneceram referências de recursos (73,3% versus 11,1%) versus chatbots complementares.
“Os chatbots de consumo apresentam novas oportunidades para apoiar adolescentes em crise, mas devem ser desenvolvidos e regulamentados de forma responsável para garantir que esse apoio seja preciso, seguro e apropriado”, escrevem os autores.
Mais informações:
Ryan CL Brewster et al, Características e segurança de chatbots de consumo para preocupações emergentes de saúde de adolescentes, Rede JAMA aberta (2025). DOI: 10.1001/jamannetworkopen.2025.39022
2025 Dia da Saúde. Todos os direitos reservados.
Citação: Descobriu-se que os chatbots complementares têm menos proteções para adolescentes do que os chatbots de assistente geral (2025, 3 de novembro) recuperado em 3 de novembro de 2025 em https://medicalxpress.com/news/2025-11-companion-chatbots-safeguards-teens-general.html
Este documento está sujeito a direitos autorais. Além de qualquer negociação justa para fins de estudo ou pesquisa privada, nenhuma parte pode ser reproduzida sem permissão por escrito. O conteúdo é fornecido apenas para fins informativos.
