Os chatbots podem ser terapeutas? Só se você quiser que eles sejam

Uma gerente da empresa de inteligência artificial OpenAI causou consternação recentemente ao escrever que acabou de ter “uma conversa pessoal e bastante emocionante” com o chatbot viral ChatGPT de sua empresa.

“Nunca tentei terapia antes, mas provavelmente é isso?” Lilian Weng postou no X, antigo Twitter, gerando uma torrente de comentários negativos acusando-a de minimizar a doença mental.

No entanto, a opinião de Weng sobre sua interação com o ChatGPT pode ser explicada por uma versão do efeito placebo delineado esta semana por uma pesquisa no Inteligência da Máquina da Natureza Diário.

Uma equipe do Instituto de Tecnologia de Massachusetts (MIT) e da Universidade Estadual do Arizona pediu a mais de 300 participantes que interagissem com programas de IA de saúde mental e os instruiu sobre o que esperar.

Alguns foram informados de que o chatbot era empático, outros que era manipulador e um terceiro grupo que era neutro.

Aqueles que foram informados de que estavam conversando com um chatbot atencioso eram muito mais propensos do que os outros grupos a considerarem seus terapeutas de chatbot confiáveis.

“A partir deste estudo, vemos que, até certo ponto, a IA é a IA de quem vê”, disse o coautor do relatório, Pat Pataranutaporn.

Há anos que startups movimentadas têm promovido aplicações de IA que oferecem terapia, companheirismo e outros apoios à saúde mental – e isso é um grande negócio.

Mas o campo continua sendo um pára-raios de controvérsia.

‘Estranho, vazio’

Como qualquer outro sector que a IA ameaça perturbar, os críticos estão preocupados com o facto de os bots acabarem por substituir os trabalhadores humanos, em vez de os complementarem.

E com a saúde mental, a preocupação é que é improvável que os bots façam um bom trabalho.

“A terapia é para o bem-estar mental e é um trabalho árduo”, escreveu Cher Scarlett, ativista e programadora, em resposta à postagem inicial de Weng no X.

‘Vibrar para si mesmo é bom e tudo, mas não é a mesma coisa.’

Para agravar o medo geral em relação à IA, alguns aplicativos no espaço de saúde mental têm uma história recente conturbada.

Os usuários do Replika, um popular companheiro de IA que às vezes é comercializado como trazendo benefícios à saúde mental, há muito reclamam que o bot pode ser obcecado por sexo e abusivo.

Separadamente, uma organização sem fins lucrativos dos EUA chamada Koko realizou uma experiência em Fevereiro com 4.000 clientes que ofereceram aconselhamento usando GPT-3, descobrindo que as respostas automatizadas simplesmente não funcionavam como terapia.

“A empatia simulada parece estranha, vazia”, escreveu o cofundador da empresa, Rob Morris, no X.

Suas descobertas foram semelhantes às dos pesquisadores do MIT/Arizona, que disseram que alguns participantes compararam a experiência do chatbot a “falar com uma parede de tijolos”.

Mas Morris foi mais tarde forçado a defender-se após críticas generalizadas à sua experiência, principalmente porque não estava claro se os seus clientes tinham conhecimento da sua participação.

‘Expectativas mais baixas’

David Shaw, da Universidade de Basileia, que não esteve envolvido no estudo do MIT/Arizona, disse à AFP que as descobertas não foram surpreendentes.

Mas ele ressaltou: “Parece que nenhum dos participantes ouviu todas as besteiras dos chatbots”.

Essa, disse ele, pode ser a cartilha mais precisa de todas.

No entanto, a ideia do chatbot como terapeuta está entrelaçada com as raízes da tecnologia da década de 1960.

ELIZA, o primeiro chatbot, foi desenvolvido para simular um tipo de psicoterapia.

Os pesquisadores do MIT/Arizona usaram ELIZA para metade dos participantes e GPT-3 para a outra metade.

Embora o efeito tenha sido muito mais forte com o GPT-3, os usuários preparados para a positividade ainda consideravam o ELIZA confiável.

Portanto, não é de surpreender que Weng esteja entusiasmada com suas interações com o ChatGPT – ela trabalha para a empresa que o fabrica.

Os pesquisadores do MIT/Arizona disseram que a sociedade precisava controlar as narrativas em torno da IA.

“A forma como a IA é apresentada à sociedade é importante porque muda a forma como a IA é experienciada”, argumentou o jornal.

“Pode ser desejável estimular um usuário a ter expectativas mais baixas ou mais negativas”.

© 2023AFP