Pessoas com autismo recorrem ao ChatGPT para obter conselhos sobre questões no local de trabalho

Um novo estudo da Carnegie Mellon University mostra que muitas pessoas com autismo adotam o ChatGPT e ferramentas similares de inteligência artificial para obter ajuda e aconselhamento enquanto enfrentam problemas em seus locais de trabalho.

Mas a equipe de pesquisa, liderada por Andrew Begel, da Escola de Ciência da Computação, também descobriu que tais sistemas às vezes fornecem conselhos questionáveis. E a controvérsia permanece dentro da comunidade do autismo sobre se esse uso de chatbots é mesmo uma boa ideia.

“O que descobrimos é que há pessoas com autismo que já usam o ChatGPT para fazer perguntas para as quais achamos que o ChatGPT é parcialmente adequado e parcialmente adequado”, disse Begel, professor associado do Departamento de Software e Sistemas Sociais e do Departamento Humano. -Instituto de Interação de Computadores. “Por exemplo, eles podem perguntar: ‘Como faço para fazer amigos no trabalho?'”

Begel dirige o VariAbility Lab, que busca desenvolver locais de trabalho onde todas as pessoas, incluindo aquelas com deficiência e neurodivergentes, possam trabalhar juntas com sucesso. O desemprego e o subemprego são problemas para nove em cada 10 adultos com autismo, e muitos locais de trabalho não têm recursos para ajudar os funcionários com autismo e os seus colegas de trabalho a superar problemas sociais ou de comunicação à medida que surgem.

Para entender melhor como os grandes modelos de linguagem (LLMs) poderiam ser usados ​​para resolver essa deficiência, Begel e sua equipe recrutaram 11 pessoas com autismo para testar conselhos on-line de duas fontes: um chatbot baseado no GPT-4 da OpenAI e o que pareceu aos participantes como um segundo chatbot, mas na verdade era um conselheiro de carreira humano.

Surpreendentemente, a maioria dos usuários preferiu o chatbot real ao conselheiro disfarçado. Não é que o chatbot tenha dado conselhos melhores, disse Begel, mas sim a forma como ele distribuía esses conselhos.

“Os participantes priorizaram obter respostas rápidas e fáceis de digerir”, disse Begel.

O chatbot fornecia respostas em preto e branco, sem muita sutileza e geralmente na forma de marcadores. O conselheiro, por outro lado, muitas vezes fazia perguntas sobre o que o usuário queria fazer ou por que queria fazer. A maioria dos usuários preferiu não se envolver nessas idas e vindas, disse Begel.

Os participantes gostaram do conceito de chatbot. Um deles explicou: “Acho que, honestamente, no meu local de trabalho… é a única coisa em que confio, porque nem todas as empresas ou negócios são inclusivos”.

Mas quando uma profissional especializada em apoiar candidatos a emprego com autismo avaliou as respostas, ela descobriu que algumas das respostas do LLM não eram úteis. Por exemplo, quando um usuário pediu conselhos sobre como fazer amigos, o chatbot sugeriu que o usuário simplesmente se aproximasse das pessoas e começasse a conversar com elas. O problema, claro, é que uma pessoa com autismo geralmente não se sente confortável fazendo isso, disse Begel.

Os resultados do experimento foram apresentados pelo primeiro autor e Ph.D. do HCII. o estudante JiWoong (Joon) Jang na Conferência da Association for Computing Machinery sobre Fatores Humanos em Sistemas de Computação (CHI 2024) em Honolulu. Além de Begel e Jang, os coautores incluem HCII Ph.D. a estudante Sanika Moharana e Patrick Carrington, professor assistente do HCII.

É possível que um chatbot treinado especificamente para resolver os problemas das pessoas com autismo possa evitar dar maus conselhos, mas nem todos na comunidade do autismo provavelmente o aceitarão, disse Begel. Embora alguns possam vê-lo como uma ferramenta prática para apoiar trabalhadores autistas, outros vêem-no como mais um exemplo de expectativa de que pessoas cujos cérebros funcionam de maneira um pouco diferente da maioria das pessoas acomodem todos os outros.

“Há um grande debate sobre quais perspectivas privilegiamos quando construímos tecnologia sem falar com as pessoas. Isso está privilegiando a perspectiva neurotípica de ‘É assim que quero que as pessoas com autismo se comportem na minha frente?’ Ou está privilegiando os desejos da pessoa com autismo de que ‘quero me comportar do jeito que sou’ ou ‘quero me dar bem e garantir que os outros gostem de mim e não me odeiem?'”

No fundo, é uma questão de saber se as pessoas com autismo têm voz ativa nas pesquisas que visam ajudá-las. É também uma questão explorada em outro artigo da CHI, no qual Begel é coautor com Naba Rizvi e outros pesquisadores da Universidade da Califórnia, em San Diego.

Nesse estudo, os pesquisadores analisaram 142 artigos publicados entre 2016 e 2020 sobre o desenvolvimento de robôs para ajudar pessoas com autismo. Eles descobriram que 90% desta pesquisa sobre interação humano-robô não incluía as perspectivas de pessoas com autismo. Um resultado, disse Begel, foi o desenvolvimento de muita tecnologia assistiva que as pessoas com autismo não necessariamente queriam, enquanto algumas de suas necessidades não foram atendidas.

“Percebemos, por exemplo, que a maioria dos robôs interativos projetados para pessoas com autismo não eram humanos, como dinossauros ou cães”, disse Begel. “As pessoas com autismo são tão deficientes em sua própria humanidade que não merecem robôs humanóides?”

A tecnologia certamente pode contribuir para uma melhor compreensão de como as pessoas com e sem autismo interagem. Por exemplo, Begel está colaborando com colegas da Universidade de Maryland em um projeto que utiliza IA para analisar conversas entre esses dois grupos.

A IA pode ajudar a identificar lacunas na compreensão de um ou de ambos os oradores, o que pode resultar em piadas sem graça ou criar a percepção de que alguém está sendo desonesto. A tecnologia também poderia ajudar os oradores a prevenir ou reparar estes problemas de conversação, disse Begel, e os investigadores estão a procurar a opinião de um grande grupo de pessoas com autismo para obter a sua opinião sobre o tipo de ajuda que gostariam de ver.

“Construímos uma ferramenta de videochamada à qual anexamos esta IA”, disse Begel, que também desenvolveu um Conselho Consultivo de Autismo para garantir que as pessoas com autismo tenham uma palavra a dizer sobre quais projetos seu laboratório deve realizar.

“Uma possível intervenção pode ser um botão nesta ferramenta que diz ‘Desculpe, não ouvi você. Você pode repetir sua pergunta?’ quando não tenho vontade de dizer isso em voz alta. Ou talvez haja um botão que diz: ‘Não entendo’. Ou até mesmo uma ferramenta que possa resumir a agenda da reunião para que você possa ajudar a orientar seus colegas de equipe quando disser: ‘Gostaria de voltar ao primeiro tópico sobre o qual falamos’.”