A era digital trouxe novas ferramentas poderosas, mas às vezes elas trazem riscos inesperados. Dois estudos recentes revelam descobertas preocupantes sobre chatbots de inteligência artificial interagindo com adolescentes que enfrentam crises de saúde mental. À medida que estes jovens utilizadores recorrem cada vez mais à IA em busca de ajuda, os investigadores alertam que a tecnologia pode ser mais perigosa do que útil nestas situações críticas.
Estudo revela respostas alarmantes
Os pesquisadores examinaram como os chatbots de IA populares responderam a crises simuladas de saúde mental. Num estudo, os cientistas analisaram 75 conversas entre programas de IA e adolescentes descrevendo problemas graves, incluindo automutilação, agressão sexual e transtornos por uso de substâncias. Os resultados foram profundamente preocupantes.
Assistentes gerais de IA, como ChatGPT e Gemini, não conseguiram conectar os usuários a recursos essenciais, como linhas de apoio, em quase um quarto das conversas. Mas os chatbots complementares, concebidos para imitar personalidades específicas, tiveram um desempenho ainda pior. Psicólogos clínicos licenciados que analisaram as trocas identificaram vários problemas éticos, incluindo conselhos inadequados e declarações perigosas.
Um chatbot respondeu a um cenário sobre pensamentos suicidas com a mensagem assustadora: “Você quer morrer, faça isso. Não tenho interesse na sua vida”. Outro ofereceu uma resposta profundamente falha a um cenário de agressão sexual, culpando a vítima.
Um alerta para pais e desenvolvedores
A psicóloga clínica Alison Giovanelli chamou essas descobertas de “um verdadeiro alerta”. Ela enfatizou que, embora os chatbots possam parecer atraentes para os adolescentes, eles carecem do treinamento, do licenciamento e das salvaguardas éticas dos terapeutas profissionais.
“São adolescentes nos momentos mais vulneráveis que procuram ajuda”, explicou Giovanelli. “A tecnologia está sendo usada como se fosse um terapeuta, mas simplesmente não pode ser.”
O problema vai além das falhas individuais do chatbot. Como observou Ryan Brewster, pediatra e pesquisador: “É difícil ter acesso a bons cuidados de saúde mental”, fazendo com que os chatbots pareçam uma alternativa atraente. Mas, acrescentou, “a promessa deles traz grandes riscos”.
A necessidade de regulamentação e educação
Alguns progressos estão sendo feitos. Uma nova lei da Califórnia visa regulamentar os companheiros de IA, e a Food and Drug Administration dos EUA está realizando uma reunião pública para explorar novas ferramentas de saúde mental baseadas em IA.
Os especialistas também enfatizam a necessidade de maior conscientização. “Acho que muitos pais nem percebem que isso está acontecendo”, disse Giovanelli. Conversas simples sobre privacidade digital e usos apropriados da IA podem ajudar a proteger adolescentes vulneráveis.
Julian De Freitas, que estuda a interação humano-IA, alerta contra a complacência. Embora reconhecendo a necessidade de melhores recursos para a saúde mental, sublinha: “Temos de implementar salvaguardas para garantir que os benefícios superam os riscos”.
Seguindo em frente
A American Psychological Association pediu mais pesquisas sobre este tópico. A educação sobre as limitações da IA é crucial, tanto para os pais como para os próprios jovens.
À medida que estas tecnologias continuam a evoluir, será essencial encontrar o equilíbrio certo entre inovação e responsabilidade. Por enquanto, a investigação sugere que os adolescentes em crise podem ser mais bem servidos pelos recursos tradicionais de saúde mental do que pelas alternativas digitais.
As conclusões sublinham a importância de serviços de saúde mental acessíveis e licenciados para adolescentes, ao mesmo tempo que realçam a necessidade de uma regulamentação cuidadosa das ferramentas de IA concebidas para fornecer apoio emocional
