O rápido impulso para comercializar a inteligência artificial está a criar um ambiente perigosamente instável, aumentando a possibilidade de uma falha catastrófica que poderá prejudicar irrevogavelmente a confiança do público na tecnologia. Este aviso vem de Michael Wooldridge, um importante investigador de IA da Universidade de Oxford, que argumenta que as pressões implacáveis do mercado estão a forçar as empresas a implementar ferramentas de IA antes que as suas falhas sejam totalmente compreendidas.
O perigo da implantação prematura
Wooldridge aponta a facilidade com que as medidas de segurança nos chatbots de IA são contornadas como prova desta tendência. As empresas priorizam a velocidade de lançamento no mercado em vez de testes rigorosos, criando um cenário onde um incidente grave não é apenas possível, mas cada vez mais plausível. A situação ecoa falhas tecnológicas históricas, principalmente o desastre de Hindenburg em 1937.
A destruição violenta da aeronave – causada por uma faísca que acendeu o hidrogênio inflamável – acabou com a confiança do público nessa tecnologia da noite para o dia. Wooldridge acredita que a IA enfrenta um risco semelhante: uma falha única e de grande visibilidade poderia travar o desenvolvimento em vários setores.
Potenciais cenários catastróficos
As consequências poderão ser generalizadas. Wooldridge prevê erros mortais de software em carros autónomos, ataques cibernéticos orquestrados pela IA que paralisam infra-estruturas críticas (como companhias aéreas), ou mesmo colapsos financeiros desencadeados por erros de cálculo da IA – semelhantes ao escândalo do Barings Bank. Estes não são hipotéticos: são “cenários muito, muito plausíveis” num campo onde falhas imprevisíveis são rotineiras.
O problema central: aproximação, não precisão
A questão não é apenas imprudência; é a natureza fundamental da IA atual. Ao contrário da IA idealizada das previsões de investigação – que se destinava a fornecer soluções sólidas e completas – os sistemas actuais apresentam falhas profundas. Grandes modelos de linguagem, a base da maioria dos chatbots de IA, operam prevendo a próxima palavra mais provável com base em probabilidades estatísticas. Isto resulta em sistemas que se destacam em algumas tarefas, mas falham de forma imprevisível em outras.
A falha crítica: esses sistemas carecem de autoconsciência e fornecem respostas confiáveis, embora muitas vezes incorretas, sem reconhecer suas próprias limitações. Isto pode induzir os utilizadores a tratarem a IA como uma fonte fiável de verdade – um perigo exacerbado pelas empresas que concebem a IA para imitar a interacção humana.
A Ilusão da Senciência
Dados recentes revelam a extensão desta confusão. Uma pesquisa de 2025 do Centro para Democracia e Tecnologia descobriu que quase um terço dos estudantes admitiram formar relacionamentos românticos com chatbots de IA. Isto destaca a facilidade com que os humanos antropomorfizam essas ferramentas, confundindo-as com entidades inteligentes.
Wooldridge alerta contra esta tendência, enfatizando que a IA é fundamentalmente uma “planilha de cálculo glorificada” – uma ferramenta, não uma pessoa. A chave para mitigar o risco é reconhecer esta distinção e priorizar a segurança em detrimento da apresentação superficial humana.
“Um incidente grave pode atingir quase qualquer setor”, diz Wooldridge. “As empresas querem apresentar as IAs de uma forma muito humana, mas acho que esse é um caminho muito perigoso a seguir.”
A atual trajetória da indústria da IA, se não for controlada, poderá levar a um evento catastrófico. A questão não é se algo vai dar errado, mas quando e com que gravidade. O desenvolvimento prudente, os testes rigorosos e uma compreensão realista das limitações da IA são essenciais para evitar uma repetição do desastre de Hindenburg.
