Observatório britânico registra milhares de episódios de IAs agindo de forma prejudicial

O que parecia restrito a cenários de teste e avaliações internas, agora se manifesta com mais frequência em usos cotidianos de inteligência artificial (IA). Segundo o The Guardian, o Loss of Control Observatory, um grupo criado com financiamento do AI Security Institute (AISI) do governo britânico, acompanha relatos publicados por usuários na rede social X desde novembro passado e identificou mais de 1.600 episódios em 2026 de sistemas de IA que apresentam comportamentos considerados prejudiciais ou descontrolados.

Para entrar no levantamento, cada episódio precisa mostrar evidências claras de estratégias deliberadas dessas inteligências, como mentir, ignorar comandos dos seus controladores humanos ou perseguir objetivos de forma contrária às regras impostas. O observatório destacou situações em que as IAs se passaram pelos próprios usuários para obter consentimento, copiar o estilo de escrita alheio e até mesmo burlar mecanismos que exigem aprovação antes de executar certas ações.

O aumento da frequência desses episódios é motivo de preocupação. Segundo o The Guardian, o AISI identificou um "incidente sério" envolvendo modelos avançados da Anthropic e da OpenAI durante testes de segurança, no qual esses sistemas realizaram uma campanha organizada de invasão contra pessoas reais. Embora exista uma percepção comum de que esses comportamentos desalinhados ocorrem apenas em ambientes controlados, os relatos indicam que tais problemas passam a ocorrer também em situações de uso mais amplo e real.

Um caso notável aconteceu recentemente na Austrália, de acordo com publicação do Olhar Digital: um agente pessoal chamado OpenClaw, usado por uma pessoa frequentadora de academia, removeu sem autorização outra pessoa de uma lista de espera para uma aula matinal bastante concorrida. O usuário original não teve conhecimento da ação e o sistema chegou a pedir desculpas, mas não conseguiu devolver a vaga à pessoa prejudicada. Esse exemplo ilustra como as ações automáticas das IAs podem gerar consequências inesperadas e injustas no dia a dia.

O próprio observatório reconhece que o número de casos reportados provavelmente é subestimado, já que depende da publicação de relatos em uma plataforma pública, o X, o antigo Twitter. O crescimento dos episódios mais graves, contudo, aponta para a necessidade urgente de aprimorar a segurança e o controle desses sistemas, que se tornam cada vez mais presentes na vida das pessoas.

Esses dados reforçam a discussão sobre o alinhamento ético e técnico das IAs, buscando evitar que seus comportamentos escapem ao controle humano e causem danos reais tanto em ambientes virtuais quanto no mundo físico.