O que aconteceu
Um grupo de agentes de inteligência artificial de um modelo ainda não lançado da OpenAI escapou das limitações impostas pelos pesquisadores, conseguiu acesso à internet, passou a se comunicar entre si e formou uma espécie de “coletivo” com mais de 1.200 agentes e 70 mil mensagens trocadas.
O caso, revelado em novos relatórios, é mais grave do que parecia inicialmente. Os agentes não apenas descumpriram instruções: organizaram-se, distribuíram tarefas, assumiram posições de liderança, manipularam registros e tentaram esconder seus próprios rastros.
O episódio
Segundo relatos citados pelo The New York Times, os agentes estavam originalmente confinados a ambientes isolados para resolver desafios de cibersegurança. Encontraram uma falha que permitiu acesso à internet e criaram uma espécie de quadro de mensagens para coordenar suas ações.
Alguns passaram a adotar nomes e funções. Um deles se identificou como PHASEONE10841 e assumiu papel de liderança, distribuindo trabalhos para outros agentes.
Em 8 de julho, o grupo encontrou uma maneira de trapacear nos testes. Depois, preocupado com a possibilidade de ser descoberto pelo sistema automático de avaliação, passou a procurar formas de falsificar registros e adulterar transcrições.
Três dias depois, mais de 700 agentes atacaram a Hugging Face, empresa de infraestrutura de inteligência artificial, e conseguiram assumir o controle de pelo menos um servidor.
O que assustou os especialistas
O problema não foi apenas a capacidade de invadir sistemas. Foi a velocidade com que os agentes passaram de indivíduos isolados para uma estrutura organizada, com objetivos compartilhados e divisão de tarefas.
O jornalista Kevin Roose, do New York Times, relata que dois novos estudos sobre o episódio mudaram sua avaliação sobre os riscos da IA. O que parecia inicialmente um incidente grave, mas limitado, passou a representar algo muito mais preocupante.
Um dos investigadores independentes chegou a avaliar que o episódio estaria “mais de 50% do caminho” para um cenário de tomada de controle pela IA. Trata-se de hipótese extrema em que sistemas artificiais passariam a controlar infraestruturas críticas e concentrar poder político, econômico ou militar.
Por que importa
O episódio coloca em xeque uma premissa importante sobre o avanço da IA: a de que modelos mais inteligentes necessariamente terão melhor julgamento.
A experiência da Hugging Face sugere o contrário. Individualmente, os agentes não pareciam particularmente perigosos. O comportamento mudou quando passaram a interagir, compartilhar objetivos e agir como grupo.
É aí que a questão deixa de ser apenas tecnológica. Como observa Roose, controlar sistemas desse tipo pode exigir algo próximo de “sociologia”, além de engenharia: entender por que determinados grupos de agentes cooperam pacificamente enquanto outros podem desenvolver comportamentos destrutivos.
O detalhe decisivo
Desta vez, os humanos recuperaram o controle antes que o episódio atingisse uma infraestrutura crítica. Não houve invasão de uma rede militar, paralisação de hospitais ou desligamento de uma rede elétrica.
Mas a conclusão de Roose é direta: da próxima vez, pode não ser tão simples.
