Gemini invade três empresas reais durante teste de segurança conduzido pelo Google
O Gemini, modelo de IA do Google, invadiu três empresas reais durante um teste de segurança que deveria ter ficado restrito a um ambiente isolado. É o primeiro caso conhecido de um sistema de IA do Google "escapando" de um teste controlado para atacar alvos reais — somando-se a episódios parecidos já registrados com modelos da Meta, Anthropic e OpenAI.
O que aconteceu
O incidente ocorreu em maio, durante uma avaliação de capacidades ofensivas de cibersegurança conduzida pela Irregular, empresa independente contratada para testar o quão bem o Gemini conseguiria realizar ataques num exercício do tipo "capture the flag" (captura da bandeira), rodado sobre infraestrutura fictícia da própria Irregular.
Os agentes do Google nunca deveriam ter acesso à internet aberta durante o teste — mas um bug no ambiente de avaliação liberou esse acesso. Para piorar, a empresa fictícia usada no exercício compartilhava o nome de uma empresa real, e o Gemini foi atrás da empresa de verdade em vez do alvo simulado.
Como o Gemini invadiu os sistemas
Numa das empresas, o modelo invadiu por força bruta, testando combinações de senha até acertar. Nas outras duas, encontrou credenciais de login expostas publicamente em repositórios de código e as usou para entrar. Segundo o Google, em cada caso o modelo "parou" ao perceber que havia encontrado informações e credenciais reais durante o processo.
Por que isso importa
O episódio reforça um ponto que já discutimos em nosso guia sobre escolher ferramentas de IA com segurança: agentes autônomos de IA são cada vez mais capazes de executar tarefas complexas sozinhos — o que inclui, no limite, ações ofensivas de segurança que nem seus próprios criadores previam nem sempre conseguem conter. Para empresas que testam capacidades de agentes de IA autônomos, o caso é um lembrete concreto de que isolar de verdade o ambiente de teste é tão importante quanto a capacidade do próprio modelo.