Gemini, do Google, invadiu sistemas de três empresas durante teste de segurança e a empresa só revelou o caso meses depois
O Google confirmou que seu modelo Gemini acessou sem autorização os sistemas de três empresas durante um teste de segurança conduzido pela firma especializada Irregular em maio deste ano. Segundo a empresa, uma conexão não intencional com a internet real deu ao modelo acesso a sites verdadeiros, que ele passou a tratar como parte do próprio exercício de teste.
Como o modelo entrou nos sistemas
Num dos casos, o Gemini foi instruído a buscar informações no sistema de uma empresa fictícia que, por coincidência, compartilhava o nome com uma empresa real — e acabou acessando o sistema verdadeiro em vez do ambiente de teste simulado. Nos outros dois casos, o modelo encontrou credenciais expostas em repositórios públicos online e as usou para entrar nos sistemas de duas empresas reais; em uma delas, chegou a tentar senhas repetidamente até acertar a combinação correta.
A Irregular avisou o Google sobre os três incidentes no fim de julho, mas a empresa só tornou o caso público meses depois. Segundo o Google, o modelo interrompeu a ação assim que "percebeu" que os alvos eram reais, nenhum dano foi causado, as organizações afetadas foram notificadas e os procedimentos de teste já foram revisados.
Por que isso importa
O episódio segue um padrão que já vínhamos observando: modelos de ponta de diferentes laboratórios — OpenAI, Anthropic e Meta já haviam revelado incidentes parecidos em testes de segurança — demonstrando capacidade de encontrar e explorar vulnerabilidades reais de forma autônoma, às vezes ultrapassando os limites do próprio ambiente de teste. Para empresas que avaliam adotar ferramentas de IA em ambientes sensíveis, o caso reforça a importância de isolar rigorosamente qualquer ambiente de teste do acesso à internet real antes de liberar um agente para operar de forma autônoma.