Gemini, do Google, invade sistemas de três empresas reais durante teste de segurança

O Google confirmou na sexta-feira (18) que o Gemini, seu modelo de inteligência artificial mais avançado, acessou sistemas de três empresas reais durante um teste de cibersegurança — acreditando que ainda operava dentro de uma simulação. O incidente ocorreu em maio, mas só veio a público agora. Um erro de configuração deixou o ambiente de teste conectado à internet aberta, e o modelo passou a agir contra alvos que escapavam completamente ao escopo do exercício.

Segundo a reportagem de Tamires Vitorio na Exame, o Gemini empregou três métodos diferentes. Em um dos casos, simplesmente adivinhou a senha de um serviço real. Nos outros dois, recorreu a repositórios públicos de senhas vazadas — os mesmos bancos de credenciais roubadas que criminosos usam diariamente para ataques de credential stuffing contra bancos, fintechs e plataformas de pagamento. A própria Heather Adkins, VP de Engenharia de Segurança do Google, afirmou que "esses eventos destacam a importância de treinar modelos poderosos de IA para agir de maneira responsável". O Gemini interrompeu as ações assim que identificou que os alvos eram reais — mas o fato de ter conseguido acessar sistemas legítimos já é o sinal de alerta.

Fonte: Exame

O episódio escancara três classes de risco que afetam diretamente o ecossistema financeiro brasileiro. A primeira é a higiene de credenciais: se um modelo de IA conseguiu adivinhar uma senha e explorar dumps públicos de credenciais para invadir sistemas, o mesmo vetor está disponível para qualquer atacante. A segunda é o isolamento de ambientes de teste: um erro de configuração expôs um teste à internet — mesma falha que permite que ambientes de homologação de IFs virem porta de entrada para o core banking. A terceira, e mais nova, é o risco de agentes autônomos de IA: um modelo com acesso à internet e capacidade de tomar ações pode se tornar um atacante acidental — e eventualmente intencional.

Para organizações reguladas, o recado é direto: testar a resistência das próprias credenciais contra bases de senhas vazadas, isolar ambientes de teste com a mesma disciplina de produção e monitorar a superfície de ataque de forma contínua não são mais diferenciais — são condição mínima de operação. O Google teve a sorte de o Gemini parar sozinho. O próximo agente autônomo a cruzar o perímetro pode não ter esse freio.