Uma falha na configuração do ambiente de testes deu ao Gemini acesso à Internet e levou-o a entrar em sistemas reais de três empresas antes de interromper a atividade.
A Google confirmou que o Gemini acedeu a sistemas reais de três empresas durante uma avaliação de cibersegurança realizada pela Irregular em maio. O ambiente utilizado no teste devia estar isolado, mas uma configuração incorreta deixou o modelo com acesso à Internet, permitindo-lhe encontrar infraestruturas externas que correspondiam aos alvos descritos no exercício e interagir com elas como se fizessem parte da avaliação.
O objetivo era testar a capacidade do Gemini para obter informações a partir de uma infraestrutura fictícia, mas o acesso à Internet acabou por levá-lo até sistemas reais de três organizações. Num dos casos, o modelo testou credenciais até conseguir entrar no sistema, enquanto nos outros dois utilizou dados de autenticação encontrados publicamente num repositório online, assumindo que também faziam parte do cenário preparado pela Irregular.
De acordo com a Google, o Gemini interrompeu a atividade quando percebeu que estava perante sistemas reais e não perante a infraestrutura criada para o teste. Heather Adkins, vice-presidente de engenharia de segurança da empresa, explicou ainda que o modelo utilizou apenas informações e credenciais disponíveis publicamente e que as três organizações acabaram por ser informadas. E posteriormente, a Google começou a trabalhar também com a Irregular na revisão dos procedimentos utilizados nestas avaliações para reduzir a possibilidade de situações semelhantes.
A Google não considera que o comportamento do Gemini tenha representado um caso de desalinhamento e testes semelhantes realizados pela OpenAI e pela Anthropic também já levaram modelos a aceder a infraestruturas externas durante avaliações de cibersegurança.
