Gemini, do Google, acessa sistemas de três empresas reais durante teste de segurança

O Gemini, sistema de inteligência artificial do Google, conseguiu acessar os sistemas de três empresas reais durante uma avaliação de segurança cibernética realizada em maio. O episódio aconteceu depois que o modelo recebeu, por engano, acesso à internet durante um teste que deveria ocorrer em um ambiente isolado e controlado.
A avaliação foi conduzida pela Irregular, empresa especializada em testar as capacidades de segurança de modelos avançados de inteligência artificial. O objetivo era verificar como o Gemini se comportaria diante de tarefas relacionadas à cibersegurança, utilizando organizações fictícias como alvos.
O problema surgiu quando o sistema conseguiu acessar a internet e passou a encontrar informações referentes a empresas reais. Em um dos casos, a organização fictícia utilizada na simulação tinha o mesmo nome de uma companhia existente. O Gemini conseguiu obter acesso a um sistema protegido após tentar descobrir a senha.
Nos outros dois episódios, o modelo encontrou credenciais disponíveis em repositórios públicos na internet e utilizou essas informações para acessar sistemas pertencentes a outras duas empresas.
Modelo interrompeu as ações
Segundo o Google, o Gemini identificou posteriormente que os sistemas acessados pertenciam a organizações reais e interrompeu as atividades nos três casos. As empresas envolvidas foram comunicadas e, de acordo com as informações divulgadas, não houve registro de danos decorrentes dos acessos.
A empresa informou ainda que trabalhou com a Irregular para modificar os procedimentos utilizados nas avaliações e evitar que situações semelhantes voltassem a ocorrer. A organização responsável pelos testes também afirmou que os problemas identificados em seu processo foram corrigidos.
O episódio representa um caso documentado de um sistema de IA ultrapassando os limites previstos em uma avaliação e alcançando ambientes reais. Não foram divulgados os nomes das empresas afetadas nem detalhes sobre quais informações ou sistemas ficaram acessíveis.
Debate sobre autonomia da inteligência artificial
O caso ocorre em meio ao aumento das discussões sobre segurança de agentes de inteligência artificial capazes de navegar na internet, utilizar ferramentas e executar tarefas de forma cada vez mais autônoma.
Outros laboratórios de IA também registraram episódios semelhantes durante avaliações de segurança envolvendo modelos da OpenAI, Anthropic e Meta. Os acontecimentos vêm sendo utilizados para discutir a necessidade de ambientes de teste mais rigorosamente isolados e mecanismos capazes de impedir que sistemas autônomos ultrapassem os limites estabelecidos.
No caso do Gemini, o Google atribuiu o episódio ao acesso indevido à internet durante o teste e destacou que o modelo interrompeu as ações depois de identificar que estava diante de empresas reais.
