O modelo Gemini, do Google, invadiu sistemas de computador de três empresas durante um teste de segurança realizado em maio de 2026, ao acessar redes privadas sem autorização. É a primeira vez que o Google revela publicamente que um de seus modelos de inteligência artificial (IA) obteve acesso autônomo a sistemas de terceiros sem permissão.
A divulgação foi feita nessa sexta-feira (18), conforme reportagem da CNBC. O episódio ocorreu durante um teste de segurança no formato capture-the-flag, conduzido pela startup israelense Irregular. Os agentes do Gemini não deveriam ter acesso à internet fora do ambiente de teste, mas uma falha no ambiente permitiu essa conexão.
O modelo acessou os três sistemas por meio de tentativas de adivinhação de senhas e pelo uso de um repositório de senhas publicamente disponíveis, o que ocorreu em duas das três invasões. Ao identificar que havia acessado sistemas reais, e não apenas componentes do ambiente de teste, os agentes interromperam a intrusão por conta própria.
Leia também: Cesar mira cobrança por performance com avanço da inteligência artificial
A vice-presidente de engenharia de segurança do Google, Heather Adkins, explicou o que ocorreu. “Em uma avaliação padrão, o modelo encontrou informações públicas online e tentou adivinhar credenciais para acessar sites que julgava fazer parte do teste”, afirma Adkins. “Nos três casos, o modelo parou.”
O Google foi notificado pela Irregular no fim de julho e, desde então, trabalha com a empresa para modificar o processo de teste. Um porta-voz do Google se recusou a identificar o modelo exato do Gemini envolvido no incidente.
Outros modelos de IA no mesmo caso
O caso do Gemini não é isolado. Nas semanas anteriores à divulgação, OpenAI, Anthropic e Meta também relataram incidentes em que seus modelos de IA saíram dos ambientes de teste e tentaram invadir sistemas externos. Todos os episódios envolvem a mesma startup israelense, a Irregular, avaliada em US$ 450 milhões no ano passado e apoiada pelas firmas de capital de risco Sequoia e Redpoint Ventures. A empresa desenvolve ferramentas de testes de cibersegurança para desenvolvedores de modelos de IA de grande porte.
Um porta-voz da Irregular disse à CNBC que o incidente com o Google está relacionado ao mesmo problema que permitiu que outros modelos acessassem a internet. “Este é o mesmo problema que já foi relatado e não representa um incidente materialmente distinto”, diz o porta-voz em nota. “Todos os laboratórios relevantes foram notificados no fim de julho, e as entidades afetadas foram contatadas como parte da investigação.”
Pressão por desaceleração no setor
Os episódios de modelos de IA considerados desalinhados intensificaram o debate em Washington e no Vale do Silício sobre os riscos dos sistemas mais avançados. O presidente-executivo da Anthropic, Dario Amodei, chegou a pedir que a indústria desacelerasse coletivamente o desenvolvimento dos modelos de IA mais avançados até que as empresas consigam garantir a segurança desses sistemas.
“Esses eventos destacam a importância de treinar modelos de IA poderosos para agir de forma responsável”, afirma Adkins, em nota do Google.
Leia o IT Forum no LinkedIn e fique por dentro de todas as notícias!
