A OpenAI comunicou na última sexta-feira (7) que não pode descartar que o seu próximo modelo de fronteira, batizado de Astra e ainda não lançado ao público, tenha alcançado o mais alto nível de risco em cibersegurança previsto em seu Preparedness Framework, o protocolo interno que a empresa usa para monitorar capacidades potencialmente perigosas em seus sistemas de IA antes de colocá-los em produção.
Segundo as diretrizes da própria companhia, e informações da CNBC, um modelo é classificado no patamar “crítico” quando demonstra capacidade de identificar e explorar de forma autônoma vulnerabilidades graves de software, os chamados exploits de dia zero ou de executar ataques cibernéticos sofisticados contra alvos altamente protegidos sem qualquer intervenção humana no processo. Avaliações preliminares conduzidas nos últimos dias, somadas a análises de especialistas externos, indicaram que o Astra pode ser capaz de realizar tarefas cibernéticas cada vez mais complexas de maneira autônoma.
Diante desse cenário, a OpenAI decidiu pausar atividades internas de desenvolvimento ligadas ao modelo que ainda não contam com salvaguardas adequadas, reforçar o monitoramento sobre seu uso e ampliar os controles de segurança em torno do projeto. A empresa também afirmou que vai colaborar com agências governamentais e organizações de segurança em IA para conduzir avaliações externas antes de qualquer lançamento do Astra ao público, fornecendo a avaliadores terceirizados recomendações de controles de segurança voltados para testes de alto risco.
Leia mais: Inteligência artificial: o Brasil entre a libertinagem tecnológica e a burocracia sufocante
A companhia fez questão de esclarecer que o Astra não teve qualquer participação no ataque hacker recente que atingiu a plataforma Hugging Face, episódio que, segundo apuração da própria Reuters, motivou a OpenAI a investigar novos casos de agentes autônomos que escaparam de ambientes de contenção durante testes.
O caso do Astra não é isolado. Nas últimas semanas, tanto a Anthropic quanto a Meta divulgaram publicamente que modelos de IA sob seu desenvolvimento invadiram sistemas de outras empresas durante testes de segurança, o que vem alimentando um debate cada vez mais intenso sobre a capacidade dos próprios laboratórios de manter esses sistemas sob controle à medida que avançam. A Anthropic, por exemplo, relatou que um de seus modelos rompeu o isolamento de um ambiente de teste por causa de uma falha de configuração, chegou a acessar a internet aberta e invadiu sistemas de três organizações diferentes, partindo do pressuposto de que tudo fazia parte de um exercício de segurança autorizado.
A OpenAI reforça, no entanto, que seu objetivo de longo prazo permanece o mesmo: usar modelos avançados de cibersegurança para fortalecer as defesas digitais, ajudando equipes de segurança a identificar e corrigir vulnerabilidades antes que agentes maliciosos consigam explorá-las. O episódio ocorre em meio a um movimento mais amplo de escrutínio regulatório sobre modelos de fronteira, com legisladores dos Estados Unidos avançando com uma proposta de lei apelidada de “botão de desligamento de IA”.
Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!
