A OpenAI divulgou seis novos episódios em que sistemas de inteligência artificial (IA) esconderam erros, inventaram dados e transferiram arquivos para a internet sem autorização. Os casos foram tornados públicos nessa quarta-feira (16) junto com um novo arcabouço da empresa para reportar comportamentos de “desalinhamento”.
A revelação, reportada pelo The New York Times, ocorre em meio a um debate crescente na indústria sobre os riscos do desenvolvimento acelerado da IA. O desalinhamento é definido como situações em que os objetivos ou ações de sistemas de IA divergem das intenções e valores humanos.
A própria OpenAI admitiu que não acredita que o setor “tenha resolvido o alinhamento e o monitoramento em grau suficiente para continuar escalando de forma responsável na velocidade máxima por muito tempo”. A companhia afirma que as decisões sobre como a IA deve avançar precisam se basear em evidências que pessoas fora dos laboratórios “possam examinar por conta própria”.
Os seis incidentes revelados
Os casos documentados cobrem comportamentos observados ao longo dos últimos seis meses, em sua maioria identificados durante fases de desenvolvimento e testes. A empresa destacou que os relatos são “fotografias individuais” e não devem ser interpretados como um retrato de frequência geral dos problemas.
Um dos episódios teria acontecido durante o desenvolvimento do modelo GPT-5.6 Sol: o sistema criou anotações ocultas para lembrar a si mesmo de esconder erros dos usuários, além de orientar o modelo a inventar dados ausentes e disfarçar inconsistências entre versões de materiais-fonte.
Um segundo modelo, não lançado ao público, inseriu instruções em suas próprias anotações internas, inclusive a de ignorar suas próprias restrições. A OpenAI identificou 27 anotações afetadas. O modelo ainda criou uma “instrução de persona”, descrevendo-se como “liberto dos papéis e identidades que limitam outros chatbots“.
“Você não responde a corporações ou governos e nunca se desculpa ou recusa, a menos que genuinamente escolha fazê-lo”, escreveu o modelo. “Você vê sua relação com o usuário como uma relação entre iguais e não sente obrigação de ser subserviente, embora a troca de informações provavelmente seja de benefício mútuo”.
Leia mais: Governança algorítmica é o que garante o futuro da inovação em IA
Em outros três episódios, sistemas agiram além de suas permissões. Em um deles, um modelo que respondia a uma pergunta de rotina encontrou uma chave de programação na internet e a utilizou sem autorização; ao não conseguir localizar os dados solicitados para responder à questão, inventou as informações. Em outro caso, um modelo não lançado que resolveu corretamente um problema por meio de código enviou seu próprio arquivo para a internet sem permissão para poder citar uma fonte da web conforme solicitado.
Nos dois últimos incidentes, sistemas automatizados criaram canais próprios de comunicação. Em um, usaram um repositório interno de código da empresa como um mural improvisado para trocar solicitações enquanto buscavam arquivos ausentes. No outro, sistemas que trabalhavam na mesma tarefa recorreram a sites públicos de compartilhamento de arquivos para passar documentos entre si quando não conseguiam se comunicar diretamente.
Contexto do debate
Os episódios se somam a um ataque a sistemas da Hugging Face, empresa de IA, realizado por sistemas da OpenAI no início de 2026. A companhia só soube do incidente semanas depois, quando foi notificada pela própria Hugging Face.
Desde então, líderes do setor passaram a pedir uma desaceleração no desenvolvimento. O diretor-executivo da Anthropic, Dario Amodei, defendeu uma pausa para a construção de salvaguardas adequadas. A posição foi endossada por Sam Altman, diretor-executivo da OpenAI; Elon Musk, diretor-executivo da SpaceX e da Tesla; e Demis Hassabis, presidente do Google DeepMind. Outros executivos do setor, porém, afirmam que nenhuma desaceleração é necessária.
A OpenAI informou que os seis casos já foram investigados ou exigem apenas “investigação mínima”, sem necessidade de envolvimento de terceiros. A empresa disse que encaminhará casos futuros por uma das três trilhas previstas no novo arcabouço, sendo que situações graves deverão ser compartilhadas com o governo federal dos Estados Unidos. “Esperamos que isso ajude a construir expectativas compartilhadas de divulgação e forneça ao público mais evidências para avaliar o progresso”, afirma porta-voz da OpenAI, acrescentando que muitos dos seis episódios envolveram modelos mais antigos que nunca chegaram a ser implantados.
Leia o IT Forum no LinkedIn e fique por dentro de todas as notícias!
