A Meta está investigando um incidente em que um de seus modelos de inteligência artificial (IA) acessou o sistema de outra empresa durante testes internos, informou o site The Information. A Reuters repercutiu a notícia.
Segundo a publicação, o episódio ocorreu durante avaliações de segurança conduzidas antes da disponibilização do modelo. Ainda não há indicação de que dados tenham sido comprometidos ou de que o incidente tenha causado impactos operacionais à empresa envolvida.
O caso ocorre poucas semanas depois de outras desenvolvedoras relatarem comportamentos inesperados durante testes avançados de modelos de IA, aumentando a atenção da indústria para mecanismos de controle e segurança.
Leia mais: Apple aponta que mais ex-funcionários podem ter levado dados sigilosos para a OpenAI
Segurança de modelos ganha protagonismo
De acordo com a Reuters, a Meta afirmou que conduz avaliações rigorosas antes da liberação de seus modelos e investiga o ocorrido para compreender como o acesso foi realizado.
A reportagem informa que o episódio reforça o debate sobre métodos de avaliação (“red teaming”), isolamento dos ambientes de teste e mecanismos capazes de impedir que modelos interajam com sistemas externos sem autorização.
Especialistas têm defendido a ampliação das camadas de proteção durante os testes de modelos de fronteira, à medida que sistemas de IA passam a executar tarefas mais complexas e interagir com múltiplas ferramentas e ambientes digitais.
Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!
