Em mercados mais regulados e protegidos, adotar IA nos processos é apenas o começo. No caso de setores como o financeiro, o desafio está em proteger os dados para, aí sim, adotar inovações como os agentes. É nesse terreno que o inovabra, do Bradesco, resolveu se antecipar. Em um acordo de cooperação técnico-científica com a USP, o banco montou um grupo de pesquisa para mapear as brechas de segurança dos agentes de IA, e desenhar as camadas de proteção que ainda faltam.
Entrando em seu segundo ano, a parceria se intensificou com a chegada dos agentes, cujas capacidades de decisão autônoma abriram brechas para novos perigos. “Com a adoção de IA agêntica, saímos de modelos que apenas analisam dados para sistemas que tomam ações coordenadas”, resume Oscar Paiva, pesquisador sênior de cibersegurança do inovabra.
A parceria foi criada para combater novas práticas maliciosas surgidas com o aumento de uso da IA nas interfaces dos bancos. A mais conhecida é a chamada “injeção de prompt”, em que alguém insere comandos maliciosos para manipular a IA, fazendo-a vazar informações sigilosas ou executar ações indevidas.
“Um atacante pode tentar inserir instruções para burlar comandos anteriores, e o modelo muitas vezes não sabe distinguir onde terminam as instruções e onde começam os dados maliciosos”, explica o pesquisador do inovabra.
Para atacar a questão, o projeto reuniu três mundos que raramente sentam à mesma mesa: cibersegurança, IA e linguística. A ideia é simular ataques e testar, na prática, quais camadas de proteção seguram cada tipo de investida.
Dos testes para a produção
As descobertas da parceria já estão sendo incorporadas às soluções do banco, reforçando controle de acesso, filtros de conteúdo e mecanismos de validação antes de qualquer ação crítica. Supervisionados pela Bridge, plataforma proprietária de IA do banco, hoje já são mais de 700 casos de IA em produção, sem abrir mão das exigências de compliance do setor financeiro.
“Pela plataforma, todos os agentes operam com identidade unificada, regras de acesso, guardrails e monitoramento em tempo real, com rastreabilidade e auditoria de ponta a ponta”, explica Oscar.
No segundo ano do projeto, iniciado no mês passado, novas técnicas e componentes de software já estão sendo desenvolvidas e testadas. O próximo passo é levar essa inteligência para a gestão de incidentes, trocando o modelo reativo por uma abordagem autônoma, apoiada em agentes especializados em observar, diagnosticar e intervir.
O post inovabra recruta USP para blindar agentes de IA do Bradesco apareceu primeiro em Startups.
