Os agentes guardiões –tecnologias baseadas em IA projetadas para monitorar e checar as interações da própria IA – representarão entre 10% e 15% do mercado de IA agêntica, de acordo com o Gartner em relatório divulgado recentemente. Segundo a consultoria americana, esses guardiões funcionam tanto como assistentes de IA quanto como “agentes evolutivos” semiautônomos ou autônomos, capazes de formular e executar planos ou redirecionar e bloquear iniciativas.
“A IA agêntica levará a resultados indesejados se não for controlada com as proteções certas”, diz Avivah Litan, vice-presidente do Gartner. “Os agentes guardiões aproveitam um amplo espectro de recursos de IA agêntica e avaliações determinísticas baseadas em inteligência artificial para supervisionar e gerenciar toda a gama de capacidades do agente, equilibrando a tomada de decisões em tempo de execução com o gerenciamento de riscos.”
Leia mais: Superfície de ataque criada por apps de IA preocupa 30% dos profissionais de segurança
Estes guardiões deverão, segundo o Gartner, gerenciar interações e anomalias, independentemente do tipo de uso. Esse é um pilar “fundamental” de sua integração, diz a consultoria, já que 70% dos aplicativos de IA usarão sistemas multiagentes até 2028, o que exige algum tipo de orquestração automatizada.
“A rápida aceleração e o aumento da autonomia dos agentes de IA exigem uma mudança para além da supervisão humana tradicional”, diz Litan. “À medida que as empresas avançam em direção a sistemas complexos de vários agentes que se comunicam em uma velocidade vertiginosa, os humanos não conseguem acompanhar o potencial de erros e atividades maliciosas.”
Tipos de uso
CIOs e líderes de segurança e IA devem se concentrar em três tipos principais de uso de guardiões, segundo o Gartner. São eles:
- Revisores: identificar e revisar resultados e conteúdos gerados pela IA quanto à precisão e ao uso aceitável;
- Monitores: observar e rastrear ações de IA e agênticas para acompanhamento humano ou baseado em IA;
- Protetores: ajustar ou bloquear ações e permissões de IA e agênticas usando ações automatizadas durante as operações.
Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!
