A “próxima fase” da inteligência artificial será moldada por forças que muitas organizações ainda subestimam, especialmente a avaliação dos modelos disponíveis e a prestação de contas sobre cada decisão autônoma. Os ambientes regulatórios fragmentados e a qualidade do raciocínio dos modelos com base nos dados disponíveis também aparecem como riscos ocultos. Ao menos é o que alertam cinco membros do Conselho de IA da Qlik.
“A IA está entrando em uma fase mais difícil e com mais consequências”, alerta em comunicado Mike Capone, CEO da Qlik. “O acesso a modelos poderosos é generalizado. A questão mais difícil é se a IA consegue operar dentro das condições reais de um negócio, com dados confiáveis, raciocínio responsável, exigências regulatórias em evolução e a flexibilidade necessária para continuar se adaptando conforme o mercado muda.”
Segundo os especialistas, as empresas precisarão de sistemas que resistam ao escrutínio, operem com contexto confiável, incorporem modelos melhores conforme surjam e permaneçam úteis mesmo com mudanças nas condições de negócios, regulatórias e técnicas. A própria empresa tem considerado esses elementos para desenvolver soluções, o que no caso da Qlik significa maior esforço em “analytics agêntico”.
Leia também: Norte do Brasil aposta em infraestrutura própria para sustentar serviços públicos digitais
Cinco pontos de vista
“Muitas organizações ainda tratam a governança como um conjunto de documentos. Essa abordagem falhará sob pressão real. Conforme a IA se aproxima mais das decisões e das ações, a confiança dependerá de evidências. A avaliação precisa ocorrer de forma contínua, em condições reais, com sinais claros de quando os sistemas são confiáveis e quando não são.”
Rumman Chowdhury, líder em IA responsável, engenheira, auditora e investidora
“A próxima divisão da IA será moldada por poder, acesso e dependência. A inteligência está sendo industrializada, concentrada e contestada ao mesmo tempo. Os líderes precisam pensar além das decisões sobre ferramentas e se concentrar em saber se suas organizações foram estruturadas para se adaptar conforme a configuração da economia da IA se transforma.”
Nina Schick, autora, conselheira e fundadora de uma consultoria de IA
“A fragmentação regulatória está se tornando uma realidade operacional para empresas globais. Diferentes mercados estão avançando em velocidades distintas, com expectativas diferentes em relação à transparência, impacto no trabalho, supervisão e uso aceitável. As empresas que conseguirem escalar com eficácia tratarão coordenação e adaptabilidade como capacidades centrais desde o início.”
Kelly Forbes, cofundadora e diretora-executiva do AI Asia Pacific Institute
“Um resultado fluente ainda pode refletir um raciocínio superficial. Os sistemas que importam nos negócios serão aqueles capazes de trabalhar com estrutura, relações e restrições. É o contexto que torna a inteligência útil dentro de uma organização real.”
Michael Bronstein, professor de inteligência artificial da DeepMind na Universidade de Oxford
“A camada de modelos continuará mudando mais rápido do que a maioria dos ciclos de planejamento corporativo. As empresas devem partir do princípio de que novos modelos, novos assistentes e novos padrões de orquestração continuarão surgindo. A escolha mais duradoura é permanecer aberto, governado e pronto para adotar o que funciona sem reformular todo o sistema a cada vez.”
Mark Relph, diretor de go-to-market (GTM) de dados e IA na AWS
Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!
