Executivos de empresas de IA participarão de um briefing no Conselho de Segurança da ONU sobre os riscos da tecnologia. Nesta quarta-feira (23), representantes da OpenAI, Anthropic e Hugging Face estarão na sede das Nações Unidas para discutir os desafios associados ao avanço da inteligência artificial.
Entre os participantes estão Sam Altman, CEO da OpenAI, Dario Amodei, CEO da Anthropic, e Clément Delangue, cofundador da Hugging Face. O encontro ocorre durante a Assembleia Geral da ONU, em Nova York.
A expectativa é que Altman defenda a criação de benchmarks para medir as capacidades dos sistemas de IA e avaliar as salvaguardas adotadas pelas empresas. A discussão acontece em um momento de avanço acelerado da tecnologia e de preocupações sobre sistemas que possam desenvolver capacidades capazes de afetar a segurança internacional.
O Conselho de Segurança já debateu os riscos da inteligência artificial em 2023 e 2024. Agora, a discussão envolve também os Estados Unidos e a China, países que disputam a liderança no desenvolvimento da tecnologia.
Segundo a Reuters, os dois países discutiram a possibilidade de criar um sistema de notificação para incidentes envolvendo IA que atinjam um nível de segurança nacional, às vésperas de um encontro entre o presidente americano Donald Trump e o líder chinês Xi Jinping, marcado para quinta-feira (24), em Washington.
A discussão, porém, ocorre em meio a diferentes visões sobre como lidar com o avanço da tecnologia. O presidente Donald Trump afirmou na ONU que os Estados Unidos querem incentivar a IA, e não restringi-la, e rejeitou uma tentativa de estabelecer um mecanismo global para controlar a tecnologia.
O secretário-geral da ONU, António Guterres, por outro lado, vem defendendo uma estrutura internacional para lidar com os riscos da IA. Em seu discurso de despedida na Assembleia Geral, na terça-feira (22), ele afirmou que os países que lideram a revolução tecnológica deveriam compartilhar informações sobre riscos de segurança, cooperar em testes e avaliações e trabalhar em salvaguardas comuns. Ele também defendeu um mecanismo multilateral de gestão de riscos da IA, com supervisão independente e credível.
O post OpenAI, Anthropic e Hugging Face levam debate sobre riscos da IA à ONU apareceu primeiro em Startups.
