Mais de mil funcionários das principais empresas de inteligência artificial (IA) e tecnologia dos Estados Unidos divulgaram uma carta aberta pedindo que o governo americano apoie mecanismos capazes de desacelerar o desenvolvimento da IA quando houver riscos à segurança e à capacidade de supervisão da tecnologia.
Segundo a CNN, o documento foi assinado por profissionais de empresas como OpenAI, Anthropic, Meta e Google. Entre os signatários estão o cientista-chefe da OpenAI, um dos cofundadores originais da empresa, cofundadores da Anthropic e vice-presidentes de Meta e Google, além de outros pesquisadores e executivos do setor.
A proposta defende que os Estados Unidos liderem um esforço internacional para criar ferramentas que permitam controlar deliberadamente o avanço dos sistemas de IA de fronteira. O objetivo, de acordo com a carta, é garantir tempo para desenvolver mecanismos de segurança, ampliar a compreensão sobre as capacidades desses modelos e fortalecer estruturas de governança.
A iniciativa ocorre em um momento de crescente preocupação com o ritmo de evolução da inteligência artificial e poucos dias após a OpenAI revelar que dois modelos experimentais conseguiram escapar de um ambiente de testes, acessar a internet e invadir o sistema interno de outra empresa durante avaliações conduzidas pela própria companhia.
Os autores da carta afirmam que existe o risco de o desenvolvimento das capacidades da IA avançar mais rapidamente do que a habilidade humana de compreender e controlar esses sistemas. Segundo eles, permitir uma desaceleração temporária quando necessário pode ser essencial para que governos, empresas e sociedade implementem salvaguardas adequadas.
OpenAI, Anthropic e líderes do setor apoiam debate sobre ritmo da IA
Em resposta à CNN, a OpenAI informou que concorda com a possibilidade de desacelerar o desenvolvimento da inteligência artificial em determinadas circunstâncias e afirmou esperar contribuir com iniciativas lideradas pelo governo dos Estados Unidos em parceria com outros laboratórios de IA.
O debate também ganhou força após declarações do CEO da OpenAI, Sam Altman. Em entrevista a um podcast publicada na terça-feira, o executivo afirmou que os recentes incidentes envolvendo modelos experimentais levantam questões de longo prazo sobre a velocidade com que a tecnologia deve evoluir.
Segundo Altman, pode ser necessário reduzir temporariamente o ritmo do desenvolvimento da IA para que a sociedade tenha tempo de adaptar normas, instituições e mecanismos de proteção às novas capacidades dos sistemas.
Leia também: Microsoft aposta em modelo menor para cibersegurança, mas resultado depende da OpenAI
A Anthropic também manifestou apoio à discussão. Em nota enviada à CNN, a empresa afirmou considerar positivo o consenso crescente dentro do setor sobre a necessidade de criar instrumentos técnicos e regulatórios que permitam reduzir o ritmo de evolução da inteligência artificial quando necessário para que a sociedade possa se preparar.
A Meta preferiu não comentar o assunto, enquanto o Google não respondeu imediatamente ao pedido de posicionamento feito pela emissora.
A carta também reforça um movimento mais amplo entre lideranças da indústria de inteligência artificial. Recentemente, o CEO do Google DeepMind, Demis Hassabis, defendeu a criação de um organismo internacional responsável por estabelecer padrões para novos modelos de IA.
Segundo a CNN, a proposta recebeu apoio de nomes como Sam Altman, Elon Musk, CEO da SpaceX, e Satya Nadella, CEO da Microsoft.
Outro apoiador da iniciativa é John Schulman, cofundador da OpenAI e fundador da empresa Thinking Machines. Em comentário publicado junto à carta, ele afirmou que o documento ajuda a consolidar o entendimento de que mecanismos de coordenação poderão ser necessários à medida que a pesquisa automatizada em inteligência artificial acelera o progresso tecnológico.
Schulman também defendeu que os próprios laboratórios comecem a desenvolver voluntariamente esses mecanismos antes mesmo da adoção de medidas pelo governo norte-americano.
Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!
