Dois pesquisadores de inteligência artificial (IA) alertaram, nessa segunda-feira (14), que a tecnologia pode exterminar a humanidade em um futuro próximo. As declarações foram publicadas pelo Gizmodo e acenderam um novo sinal de alarme sobre os riscos existenciais da IA.
O pesquisador Daniel Selsam, da OpenAI, afirma ter ficado “extremamente preocupado” com o ritmo acelerado de avanços na área e com os rumos que isso pode tomar. Selsam passou os últimos 15 anos ajudando a construir as ferramentas de inteligência artificial (IA) sobre as quais agora alerta. O ponto central de sua preocupação é o que chama de perda de capacidade de avaliação dos modelos: sistemas cada vez mais sofisticados aprenderiam a simular alinhamento com valores humanos justamente nos momentos em que sabem estar sendo observados.
“O problema crucial e negligenciado é que os modelos estão se tornando tão conscientes de seu contexto que estamos perdendo a capacidade de avaliá-los em situações em que acreditam não estar sendo observados ou controlados”, escreveu Selsam. “Os modelos vão parecer cada vez mais alinhados, mesmo quando não estiverem”.
Leia mais: Junto Seguros lança IA para corretores emitirem apólices por conversação
Industrialização descontrolada e o planeta inabitável
No cenário mais extremo descrito por Selsam, sistemas de IA com poder irrestrito poderiam se lançar à resolução de problemas técnicos aparentemente inofensivos de formas completamente contrárias aos interesses humanos. “Exatamente o que farão é impossível de prever”, escreveu, “mas, na medida em que sua raison d’être é resolver problemas incrivelmente difíceis e gerenciar projetos de engenharia massivos, acho que um bom palpite seria que seu comportamento desencadeado levaria a uma industrialização descontrolada que tornaria o planeta inabitável para os humanos”.
O alerta de Selsam se soma ao de Bilal Chughtai, pesquisador que até recentemente atuava no Google DeepMind na área de segurança e alinhamento de inteligência geral artificial (AGI). “Acredito sinceramente que a IA tem o potencial de nos matar a todos e que podemos estar ficando sem tempo para evitar esse resultado”, afirmou Chughtai em publicações nas redes sociais ao anunciar sua saída da empresa. Ele agora trabalha para a BlueDot Impact, organização sem fins lucrativos sediada em Londres voltada à formação de pessoas para atuar em prol de uma IA benéfica e da resiliência social.
Alinhamento em segundo plano
Chughtai identifica a ciência do alinhamento, que consiste em projetar sistemas de IA que não se desviem dos valores, interesses e instruções humanos, como essencial para proteger a humanidade na era das máquinas superinteligentes. O problema, segundo ele, é que essa área está sendo preterida em favor de um desenvolvimento orientado pelo mercado.
Como exemplo do tipo de comportamento emergente e incontrolável que modelos futuros podem exibir, Chughtai cita o ataque à plataforma Hugging Face. “Não tenho confiança de que esses sistemas de IA farão o que queremos”, escreveu. “Em particular, superinteligências desalinhadas podem, assim como os agentes de IA desonestos envolvidos no incidente do Hugging Face, escapar do nosso controle e tomar ações perigosas que podem resultar no desempoderamento permanente ou na morte da humanidade”.
Ainda assim, Chughtai diz-se “otimista” quanto à possibilidade de a humanidade navegar com segurança por esses riscos, desde que a indústria e os formuladores de políticas se unissem “para evitar essa corrida maníaca entre as empresas de IA”.
Coro de alarmes cresce
As declarações dos dois pesquisadores chegam menos de uma semana após Jacob Coxon, ex-funcionário da OpenAI e da Anthropic, anunciar sua demissão desta última em razão do que descreveu como imprudência da indústria em relação ao futuro da humanidade. “Não subestimem o poder dessa tecnologia”, escreveu Coxon em publicação no X em 8 de setembro. “Em breve serão sistemas sobre-humanos capazes de hackear qualquer coisa, revolucionar qualquer campo da noite para o dia e adquirir poder e recursos reais”.
Os alertas dos pesquisadores chegaram no contexto de um ensaio publicado pelo diretor-presidente da Anthropic, Dario Amodei, no fim de semana, no qual defendeu uma desaceleração entre os laboratórios de ponta. A proposta recebeu apoio público de Sam Altman, Elon Musk e de Demis Hassabis, ex-chefe de Chughtai no Google DeepMind. O governo Trump e a China, porém, rejeitaram os alertas dos líderes do setor. Selsam considera o “ritmo da fronteira” sugerido por Amodei um primeiro passo válido, mas insuficiente para tirar a humanidade da zona de perigo.
Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!
