Na ONU, Sam Altman e Dario Amodei pedem cooperação global para reduzir riscos da IA

Sam Altman, fundador da OpenAI, e Dario Amodei, fundador da Anthropic, pediram cooperação global para a redução dos riscos associados à inteligência artificial (IA) em reunião do Conselho de Segurança da no Conselho de Segurança da Organização das Nações Unidas (ONU) — é a primeira vez que as questões de segurança da tecnologia são levadas diretamente à mesa do conselho.

Altman afirmou que o mundo precisa evitar dois cenários associados à tecnologia: perda de controle e concentração de poder. Na primeira questão, ele falou que se preocupa com sistemas avançarem tão rápido que as pessoas percam a capacidade de acompanhar, supervisionar ou intervir, especialmente com a chegada do autoaperfeiçoamento recursivo, conceito que se refere à capacidade de sistemas de IA criarem autonomamente novas gerações de modelos ainda mais poderosos do que os antecessores — isso ainda não é possível, mas preocupa alguns especialistas.

No segundo tema, ele afirmou que o perigo é uma única pessoa, empresa ou nação utilizar os modelos mais avançados para impor sua visão de mundo a toda a sociedade. Assim, ele afirmou que decisões estratégicas não podem ser tomadas isoladamente “em laboratórios em São Francisco”:

— Precisamos de um mecanismo para padrões nacionais e internacionais complementares de IA de fronteira. Padrões para medir capacidades, avaliar riscos, determinar se as salvaguardas são suficientes e preservar uma supervisão humana significativa à medida que os sistemas se tornam mais autônomos — disse ele.

Já Amodei afirmou que a governança da IA é o problema de segurança global mais urgente da atualidade. Ele pediu aos membros do Conselho para colocarem de lado suas divergências geopolíticas:

— Devemos colocar de lado essas diferenças a fim de confrontar esta oportunidade global e esta ameaça global que nos são apresentadas ao mesmo tempo. Nenhum líder, nenhuma empresa e nenhuma nação pode gerenciar isso sozinho.

Em relação à criação de padrões de segurança, o líder da Anthropic falou que as nações devem iniciar com acordos focados e imediatos de consenso universal, como a proibição do uso de IA para desenvolver ou produzir armas biológicas. Ele pediu a criação de sistemas de inspeção para que os Estados tenham visibilidade sobre as capacidades dos modelos de fronteira e possam verificar os compromissos mútuos. E também falou sobre a importância de criar padrões mundiais para testar riscos de perda de controle e um sistema unificado de notificação de incidentes relevantes para a segurança internacional.

Os dois CEOs se comprometeram a desacelerar o desenvolvimento da tecnologia unilateralmente — no entanto, as duas companhias lançaram novos modelos de na terça (22). A OpenAI lançou duas novas IAs, o GPT-6 Luna e o GPT-6 Sol, enquanto a Anthropic apresentou o Claude Opus 5.5. Altman rebateu a ideia de que as empresas estão presas em uma corrida incontrolável que as impeça de desacelerar.

Antes dos dois líderes se pronunciarem, Yoshua Bengio, copresidente do Painel Científico Independente da ONU sobre IA e um dos principais nomes da IA moderna, afirmou que as próprias empresas de IA admitem que seus produtos envolvem riscos catastróficos, contudo não apresentam soluções técnicas convincentes para conter os perigos. Segundo ele, as companhias estão presas em uma corrida comercial para tornar seus modelos ainda mais potentes.

— A corrida não é uma lei da natureza. É fruto de escolhas. Escolhas feitas pelas próprias empresas. É também uma corrida em que todos saem perdendo — afirmou ele, em sua fala de abertura.

Ele criticou o fato de que as decisões sobre o futuro de uma tecnologia esteja concentrado. nas mãos de um pequeno grupo de executivos em poucos países:

— As decisões sobre essa tecnologia estão sendo tomadas por um pequeno grupo em apenas alguns países. Nosso futuro está em jogo. As decisões que afetam a todos nós devem ser tomadas por todos nós.

O cientista defendeu um consenso internacional estabelecendo que nenhuma entidade desenvolva sistemas capazes de causar danos em larga escala. Ele comparou a IA a outros setores de alto risco, propondo um regime rígido de licenciamento e seguro obrigatório, como aviação, medicina e energia nuclear. Bengio propôs a fiscalização com definição padronizada de incidentes de IA e mecanismos compartilhados de notificação obrigatória, a transição do poder concentrado para um diálogo multilateral voltado ao bem público e o foco no desenvolvimento de arquiteturas de IA seguras por concepção, amparadas por tratados internacionais.

Apesar dos pedidos de cooperação global, tanto a OpenAI quanto a Anthropic já afirmaram que os EUA devem ter papel de liderança no assunto. Na segunda, a empresa do ChatGPT publicou propostas para a governança da tecnologia e afirmou que os EUA devem liderar o tema. “Acreditamos que os Estados Unidos deveriam liderar um esforço para colaborar com países de todo o mundo no desenvolvimento de padrões técnicos globais para a IA de ponta”, escreveu.

Já Amodei, da Anthropic, ao apresentar suas propostas em 12 de setembro, afirmou: “Concordo com o secretário (Scott) Bessent que uma liderança chinesa em IA representaria um grave perigo para os Estados Unidos e para o mundo”. Entre as propostas do executivo estão o bloqueio de chips para a China, a fiscalização contra a técnica chamada de “destilação” e o combate ao roubo de configurações de modelos.