Líderes de IA discutem riscos da tecnologia em reunião do Conselho de Segurança da ONU

Reuters/Brendan McDermid

Chefes de OpenAI, da Anthropic e da Hugging Face, três das maiores empresas de inteligência artificial do mundo, participaram de uma reunião do Conselho de Segurança da ONU (Organização das Nações Unidas) nesta quarta-feira (23).

A reunião foi convocada pela França, que preside o conselho, em meio aos alertas de que sistemas de IA mais poderosos poderiam se tornar mais capazes, escapar do controle humano e criar ameaças à segurança internacional.

?️ Tem alguma sugestão de reportagem? Mande para o g1

"Se mal gerenciada, acredito até que a IA poderia representar um risco para a humanidade como um todo", disse Dario Amodei, CEO da Anthropic, criadora do assistente de IA Claude.

O CEO da OpenAI, Sam Altman, defendeu cooperação internacional. "Para que a IA seja democrática, as decisões mais importantes não podem ser tomadas apenas por laboratórios em São Francisco", disse o líder da empresa criadora do ChatGPT.

Agora no g1

Para Altman, a regulamentação da IA deve ser feita com processos democráticos e por governos que prestem contas às populações que servem.

"Ao longo da história, houve momentos em que países que competem entre si — e nem sempre nutrem grande simpatia mútua — uniram-se em prol de interesses comuns e do bem coletivo diante de uma nova e poderosa tecnologia. Acreditamos que este deve ser um desses momentos", afirmou.

Para o professor Yoshua Bengio, copresidente do painel da ONU sobre IA e considerado um dos "padrinhos da IA", os perigos em torno da tecnologia são "reais e iminentes".

"Este conselho enfrenta uma ameaça sem precedentes: uma ameaça que nenhum de seus membros escolherias, que nenhum consegue conter sozinho e que não respeita as fronteiras que defendemos", afirmou.

Governos têm enfrentado o desafio de supervisionar a IA em meio a ataques cibernéticos realizados por meio desses sistemas e alegações de que a tecnologia pode representar uma ameaça para a humanidade.

Os Estados Unidos e a China, as duas principais potências no desenvolvimento de IA, permanecem divididos entre o interesse de manter a tecnologia avançar conforme o mercado e o desejo de criar diretrizes globais de segurança.

Participação virtual de Dario Amodei, CEO da Anthropic, e Clemente Delangue, CEO da Hugging Face, em reunião do Conselho de Segurança da ONU, em 23 de setembro de 2026

Reuters/Brendan McDermid