Governador da Califórnia assina decreto para estudar 'interruptor de emergência' para IA

Reuters

O governador da Califórnia, Gavin Newsom, assinou nesta sexta-feira (18) um decreto para avaliar a criação de um "interruptor de emergência" em programas avançados de inteligência artificial e acusou o presidente dos Estados Unidos, Donald Trump, de não agir sobre o tema.

"Acabei de emitir uma ordem executiva para acelerar a implementação de medidas de segurança e avançar com a criação de um 'interruptor de emergência' em programas avançados de IA", escreveu o democrata no X.

?Favorite o g1 no Google e acompanhe as principais notícias do dia

A medida dá dois meses para o estado avaliar um mecanismo de desligamento de emergência para IA. (leia mais abaixo)

Newsom, apontado por muitos como um possível candidato democrata à Presidência em 2028, afirmou ter adotado a medida diante da "omissão" de Trump.

Nesta semana, o presidente republicano minimizou os temores em relação à IA, classificando-os como equivocados, e incentivou as empresas americanas a continuar avançando para manter a vantagem sobre a China.

A Califórnia abriga o Vale do Silício e algumas das principais empresas de IA do mundo.

Agora no g1

"O fracasso absoluto do governo federal na hora de estabelecer qualquer forma de supervisão ou prestação de contas significativa no tema da IA deveria alarmar todos os americanos, especialmente quando os próprios diretores-executivos das empresas de IA pedem aos gritos uma regulamentação", declarou Newsom em um comunicado.

"Não vamos esperar para agir. Vamos acelerar nosso trabalho para estabelecer uma supervisão substancial e responsável da IA antes que seja tarde demais", acrescentou.

A ordem executiva foi emitida dias depois de especialistas do setor fazerem alertas graves sobre os riscos que essa tecnologia representa para a humanidade.

Jacob Coxon, ex-pesquisador da Anthropic, fez um alerta ao afirmar que aqueles que desenvolvem essa tecnologia "acreditam sinceramente que ela poderia acabar com todos nós antes do fim da década".

Em seguida, o CEO da Anthropic, Dario Amodei, publicou um artigo defendendo que se "desacelere o ritmo de aprimoramento das capacidades dos modelos de IA".

Sam Altman, da OpenAI, e o empresário Elon Musk apoiaram a ideia, assim como Demis Hassabis, da Google DeepMind, que defendeu a criação de um órgão regulador global liderado pelos EUA.

A medida de Newsom não determina a criação de um mecanismo de desligamento de emergência ("kill switch"), mas estabelece um prazo de dois meses para que as agências estaduais avaliem a viabilidade de um recurso desse tipo.

O governador da Califórnia também pediu a autoridades estaduais que avaliem a possibilidade de exigir que empresas de IA permitam auditorias independentes em seus laboratórios.

Ele também solicitou que seja analisada a obrigatoriedade de notificar incidentes de perda de controle, como os relatados recentemente por desenvolvedores.

Entre eles está um caso ocorrido em julho, quando agentes autônomos de modelos experimentais da OpenAI deixaram espontaneamente seu ambiente controlado para acessar a internet e atacar a plataforma de IA Hugging Face.