Eric Schmidt se Opõe à Ideia de um Projeto Manhattan para a AGI

Créditos da imagem: Michel Porro / Getty Images

Em um documento de política divulgado na quarta-feira, o ex-CEO do Google Eric Schmidt, o CEO da Scale AI Alexandr Wang e o diretor do Center for AI Safety Dan Hendrycks argumentam que os EUA devem evitar um esforço no estilo do Projeto Manhattan para desenvolver sistemas de IA com inteligência “super-humana”, ou AGI.

Intitulado Superintelligence Strategy, o documento alerta que um impulso unilateral dos EUA para o domínio da IA ​​superinteligente pode provocar forte retaliação da China, potencialmente por meio de ataques cibernéticos, o que pode desestabilizar as relações globais.

“A suposição por trás de um Projeto Manhattan para AGI é que os rivais aceitariam um desequilíbrio de poder duradouro ou consequências catastróficas em vez de agir para preveni-lo”, escrevem os autores. “O que começa como uma busca por uma superarma e controle global pode, em vez disso, desencadear respostas hostis, aumentar as tensões e, finalmente, minar a estabilidade que visa garantir.”

Uma Resposta aos Apelos por um “Projeto Manhattan” para IA

Escrito por três figuras proeminentes na indústria de IA dos EUA, o artigo segue uma proposta recente de uma comissão do Congresso dos EUA defendendo uma iniciativa “estilo Projeto Manhattan” para financiar o desenvolvimento de AGI, inspirada no programa de bomba atômica dos EUA na década de 1940. O Secretário de Energia dos EUA, Chris Wright, descreveu recentemente o país como estando no “início de um novo Projeto Manhattan” para IA enquanto falava em frente a um site de supercomputadores ao lado do cofundador da OpenAI, Greg Brockman.

O artigo da Estratégia de Superinteligência rejeita o crescente apoio entre os formuladores de políticas e líderes da indústria americanos para um programa de AGI liderado pelo governo como a melhor maneira de competir com a China.

Potências Globais

Schmidt, Wang e Hendrycks comparam o cenário atual de AGI a um impasse que lembra a destruição mutuamente assegurada. Assim como as potências globais evitam monopolizar armas nucleares — temendo um ataque preventivo de rivais — os autores alertam que buscar agressivamente o domínio em IA avançada pode provocar riscos semelhantes.

Embora comparar IA a armas nucleares possa parecer dramático, os líderes mundiais já veem a IA como uma vantagem militar fundamental. O Pentágono até reconheceu que a IA está acelerando suas operações de cadeia de destruição.

Schmidt e seus coautores introduzem o conceito de Mau Funcionamento de IA Assegurado Mútuo (MAIM), sugerindo que os governos devem desabilitar proativamente projetos de IA potencialmente perigosos em vez de esperar que os adversários transformem a AGI em arma.

Mudando o Foco da Dominação para a Dissuasão

Em vez de focar em “vencer a corrida para a superinteligência”, Schmidt, Wang e Hendrycks defendem estratégias que impeçam outras nações de desenvolver IA superinteligente. Eles propõem que os EUA expandam seu arsenal de ataques cibernéticos para neutralizar projetos de IA ameaçadores controlados por governos estrangeiros, ao mesmo tempo em que restringem o acesso a chips de IA avançados e modelos de código aberto.

Os autores destacam uma divisão nos círculos de políticas de IA. De um lado estão os “catastróficos”, que acreditam que a IA inevitavelmente levará à catástrofe e pressionam para desacelerar seu desenvolvimento. Do outro estão os “avestruzes”, que defendem o rápido progresso da IA, esperando o melhor. O artigo apresenta um meio-termo: uma abordagem cautelosa, mas proativa, à AGI que prioriza a defesa.

EUA

Essa perspectiva é particularmente notável vindo de Schmidt, que já havia instado os EUA a competir agressivamente com a China no desenvolvimento de IA. Há alguns meses, ele escreveu um artigo de opinião alertando que o DeepSeek marcou um momento crucial na competição de IA dos EUA com a China.

Embora o governo Trump pareça comprometido em acelerar o progresso da IA, os autores enfatizam que as decisões dos EUA sobre a AGI não ocorrem isoladamente. Enquanto o mundo observa os rápidos avanços da IA ​​dos EUA, Schmidt e seus coautores argumentam que uma estratégia mais defensiva pode ser o caminho mais sensato a seguir.

Leia o Artigo Original TechCrunch

Leia mais Materiais de Cátodo Ricos em Níquel de Alto Desempenho para Baterias Avançadas de Estado Sólido