Demis Hassabis pede um órgão regulador global de IA liderado pelos EUA para gerenciar riscos
O CEO da Google DeepMind, Demis Hassabis, está defendendo a criação de um poderoso órgão regulador internacional capaz de interromper a implementação de modelos de IA de fronteira perigosos. À medida que a busca pela Inteligência Artificial Geral (AGI) acelera, Hassabis argumenta que um framework global padronizado é essencial para evitar resultados catastróficos.
Um Modelo Regulatório Baseado na Supervisão Financeira
Em sua proposta recente, "A Framework for Frontier AI and the Dawning of a New Age", Hassabis sugere uma estrutura regulatória semelhante à Financial Industry Regulatory Authority (FINRA). Este órgão de fiscalização proposto não seria apenas um conselho consultivo; consistiria em especialistas independentes e representantes da comunidade de código aberto com autoridade explícita para avaliar modelos de fronteira antes de seu lançamento.
Crucialmente, a organização teria o poder de coordenar uma "desaceleração" em toda a indústria se um modelo específico for considerado arriscado demais para ser implementado. Esse mecanismo visa evitar uma "corrida para o fundo" (race to the bottom), onde as empresas sacrificam protocolos de segurança em uma tentativa de alcançar a AGI mais rápido que seus concorrentes.
Por que os Estados Unidos Devem Liderar o Movimento
Hassabis argumenta que os Estados Unidos estão em uma posição única para encabeçar essa iniciativa global. Dado o posicionamento econômico e técnico dominante do país no setor de IA, os EUA possuem a influência necessária para estabelecer padrões que o resto do mundo possa seguir.
A urgência desta proposta é impulsionada pela crença de Hassabis de que a AGI está "provavelmente a apenas alguns poucos anos de distância". Ele vê a era atual como as "encostas da singularidade", um período transformador que redefinirá fundamentalmente a humanidade. Para gerenciar essa transição, ele está trabalhando para diminuir a lacuna entre a inovação privada e a segurança pública.
Construindo Consenso Político e Industrial
O movimento em direção à regulamentação formal já está ganhando força nos bastidores. Relatórios indicam que Hassabis passou meses informando vários stakeholders, incluindo autoridades europeias, grandes laboratórios de IA e o governo Trump. De acordo com o Axios, o feedback inicial da próxima administração dos EUA tem sido "muito positivo", sugerindo uma mudança potencial em direção a uma supervisão federal mais estruturada.
Esse impulso pela governança está alinhado com avisos recentes de outros titãs da indústria, incluindo o cofundador da Anthropic, Jack Clark, e o ex-CEO do Google, Eric Schmidt, sobre os impactos econômicos e existenciais da IA. Hassabis, vencedor do Prêmio Nobel de 2024, também tem sido enfático sobre riscos específicos de alto impacto, como o potencial da IA para auxiliar na produção de armas biológicas.
As Implicações Mais Amplas para o Ecossistema de IA
Se concretizado, esse órgão de fiscalização representaria a mudança mais significativa na política tecnológica em décadas. Para desenvolvedores e fundadores, isso significa passar de um período de "move fast and break things" (movimentar-se rápido e quebrar coisas) para uma era altamente regulamentada, onde auditorias pré-implementação são a norma. Embora alguns temam que isso possa sufocar a inovação, Hassabis argumenta que um framework coerente é a única maneira de garantir que a transição para um mundo impulsionado pela AGI seja segura e estável.
Principais Conclusões
- Poder Regulatório: O órgão proposto teria autoridade para avaliar modelos de fronteira e exigir desacelerações em toda a indústria se os riscos forem muito altos.
- Liderança dos EUA: Hassabis defende que os EUA devem liderar a iniciativa devido ao seu papel central na economia global de IA e na infraestrutura técnica.
- Urgência da AGI: A proposta é impulsionada pelo rápido avanço em direção à AGI, que Hassabis vê como uma "nova era para a humanidade" que exige supervisão imediata.