Demis Hassabis pide un organismo de supervisión global de IA liderado por EE. UU. para gestionar los riesgos
El CEO de Google DeepMind, Demis Hassabis, está abogando por la creación de un poderoso organismo regulador internacional capaz de detener el despliegue de modelos de IA de frontera peligrosos. A medida que la búsqueda de la Inteligencia Artificial General (AGI) se acelera, Hassabis sostiene que es esencial contar con un marco global estandarizado para evitar resultados catastróficos.
Un modelo regulador basado en la supervisión financiera
En su reciente propuesta, "A Framework for Frontier AI and the Dawning of a New Age", Hassabis sugiere una estructura reguladora similar a la Financial Industry Regulatory Authority (FINRA). Este organismo de supervisión propuesto no sería simplemente un consejo asesor; estaría compuesto por expertos independientes y representantes de la comunidad de código abierto con la autoridad explícita para evaluar los modelos de frontera antes de su lanzamiento.
De manera crucial, la organización poseería el poder de coordinar una "ralentización" en toda la industria si se considera que un modelo específico es demasiado arriesgado para ser desplegado. Este mecanismo tiene como objetivo evitar una "carrera hacia el abismo" en la que las empresas sacrifiquen los protocolos de seguridad en un intento por alcanzar la AGI más rápido que sus competidores.
Por qué Estados Unidos debería liderar la iniciativa
Hassabis sostiene que Estados Unidos está en una posición única para encabezar esta iniciativa global. Dada la posición económica y técnica dominante del país en el sector de la IA, EE. UU. cuenta con la influencia necesaria para establecer estándares que el resto del mundo pueda seguir.
La urgencia de esta propuesta se debe a la convicción de Hassabis de que la AGI está "probablemente a solo unos pocos años de distancia". Él considera la era actual como las "estribaciones de la singularidad", un período transformador que redefinirá fundamentalmente a la humanidad. Para gestionar esta transición, está trabajando para cerrar la brecha entre la innovación privada y la seguridad pública.
Construyendo un consenso político e industrial
El movimiento hacia una regulación formal ya está ganando impulso entre bastidores. Los informes indican que Hassabis ha pasado meses informando a diversos interesados, incluidos funcionarios europeos, los principales laboratorios de IA y la administración Trump. Según Axios, los primeros comentarios de la próxima administración estadounidense han sido "muy positivos", lo que sugiere un posible cambio hacia una supervisión federal más estructurada.
Este impulso hacia la gobernanza coincide con las recientes advertencias de otros titanes de la industria, incluidos el cofundador de Anthropic, Jack Clark, y el ex CEO de Google, Eric Schmidt, con respecto a los impactos económicos y existenciales de la IA. Hassabis, ganador del Premio Nobel 2024, también ha expresado su preocupación sobre riesgos específicos de alto nivel, como la posibilidad de que la IA ayude en la producción de armas biológicas.
Las implicaciones más amplias para el ecosistema de la IA
De materializarse, este organismo de supervisión representaría el cambio más significativo en la política tecnológica en décadas. Para los desarrolladores y fundadores, esto significa pasar de un período de "moverse rápido y romper cosas" a una era altamente regulada donde las auditorías previas al despliegue sean la norma. Aunque algunos temen que esto pueda sofocar la innovación, Hassabis sostiene que un marco coherente es la única manera de garantizar que la transición hacia un mundo impulsado por la AGI sea segura y estable.
Conclusiones clave
- Poder regulador: El organismo de supervisión propuesto tendría la autoridad para evaluar los modelos de frontera y ordenar ralentizaciones en toda la industria si los riesgos son demasiado altos.
- Liderazgo de EE. UU.: Hassabis sostiene que EE. UU. debería liderar la iniciativa debido a su papel central en la economía global de la IA y en la infraestructura técnica.
- Urgencia de la AGI: La propuesta está impulsada por el rápido avance hacia la AGI, que Hassabis considera una "nueva era para la humanidad" que requiere una supervisión inmediata.