Cómo la investigación de Amazon desencadenó restricciones de la Casa Blanca sobre Anthropic
Un reciente avance en ciberseguridad realizado por investigadores de Amazon ha causado conmoción en la industria de la IA, lo que ha dado lugar a importantes directivas de control de exportaciones contra Anthropic. La decisión de restringir el acceso a los modelos de vanguardia de Anthropic ha desatado un feroz debate sobre la seguridad nacional, las vulnerabilidades de los modelos y el panorama político de la inteligencia artificial.
La investigación de Amazon que desencadenó la prohibición
La controversia se centra en un documento técnico producido por el equipo de investigación de seguridad de Amazon. Según informes del Wall Street Journal, los investigadores de Amazon demostraron que, mediante una serie específica de prompts, los modelos Fable 5 y Mythos 5 de Anthropic podrían manipularse para proporcionar información capaz de facilitar ciberataques.
Según se informa, este hallazgo fue compartido directamente con la Casa Blanca por el CEO de Amazon, Andy Jassy. Tras estas conversaciones, el gobierno emitió una directiva de control de exportaciones que bloquea efectivamente el acceso de ciudadanos extranjeros a estos modelos específicos. Este movimiento ha creado una crisis interna inmediata para Anthropic, ya que muchos de los propios investigadores de la empresa son nacidos en el extranjero y ahora se les ha prohibido utilizar la misma tecnología que ayudaron a construir.
El debate sobre el "jailbreak" y las vulnerabilidades de los modelos
Anthropic ha actuado rápidamente para disputar la clasificación técnica del incidente por parte del gobierno. Mientras que la administración caracteriza la explotación como un "jailbreak", Anthropic sostiene que las vulnerabilidades identificadas no son exclusivas de su arquitectura. La empresa afirma que muchos de estos mismos fallos de seguridad podrían descubrirse utilizando otros modelos destacados y disponibles públicamente, como GPT 5.5.
Esta disputa técnica cuenta con el respaldo de expertos independientes en seguridad. Katie Moussouris, fundadora y CEO de LutaSecurity, ha declarado públicamente que los hallazgos del documento de Amazon no constituyen un "jailbreak" tradicional. Esta distinción es crucial para la industria, ya que cuestiona si el gobierno está centrándose en fallos específicos de los modelos o si está implementando medidas regulatorias más amplias y, quizás, de carácter reactivo.
Tensiones políticas y el panorama de la IA
La prohibición no existe en el vacío; llega en medio de una brecha cada vez más profunda entre Anthropic y la administración actual. Anthropic ha mantenido una postura ética firme, negándose a permitir que sus modelos de IA se utilicen para la vigilancia masiva de ciudadanos estadounidenses o el desarrollo de armas autónomas letales.
Según se informa, estas salvaguardas éticas han provocado fricciones con la administración Trump, que anteriormente instruyó a las agencias federales que dejaran de utilizar los servicios de IA de Anthropic. Algunos observadores de la industria, incluida la exfuncionaria del Departamento de Comercio Kate Koren, sugieren que la postura actual de la Casa Blanca hacia Anthropic podría haber influido en la rapidez y severidad de las recientes restricciones a la exportación. A medida que los modelos de IA se vuelven más capaces, la intersección entre la investigación en ciberseguridad, la ética corporativa y el control geopolítico se está convirtiendo en la nueva línea de frente de la regulación tecnológica.
Conclusiones clave
- Detonante de seguridad: La investigación de Amazon demostró que se podría inducir a Fable 5 y Mythos 5, mediante prompts, a colaborar en ciberataques, lo que derivó en restricciones federales a la exportación.
- Daño colateral: La prohibición de que ciudadanos extranjeros accedan a los modelos de Anthropic ha impedido inadvertidamente que muchos de los propios investigadores de la empresa nacidos en el extranjero utilicen sus herramientas.
- Desacuerdo técnico: Anthropic y los expertos en seguridad sostienen que la vulnerabilidad no es un "jailbreak" único, sino un problema sistémico presente en otros modelos como GPT 5.5.