El repositorio de LLM Guard pasó a modo de archivo el 9 de julio de 2026, poniendo fin a todas las actualizaciones de código y modelos.
Por qué es importante este cambio
LLM Guard era uno de los pocos kits de herramientas gratuitos y mantenidos por la comunidad que permitía a los desarrolladores añadir "rails" (barreras de control) —verificaciones que se sitúan delante o detrás de un modelo de lenguaje extenso (LLM)— sin tener que pagar por un servicio gestionado. Con el proyecto congelado, esas salvaguardas desaparecen. Al mismo tiempo, el mercado de la seguridad de la IA se está consolidando: Protect AI ha sido absorbido por Palo Alto Networks, Lakera por Check Point, y OpenAI ha adquirido promptfoo. El mercado está pasando de ser un mosaico de proyectos independientes a un puñado de ofertas a nivel de plataforma, y los desarrolladores deben decidir dónde colocar su próxima línea de defensa.
Los tres problemas de las barreras de control (guardrails) a resolver
- Barreras de entrada (input rails) – filtros que examinan el prompt de un usuario antes de que llegue al modelo, bloqueando intentos de inyección y técnicas de jailbreak.
- Barreras de salida (output rails) – escáneres que evalúan la respuesta del modelo, suprimiendo lenguaje tóxico, material con derechos de autor o la exposición inadvertida de datos privados.
- Pruebas de red team (red-team testing) – una suite de pruebas adversarias que se ejecuta durante el desarrollo (normalmente en pipelines de CI/CD) para verificar que el modelo y sus protecciones resistan los patrones de ataque conocidos. Este paso saca a la luz debilidades antes de que lleguen a producción; no es un filtro en tiempo de ejecución.
Tratar las pruebas de red team como un bloqueo en vivo puede dar una falsa sensación de seguridad.
Alternativas de código abierto que siguen vigentes
| Herramienta | Licencia | Uso ideal |
|---|---|---|
| NeMo Guardrails | Apache 2.0 | Diálogos complejos de múltiples turnos y generación aumentada por recuperación; utiliza el lenguaje específico de dominio Colang para declarar la lógica de las barreras. |
| Guardrails AI | Apache 2.0 | Validación incremental: añada una regla a la vez para un riesgo específico, como lenguaje soez o temas no permitidos. |
| Presidio | MIT | Detección y enmascaramiento offline de información de identificación personal (PII); ahora pertenece a la comunidad, pero debe definir la lista de entidades usted mismo para evitar falsos positivos ruidosos. |
| Llama Prompt Guard 2 | Clasificador auto-alojado enfocado en detectar inyecciones de prompts e intentos de jailbreak. | |
| promptfoo | MIT | Framework de red team que se integra con pipelines de CI; puede ejecutar cientos de vectores de ataque contra su modelo e informar de los que tengan éxito. |
Estos proyectos siguen recibiendo contribuciones de la comunidad y su código fuente está disponible gratuitamente para el auto-alojamiento o para integrarlo en pipelines personalizados.
Barreras gestionadas que vale la pena considerar
Si prefiere una solución llave en mano, los dos principales proveedores de la nube ahora incluyen barreras de control en sus ofertas de LLM:
- Amazon Bedrock Guardrails – políticas configurables que se pueden activar o desactivar por cada solicitud.
- Azure Prompt Shields – filtros de tiempo de ejecución similares integrados con Azure OpenAI Service.
Ambos cobran tarifas por solicitud; un millón de llamadas pueden sumar rápidamente varios cientos de dólares. Los equipos que cuidan su presupuesto deben modelar el tráfico esperado antes de activarlos a escala.
Cómo reconstruir su pila de seguridad (security stack)
- Mapee la «tríada letal». Identifique dónde su aplicación toca (a) almacenes de datos privados, (b) entradas de usuario no confiables y (c) llamadas a redes externas. Eliminar cualquiera de estos elementos reduce la superficie de ataque más de lo que cualquier barrera de control individual puede hacerlo.
- Implemente Presidio pronto. Ejecútelo en cualquier dato que planee alimentar al modelo. Personalice la lista de entidades: el conjunto predeterminado marca muchas cadenas benignas como PII, lo que puede romper el procesamiento posterior.
- Añada una barrera de entrada. Comience con un clasificador ligero como Llama Prompt Guard 2 o una protección basada en reglas de Guardrails AI. Bloquee los patrones de inyección obvios antes de que lleguen al modelo.
- Superponga comprobaciones de salida. NeMo Guardrails o Guardrails AI pueden procesar la respuesta del modelo, eliminando el lenguaje tóxico o los fragmentos confidenciales que se hayan filtrado.
- Integre promptfoo en su CI. Trate sus informes como una lista de verificación; cada nueva vulneración descubierta debe codificarse como una regla en su barrera de entrada o salida.
- Registre cada bloqueo. Guarde la solicitud original, el motivo del rechazo y la acción tomada. Sin registros, no podrá ajustar los umbrales ni auditar el cumplimiento.
Contrapunto: servicios gestionados frente a código abierto
Los guardrails gestionados le ahorran la carga operativa de auto-alojar, parchear y escalar los clasificadores. Sin embargo, le atan al modelo de precios y políticas de un proveedor, el cual puede no ajustarse a requisitos regulatorios específicos. Las herramientas de código abierto le otorgan control total y pueden ejecutarse on-premise, pero exigen esfuerzo de ingeniería para mantenerlas actualizadas y monitorear nuevas técnicas de ataque. Los equipos deben sopesar el coste del tiempo del personal frente a las tarifas por solicitud de un guardrail en la nube.
Qué observar a continuación
- Hoja de ruta de los proveedores. Esté atento a los anuncios de productos de seguridad de IA de Palo Alto y Check Point; es probable que integren las capacidades de las herramientas adquiridas en suites más amplias.
- Actividad de la comunidad. Evalúe la salud de proyectos como NeMo Guardrails y Presidio mediante la actividad reciente de pull requests y la frecuencia de lanzamientos. Un repositorio estancado puede indicar que está surgiendo una alternativa más nueva.
- Orientación regulatoria. A medida que los gobiernos endurecen las reglas sobre el contenido generado por IA y la protección de datos, cualquier estrategia de guardrails debe ser auditable. El registro (logging) y la trazabilidad se volverán obligatorios en muchas jurisdicciones.
Conclusión
Con el retiro oficial de LLM Guard, los desarrolladores deben combinar una mezcla de filtros de entrada, sanitizadores de salida y pruebas adversarias para mantener seguras sus aplicaciones impulsadas por LLM. Proyectos de código abierto como NeMo Guardrails, Guardrails AI, Presidio, Llama Prompt Guard 2 y promptfoo proporcionan los componentes básicos, mientras que los guardrails nativos de la nube ofrecen conveniencia a un precio. El factor decisivo no es qué herramienta elija, sino si establece un proceso sistemático —auditar, proteger, probar y registrar— que se mantenga por delante del entorno de amenazas en constante evolución.