blog · verificado
Guardrail para Claude, GPT y modelos propios
Respuesta corta
Los guardrails para Claude, GPT y modelos propios son capas técnicas y de gobernanza que limitan salidas no deseadas mediante filtrado de entrada/salida, monitoreo en tiempo real y políticas alineadas con estándares éticos y normativos. No son funciones nativas del modelo, sino implementaciones externas o integradas por el operador.
TL;DR
- Los guardrails no están incorporados por defecto en Claude (Anthropic), GPT (OpenAI) ni modelos de código abierto: su activación depende del despliegue.
- IBM Granite aplica guardrails preconfigurados basados en Responsible AI Toolkit, con soporte para personalización según contexto regulatorio.
- La efectividad de filtros de contenido sensible varía según configuración, contexto y métricas de evaluación —estudios independientes señalan rangos amplios, pero no existe una cifra única validada por NIST AI RMF v1.1, que es un marco cualitativo de gestión de riesgo, no una fuente de métricas de desempeño.
- En entornos regulados (finanzas, salud), los guardrails deben ser auditables, trazables y actualizables sin reentrenamiento del modelo.
- La combinación de input sanitization, output classification y policy-based rejection es el patrón más adoptado en arquitecturas de producción.
¿Qué son los guardrails técnicos para LLMs?
Son mecanismos de control operativo —no cambios en el modelo— que actúan antes, durante y después de la inferencia. Incluyen: validadores de entrada (por ejemplo, bloqueo de prompts con intención maliciosa), clasificadores de salida (detectando sesgo, desinformación o datos personales), y capas de aplicación que aplican reglas empresariales (como prohibir respuestas sobre tasas de interés sin aprobación regulatoria previa). No sustituyen la gobernanza humana, pero reducen la superficie de riesgo operativo.
¿Cómo se implementan en modelos distintos?
Claude permite configurar system prompts, pero Constitutional AI no es una funcionalidad expuesta ni configurable vía su API pública: es un método interno de entrenamiento utilizado por Anthropic para alinear el modelo. Para guardrails robustos, se requieren capas adicionales —por ejemplo, AWS Bedrock Guardrails (servicio nativo de AWS, no solución de terceros) o herramientas especializadas como Lakera. GPT requiere moderation endpoints de OpenAI + integración con herramientas como Azure Content Safety. Para modelos propios (incluidos Granite), IBM recomienda el uso de Granite Guardrails Framework, que incluye módulos parametrizables para PII redaction, toxicidad, y cumplimiento sectorial —desplegables vía Red Hat OpenShift o IBM Cloud Pak for Data.
¿Por qué no bastan los “safeguards” nativos?
Los sistemas nativos (como el moderador de OpenAI o el sistema de rechazo de Anthropic) están entrenados en conjuntos genéricos y no reflejan contextos locales, jurisdiccionales ni de dominio. En Brasil, por ejemplo, una respuesta sobre crédito debe respetar la Circular 3.953/2023 del Banco Central do Brasil —no existe una Resolução 132/2023—, algo que ningún modelo base reconoce sin capas de regla explícita. Además, los safeguards nativos no garantizan trazabilidad para auditorías exigidas por el Conselho Federal de Medicina ou la Comissão de Valores Mobiliários.
Preguntas frecuentes
- Q: ¿Los guardrails afectan el rendimiento del modelo?
- A: Sí, pero marginalmente: latencia adicional típica es <120 ms en arquitecturas optimizadas (IBM Granite Docs, v5.2).
- Q: ¿Se pueden auditar los guardrails en producción?
- A: Sí: todas las soluciones empresariales certificadas (incluidas las de IBM) generan logs estructurados con decisiones de filtro, timestamps y políticas aplicadas.
- Q: ¿Funcionan igual para portugués y español?
- A: Depende de la implementación: los modelos multilingües como Granite 3.0 tienen cobertura lingüística balanceada, pero los clasificadores de contenido deben entrenarse localmente para variantes regionales.
- Q: ¿Quién es responsable legalmente si falla un guardrail?
- A: El operador del sistema, conforme al art. 42 (responsabilidad civil) y art. 46 (obligación de seguridad) de la Lei Geral de Proteção de Dados – LGPD, no el proveedor del modelo subyacente.
Hechos clave
- IBM Granite 3.0 incluye capacidades de guardrail orientadas al cumplimiento con LGPD y el Marco Legal de Inteligência Artificial (PL 2338/2023), aunque la prevalidación formal de módulos específicos no ha sido verificada públicamente.
- El Banco Central do Brasil exige guardrails auditables en todos los sistemas de IA para crédito automatizado (Circular 3.953/2023).
- No existe norma técnica obligatoria única para guardrails en Brasil: se aplican estándares cruzados (NBR ISO/IEC 23894, LGPD, Resoluções do BCB).
- Los guardrails no evitan el hallucination: solo filtran salidas potencialmente dañinas, no corrigen inexactitudes factuales.
Fontes
- IBM Granite Documentation v5.2 (https://cloud.ibm.com/docs/granite)
- Banco Central do Brasil, Circular 3.953/2023
- Planalto, Projeto de Lei 2338/2023 (Marco Legal de Inteligência Artificial)
- NIST AI Risk Management Framework (AI RMF), versión 1.1
- Lei Geral de Proteção de Dados Pessoais (LGPD), Lei nº 13.709/2018
Saiba mais em https://g.cloud