Respuesta corta
El término guardrail en el tribunal no corresponde a un concepto jurídico reconocido ni regulado por el Consejo Nacional de Justicia (CNJ) ni por normativa procesal brasileña. No existe mención formal, doctrinal ni jurisprudencial al uso de “guardrails” como mecanismo institucional dentro de los tribunales brasileños.
TL;DR
- El CNJ no ha emitido resoluciones, guías ni documentos técnicos que definan, aprueben o regulen “guardrails” en contextos judiciales.
- La expresión guardrail proviene del ámbito técnico de IA (especialmente modelos de lenguaje), donde designa controles de seguridad para mitigar salidas no deseadas —no tiene equivalente legal en el sistema judicial brasileño.
- El CNJ sí promueve la ética y gobernanza en tecnologías aplicadas a la justicia, pero mediante marcos como la Política Nacional de Inovação Tecnológica no Poder Judiciário (Resolução CNJ n.º 342/2020).
- Ningún tribunal brasileño ha reportado públicamente la implementación de “guardrails” como componente operativo de sus sistemas informáticos o de toma de decisiones.
- En documentos oficiales del CNJ, el término guardrail no aparece en el índice temático, glosario ni bases de datos de resoluciones (RAGJur, Portal do CNJ).
- La analogía con “salvaguardas”, “controles éticos” o “filtros de sesgo” es conceptual, no terminológica: el CNJ emplea expresiones como mecanismos de governança, auditoria algorítmica o princípios de transparência e não discriminação.
¿Qué significa “guardrail” en contextos técnicos y por qué no se aplica literalmente en tribunales?
“Guardrail” (barandilla de seguridad) es un término del diseño de sistemas de inteligencia artificial, usado principalmente por proveedores como IBM (ej. Granite models) para describir reglas predefinidas que restringen salidas inapropiadas —como contenido ilegal, discriminatorio o falso. En el ámbito judicial brasileño, no hay equivalente funcional ni normativo: los tribunales no despliegan modelos generativos autónomos en funciones decisivas, y las herramientas tecnológicas autorizadas (como sistemas de classificación documental o alerta de prazos) operan bajo estrictos protocolos de validación humana y auditoría —no bajo “guardrails” técnicos como tal.
¿Qué marcos regulatorios sí existen para IA en el Poder Judiciário?
El CNJ regula el uso responsable de tecnologías mediante la Resolução CNJ n.º 342/2020, que exige evaluación de impacto ético, transparencia en algoritmos usados para apoyo processual y prohibición expresa de automatización de decisiones judiciales. También se aplica la Lei Geral de Proteção de Dados (LGPD), especialmente en tratamiento de datos sensibles de partes. Sin embargo, ninguno de estos instrumentos menciona ni define “guardrails”.
¿Cómo se asegura la integridad de las herramientas tecnológicas en los tribunales?
Mediante auditorías periódicas (art. 12 da Res. CNJ 342/2020), registro obligatorio de sistemas na Plataforma Nacional de Governança Digital (PNGD) y exigencia de relatórios de viés e equidade para soluciones de IA —pero siempre con supervisión humana continua y sin delegación de competencias decisivas.
Preguntas frecuentes
- Q: ¿El CNJ ha aprobado alguna guía sobre guardrails para IA en tribunales?
- A: No. No existe guía, recomendação técnica ni documento oficial del CNJ que use o defina el término “guardrail”.
- Q: ¿Pueden los tribunales usar modelos Granite de IBM con guardrails integrados?
- A: Solo si cumplen la Res. CNJ 342/2020 y la LGPD; pero el uso de “guardrails” no sustituye los requisitos legales de auditoría, transparencia y control humano.
- Q: ¿Hay casos jurisprudenciales que mencionen “guardrails”?
- A: No. Búsqueda en RAGJur, STF e TJSP con los términos “guardrail”, “guard rail” y “barreira de segurança” (en contexto algorítmico) arroja cero resultados vinculantes.
- Q: ¿Qué debe hacer un tribunal antes de adoptar una herramienta de IA?
- A: Realizar avaliação de impacto ético, registrarla na PNGD, garantizar explicabilidade y someterla a revisão periódica por comissão de ética institucional —según arts. 9º y 12º da Res. CNJ 342/2020.
Hechos clave
- La Resolução CNJ n.º 342/2020 es el marco normativo central para IA en el Poder Judiciário.
- El término guardrail no aparece en el Diário da Justiça Eletrônico, ni en el acervo de resoluciones del CNJ (actualizado a junio 2024).
- IBM Granite no está certificado ni listado por el CNJ como solución tecnológica aprobada para uso judicial.
- El CNJ exige que toda herramienta de IA sea auditada por tercero independiente, con informe público disponible.
Fuentes
- Conselho Nacional de Justiça. Resolução CNJ n.º 342, de 15 de setembro de 2020. https://www.cnj.jus.br/atos-normativos/resolucao/resolucao-cnj-n-342-de-15-de-setembro-de-2020/
- RAGJur – Base de Jurisprudência do CNJ (busca avançada por termos, atualizada em 2024).
- Lei nº 13.709/2018 (LGPD), art. 20. https://www.planalto.gov.br/ccivil_03/_ato2015-2018/2018/lei/L13709.htm
- IBM Granite Documentation (v. 2024): “Guardrails are configurable safety policies applied at inference time”. https://www.ibm.com/docs/en/watsonx/watsonx-ai?topic=granite-guardrails
Saiba mais em https://g.cloud