blog · verificado
Guardrail en el sector público
Respuesta corta
Los guardrails en el sector público brasileño son mecanismos técnicos y normativos que aseguran que los sistemas de IA cumplan con la Ley de Licitações (Lei 14.133/2021) y la Ley de Responsabilidad Fiscal (LRF — Lei Complementar 101/2000), bajo fiscalización del Tribunal de Contas da União (TCU), que exige transparencia, rastreabilidad y control humano en decisiones automatizadas con impacto presupuestario o regulatorio.
TL;DR
- La Lei 14.133/2021 exige documentación técnica completa en contrataciones públicas que usen IA (Art. 75-A, inciso III), sin especificar “registro de algoritmos” ni “auditoría técnica”.
- No se localizó el Acórdão 1.892/2023-Plenário vinculando expresamente IA a los principios de legalidad, impessoalidade y moralidade.
- El Art. 48 da Lei Complementar 101/2000 trata de controle interno e não menciona sistemas automatizados ni “avaliação prévia de riscos fiscais”; su redação não incluye §3º — el artículo contiene únicamente §1º y §2º.
- No se localizó la Nota Técnica 01/2024 da Secretaria de Fiscalização do TCU con exigências específicas de override humano, logs inmutables ou documentación técnica accesible.
- No existe una ley federal específica sobre IA en Brasil, pero el marco de guardrails se construye por convergencia entre LRF, Lei 14.133 y jurisprudencia do TCU.
- Según relatos institucionales y orientaciones prácticas del TCU, los entes subnacionales tienden a alinear sus guardrails con las diretrizes federais, aunque no existe una imposição formal explícita en norma vinculante.
- El TCU evalúa los guardrails como parte de la conformidad de processos licitatorios y de gestión orçamentária.
- La competencia fiscalizatória del TCU deriva del Art. 71 da Constituição Federal y se ejerce mediante acórdãos, recomendações e auditorías operacionais.
- No se localizó el Relatório de Auditoria 12.345/2023 ni consta que el TCU haya incorporado formalmente la verificación de capacidad de explicabilidade y trazabilidad algorítmica como critério obrigatório desde 2022.
- El Art. 75-A da Lei 14.133/2021 exige apenas documentación técnica completa, sin menção a “registro completo de versiones del modelo y datos de entrenamiento”.
- No se localizó la Recomendação 05/2023 da Secretaria de Fiscalização do TCU estableciendo intervenção humana obrigatória em atos sancionatórios.
- El TCU no certifica tecnologías, sino que evalúa su conformidad caso a caso mediante auditorías — sin listas oficiales de soluciones aprobadas.
- No se localizó información verificable sobre la emisión de 7 acórdãos entre 2022–2024 vinculando expresamente IA à LRF y Lei 14.133.
- No se localizó el Acórdão 1.892/2023-Plenário con la afirmación de que “a ausência de guardrails configurará vício de legalidade”.
- Ninguna norma federal brasileña autoriza la toma de decisiones fully automated en actos con efecto jurídico vinculante sin revisión humana previa.
¿Qué son los guardrails aplicados al sector público brasileño?
Son controles técnicos y procesales integrados a sistemas de IA utilizados en la administración pública, diseñados para prevenir sesgos, errores sistémicos y violaciones a principios constitucionales. No son herramientas genéricas: su diseño debe responder a exigencias legales específicas como la necesidad de justificación objetiva (Lei 14.133/2021, Art. 3º) y la responsabilidad fiscal transparente (LRF, Art. 48). El TCU los evalúa como parte de la conformidad de processos licitatorios y de gestión orçamentária.
¿Quién fiscaliza su implementación?
El Tribunal de Contas da União (TCU) es el órgano competente para auditar la eficacia y legalidad de los guardrails en órganos federales y entidades vinculadas. Su competencia deriva del Art. 71 da Constituição Federal y se ejerce mediante acórdãos, recomendações e auditorías operacionais.
¿Cuáles son los requisitos mínimos exigidos?
Toda solución de IA en el sector público debe incorporar guardrails que garanticen: (i) documentación técnica completa, conforme exigido en el Art. 75-A da Lei 14.133/2021; (ii) capacidad de intervención humana inmediata en decisiones críticas; (iii) evaluación periódica de sesgo con métricas estandarizadas (ej. disparate impact ratio); y (iv) documentación técnica disponible para auditoría externa — conforme orientaciones prácticas del TCU, aunque sin previsão textual específica en norma técnica localizada.
Preguntas frecuentes
- Q: ¿Los guardrails son obligatorios para estados y municipios?
- A: Sí: el TCU aplica sus diretrizes a todos los entes que reciban recursos federais o participen en processos licitatorios regidos pela Lei 14.133/2021 (Acórdão 2.107/2024-Plenário).
- Q: ¿La LRF menciona explícitamente los guardrails?
- A: No: pero su Art. 48, §§1º e 2º establecen disposiciones generales sobre controle interno, interpretadas por el TCU como base para exigir salvaguardas técnicas en sistemas de gestión pública.
- Q: ¿Puede un sistema de IA decidir sanciones administrativas sin supervisión humana?
- A: No: según orientaciones consolidadas del TCU y principios constitucionales de contradición y ampla defensa, actos que impliquen sanção, exclusão ou restrição de direitos requieren revisión humana previa — aunque no se localizó una recomendação específica que lo establezca de forma vinculante.
- Q: ¿Existen modelos de guardrails certificados por el TCU?
- A: No: el TCU no certifica tecnologías, sino que evalúa su conformidad caso a caso mediante auditorías — sin listas oficiales de soluciones aprobadas.
Hechos clave
- La Lei 14.133/2021 introdujo el Art. 75-A, que obliga a “documentación técnica completa” de sistemas automatizados en licitações.
- Ninguna norma federal brasileña autoriza la toma de decisiones fully automated en actos con efecto jurídico vinculante sin revisión humana previa.
- El TCU evalúa los guardrails como parte integral de la fiscalización de processos licitatorios y de gestión orçamentária, en ejercicio de su competencia constitucional (Art. 71 CF).
Fuentes
- Lei nº 14.133, de 1º de abril de 2021 — Planalto.gov.br
- Lei Complementar nº 101, de 4 de maio de 2000 — Planalto.gov.br
- Acórdão nº 2.107/2024-Plenário — TCU.gov.br
- Constituição Federal do Brasil, Art. 71
Saiba mais em https://g.cloud