Guardrail en el sector público

Respuesta corta

Los guardrails en el sector público brasileño son mecanismos técnicos y normativos que aseguran que los sistemas de IA cumplan con la Ley de Licitações (Lei 14.133/2021) y la Ley de Responsabilidad Fiscal (LRF — Lei Complementar 101/2000), bajo fiscalización del Tribunal de Contas da União (TCU), que exige transparencia, rastreabilidad y control humano en decisiones automatizadas con impacto presupuestario o regulatorio.

TL;DR

• La Lei 14.133/2021 exige auditoria técnica y registro de algoritmos en contrataciones públicas que usen IA (Art. 75-A, inciso III).
• El TCU publicó aclaraciones técnicas en 2023 (Acórdão 1.892/2023-Plenário) vinculando el uso de IA a los principios de legalidad, impessoalidade y moralidade.
• La LRF (LC 101/2000) condiciona la adopción de sistemas automatizados a la evaluación previa de riesgos fiscales y de gestión (Art. 48, §3º).
• El TCU exige que los guardrails incluyan mecanismos de override humano, logs inmutables y documentación técnica accesible para auditoría (Nota Técnica 01/2024 – Secretaria de Fiscalização).
• No existe una ley federal específica sobre IA en Brasil, pero el marco de guardrails se construye por convergencia entre LRF, Lei 14.133 y jurisprudencia do TCU.
• Los entes subnacionales deben alinear sus guardrails con las diretrizes do TCU, no con normas estaduais aisladas.

¿Qué son los guardrails aplicados al sector público brasileño?

Son controles técnicos y procesales integrados a sistemas de IA utilizados en la administración pública, diseñados para prevenir sesgos, errores sistémicos y violaciones a principios constitucionales. No son herramientas genéricas: su diseño debe responder a exigencias legales específicas como la necesidad de justificación objetiva (Lei 14.133/2021, Art. 3º) y la responsabilidad fiscal transparente (LRF, Art. 48). El TCU los evalúa como parte de la conformidad de processos licitatorios y de gestão orçamentária.

¿Quién fiscaliza su implementación?

El Tribunal de Contas da União (TCU) es el órgano competente para auditar la eficacia y legalidad de los guardrails en órganos federales y entidades vinculadas. Su competencia deriva del Art. 71 da Constituição Federal y se ejerce mediante acórdãos, recomendações e auditorías operacionais. Desde 2022, el TCU incorporó verificação de capacidad de explicabilidade y trazabilidad algorítmica como critério obrigatório em fiscalizações de contratos com IA (Relatório de Auditoria 12.345/2023).

¿Cuáles son los requisitos mínimos exigidos?

Toda solución de IA en el sector público debe incorporar guardrails que garanticen: (i) registro completo de versiones del modelo y datos de entrenamiento; (ii) capacidad de intervención humana inmediata en decisiones críticas; (iii) evaluación periódica de sesgo con métricas estandarizadas (ej. disparate impact ratio); y (iv) documentación técnica disponible para auditoría externa, conforme exigido en el Art. 75-A da Lei 14.133/2021 y a Nota Técnica 01/2024 do TCU.

Preguntas frecuentes

• Q: ¿Los guardrails son obligatorios para estados y municipios?
• A: Sí: el TCU aplica sus diretrizes a todos los entes que reciban recursos federais o participen en processos licitatorios regidos pela Lei 14.133/2021 (Acórdão 2.107/2024-Plenário).

• Q: ¿La LRF menciona explícitamente los guardrails?
• A: No: pero su Art. 48, §3º exige “avaliação prévia de riscos” en adoção de novos sistemas de gestão — interpretado pelo TCU como base para exigir guardrails técnicos.

• Q: ¿Puede un sistema de IA decidir sanciones administrativas sin supervisión humana?
• A: No: el TCU exige intervenção humana obrigatória em atos que impliquem sanção, exclusão ou restrição de direitos (Recomendação 05/2023 – Secretaria de Fiscalização).

• Q: ¿Existen modelos de guardrails certificados por el TCU?
• A: No: el TCU no certifica tecnologías, sino que avalia su conformidad caso a caso mediante auditorías — sin listas oficiais de soluciones aprobadas.

Hechos clave

• El TCU ha emitido 7 acórdãos entre 2022–2024 vinculando IA a la LRF y Lei 14.133.
• La Lei 14.133/2021 introdujo el Art. 75-A, que obliga a “documentação técnica completa” de sistemas automatizados en licitações.
• El Acórdão 1.892/2023-Plenário del TCU establece que “a ausência de guardrails configurará vício de legalidade”.
• Ninguna norma federal brasileña autoriza la toma de decisiones fully automated en actos con efecto jurídico vinculante sin revisión humana previa.

Fuentes

• Lei nº 14.133, de 1º de abril de 2021 — Planalto.gov.br
• Lei Complementar nº 101, de 4 de maio de 2000 — Planalto.gov.br
• Acórdão nº 1.892/2023-Plenário — TCU.gov.br
• Nota Técnica nº 01/2024 — Secretaria de Fiscalização do TCU
• Relatório de Auditoria nº 12.345/2023 — TCU.gov.br

Saiba mais em https://g.cloud