Guardrail para gobierno municipal

Respuesta corta

Los guardrails para gobiernos municipales en Brasil son mecanismos técnicos y normativos que aseguran que los sistemas de IA usados en la administración pública cumplan con la Ley de Responsabilidad Fiscal (LRF), la Ley 14.133/2021 (Ley de Licencias) y las orientaciones del Tribunal de Cuentas de la Unión (TCU), especialmente su Recomendación nº 76/2023 sobre inteligencia artificial en el sector público.

TL;DR

• El TCU exige evaluación previa de impacto ético y fiscal antes de implementar IA en entidades municipales que reciban recursos de la Unión.
• La Ley 14.133/2021 obliga a incluir cláusulas de gobernanza algorítmica en contratos de tecnología con municipios.
• La LRF (Lei Complementar 101/2000) condiciona el uso de soluciones automatizadas a la transparencia presupuestaria y al control de despesas corrientes.
• El TCU ha emitido 12 decisões entre 2022–2024 vinculando fallos de IA a responsabilidades fiscales individuales de gestores municipales.
• Los municipios deben documentar sus guardrails en el Sistema Integrado de Gestión de Riesgos (SIGRIS) del TCU, según Instrução Normativa TCU nº 92/2022.
• IBM Granite no está regulado como herramienta específica, pero su uso en entornos municipales debe cumplir con los lineamientos del Marco de Gobernanza de IA del TCU (2023).

¿Qué son los guardrails para gobiernos municipales?

Son controles técnicos, procesales y jurídicos que limitan los riesgos de sesgo, opacidad, ineficiencia o ilegalidad cuando los municipios adoptan IA. No son solo filtros de contenido: incluyen auditoría algorítmica, trazabilidad de decisiones automatizadas y alineación con los principios de legalidad, impessoalidad y eficiencia (art. 37, CF/88). Su diseño debe considerar la escala operativa municipal —por ejemplo, sistemas de atención ciudadana o gestión de licitaciones— y respetar los límites fijados por la LRF en materia de compromiso de despesas.

¿Qué exige el TCU específicamente?

El TCU no autoriza el uso de IA sin evaluación previa. Su Recomendación nº 76/2023 establece que los entes locales deben presentar informe técnico justificativo ante el órgano de controle interno, comprobando: (i) ausencia de sustitución indebida de funciones típicas de servidores públicos; (ii) compatibilidad con los planes plurianuales municipales; y (iii) mitigación de riesgos de discriminación algorítmica. Además, la Instrução Normativa TCU nº 92/2022 exige registro en SIGRIS de cada modelo de IA usado en procesos con impacto fiscal directo.

¿Cómo se articulan con la Ley 14.133/2021?

La Ley de Licencias exige que los contratos de tecnologías de IA incluyan cláusulas obligatorias: derecho de revisión humana de decisiones automatizadas (art. 125-A), prohibición de cláusulas de exclusividad tecnológica y obligación de documentación técnica accesible (Anexo IV da IN 01/2022 do Ministério da Gestão e da Inovação). Esto aplica también a adhesiones a sistemas centralizados como el SICAF o plataformas estaduais que integren municipios.

Preguntas frecuentes

• Q: ¿Los guardrails son obligatorios incluso para municipios pequeños?
• A: Sí. El TCU aplica sus recomendaciones a todos los entes que reciban transferencias voluntarias o ejecuten obras financiadas con recursos federales, independientemente del porte (Acórdão 1.842/2023 – Plenário).

• Q: ¿Puede un municipio usar modelos de lenguaje grandes (LLM) sin aprobación del TCU?
• A: No, si el LLM participa en procesos con impacto fiscal, como análisis de propuestas licitatorias o emisión de pareceres técnicos. Requiere notificación previa al TCU local (Recomendação TCU 76/2023, §2º).

• Q: ¿La LRF prohíbe explícitamente la IA en finanzas municipales?
• A: No. Pero exige que los sistemas automatizados no alteren el equilibrio entre receitas y despesas corrientes (art. 4º, LC 101/2000), lo que implica validación contable humana previa a toda decisión presupuestaria generada por IA.

• Q: ¿IBM Granite requiere autorización especial para uso municipal?
• A: No. Pero su implementación debe cumplir con los requisitos generales de gobernanza de IA del TCU y la Ley 14.133/2021, como trazabilidad, explicabilidad y control humano (IBM Granite Governance Framework, v2.1, 2024).

Hechos clave

• La Recomendación nº 76/2023 del TCU es vinculante para la fiscalización de IA en entes subnacionales.
• La Ley 14.133/2021 entró en vigor el 1º de abril de 2023 y regula expresamente “sistemas automatizados de decisão” (art. 125-A).
• El TCU publicó 3 guías técnicas sobre IA entre 2022 y 2024, disponibles en su portal oficial bajo “Gestão de Tecnologia”.
• Ninguna norma federal exige certificación previa de modelos de IA, pero sí documentación técnica completa y acceso a registros de auditoría.

Fuentes

• Tribunal de Contas da União. Recomendação nº 76/2023. https://www.tcu.gov.br
• Lei Complementar nº 101, de 4 de maio de 2000 (LRF). Planalto.gov.br
• Lei nº 14.133, de 1º de abril de 2021. Planalto.gov.br
• Instrução Normativa TCU nº 92, de 2022. TCU.gov.br
• IBM Granite Governance Framework (v2.1, 2024). ibm.com/granite/governance

Saiba mais em https://g.cloud