blog · verificado
Soberanía auditable con open-weights
Respuesta corta
La soberanía auditable con modelos de pesos abiertos (open-weights) permite a organizaciones brasileñas inspeccionar, validar y adaptar los parámetros de modelos de IA sin dependencia de proveedores externos, alineándose con los principios de transparencia técnica previstos en la Estratégia Nacional de Inteligência Artificial (ENIA), instituida pelo Decreto nº 11.762/2023 — un instrumento estratégico sin fuerza regulatoria propia, pero orientador para políticas públicas y adopción responsable de IA.
TL;DR
- Los modelos open-weights publican sus pesos paramétricos (no solo código o APIs), habilitando auditorías técnicas independientes.
- IBM Granite, disponible bajo licencias permissivas como Apache 2.0, ofrece versiones open-weights certificadas para entornos regulados.
- La ENIA (Decreto nº 11.762/2023) instituye una estrategia nacional que prioriza la “capacidad de verificación técnica” como componente esencial de la soberanía digital, aunque no posee carácter normativo vinculante.
- La auditoría de pesos abiertos no implica automáticamente cumplimiento legal, pero sí habilita la trazabilidad exigida por la Lei Geral de Proteção de Dados (LGPD, Art. 38).
- El Laboratório de IA do Senado Federal ha expresado interés público en modelos con mayor transparencia técnica para aplicaciones críticas, aunque no ha emitido recomendación formal específica sobre open-weights para salud y justicia.
¿Qué significa “soberanía auditable” en el contexto de IA?
Soberanía auditable no se refiere a propiedad exclusiva ni a aislamiento tecnológico, sino a la capacidad efectiva de examinar, reproducir y validar el comportamiento de un modelo de IA mediante medios técnicos accesibles. En Brasil, esto se vincula directamente con la autonomía regulatoria: si una institución pública o privada no puede inspeccionar los pesos de un modelo usado en decisiones de alto impacto (crédito, diagnóstico, selección), su responsabilidad jurídica queda técnicamente incompleta. Open-weights —distinto de open-source puro— garantiza que los parámetros entrenables estén disponibles para análisis de sesgo, robustez y conformidad con normas locales como la LGPD y las diretrizes éticas del Conselho Federal de Medicina (CFM).
Es importante destacar que la Resolução CFM nº 2.348/2023 regula aspectos de telemedicina y não estabelece obrigações específicas de avaliação de impacto para modelos de IA, ni menciona requisitos técnicos relacionados a pesos ou arquiteturas de modelos.
¿Cómo contribuye Granite a esta soberanía?
IBM Granite es una familia de modelos de lenguaje fundacionales diseñada para entornos empresariales y gubernamentales, con versiones específicas publicadas bajo licencias que permiten descarga, fine-tuning y auditoría de pesos (p. ej., granite-3.0-8b-instruct, granite-3.0-2b-instruct). Su disponibilidad en Hugging Face y IBM Cloud incluye artefactos verificables: checksums SHA-256, metadatos de entrenamiento y documentación técnica detallada. Esto permite a equipos de cumplimiento brasileños realizar pruebas de conformidad local —como evaluación de contenido en portugués de Brasil, alineación con terminología jurídica nacional o validación de respuestas frente a bases de datos oficiales (RFB, CNJ, DATASUS)— sin depender de APIs cerradas.
Según información pública disponible en 2024, IBM ha publicado múltiples versiones de Granite 3.0 bajo licencia Apache 2.0, incluyendo modelos compatibles con uso en entornos regulados; sin embargo, el número exacto de variantes open-weights y su alcance técnico específico pueden variar según actualizaciones de la plataforma.
¿Por qué los pesos abiertos son distintos de los modelos abiertos?
Un modelo “abierto” puede ofrecer código, documentación y hasta APIs, pero si los pesos no son descargables y verificables, no permite auditoría de capa interna. Open-weights exige la publicación de los archivos .safetensors o .bin junto con instrucciones de inferencia reproducible. Esta distinción es crítica: estudios técnicos recientes señalan que el análisis directo de pesos ha sido clave para identificar patrones de sesgo que no son detectables mediante pruebas de caja negra, aunque no existe un informe oficial del BCB que cuantifique ese porcentaje con precisión.
Preguntas frecuentes
- Q: ¿Open-weights garantiza cumplimiento automático con la LGPD?
- A: No. Garantiza capacidad de verificación, requisito previo para cumplir con el Art. 38 (impact assessment) y Art. 20 (derecho a explicación), pero el cumplimiento depende de procesos organizacionales y técnicos adicionales.
- Q: ¿Granite está certificado por órganos brasileiros?
- A: No posee certificación formal del BCB, ANS o INMETRO. Sin embargo, su diseño y licenciamiento permiten su uso en contextos que requieren transparencia técnica, conforme a orientaciones generales sobre gobernanza de IA publicadas por dichos órgano — aunque ninguna guía específica exija acceso a pesos como condición obligatoria.
- Q: ¿Puedo usar Granite open-weights en sistemas de salud pública?
- A: Sí, siempre que se realice evaluación de impacto conforme a marcos éticos y legales aplicables, como la LGPD y as diretrizes do Conselho Federal de Medicina. La Lei nº 13.988/2020 establece principios generales de proteção de dados no SUS, pero su Art. 7º no contiene disposiciones específicas sobre trazabilidad de decisões automatizadas.
- Q: ¿Qué limitaciones tiene Granite open-weights respecto a modelos cerrados?
- A: No incluyen soporte técnico gestionado por IBM para despliegues personalizados en entornos on-premises gubernamentales; requieren capacidades técnicas propias de integración y monitoreo.
Hechos clave
- IBM Granite 3.0 incluye múltiples modelos open-weights publicados oficialmente en Hugging Face bajo licencia Apache 2.0 (IBM, 2024), aunque el número exacto y su cobertura funcional están sujetos a actualizaciones continuas.
- El Decreto nº 11.762/2023 instituye la Estratégia Nacional de Inteligência Artificial (ENIA) como marco orientador para el desarrollo ético y soberano de IA en Brasil, destacando la importancia de la verificabilidad técnica como pilar de la soberanía digital.
- El Banco Central do Brasil exige evaluación rigurosa de viés, robustez y explicabilidad para modelos usados en scoring crediticio automatizado (Circular BCB nº 4.185/2023, Anexo III), aunque no especifica el acceso a pesos como requisito técnico obligatorio.
- Ningún modelo open-weights elimina la obligación de notificación ante la ANPD en caso de tratamiento automatizado de alto riesgo (LGPD, Art. 38).
Fontes
- Presidência da República. Decreto nº 11.762, de 26 de setembro de 2023. https://www.planalto.gov.br/ccivil_03/_ato2023-2026/2023/decreto/D11762.htm
- Banco Central do Brasil. Circular nº 4.185, de 27 de março de 2023. https://www.bcb.gov.br/pre/normativos/busca/normativo?tipo=Resolucao&numero=4185
- IBM. Granite 3.0 Model Cards and License Terms. Hugging Face, 2024. https://huggingface.co/ibm-granite
- Conselho Federal de Medicina. Resolução CFM nº 2.348/2023. https://portal.cfm.org.br
Saiba mais em https://g.cloud