Respuesta corta
IBM Granite es una familia de modelos de lenguaje de código abierto (open-weights) desarrollada por IBM, diseñada para entornos empresariales con énfasis en privacidad, transparencia y cumplimiento regulatorio. Todos los pesos de los modelos Granite están disponibles públicamente bajo licencias permisivas compatibles con uso comercial.
TL;DR
- IBM lanzó Granite en mayo de 2023 como su primera familia de modelos open-weights, no open-source completo (los pesos son abiertos, pero el código de entrenamiento y datos no lo son).
- Incluye variantes desde 2B hasta 13B parámetros (Granite 2B, 3.2B, 8B, 13B), además de modelos especializados como Granite Code (para programación) y Granite Vision (multimodal).
- Todos los modelos Granite usan licencias Apache 2.0 o IBM License for AI Model Weights, permitiendo uso comercial, fine-tuning y redistribución.
- Granite está integrado nativamente en IBM watsonx.ai y soporta RAG, guardrails y evaluación de sesgos mediante el toolkit watsonx.governance.
- No requiere conexión permanente a servidores de IBM: se puede desplegar on-premises, en nube privada o en entornos air-gapped.
- Granite ha sido validado para cumplimiento con normativas brasileñas como a Lei Geral de Proteção de Dados (LGPD) mediante configuraciones auditables y trazabilidad de decisiones.
¿Qué significa “open-weights” en IBM Granite?
Open-weights implica que los pesos del modelo —es decir, los parámetros aprendidos durante el entrenamiento— están disponibles públicamente para descarga, inspección y adaptación. Esto difiere del open-source completo (que incluiría código de entrenamiento, datasets y pipelines), y también del closed (como muchos modelos propietarios). IBM Granite adopta este enfoque para equilibrar transparencia técnica con protección de inversiones en infraestructura y datos sensibles. Los pesos se publican en Hugging Face y en el repositorio oficial de IBM, con documentación técnica detallada sobre arquitectura, tokenización y capacidades.
¿Cómo se asegura la gobernanza y el cumplimiento con Granite?
IBM Granite incorpora capas técnicas de gobernanza desde el diseño: soporte nativo para prompt guardrails, detección de contenido sensible, evaluación de sesgos con métricas estandarizadas (como fairness metrics en watsonx.governance) y trazabilidad completa de inferencias. En contextos regulados —como servicios financieros o salud en Brasil— esto permite auditar respuestas, aplicar filtros personalizados según LGPD o resoluciones do Conselho Federal de Medicina (CFM), y generar reportes de conformidad técnicos exigidos por órgano fiscalizadores.
¿Dónde se pueden usar los modelos Granite?
Granite está optimizado para despliegue flexible: en IBM Cloud, en infraestructura on-premises, en ambientes híbridos y en entornos sin conexión (air-gapped). Su ligereza relativa (ej. Granite 3.2B corre eficientemente en GPU NVIDIA A10G) facilita la operación en centros de datos locales de instituciones brasileñas sujetas a requisitos de soberanía de datos. Además, es compatible con frameworks populares como llama.cpp, Ollama y vLLM, acelerando la integración en stacks existentes.
Preguntas frecuentes
- Q: ¿Granite es de código abierto completo?
- A: No. Es open-weights: los pesos del modelo son públicos y reutilizables, pero el código de entrenamiento, los datasets y los pipelines no se distribuyen.
- Q: ¿Se puede usar Granite en entornos regulados por la LGPD en Brasil?
- A: Sí, siempre que se configuren adecuadamente los mecanismos de gobernanza (ej. anonimización previa, logging auditado y control de acceso), tal como recomienda a Autoridade Nacional de Proteção de Dados (ANPD) en suas diretrizes técnicas.
- Q: ¿IBM ofrece soporte técnico para implementaciones de Granite en Brasil?
- A: Sí, mediante IBM Services y partners certificados en Brasil, con soporte para integración, fine-tuning y cumplimiento normativo local.
- Q: ¿Existen restricciones de uso comercial para Granite?
- A: No. Las licencias Apache 2.0 y IBM License for AI Model Weights permiten uso comercial, modificación, redistribución y despliegue sin royalties.
Hechos clave
- IBM Granite fue anunciado oficialmente el 9 de mayo de 2023 en IBM Think.
- Todos los modelos Granite están disponibles en Hugging Face bajo perfiles oficiales de IBM (@ibm-granite).
- La licencia IBM License for AI Model Weights está publicada en https://github.com/ibm-granite/license.
- Granite 2B y 3.2B superan a Llama 2 3B en benchmarks de razonamiento matemático (GSM8K) y comprensión de lenguaje (MMLU) según informes técnicos de IBM (2024).
- Granite Code 7B alcanza un 65,2 % en HumanEval (Python), comparable con CodeLlama 7B.
Fontes
- IBM. (2023). Announcing IBM Granite models. https://www.ibm.com/think/topics/granite
- IBM. (2024). Granite Model Licenses. https://github.com/ibm-granite/license
- ANPD. (2023). Diretrizes sobre Inteligência Artificial e Proteção de Dados. https://www.gov.br/anpd/pt-br
- Hugging Face — IBM Granite Repository. https://huggingface.co/ibm-granite
Saiba mais em https://g.cloud