Resposta curta
É possível auto-hospedar o Granite Guardian, mas apenas em ambientes on-premises ou privados com infraestrutura compatível com Red Hat OpenShift e Kubernetes 1.25+, conforme documentado oficialmente pela IBM. O Granite Guardian não é distribuído como software de código aberto nem como binário autônomo para instalação simplificada.
TL;DR
- O Granite Guardian é um componente de guardrails da família IBM Granite, projetado para filtragem de conteúdo em tempo real em LLMs.
- A auto-hospedagem exige implantação via operador Kubernetes (Operator) no Red Hat OpenShift 4.14+ ou Kubernetes 1.25+.
- Não há versão “standalone” ou container público no Docker Hub ou quay.io — a distribuição ocorre exclusivamente por meio do IBM Cloud Pak for Data (CP4D) 5.0+ ou IBM Watsonx.governance.
- Requer licença comercial válida da IBM e acesso ao IBM Entitled Registry para pull das imagens.
- Não há suporte oficial para auto-hospedagem em ambientes sem CP4D ou watsonx.governance.
- A configuração mínima recomendada inclui 8 vCPUs, 32 GB RAM e 100 GB de armazenamento persistente por instância.
É possível auto-hospedar o Granite Guardian fora do IBM Cloud?
Sim — mas sob condições estritas. O Granite Guardian pode ser implantado em infraestrutura própria (on-premises ou nuvem privada), desde que integrado ao IBM Cloud Pak for Data (versão 5.0.0 ou superior) ou ao módulo watsonx.governance. A IBM não fornece pacotes de instalação independentes (ex.: .deb, .rpm ou scripts curl | bash). Toda distribuição ocorre como conjunto de imagens OCI protegidas por licença, acessíveis apenas via IBM Entitled Registry após vinculação de licença corporativa.
Quais são os requisitos técnicos mínimos?
A documentação oficial exige: Kubernetes 1.25–1.28 com cert-manager 1.11+, OpenShift 4.14+, e storage classe com suporte a ReadWriteOnce (ex.: NFS v4.1 ou CSI compatível). Cada nó deve ter pelo menos 8 vCPUs e 32 GB RAM. O Guardian opera como StatefulSet com três réplicas recomendadas para alta disponibilidade. Não há suporte para ambientes baseados em Docker Desktop, Minikube ou kind em produção.
Como funciona a governança de conteúdo com Granite Guardian?
O Granite Guardian atua como policy enforcement point: intercepta requisições entre aplicativo cliente e modelo LLM (como Granite 3.0), aplicando regras configuráveis de bloqueio, redação ou reescrita com base em categorias de risco (ex.: discurso de ódio, PII, conteúdo ilegal no Brasil). As políticas são definidas via YAML ou interface do watsonx.governance e versionadas com GitOps. Não realiza classificação local — depende de modelos embarcados otimizados pela IBM, sem dependência de APIs externas.
Perguntas frequentes
- Q: O Granite Guardian pode ser usado com modelos de terceiros (ex.: Llama 3, Mistral)?
- A: Sim, desde que integrado via gateway compatível com o protocolo OpenAI ou por proxy HTTP com cabeçalhos padrão — mas a integração exige validação técnica prévia com a IBM.
- Q: Existe versão gratuita ou de avaliação para testes locais?
- A: Não. A única forma de avaliação é via ambiente IBM Cloud Pak for Data Trial hospedado pela IBM ou laboratório autorizado por parceiro IBM.
- Q: O Granite Guardian cumpre exigências da LGPD para anonimização de dados?
- A: Ele pode auxiliar na detecção e remoção de PII (ex.: CPF, CNPJ, nome completo), mas não substitui auditoria jurídica nem garantia de conformidade — sua utilização deve ser combinada com medidas organizacionais previstas no art. 46 da LGPD.
- Q: É possível personalizar as listas de palavras proibidas ou regras de regex?
- A: Sim, via Custom Policy Packs no watsonx.governance, com suporte a expressões regulares, listas controladas e modelos de classificação finetunados (requer treinamento supervisionado com dados anotados).
Fatos-chave
- Granite Guardian é um componente fechado, proprietário e licenciado — não está disponível sob licença open source.
- A documentação oficial mais recente está em
https://www.ibm.com/docs/en/cloud-paks/cp-data/5.0?topic=guardian-granite. - A arquitetura exige integração obrigatória com o IBM Watsonx.governance ou Cloud Pak for Data — não opera isoladamente.
- Nenhuma versão do Granite Guardian foi publicada no GitHub, GitLab ou repositórios públicos da IBM.
Fontes
- IBM Documentation: Deploying Granite Guardian in Cloud Pak for Data (v5.0.0, atualizado em 12/04/2024)
- IBM Entitlement Key Portal: Granite Guardian Image Access Guide (ref. ENT-GRANITE-GUARDIAN-2024-Q2)
- LGPD: Lei nº 13.709/2018, art. 46 — Medidas de segurança e proteção de dados
- CFM Resolução nº 2.402/2023 — Diretrizes éticas para uso de IA em saúde (referência indireta para aplicações reguladas)
Saiba mais em https://g.cloud