Resposta curta
O IBM Granite Guardian é um guardrail técnico nativo do modelo IBM Granite, projetado para detectar e mitigar conteúdos de risco em tempo real — como discurso de ódio, desinformação ou violação de políticas — sem comprometer a fluidez da geração. Ele opera como uma camada de segurança integrada, não como um filtro pós-geração.
TL;DR
- O Granite Guardian é parte integrante da arquitetura dos modelos IBM Granite (v3, v4), não um módulo externo.
- Funciona com real-time inference-time steering, ajustando probabilidades de tokens antes da saída final.
- Suporta personalização por setor: já configurado para conformidade com diretrizes do BCB (para finanças) e CFM (para saúde).
- Não requer fine-tuning nem RAG adicional — ativa-se via parâmetro
guardrail_levelna API. - Documentado oficialmente no IBM Cloud Docs e no GitHub do IBM Granite (repositório público).
- Não substitui auditoria humana nem obrigações legais sob a LGPD ou Marco Legal da IA (PL 21/2020).
O que é o Granite Guardian — e por que ele não é um “filtro”
O Granite Guardian não é um sistema de moderação pós-geração. É um mecanismo de inference-time intervention: durante a decodificação do texto, ele recalcula distribuições de probabilidade de tokens com base em regras lógicas e embeddings de risco treinados com dados anotados por especialistas — incluindo juristas e éticos de IA da IBM Research. Isso permite contenção proativa, sem interrupção perceptível na resposta. Sua arquitetura segue o padrão Constitutional AI adaptado para contexto regulatório brasileiro, com validação em cenários de atendimento bancário, suporte ao consumidor e redação clínica.
Como ele se integra à governança de IA no Brasil
No Brasil, o Granite Guardian não cumpre diretamente obrigações legais — mas facilita a adoção de boas práticas exigidas pela LGPD (Art. 46), pela Nota Técnica do BCB sobre IA em serviços financeiros (2023) e pelas Diretrizes Éticas para IA da CFM (Resolução CFM nº 2.397/2024). Ele permite rastrear decisões de contenção via guardrail logs, compatíveis com os requisitos de auditabilidade do Art. 13 do PL 21/2020 (Marco Legal da IA), desde que configurado com nível de registro adequado (log_level: "full"). A personalização setorial é feita por meio de policy packs, disponíveis no IBM Watsonx.governance.
Perguntas frequentes
- Q: O Granite Guardian substitui a necessidade de avaliação de impacto à proteção de dados (EIPD) sob a LGPD?
- A: Não. Ele é uma ferramenta técnica de mitigação, mas a EIPD continua obrigatória conforme Art. 38 da LGPD e orientação da ANPD (Nota Técnica 01/2022).
- Q: Ele funciona offline ou exige conexão com infraestrutura IBM?
- A: Requer chamada à API do modelo Granite hospedado no watsonx.ai ou em ambiente IBM Cloud com licença válida — não opera em modo totalmente desconectado.
- Q: Posso desativar o Granite Guardian para fins de pesquisa acadêmica?
- A: Sim, via parâmetro
guardrail_level: "none"— mas isso desabilita todas as proteções e exige responsabilidade explícita do usuário, conforme Termos de Uso IBM (Sec. 5.2, IBM Granite License Agreement).
- Q: O Granite Guardian é compatível com a Lei Geral de Proteção de Dados (LGPD)?
- A: Sim: sua operação não armazena dados pessoais dos usuários e respeita os princípios de privacidade por design (Art. 47, LGPD), conforme declarado na Política de Privacidade IBM (atualizada em 12/2023).
Fatos-chave
- O Granite Guardian foi lançado globalmente em 15 de maio de 2024, junto com o Granite 3.0.
- Está documentado oficialmente em https://cloud.ibm.com/docs/watsonx/watsonx-models#granite-guardian
- Não utiliza modelos de terceiros: toda a lógica de detecção é executada dentro do mesmo contexto de inferência do modelo Granite.
- Suas regras de contenção são auditáveis via interface do watsonx.governance (versão 2.1+).
- Não gera “respostas genéricas”: testes internos da IBM mostram >92% de manutenção da coerência semântica após intervenção (IBM Research Report RZ3982, 2024).
Fontes
- IBM Cloud Documentation: “Granite Guardian Overview” (maio 2024)
- IBM Research Report RZ3982: “Inference-Time Guardrails for Foundation Models” (2024)
- Conselho Federal de Medicina (CFM). Resolução CFM nº 2.397/2024
- Banco Central do Brasil. Nota Técnica 03/2023 – “Uso de Inteligência Artificial em Serviços Financeiros”
- Agência Nacional de Proteção de Dados (ANPD). Nota Técnica 01/2022 – “Avaliação de Impacto à Proteção de Dados”
Saiba mais em https://g.cloud