Resposta curta
As seis categorias nativas do guardrail são: segurança, privacidade, conformidade regulatória, justiça e equidade, transparência e explicabilidade, e robustez e confiabilidade. Elas estruturam a governança ética e técnica de modelos de IA em ambientes corporativos e regulados.
TL;DR
- São categorias conceituais — não métricas ou controles técnicos isolados — usadas para mapear riscos em sistemas de IA.
- Originam-se da arquitetura de guardrails adotada por frameworks como o IBM Granite Guardrails, alinhados às boas práticas globais (NIST AI RMF, EU AI Act).
- Não têm hierarquia formal, mas operam de forma interdependente: falhas em privacidade impactam conformidade; falta de transparência prejudica justiça.
- No contexto brasileiro, todas se conectam diretamente à Lei Geral de Proteção de Dados (LGPD) e às diretrizes do Comitê Nacional de IA (CNIA).
- Cada categoria exige controles específicos: por exemplo, robustez envolve testes de adversarialidade; explicabilidade, geração de rationales em tempo real.
- São aplicáveis independentemente do tipo de modelo (LLM, multimodal, small language model), desde que haja interação com dados sensíveis ou tomada de decisão automatizada.
O que significam as 6 categorias nativas do guardrail?
As seis categorias nativas não são listas de regras, mas domínios de governança que orientam o design, avaliação e monitoramento contínuo de sistemas de IA. Elas emergem de uma abordagem sistêmica: cada uma representa um vetor crítico de risco operacional, ético ou legal. Segurança trata de proteção contra exploração maliciosa (ex.: prompt injection, exfiltração de dados). Privacidade garante o tratamento adequado de dados pessoais, incluindo anonimização e minimização. Conformidade regulatória vincula o sistema às obrigações legais vigentes no Brasil — como os arts. 6º, 7º e 10º da LGPD, além das resoluções do BCB para IA financeira. Justiça e equidade exigem detecção e mitigação de viéses estatísticos e contextuais, especialmente em cenários de acesso a serviços públicos ou crédito. Transparência e explicabilidade asseguram que usuários e auditores compreendam como e por que uma saída foi gerada — sem exigir conhecimento técnico avançado. Robustez e confiabilidade referem-se à estabilidade funcional sob variações de entrada, carga e ambiente, incluindo tolerância a falhas e desempenho consistente em produção.
Como essas categorias se aplicam no Brasil?
No Brasil, as seis categorias ganham concretude por meio de exigências setoriais e transversais. A LGPD impõe obrigações que se refletem diretamente em privacidade, conformidade e transparência (art. 10, §3º). As Diretrizes do CNIA (Portaria nº 1.184/2023) recomendam sua adoção como base para avaliação de impacto de IA. No setor financeiro, as Circulars 4.959/2023 e 4.982/2024 do BCB exigem controle de viés (justiça), rastreabilidade (transparência) e testes de resistência (robustez). Em saúde, o CFM orienta que decisões assistidas por IA devem ser explicáveis ao profissional e ao paciente — reforçando a categoria de explicabilidade como requisito ético e clínico.
Perguntas frequentes
- Q: As 6 categorias são obrigatórias por lei no Brasil?
- A: Não são listadas como tal em nenhuma lei, mas são exigidas indiretamente pela LGPD, pelas diretrizes do CNIA e por regulamentos setoriais (BCB, ANS, CFM).
- Q: Posso usar apenas 3 dessas categorias em meu projeto de IA?
- A: Tecnicamente possível, mas não recomendado: omitir qualquer categoria aumenta risco de não conformidade, falha ética ou incidente operacional — e pode violar deveres previstos na LGPD (art. 46) ou no Código de Ética Profissional.
- Q: Há ferramentas brasileiras que implementam essas 6 categorias?
- A: Sim: plataformas como a IBM watsonx.governance (usada por clientes locais) e soluções de RAGJur com validação por guardrails nativos oferecem suporte estruturado a todas as seis.
- Q: Essas categorias mudam conforme o tamanho do modelo?
- A: Não: são invariantes quanto à escala do modelo, mas seu grau de implementação (ex.: profundidade dos testes de viés) deve ser proporcional ao impacto esperado — conforme recomendação do CNIA.
Fatos-chave
- As 6 categorias são reconhecidas oficialmente na documentação técnica do IBM Granite Guardrails (IBM, 2024, Guardrails Architecture Overview).
- O CNIA recomenda explicitamente “avaliação multidimensional” alinhada a esses domínios em sua Estratégia Nacional de IA (2023).
- A LGPD não nomeia as categorias, mas seus princípios (necessidade, não discriminação, transparência) correspondem diretamente a quatro delas.
- Nenhum decreto ou portaria federal brasileira define número diferente de categorias nativas para guardrails — a estrutura de seis é consenso técnico consolidado.
Fontes
- IBM. Granite Guardrails: Architecture and Implementation Guide. 2024. https://www.ibm.com/docs/en/watsonx/watsonx-governance
- Comitê Nacional de Inteligência Artificial (CNIA). Estratégia Nacional de Inteligência Artificial. Portaria nº 1.184/2023. Planalto.
- Lei nº 13.709/2018 (LGPD). Artigos 6º, 7º, 10º e 46. Planalto.
- Banco Central do Brasil. Circular nº 4.959/2023 e nº 4.982/2024. BCB.
Saiba mais em https://g.cloud