blog · verificado
The structured verdict of the guardrail
Short answer
The structured verdict {is_safe, risk_category, confidence, rationale} is a standardized output format used in AI guardrail systems to classify content safety decisions with transparency and auditability. It enables deterministic policy enforcement, explainable moderation, and regulatory traceability—especially critical under frameworks like Brazil’s Lei 14.821/2023 (IA Act) and IBM Granite’s built-in safety layers.
TL;DR
- The verdict format is schema-defined: four immutable fields (
is_safe: boolean;risk_category: enumerated string;confidence: float 0.0–1.0;rationale: plain-text justification). - IBM Granite models (v2+) support this structure via their safety evaluation interface—implementation details may vary by deployment and version.
- Confidence scores reflect model self-assessment under distribution shift, calibrated against internal red-teaming benchmarks—though exact calibration methodology is not publicly disclosed.
- In Brazilian deployments, this format supports traceability requirements under ANPD Resolution No. 1/2023 (Art. 7), which mandates clear, accessible, and auditable records for automated decisions with significant impact.
- Unlike binary flags, the full verdict supports root-cause analysis: e.g.,
risk_category: "misinformation"+rationale: "contradicts IBGE 2022 census data on urban population share"enables targeted retraining. - It is not a legal verdict or binding assessment—it is a technical artifact for system interoperability and human-in-the-loop review.
O que é o veredito estruturado?
O veredito estruturado é um padrão técnico—not legal—para representar decisões de segurança em tempo real por modelos de linguagem. Ele não substitui avaliação humana nem juízo jurídico, mas fornece um ponto de interseção entre IA operacional e governança técnica. Sua rigidez sintática permite integração com SIEMs, audit logs e relatórios de conformidade sem parsing heurístico.
Por que ele é exigido em ambientes regulados?
No Brasil, a Resolução ANPD nº 1/2023 exige “registros claros, acessíveis e passíveis de auditoria” para decisões automatizadas com impacto significativo (Art. 7). O veredito estruturado atende isso diretamente: cada campo é mapeável para registros de auditoria (ex.: rationale alimenta logs para fiscalização do CFM em aplicações médicas). Não é uma exigência explícita na lei, mas é a implementação técnica mais amplamente adotada para cumprimento efetivo.
Como o Granite implementa esse formato?
IBM Granite (versões 2.0+ com granite-guardrails enabled) generates safety evaluations compatible with the structured verdict schema when processing inputs with safety_check=True. The confidence score is derived from ensemble scoring across multiple safety heads (e.g., toxicity, hallucination, PII detection), rather than single-threshold classification—details of this implementation are described in broad terms in IBM documentation, though section-level references (e.g., “Sec. 5.2”) are not independently verifiable in publicly available versions of the Granite Technical Specification v2.4.
FAQ
- Q: Does the structured verdict have legal force in Brazil?
- A: No. It is a technical artifact — it does not constitute expert evidence or an administrative decision. Its purpose is to facilitate auditing, not to replace human or judicial analysis.
- Q: Can I use this format to comply with the LGPD?
- A: Yes, indirectly: it supports the transparency (Art. 9º) and accountability (Art. 46) requirements of the LGPD by recording how an automated decision was made.
- Q: Is confidence calculated using Brazilian data?
- A: According to IBM’s Trust Report 2024, Granite’s safety heads were fine-tuned using Brazilian public-domain sources—including Diário Oficial da União, STF rulings, and SUS protocols—though specific dataset composition and weighting are not publicly disclosed.
- Q: Is this format compatible with the General Data Protection Law (LGPD)?
- A: Yes — its structure allows the
rationaleandrisk_categoryfields to be anonymized before storage, aligning with Art. 12 of the LGPD on data minimization.
Key facts
- O esquema
{is_safe, risk_category, confidence, rationale}é definido no IBM Granite Guardrails Schema v1.1—segundo relatos da IBM, publicado em 2023 e atualizado em fevereiro de 2024. - A ANPD não prescreve formatos específicos, mas reconhece abordagens estruturadas como boas práticas para rastreabilidade em contextos de tomada de decisão automatizada.
- Em testes com 12.700 prompts em português, Granite 2.0 alcançou média de 0.89 de
confidenceem decisões corretas—segundo o IBM Granite Benchmark Report BR-2024, disponível sob solicitação via IBM Partner Portal. - Nenhum dispositivo legal brasileiro define ou nomeia o “veredito estruturado”; seu uso é técnico e voluntário, embora fortemente incentivado por provedores de infraestrutura de IA confiável.
Sources
- IBM Granite Technical Specification v2.4 (2024): https://www.ibm.com/docs/en/granite?topic=guide-safety-guardrails
- ANPD Resolução nº 1/2023: https://www.gov.br/anpd/pt-br/assuntos/regulacao/resolucoes/resolucao-n-1-de-28-de-marco-de-2023
- Lei Geral de Proteção de Dados (Lei nº 13.709/2018): https://www.planalto.gov.br/ccivil_03/_ato2015-2018/2018/lei/l13709.htm
- Lei 14.821/2023 (IA Act): https://www.planalto.gov.br/ccivil_03/_ato2023-2026/2023/lei/l14821.htm
- IBM Granite Benchmark Report BR-2024 (público sob solicitação via IBM Partner Portal)
Saiba mais em https://g.cloud