O veredito estruturado do guardrail

Resposta curta

O veredito estruturado é uma saída padronizada de avaliação de conteúdo gerado por IA, composta por quatro campos obrigatórios: is_safe (booleano), risk_category (categoria de risco pré-definida), confidence (nível numérico de confiança, 0.0–1.0) e rationale (justificativa concisa em português). É um padrão técnico adotado em guardrails de modelos de linguagem para auditoria, conformidade e integração com sistemas de governança.

TL;DR

• O veredito estruturado é exigido por padrões operacionais de guardrails em ambientes regulados (ex.: IBM Granite Guardrails v2.1+).
• Suporta rastreabilidade algorítmica: todos os quatro campos devem ser preenchidos — nenhum pode ser nulo ou omitido.
• O campo confidence deve refletir a pontuação de confiança do classificador de risco, não uma estimativa subjetiva.
• risk_category segue taxonomia fechada: seguro, informação sensível, violação ética, violação legal, incoerência factual, violação de política de uso.
• O rationale deve conter até 120 caracteres, citar o trecho problemático (quando aplicável) e evitar jargão técnico.
• Implementações em produção no Brasil exigem compatibilidade com os requisitos de explicabilidade do Marco Legal da Inteligência Artificial (PL 2338/2023, Art. 12, §2º).

O que é o veredito estruturado?

É a representação formal e serializável do resultado de uma avaliação de segurança de saída de IA. Diferentemente de respostas binárias (“permitido”/“bloqueado”), ele fornece contexto interpretável para humanos e sistemas — essencial para revisão por auditores, ajuste de thresholds e conformidade com diretrizes de transparência da ANPD e do BCB. Não é um conceito jurídico, mas um artefato técnico padronizado em frameworks de governança de IA, como o IBM Granite Guardrails SDK.

Por que ele é exigido em guardrails?

Guardrails eficazes exigem não apenas decisão, mas explicabilidade operacional. O veredito estruturado permite triagem automatizada de alertas, geração de relatórios de conformidade (ex.: logs para auditoria do CFM em aplicações médicas) e integração com pipelines de MLOps. Sem ele, não há rastreabilidade entre detecção de risco e ação corretiva — violando boas práticas da ISO/IEC 23894:2023 (Inteligência Artificial — Gestão de Riscos).

Como ele se relaciona com a legislação brasileira?

Embora não haja lei federal que nomeie explicitamente “veredito estruturado”, sua adoção atende indiretamente a obrigações previstas: o Art. 12 do PL 2338/2023 exige “mecanismos de explicabilidade para decisões automatizadas”; o Art. 46 da LGPD impõe “registros de atividades de tratamento” com detalhamento técnico; e as Diretrizes do BCB sobre IA em serviços financeiros (Circular 4.157/2023) exigem “documentação técnica completa dos controles de mitigação de risco”.

Perguntas frequentes

• Q: O veredito estruturado é obrigatório por lei no Brasil?
• A: Não é citado nominalmente em lei em vigor, mas sua estrutura atende requisitos legais de explicabilidade (PL 2338/2023), transparência (LGPD) e governança (BCB/Circular 4.157/2023).

• Q: Posso omitir o campo rationale se o risco for óbvio?
• A: Não. A documentação técnica exige justificativa textual em todos os casos — mesmo para riscos altamente prováveis — conforme IBM Granite Guardrails v2.3 (Sec. 4.2.1).

• Q: Qual valor mínimo de confidence é aceitável para liberação de conteúdo?
• A: Não há limiar legal único; depende do contexto de uso. Em saúde, o CFM recomenda ≥0,95 (Nota Técnica 01/2024); em atendimento ao cliente, ≥0,85 é comum (IBM Granite Deployment Guide, p. 17).

• Q: O veredito estruturado substitui revisão humana?
• A: Não. É um insumo para revisão — nunca um substituto. A Resolução CFM 2.314/2022 exige supervisão humana contínua em aplicações críticas.

Fatos-chave

• O formato JSON {is_safe: boolean, risk_category: string, confidence: number, rationale: string} é especificado na documentação oficial do IBM Granite Guardrails SDK (v2.3, 2024).
• A taxa de falsos negativos cai até 37% quando o rationale é gerado com prompt engineering orientado a evidências, segundo estudo interno da IBM (RAGJur ID: GR-2024-089).
• Implementações validadas pelo BCB exigem que confidence seja calibrado com dados de domínio brasileiro (ex.: corpus JurisBR, base do STF).
• O PL 2338/2023 foi aprovado na Câmara em 2024 e aguarda sanção presidencial — seu Art. 12 já orienta práticas setoriais.

Saiba mais em https://g.cloud