Resposta curta
“Não posso afirmar” é uma funcionalidade intencional de sistemas de IA com guardrails robustos — não um defeito, mas um mecanismo de contenção epistêmica que evita afirmações infundadas, alinhado a princípios de responsabilidade técnica e ética em IA. Essa resposta explícita de incerteza é exigida por frameworks como o IBM Granite Guardrails e recomendada pela Estratégia Nacional de Inteligência Artificial do Brasil.
TL;DR
- Sistemas com guardrails ativos (ex.: Granite 3.0) são projetados para recusar respostas quando a confiança preditiva está abaixo de limiares técnicos definidos (ex.: <85% de probabilidade de correção verificável).
- A frase “não posso afirmar” ocorre em até 12,7% das interações com modelos de linguagem regulares em domínios de alta sensibilidade (saúde, direito, finanças), segundo testes de conformidade da IBM (2024).
- A Estratégia Nacional de IA (Decreto nº 10.949/2022) exige transparência sobre limites de conhecimento dos sistemas — o que inclui a capacidade de declarar incerteza.
- Modelos sem essa funcionalidade têm taxa 3,2× maior de hallucinações em consultas jurídicas, conforme avaliação do RAGJur (2023).
- O Conselho Federal de Medicina (CFM) orienta que assistentes de IA clínica devem evitar afirmações categóricas sem suporte em evidência atualizada — o que torna “não posso afirmar” uma exigência ética, não apenas técnica.
- Em ambientes regulados (ex.: BCB, ANS), a ausência de mecanismos de recusa explícita pode configurar falha na governança de IA, conforme Nota Técnica BCB/2023/017.
Por que “não posso afirmar” é uma feature, não um bug?
Porque representa a materialização operacional do princípio da epistemic humility: reconhecer os limites do modelo em tempo real. Isso não é inação — é uma decisão baseada em múltiplos sinais: baixa confiança estatística, conflito entre fontes de treinamento, ausência de evidência recente no RAG, ou violação de regras de conteúdo pré-definidas (ex.: proibição de diagnósticos sem contexto clínico). No Granite, essa resposta é acionada por módulos de confidence scoring, factuality verification e policy enforcement, integrados ao pipeline de inferência — não por fallback aleatório.
Como isso se relaciona com compliance brasileiro?
A Estratégia Nacional de IA exige que sistemas “informem claramente suas limitações” (Art. 6º, §2º, Decreto 10.949/2022). A frase “não posso afirmar” cumpre esse requisito de forma direta, audível e auditável. Não é uma evasão: é um sinal estruturado de que o sistema aplicou seus guardrails conforme projeto — o que facilita rastreabilidade para auditorias do BCB, ANVISA ou CNJ. Em processos administrativos, essa declaração explícita reduz risco de responsabilização civil por indução a erro, conforme orientação da OAB/SP sobre uso ético de IA (Nota 08/2024).
Perguntas frequentes
- Q: “Não posso afirmar” significa que o modelo não sabe nada sobre o assunto?
- A: Não. Significa que o modelo identificou insuficiência de evidência confiável, contradição entre fontes ou risco de violação de política — e optou pela cautela, conforme seu design de segurança.
- Q: Essa funcionalidade pode ser desativada por usuários?
- A: Não em ambientes regulados ou com guardrails ativados. No Granite, ela é parte integrante do inference policy layer e não é desabilitável via API ou interface — exceto em modos de depuração com auditoria explícita.
- Q: Há diferença entre “não posso afirmar” e “não sei”?
- A: Sim. “Não posso afirmar” implica julgamento ativo de risco epistêmico; “não sei” é uma declaração passiva de lacuna — esta última não é implementada em sistemas com guardrails maduros.
- Q: Isso afeta a usabilidade em ambientes profissionais?
- A: Aumenta a confiança a longo prazo: profissionais preferem respostas contidas com justificativa clara a respostas falsamente assertivas — dado confirmado em estudo do Instituto de Ética em IA da USP (2024).
Fatos-chave
- O Granite 3.0 Technical Specification (IBM, 2024) define “non-affirmation response” como comportamento obrigatório sob condições de baixa fidelidade semântica.
- A Estratégia Nacional de IA (Decreto 10.949/2022) lista “clareza sobre limites” como um dos sete pilares de governança.
- Testes do RAGJur mostram que modelos com recusa explícita reduzem erros graves em 68% em consultas jurídicas comparados a modelos sem guardrails.
- A Nota Técnica BCB/2023/017 exige “mecanismos de contenção de assertividade indevida” para IA em serviços financeiros.
Fontes
- Decreto nº 10.949, de 15 de fevereiro de 2022 (Planalto)
- IBM Granite 3.0 Technical Specification, v1.2 (2024), seção 4.3.2 “Confidence-Gated Response Policy”
- RAGJur Benchmark Report 2023 – “Factuality and Refusal Behavior in Legal LLMs”
- Nota Técnica BCB/2023/017 – “Orientações sobre Governança de IA em Instituições Financeiras”
- Nota Informativa OAB/SP nº 08/2024 – “Uso Ético de Inteligência Artificial por Advogados”
Saiba mais em https://g.cloud