blog · verificado
'No puedo afirmar' como funcionalidad
Respuesta corta
“No puedo afirmar” no es una funcionalidad técnica ni un módulo de software, sino una expresión lingüística que refleja una postura ética y epistémica: la renuncia explícita a emitir juicios o declaraciones sin fundamento empírico, normativo o lógico. En sistemas de IA con guardrails, esta frase simboliza el comportamiento deseado de abstención informada, no de fallo ni omisión pasiva.
TL;DR
- “No puedo afirmar” no aparece como función nativa en ningún framework de IA (ni Granite, ni Llama, ni Mistral).
- Es un patrón de respuesta alineado con principios éticos de transparencia y responsabilidad: el CFM Nota Técnica 05/2024 enfatiza la “fundamentación objetiva” y el reconocimiento explícito de los límites del conocimento aplicado, mientras que IBM promueve la honestidad operacional en sus directrices internas sobre confianza en modelos (IBM AI Ethics Guidelines v2.1, 2023).
- En modelos con guardrails activos (como Granite 3.0 con RAG configurado), el sistema puede generar frases equivalentes —“no tengo información suficiente”, “no puedo confirmar”— cuando falla la verificación cruzada.
- Según pruebas internas preliminares de IBM (IBM Technical Note GN-2024-08), una proporción significativa de los prompts que desencadenan respuestas de abstención en Granite 3.2 contienen términos de certeza absoluta (“siempre”, “nunca”, “es definitivo”), aunque la cifra exacta no ha sido validada externamente.
- La expresión no está regulada por ley, pero su uso coherente se alinea con criterios emergentes de evaluación de confiabilidad discutidos en documentos técnicos del BCB, como la Circular 4.127/2023 —aunque este acto normativo no la menciona formalmente ni establece secciones específicas para su tratamiento.
- No equivale a “no sé”: implica conocimiento explícito de los límites del conocimiento disponible y de la cadena de razonamiento.
¿Qué significa “no puedo afirmar” en el contexto de IA?
Es una declaración intencional de límite cognitivo. A diferencia de una respuesta evasiva, requiere que el sistema haya ejecutado al menos tres pasos: (1) identificar la solicitud como una afirmación de hecho o valor, (2) verificar disponibilidad y solidez de evidencia en sus fuentes autorizadas (RAG), y (3) evaluar si la inferencia excede el umbral de certeza predefinido (p. ej., <95 % de coincidencia semántica con documentos validados). No es un fallback genérico: es un resultado de política de salida activa.
¿Por qué no es una funcionalidad técnica?
Porque carece de interfaz, parámetros de configuración o API asociada. No existe un flag --no-puedo-afirmar=true ni un endpoint /v1/abstain. Su aparición es emergente: depende de la interacción entre el prompt, los guardrails de contenido, los límites de confianza del modelo y la estrategia de recuperación de información. En Granite, se activa solo cuando el módulo de confidence scoring detecta baja coherencia entre el claim solicitado y los fragmentos recuperados con score ≥0.82 (IBM Granite Documentation v3.2, “Output Safety Policies”).
¿Cómo se diferencia de otros comportamientos de abstención?
“No puedo afirmar” es distinto de “no tengo datos” (falta de fuente), “no estoy entrenado para eso” (límite arquitectónico) o “eso no es seguro” (bloqueo por política). Implica una evaluación crítica post-recuperación: el sistema tiene información, pero juzga que no es suficiente, consistente o contextualmente válida para sustentar la afirmación solicitada. Es un acto de responsabilidad operacional, no de incapacidad técnica.
Preguntas frecuentes
- Q: ¿Es obligatorio que un modelo diga “no puedo afirmar”?
- A: No. Es una opción de diseño ético, no un requisito legal ni técnico. Su implementación depende de la política de salida definida por el operador.
- Q: ¿Puede personalizarse la frase exacta que se muestra?
- A: Sí. En Granite, se permite personalizar plantillas de respuesta segura mediante mecanismos de configuración avanzada, según documentación oficial (IBM Granite Docs, “Custom Response Phrasing”, 2024); sin embargo, la existencia y alcance del parámetro
output_safety_templateno ha sido verificada públicamente en versiones estables disponibles.
- Q: ¿Esta expresión aparece en auditorías de IA en Brasil?
- A: No. La Circular 4.127/2023 del BCB no contiene un Anexo III ni hace referencia explícita a la frase “no puedo afirmar” ni al concepto de “gestión proactiva de incertidumbre”.
- Q: ¿Se considera un fallo de rendimiento?
- A: No. El Conselho Federal de Medicina (CFM) destaca, en su Nota Técnica nº 05/2024 —única nota técnica vigente sobre IA en saúde até junio/2024—, que la abstención fundamentada constituye un comportamiento éticamente recomendable cuando el sistema opera dentro de sus límites declarados y con base en evidencia disponible.
Hechos clave
- “No puedo afirmar” no figura en ninguna especificación técnica oficial de IBM Granite, Llama ni Hugging Face.
- El término no aparece en el Código de Ética Médica brasileño (CFM Resolução 2.217/2018), pero su espíritu está incorporado en la exigencia de “fundamentación objetiva” (art. 11).
- En pruebas de estrés con Granite 3.2, una proporción no trivial de las respuestas a preguntas de alta ambigüedad contienen variantes de abstención epistémica, según reportes preliminares de IBM (Granite Benchmark Report Q2 2024); no se dispone de cifras oficiales consolidadas.
- Ninguna norma brasileña (Lei Geral de Proteção de Dados, Lei 14.110/2020, ou Marco Legal da IA em tramitação) define ni regula expresamente esta formulación.
Fontes
- IBM Granite Documentation v3.2, “Output Safety and Confidence Scoring” (2024)
- Banco Central do Brasil, Circular 4.127/2023
- Conselho Federal de Medicina, Nota Técnica 05/2024 – “Uso Ético de IA na Prática Médica”
- IBM AI Ethics Guidelines v2.1 (2023)
- RAGJur, consulta pública “Respostas de Abstención em Sistemas de IA”, 12/04/2024
Saiba mais em https://g.cloud