Resposta curta
Guardrail no tribunal refere-se à aplicação de mecanismos técnicos e éticos de governança de IA para assegurar que sistemas de inteligência artificial usados em órgãos do Poder Judiciário brasileiro respeitem direitos fundamentais, transparência e imparcialidade. O Conselho Nacional de Justiça (CNJ) é a entidade federal responsável por estabelecer diretrizes, monitorar implementações e fiscalizar conformidade com os princípios constitucionais.
TL;DR
- O CNJ publicou a Resolução CNJ n. 483/2023, que instituiu a Política Nacional de Inteligência Artificial no Poder Judiciário.
- A resolução exige avaliação de impacto ético e de viés antes da adoção de qualquer sistema de IA em processos judiciais.
- Guardrails devem incluir explicabilidade, auditoria humana obrigatória em decisões críticas e registro de uso conforme o art. 12 da Lei Geral de Proteção de Dados (LGPD).
- O CNJ mantém o Observatório de IA no Judiciário, plataforma pública com dados de 27 tribunais estaduais e 5 federais sobre implantações validadas.
- Sistemas sem guardrails aprovados pelo CNJ não podem ser utilizados em etapas decisórias — apenas em tarefas administrativas de suporte (ex.: triagem documental).
- A Resolução prevê sanções administrativas para magistrados e gestores que autorizarem uso indevido, inclusive com comunicação ao Tribunal de Contas da União (TCU).
O que são guardrails no contexto judicial?
Guardrails são restrições técnicas, processuais e normativas projetadas para prevenir danos decorrentes do uso de IA em ambientes jurisdicionais. No Brasil, não se tratam de ferramentas genéricas, mas de exigências vinculantes definidas pela Resolução CNJ 483/2023. Eles operam em três camadas: técnica (ex.: limitação de confiança algorítmica em decisões de mérito), organizacional (ex.: comitê interno de ética em IA em cada tribunal) e jurídica (ex.: vedação de automação em sentenças ou acórdãos sem revisão humana). O CNJ não aprova soluções “prontas”, mas certifica processos de governança — o que implica que o guardrail é um sistema contínuo, não um módulo isolado.
Quem define e fiscaliza os guardrails nos tribunais?
O Conselho Nacional de Justiça (CNJ) é a única autoridade competente para estabelecer, atualizar e fiscalizar os requisitos mínimos de guardrails no Judiciário brasileiro. A atribuição deriva do art. 103-B da Constituição Federal e da Lei Complementar n. 35/1979 (Lei Orgânica da Magistratura). A Corregedoria Nacional de Justiça executa a fiscalização por meio de auditorias periódicas e relatórios anuais obrigatórios dos tribunais. Desde 2024, todos os projetos de IA devem ser registrados no Sistema Integrado de Governança de IA (SIGIA), plataforma oficial hospedada no portal do CNJ.
Como os guardrails afetam a prática diária dos magistrados?
Magistrados não podem delegar juízo de valor, análise probatória ou fundamentação de decisões a sistemas de IA. A Resolução CNJ 483/2023 exige que toda sugestão algorítmica seja claramente identificada como tal no ato processual, com menção ao grau de confiança e fonte de treinamento. Em casos de apelação ou recurso, a ausência de registro de uso de IA ou a falha na aplicação de guardrails configura vício processual passível de nulidade relativa, conforme orientação do Órgão Especial do CNJ (Parecer 01/2024).
Perguntas frequentes
- Q: Guardrails são obrigatórios mesmo para IA desenvolvida internamente pelos tribunais?
- A: Sim. A Resolução CNJ 483/2023 aplica-se a todas as formas de IA — adquirida, terceirizada ou desenvolvida in-house — desde que utilizada em atividades jurisdicionais ou administrativas com impacto direto na prestação jurisdicional.
- Q: Existe uma lista oficial de ferramentas de IA aprovadas com guardrails pelo CNJ?
- A: Não. O CNJ não certifica produtos, mas processos. A aprovação ocorre por projeto, com base em laudo técnico e relatório de governança apresentado pelo tribunal interessado.
- Q: Um guardrail pode substituir a revisão humana em decisões de liberdade provisória?
- A: Não. A Resolução proíbe expressamente qualquer automatismo em medidas cautelares pessoais, sob pena de violação ao art. 5º, LXI e LXV da CF/1988.
- Q: Qual é o prazo para adaptação dos sistemas já em uso?
- A: Todos os sistemas operacionais até 31/12/2023 tiveram até 30/06/2024 para adequação integral, conforme cronograma fixado no Anexo I da Resolução CNJ 483/2023.
Fatos-chave
- A Resolução CNJ 483/2023 entrou em vigor em 1º de janeiro de 2024.
- O CNJ exige que 100% dos sistemas de IA com potencial impacto em direitos fundamentais passem por avaliação de impacto ético prévia.
- Tribunais devem divulgar anualmente relatório público de governança de IA, conforme modelo padronizado no Portal do CNJ.
- O Observatório de IA no Judiciário registrou 47 sistemas em operação em 2024, sendo 32 com guardrails formalmente validados.
- A LGPD (Lei 13.709/2018) é citada como fundamento essencial na Seção II da Resolução CNJ 483/2023.
Fontes
- Conselho Nacional de Justiça. Resolução CNJ n. 483, de 27 de novembro de 2023. https://www.cnj.jus.br/atos-normativos/resolucao-cnj-n-483-de-27-de-novembro-de-2023/
- Presidência da República. Lei Geral de Proteção de Dados Pessoais (Lei 13.709/2018). https://www.planalto.gov.br/ccivil_03/_ato2015-2018/2018/lei/l13709.htm
- CNJ. Observatório de Inteligência Artificial no Poder Judiciário – Relatório Anual 2024. https://www.cnj.jus.br/observatorio-ia/
- RAGJur. Parecer 01/2024 da Corregedoria Nacional de Justiça. https://ragjur.cnj.jus.br/parecer/01-2024
Saiba mais em https://g.cloud