Introdução
No âmbito da jurisdição constitucional contemporânea, a clássica lição de que o poder político e jurisdicional carece de legitimação discursiva ganha contornos de dramaticidade inéditos diante da virada tecnológica provocada pela inteligência artificial generativa. Conforme a célebre premissa de que na jurisdição constitucional não basta que o argumento pareça correto, exigindo-se que ele seja integralmente reconstruível, verificável e constitucionalmente justificável, a introdução de sistemas opacos de tomada de decisão ou de auxílio argumentativo ameaça o núcleo do Estado Democrático de Direito. O presente estudo dedica-se a responder ao dilema fundamental de nosso tempo: o que ocorre com os direitos fundamentais quando o raciocínio jurídico passa a ser parcialmente produzido por sistemas informáticos cujas subcamadas matemáticas ninguém consegue explicar integralmente? Defender-se-á, ao longo desta exposição, que tal indagação não pertence a um horizonte futurista utópico, mas qualifica-se como premente realidade do presente forense. Longe de propor um niilismo tecnológico ou a rejeição apriorística das ferramentas de automação, este trabalho erige-se como um argumento em prol da integridade institucional e contra a opacidade argumentativa, demonstrando que a inteligência artificial na advocacia e jurisdição constitucionais só se compatibiliza com a Carta de 1988 se submetida aos rigores da explicabilidade, da supervisão humana e de arquiteturas de confiabilidade como a Engenharia de Recuperação Aumentada por Geração (Retrieval-Augmented Generation — RAG).
1. A ARQUITETURA DO PROCESSO ARGUMENTATIVO HUMANO E A EXIGÊNCIA CONSTITUCIONAL DE JUSTIFICABILIDADE
Historicamente, o desenvolvimento das instituições jurídicas ocidentais repousou sobre um pressuposto silencioso e dogmaticamente sedimentado de que o emissor do discurso normativo possui capacidade de justificar suas escolhas. Acreditávamos piamente que quem argumentava era capaz, ao menos em princípio, de explicar de forma analítica como construiu a ponte lógica entre a premissa maior, a premissa menor e a respectiva conclusão jurídica. Essa exigência de racionalidade discursiva sempre se sustentou de maneira autônoma, operando inclusive nas hipóteses em que o argumento final revelava-se materialmente incorreto ou eivado de nulidade. Com efeito, um magistrado pode errar, um advogado pode equivocar-se e um tribunal superior pode incorrer em desvios hermenêuticos, porém o sistema resguarda sua integridade na medida em que compele tais atores a exporem publicamente suas razões. Destarte, a exigência constitucional que legitima a atuação jurisdicional nunca foi a infalibilidade ou a perfeição técnica absoluta, mas sim a estrita justificabilidade dos atos normativos, conforme preceitua o artigo 93, inciso IX, da Constituição da República Federativa do Brasil.
Quando o texto constitucional exige fundamentação, faz-se imperioso indagar o que exatamente o ordenamento jurídico está a exigir do órgão investido de jurisdição. Torna-se evidente que o texto magno não demanda apenas um resultado utilitarista isolado, tampouco se satisfaz com a mera apresentação de uma conclusão imperativa e desprovida de lastro dedutivo. Exige-se, em verdade, que todo o percurso lógico, analítico e axiológico trilhado pelo intérprete até alcançar o provimento final possa ser integralmente reconstruído de forma racional pelos seus destinatários. Essa premissa, embora aparente simplicidade formal à primeira vista, assume a condição de uma das perguntas constitucionais mais complexas e importantes do século XXI. Sem a viabilidade dessa reconstrução dedutiva e indutiva, o ato decisório transmuda-se de ato de razão em ato de império, violando o princípio democrático. À luz do magistério doutrinário pátrio, a fundamentação qualifica-se como instrumento de controle da arbitrariedade, garantindo que o poder do Estado seja exercido sob o império da racionalidade pública.
O verdadeiro risco que a inteligência artificial impõe ao ecossistema jurídico contemporâneo não reside propriamente no potencial de cometimento de erros factuais ou interpretativos. O Direito, enquanto ciência eminentemente humana e prudencial, sempre conviveu de maneira resiliente com o erro e com a divergência jurisprudencial, desenvolvendo um complexo e sofisticado sistema recursal para a sua devida correção.
O perigo real e sistêmico que ora se apresenta consiste na perda progressiva da própria possibilidade de reconstrução racional dos argumentos jurídicos que amparam as decisões públicas. Isso ocorre porque o erro explicável permanece perfeitamente controlável e passível de reforma pelas vias recursais ordinárias e extraordinárias instituídas pelo ordenamento.
Por outro lado, o resultado inexplicável, gerado por correlações matemáticas incompreensíveis para os sujeitos processuais, ameaça implodir a própria estrutura do controle constitucional e a segurança jurídica.
2. A Epistemologia dos Modelos Generativos e a Ilusão da Compreensão Jurídica
Na atualidade, ferramentas de inteligência artificial generativa já executam tarefas complexas como a organização de cronologias processuais, o resumo de milhares de páginas de documentos e a produção de modelos de recursos. Adicionalmente, referidos sistemas recuperam precedentes jurisprudenciais com velocidade ímpar e redigem peças e fundamentações preliminares para escritórios de advocacia e órgãos do Poder Judiciário. Essa súbita expansão operacional gera, por critérios evidentes, uma sensação generalizada e compreensível de entusiasmo pragmático entre os operadores do Direito. Verifica-se o incremento exponencial da produtividade, a redução drástica de custos operacionais e uma celeridade que impressiona até os observadores mais céticos. Não obstante o aparente sucesso prático das ferramentas, nenhuma dessas apregoadas vantagens operacionais consegue responder a uma pergunta metodológica elementar: como o sistema computacional chegou estruturalmente até aquele resultado específico?
Para compreender a exata natureza epistemológica desse fenômeno, revela-se frutífero recorrer a uma analogia com os modelos generativos aplicados à visão computacional. Sistemas dessa estirpe, tais como as Redes Adversariais Generativas (Generative Adversarial Networks — GANs) e os modelos de difusão, iniciam seu processo operacional a partir de um estado de ruído estocástico e ausência absoluta de forma. Gradualmente, por meio de sucessivas transformações matemáticas operadas em camadas profundas, esses modelos convertem a estática inicial em uma imagem altamente sofisticada e visualmente perfeita. Ao observarmos o produto final acabado, somos induzidos a concluir, mediante um antropomorfismo apressado, que estamos diante de uma manifestação de inteligência ou cognição real. Contudo, o que se testemunha em ambiente computacional não é um processo de compreensão semântica da realidade, mas uma sucessão extraordinariamente complexa de correlações estatísticas de alta dimensão.
Essa sutil distinção entre compreender e prever possui relevância analítica superveniente, pois altera por completo a abordagem do problema perante a dogmática jurídica. Um modelo generativo de visão computacional pode conceber uma imagem esteticamente perfeita de um tribunal de justiça sem jamais ter apreendido o conceito deontológico de equidade. De igual modo, um modelo de linguagem natural pode redigir um texto sofisticado sobre o devido processo legal sem compreender a função política do processo. O sistema é capaz de estruturar uma argumentação persuasiva sobre a liberdade civil e a dignidade humana sem compreender o sentido axiológico dessas categorias constitucionais. Esse comportamento não constitui uma falha de engenharia ou um defeito sistêmico temporário, mas decorre estritamente da própria natureza estatística e epistemológica do modelo algorítmico.
3. O Deslocamento do Centro de Legitimidade e a Participação Algorítmica na Construção Argumentativa
Diante da natureza meramente probabilística das ferramentas, sobressai o motivo pelo qual tal diferenciação técnico-conceitual importa sobremaneira para a ciência do Direito. O ordenamento jurídico e a jurisdição constitucional não funcionam e não se legitimam por meras correlações estatísticas ou por critérios de pura probabilidade linguística. O Direito, enquanto manifestação da razão prática, exige a apresentação formal de razões substanciais, justificativas dogmáticas, universalização de enunciados e imputação de responsabilidade jurídica aos atores processuais. Uma petição de controle concentrado ou uma Reclamação Constitucional não se limitam a afirmar que determinada tese possui plausibilidade quantitativa no banco de dados. Elas asseveram que o pedido deve ser acolhido por razões normativas cogentes que possam ser submetidas ao crivo do contraditório processual em sua dimensão substancial.
Neste ponto do debate acadêmico, vozes de inclinação pragmática poderiam levantar uma objeção aparentemente sofisticada contra a tese da opacidade. Argumenta-se que os profissionais da área jurídica sempre se valeram de livros, enciclopédias, bancos de dados digitalizados e softwares de busca jurisprudencial sem que isso gerasse crises de legitimidade. Ocorre que tal objeção ignora uma mudança de caráter estrutural na transição de ferramentas puramente informacionais para sistemas dotados de autonomia generativa. Os livros e códigos tradicionais não produzem argumentos autônomos, bem como as bases de dados estáticas não escolhem quais fundamentos serão aplicados ao caso concreto. Enquanto as ferramentas tecnológicas tradicionais limitavam-se a ampliar o acesso físico à informação guardada, os modelos generativos atuais passam a participar ativamente da própria construção argumentativa do texto jurídico.
Essa sutil e profunda transição altera drasticamente o local de fixação da responsabilidade e da própria legitimidade constitucional das manifestações jurídicas. Quando um sistema de inteligência artificial generativa participa da confecção de fundamentos que servirão de base para restringir direitos ou deferir medidas coercitivas, a discussão deixa de gravitar em torno do mero desempenho técnico. O problema central desloca-se para o campo da legitimidade democrática do exercício do poder jurisdicional. In casu, se aceitarmos que a opacidade argumentativa atenta contra os pilares do constitucionalismo, torna-se imperioso delimitar qual modelo institucional permite o uso da IA sem o abandono dos compromissos históricos da nossa tradição jurídica.
4. O Dever Constitucional de Explicabilidade Algorítmica (Explainable Artificial Intelligence – XAI)
Para superar o imbróglio da opacidade decorrente dos modelos de deep learning, a Ciência da Computação desenvolveu o campo da Inteligência Artificial Explicável (Explainable Artificial Intelligence — XAI). No ecossistema dos modelos de visão computacional e processamento de linguagem, a transparência e a prestação de contas revelam-se vitais para a construção de confiança social legítima. Identificar e mitigar vieses discriminatórios embutidos nos pesos matemáticos das redes neurais promove a equidade e o uso ético e responsável dessas tecnologias disruptivas. Se nos modelos artísticos a ausência de acesso ao caderno de esboços do pintor constitui mera opção estética tolerável, na jurisdição constitucional a presença de uma caixa-preta decisória configura grave patologia institucional. O Direito exige inteligibilidade pública e a possibilidade constante de contestação racional dos atos de império do Estado.
Por via de consequência, impõe-se uma transposição teórica indispensável: a explicabilidade algorítmica não deve ser tratada como um mero atributo técnico-operacional ou opcional do software. Ela deve ser compreendida, categoricamente, como uma verdadeira dimensão contemporânea e projeção do dever constitucional de fundamentação das decisões e dos atos processuais. Conforme o ensinamento clássico sobre o princípio do contraditório, este não se resume ao direito de manifestação formal, mas engloba o direito de influenciar efetivamente a convicção do julgador. Como afirma a doutrina balizada, “o contraditório substancial pressupõe que as partes compreendam os fundamentos técnicos e jurídicos que norteiam o juízo”. Destarte, explicar e demonstrar o percurso analítico do algoritmo tornou-se requisito inafastável de validade e legitimidade de qualquer construção argumentativa com repercussão jurídica.
“A transparência e a prestação de contas ajudam a construir confiança ao revelar como os modelos geram imagens. Identificar e mitigar vieses promove a equidade e o uso responsável dessas tecnologias.”
5. O Direito à Explicação Constitucional Adequada e a Crítica ao Reducionismo Tecnológico
O estabelecimento do direito à explicação constitucional adequada não implica, de forma alguma, a exigência irrealista de abertura integral de patentes comerciais ou o fornecimento do código-fonte bruto. Exigir o acesso indiscriminado aos pesos matemáticos das matrizes de deep learning revelar-se-ia ineficaz para o operador do Direito e inviabilizaria a inovação tecnológica no país. O que se propõe, sob a égide do princípio da proporcionalidade, é que os destinatários do provimento estatal disponham de condições suficientes para reconstruir as etapas da argumentação. O parâmetro constitucional nunca foi a exigência de um saber absoluto sobre o hardware, mas sim a detenção de conhecimento suficiente para exercer o controle democrático legítimo.
Se no âmbito das ciências médicas exige-se explicabilidade algorítmica para validar diagnósticos por imagem que afetam a saúde humana, com maior razão idêntico padrão deve ser exigido no Direito. Não se pode admitir um padrão de proteção de direitos inferior justamente no campo onde o objeto da tutela estatal é a liberdade, o patrimônio e a igualdade. A explicabilidade, portanto, deixa a periferia dos debates tecnológicos e assume a centralidade como condição contemporânea de validade dos atos processuais e institucionais. O reducionismo que busca validar o argumento unicamente pelo seu aspecto formal e estético externa manifesto retrocesso civilizatório.
6. A Arquitetura RAG (Retrieval-Augmented Generation) como Modelo de Confiabilidade Jurídica
Para mitigar os riscos inerentes aos Modelos de Linguagem de Grande Porte (Large Language Models — LLMs), que frequentemente operam por pura inferência probabilística e geram as denominadas “alucinações”, impõe-se a adoção de novas arquiteturas computacionais. A engenharia de sistemas aponta para a substituição parcial do paradigma puramente generativo pela arquitetura de Geração Aumentada de Recuperação (RAG). Esse modelo arquitetônico estrutura-se de maneira rígida através de três etapas sequenciais e bem delineadas:
1. Recuperação Documental;
2. Filtragem de Relevância;
3. Geração Restrita do Texto Final.
Sob esse influxo técnico, o sistema de inteligência artificial deixa de “inventar” ou deduzir livremente fundamentos a partir de parâmetros puramente estatísticos abstratos. A ferramenta passa a construir seus argumentos de forma estritamente limitada e ancorada em fontes jurídicas previamente verificadas e auditáveis, como repositórios oficiais de jurisprudência do STF. O resultado esperado dessa transposição de paradigma consiste no incremento da rastreabilidade documental, na eliminação de precedentes falsos e no robustecimento da segurança institucional.
7. A Tese da Proporcionalidade Inversa entre Impacto de Direitos e Opacidade Algorítmica
A formulação dogmática que se propõe como vetor de controle assenta-se na seguinte premissa: quanto maior for o potencial de impacto de um sistema de IA sobre direitos fundamentais, maior deverá ser o grau de explicabilidade constitucional exigido. Em demandas que versem sobre meros fluxos administrativos ou andamentos procedimentais ordinários, tolera-se um nível de explicabilidade técnica mitigado em prol da celeridade. Contudo, em sede de controle de constitucionalidade ou em sede de Reclamação Constitucional apta a desconstituir decisões de instâncias inferiores, o rigor exegético atinge seu ápice.
Grau de Impacto nos Direitos Fundamentais Nível de Explicabilidade Exigido
A Tese da Proporcionalidade Inversa entre Impacto de Direitos e Opacidade Algorítmica
A formulação dogmática que se propõe como vetor de controle assenta-se na premissa de que o nível de transparência deve ser diretamente proporcional à relevância do bem jurídico tutelado. In casu, estabelece-se uma relação de proporcionalidade inversa na qual, quanto maior for o potencial de impacto de um sistema de inteligência artificial sobre os direitos fundamentais do cidadão, menor será a tolerância institucional à opacidade algorítmica. Essa correlação atua como salvaguarda contra o arbítrio tecnológico, impedindo que o anseio por eficiência administrativa soterre as garantias processuais conquistadas historicamente. A aparência de sofisticação linguística não pode ocultar um conteúdo materialmente incorreto ou dissociado da ordem constitucional vigente, impondo-se a fixação de três níveis rígidos de exigibilidade normativa.
Sistemas de Baixo Impacto Categoria de Tráfego Administrativo Interno:
Este primeiro patamar engloba as ferramentas destinadas à otimização de fluxos puramente procedimentais, triagem de caixas de entrada e distribuição automatizada de expedientes internos sem carga decisória. Para essas atividades de suporte material, o nível de explicabilidade exigido é mitigado e geral, posto que a atividade não interfere diretamente na esfera de liberdade do jurisdicionado. Consequentemente, a fiscalização e a exigência de auditoria humana operam por amostragem periódica do fluxo de dados, garantindo a higidez do sistema sem engessar os ganhos de celeridade burocrática.
Sistemas de Médio Impacto Categoria de Triagem e Organização Cronológica:
O segundo nível compreende os algoritmos aplicados na indexação de precedentes, filtragem preliminar de admissibilidade recursal e elaboração de resumos estruturados de peças processuais complexas. Diante do risco de exclusão indevida ou de distorção de teses por erro de leitura probabilística, o nível de explicabilidade exigido assume caráter intermediário e funcional. Torna-se imperiosa a implementação de mecanismos de supervisão concomitante e validação analítica por parte da assessoria jurídica, impedindo que vieses de automação guiem cegamente o órgão julgador.
Sistemas de Alto Impacto Categoria de Fundamentação de Peças e Decisões:
O ápice do modelo regulatório concentra-se nas ferramentas que participam ativamente da construção de minutas de voto, sentenças ou peças de Reclamação Constitucional. Para este quadrante, onde o bem jurídico envolve direitos fundamentais, exige-se o nível máximo de explicabilidade com rastreabilidade integral da cadeia argumentativa através do paradigma RAG. A auditoria humana, neste cenário de densa repercussão constitucional, qualifica-se como preceito inafastável, demandando validação analítica ponto a ponto por parte do profissional responsável.
A proporcionalidade exige que os meios tecnológicos permaneçam estritamente vinculados aos fins democráticos estabelecidos pelo poder constituinte. Aplica-se aqui o antigo brocardo ubi eadem ratio ibi eadem ius, indicando que, onde impera a mesma razão de proteção ao indivíduo, deve incidir o mesmo rigor no controle do poder estatal. Destarte, a fixação desses critérios em tópicos analíticos permite conferir a necessária segurança jurídica ao desenvolvimento das novas ferramentas de advocacia pública e privada.
Essa correlação atua como salvaguarda contra o arbítrio tecnológico, impedindo que o anseio por eficiência administrativa soterre as garantias processuais conquistadas historicamente. A aparência de sofisticação linguística não pode ocultar um conteúdo materialmente incorreto ou dissociado da ordem constitucional vigente. A proporcionalidade exige que os meios tecnológicos permaneçam estritamente vinculados aos fins democráticos estabelecidos pelo poder constituinte.
8. O Framework Constitucional de Cinco Filtros para o Uso de Inteligência Artificial
Para fins de operacionalização prática da tese ora defendida, propõe-se a aplicação cogente de um framework constitucional composto por cinco filtros cumulativos de validade. O descumprimento de qualquer um desses pressupostos importa na nulidade insanável da peça processual ou do ato decisório que dele venha a decorrer. Os filtros estruturam-se da seguinte forma:
Filtro 1
Supervisão Humana Obrigatória: Exigência de que todo texto gerado por IA seja revisado e chancelado por profissional habilitado, vedando-se a delegação decisória cega.
Filtro 2
Transparência Metodológica: Dever de informar nos autos a utilização de ferramentas generativas na elaboração da estratégia argumentativa.
Filtro 3
Fontes Auditáveis: Obrigatoriedade de vinculação do texto a um repositório restrito de dados normativos válidos, aplicando-se a arquitetura RAG.
Filtro 4
Governança e Mitigação de Riscos: Implementação de testes contínuos para detecção de vieses cognitivos e discriminações algorítmicas estruturais.
Filtro 5
Responsabilidade Profissional Plena: Manutenção da imputabilidade civil, administrativa e disciplinar do advogado ou magistrado pelos erros cometidos pelo sistema.
A aplicação rigorosa desse quíntuplo filtro garante que nenhuma inovação tecnológica venha a golpear a centralidade da pessoa humana no processo. As convenções de linguagem e a correção gramatical devem submeter-se ao império da verdade material e da ética profissional. A técnica, despida de amparo humanista, descamba inevitavelmente para o arbítrio e para o decisionismo tecnocrático.
09. O Futuro da Advocacia e da Jurisdição Constitucional: O Equilíbrio entre Eficiência e Humanidade
O porvir da advocacia constitucional e da própria jurisdição de controle não será ditado pela eliminação ou substituição completa do jurista humano pela máquina. Esse porvir será definido, em verdade, pela qualidade e robustez dos mecanismos institucionais que disciplinarem a complexa interação entre a automação e a responsabilidade. Tecnologia desprovida de controle democrático compromete de morte a legitimidade do Poder Judiciário e da representação postulatória. Por sua vez, o controle desmedido e avesso à inovação reduz drasticamente a capacidade institucional de resposta frente à explosão de litigiosidade contemporânea.
O caminho constitucionalmente adequado e compatível com o Estado Democrático de Direito exige o equilíbrio dinâmico entre a eficiência tecnológica e a centralidade da pessoa humana. Nenhum algoritmo, por mais refinado que se apresente em seus parâmetros estatísticos, possui deveres constitucionais ou presta juramento à República. Quem ostenta deveres perante a Carta Magna e responde perante a história e as instituições vigentes continua sendo o ser humano. O aperfeiçoamento das instituições deve servir para expandir nossas capacidades críticas, e não para nos aprisionar em novas caixas-pretas de incompreensão.
10. A Reclamação Constitucional como Locus Privilegiado de Proteção à Pessoa Prejudicada
A escolha da Reclamação Constitucional como objeto central desta análise dogmática não decorre de mera conveniência acadêmica, mas de sua vocação institucional única. A Reclamação, prevista nos artigos 102, inciso I, alínea “l”, e 103-A, § 3º, da Constituição, destina-se a preservar a competência do tribunal e a garantir a autoridade de suas decisões. Trata-se de uma ação de índole constitucional vocacionada a tutelar a eficácia e a uniformidade das interpretações fixadas pela Suprema Corte pátria. Consectariamente, quando o jurisdicionado maneja uma Reclamação Constitucional, ele não busca apenas a revisão ordinária de uma decisão desfavorável, mas visa restaurar a própria racionalidade e higidez do sistema normativo.
Nesse cenário de densa litigiosidade constitucional, sobressai a figura da pessoa prejudicada por atos que contrariem enunciados de súmulas vinculantes ou precedentes obrigatórios. Emerge, então, a necessidade de perquirir quais direitos fundamentais assistem ao indivíduo cuja esfera jurídica é afetada por peças ou decisões produzidas por IA. Sustenta-se que, diante da virada algorítmica, irrompe um novo conteúdo normativo no rol dos direitos e garantias fundamentais: o direito ao devido processo tecnológico. Esse direito fundamental de nova dimensão abarca, necessariamente, as faculdades de compreender os critérios de escolha, verificar as fontes indexadas e contestar os resultados automatizados.
Conclusão
Ao término desta exposição dogmática, retorna-se com convicção e rigor científico à indagação que inaugurou o presente estudo crítico sobre a inteligência artificial. O destino dos direitos fundamentais e das garantias processuais dependerá intrinsecamente da capacidade de reação do constitucionalismo contemporâneo frente às tentações da opacidade tecnológica. O constitucionalismo precisa evoluir e adaptar seus institutos procedimentais, porém não para substituir ou relativizar seus princípios fundamentais perenes, mas para protegê-los de forma eficaz sob as novas condições materiais da info-esfera. O futuro da jurisdição constitucional brasileira não será decidido de forma autônoma pelas máquinas, mas sim pela coragem e qualidade das instituições públicas que regularem normativamente o seu uso. Que saibamos manter erguido o império da justificabilidade pública, pois o verdadeiro perigo do nosso tempo não é o erro que se pode corrigir, mas a barbárie do poder que não se pode sequer explicar.
Referências
BRASIL. Constituição da República Federativa do Brasil de 1988. Brasília, DF: Presidência da República, 1988.