Inteligência Artificial Generativa no Exercício da Advocacia

Responsabilidade Profissional, Arquiteturas de Mitigação e os Riscos da Automação Complacente

Resumo

O presente artigo analisa o impacto disruptivo da Inteligência Artificial (IA) Generativa no ecossistema jurídico contemporâneo, contrapondo os riscos éticos e práticos dos modelos fundacionais generalistas às soluções especializadas baseadas em Geração Aumentada de Recuperação (RAG). Sob o referencial factual e deontológico de caso, discute-se a subsunção das novas ferramentas aos deveres de competência tecnológica, confidencialidade, zelo profissional e integridade processual, estruturados no ordenamento jurídico brasileiro. Demonstra-se que a IA atua como um potente catalisador de eficiência na automação de subtarefas cognitivas, sem, contudo, mitigar a indelegabilidade do juízo crítico e da prudência humana como elos finais e imperativos da prestação jurisdicional.

Palavras-chave: Inteligência Artificial Jurídica; Modelos de Linguagem; Retrieval-Augmented Generation (RAG); Ética Profissional; Responsabilidade Civil.

1. Introdução: A Virada Tecnológica no Esforço Forense

A sociedade contemporânea enfrenta uma expansão sem precedentes na produção e circulação de informações. Em praticamente todos os setores do conhecimento, os profissionais são confrontados diariamente com volumes crescentes de dados e conteúdos digitais que desafiam a capacidade humana de processamento. No campo jurídico, essa realidade assume contornos particularmente complexos: a atividade advocatícia fundamenta-se na interpretação sistemática de fatos, normas, regulamentos e precedentes jurisprudenciais dispersos.

Nesse cenário, a intersecção entre a ciência da computação e a dogmática jurídica atingiu um ponto de inflexão paradigmático com o advento dos transformadores pré-treinados generativos (Generative Pre-trained Transformers – GPT) e dos Grandes Modelos de Linguagem (Large Language Models – LLMs). Historicamente pautado por sistemas de aprendizado supervisionado estrito e lógica booleana — largamente aplicados no campo do Electronic Discovery (e-discovery) —, o mercado de serviços jurídicos confronta-se, atualmente, com algoritmos preditivos capazes de emular a sintaxe e o raciocínio humano em linguagem natural.

Dados econométricos projetados pelo grupo Goldman Sachs apontam que aproximadamente 44% das tarefas operacionais intrínsecas à advocacia são passíveis de automação por sistemas inteligentes. Importa ressaltar, sob o prisma metodológico, a distinção ontológica entre a automação de tarefas e a substituição de postos de trabalho: a tecnologia concorre para a destituição do trabalho hercúleo e burocrático, ressignificando o papel do jurista.

A influência da IA generativa manifesta-se, sobretudo, em quatro dimensões fundamentais da atividade jurídica:

1. A coleta de fatos e e-discovery;
2. A pesquisa normativa e jurisprudencial;
3. A análise estratégica e preditiva de casos;
4. A elaboração de minutas e peças processuais.

O e-discovery processo de identificação, preservação, coleta e análise de informações armazenadas eletronicamente (ESI) para uso como evidência em disputas jurídicas, investigações internas ou auditorias

O escopo deste artigo é delimitar as fronteiras técnicas, epistêmicas e éticas dessa transição, afastando o “pensamento mágico” que circunda a inteligência artificial para propor uma análise rigorosa da responsabilidade profissional diante do fenômeno da automação complacente.

2. O Erro Epistemológico dos Modelos Fundacionais: Alucinação em casos jurídicos

Embora os sistemas de IA generativa sejam frequentemente percebidos como fontes confiáveis de informação, sua arquitetura não é baseada em compreensão semântica, cognição ou raciocínio jurídico autônomo. Os modelos fundacionais de linguagem (como as iterações comerciais do ChatGPT, Gemini e Claude) operam fundamentalmente como motores estatísticos de predição textual. Essas redes neurais calculam sequências linguísticas consideradas prováveis com base em padrões distribucionais de macrocorpora utilizados em seu treinamento.

Consequentemente, emergem episódios técnicos denominados alucinações algorítmicas, nos quais a ferramenta produz conteúdos falsos, apócrifos ou inexistentes, mas apresentados com uma estrutura gramatical perfeitamente coerente, formal e sofisticada. No contexto jurídico, essas alucinações manifestam-se por meio de:

1. Criação de jurisprudências e precedentes fictícios;
2. Atribuição equivocada de entendimentos a tribunais superiores;
3. Citação de dispositivos legais revogados ou inexistentes;
4. Fabricação integral de fundamentos normativos e ementas.

O principal risco reside no elevado grau de persuasão desses textos. A redação formal e o tom imperativo induzem o profissional à automação complacente, caracterizada pela confiança excessiva e acrítica nos resultados produzidos por sistemas automatizados. Esse viés cognitivo reduz o rigor da revisão técnica necessária, obliterando o dever de validação.

O leading case paradigmático desse risco sistêmico materializou-se na ação Mata v. Avianca Airlines (2023), perante a jurisdição federal de Nova York. Diante de um óbice de prescrição regulado pela Convenção de Montreal, os patronos da causa utilizaram um modelo fundacional generalista para fundamentar a suspensão do prazo prescricional em virtude de falência superveniente da transportadora. O algoritmo concebeu, de forma autônoma, precedentes fictícios dotados de formatação técnica irretocável — incluindo citações e excertos jurisprudenciais falsos, como o inventado caso Fargazy v. China Southern Airlines.

O desdobramento sancionatório daquele caso evidenciou que a confiança cega na interface conversacional violou o dever de verificação das fontes. O erro do causídico não residiu estritamente na consulta à ferramenta, mas na submissão de peças processuais ao Poder Judiciário sem a devida filtragem heurística por meio de bases de dados indexadas e oficiais.

3. A Solução Arquitetônica: Geração Aumentada de Recuperação (RAG)

Para mitigar o déficit de fidedignidade dos modelos puramente generativos e afastar o risco de alucinações, a engenharia de software jurídica desenvolveu a arquitetura de Geração Aumentada de Recuperação (Retrieval-Augmented Generation – RAG). O sistema RAG fragmenta a operação cognitiva em três estágios estritos, auditáveis e controlados:

1. Recuperação (Retrieval) e Bancos de Dados Vetoriais

Diferentemente da busca booleana tradicional, que restringe a pesquisa à identidade literal de grafemas (palavras-chave), o módulo de recuperação adota bancos de dados vetoriais (vector databases). As proposições jurídicas, leis e acórdãos são convertidos em vetores multidimensionais que mapeiam a semântica e a proximidade conceitual das ideias. Ao propor uma consulta em linguagem natural, o sistema localiza os nós conceituais adjacentes no “mapa topográfico do direito”, analisando centenas de fontes em um ambiente confinado e fechado, extraindo citações textuais exatas e não modificadas pelo modelo.

B. Aumentação (Augmentation) e Inserção de Guardrails

Nesta fase, impõem-se restrições normativas e regras de filtragem (guardrails) ao contexto recolhido. O sistema parametriza premissas metodológicas fundamentais, tais como:

1. A prevalência de opiniões majoritárias sobre votos vencidos;

2. A exclusão de julgados superados por controle de constitucionalidade ou convencionalidade (citadores reflexos);
3. A calibração da hierarquia das fontes a depender da família jurídica em voga (Common Law versus Civil Law).

• Geração (Generation)

Apenas após o estreitamento do universo informacional às fontes fidedignas recuperadas, o modelo de linguagem recebe a instrução de redigir a resposta. O produto final configura-se como um texto indubitavelmente ancorado na realidade normativa, cujas afirmações contêm hiperlinks diretos e metadados que viabilizam a imediata sindicabilidade e conferência pelo operador humano.

4. Hermenêutica Ética, Responsabilidade Deontológica e Civil do Advogado

A introdução de sistemas de inteligência artificial na praxis jurídica não reclama a criação ex nihilo de um novo arcabouço regulatório; subsume-se, perfeitamente, aos códigos de ética profissional e ao ordenamento civil vigentes, sob uma leitura contemporânea e tecnológica.

A advocacia é uma atividade intelectual que exige conhecimento técnico, diligência e responsabilidade. O Estatuto da Advocacia e o Código de Ética e Disciplina da Ordem dos Advogados do Brasil (OAB) estabelecem que o profissional deve atuar com honestidade, independência, boa-fé e zelo. Sob essa perspectiva, a simples reprodução de informações geradas por sistemas automatizados, sem conferência adequada, configura nítida violação do dever de cuidado.

Dever de Competência

Exige o desenvolvimento de competência tecnológica. O causídico deve compreender o funcionamento básico, as potencialidades e as limitações das ferramentas utilizadas.

Dever de Diligência

Impõe a otimização de custos e tempo. A recusa injustificada em adotar tecnologias que confiram celeridade e modicidade de honorários ao constituinte pode, em tese, configurar desídia; contudo, o dever de cuidado exige a revisão minuciosa de todo produto gerado por máquina.

Dever de Confidencialidade

Veda o upload de dados sensíveis, fatos sigilosos ou informações protegidas por segredo de justiça em LLMs generalistas públicos, cujos termos de uso prevejam o re-treinamento do algoritmo. Exige-se o uso de ecossistemas corporativos fechados com segurança da informação de nível bancário.

Dever de Candura e Lealdade Processual

Implica a responsabilidade pessoal e indelegável pela exatidão de toda e qualquer citação apresentada em juízo. A apresentação de dados falsos, mesmo que decorrente de erro tecnológico e sem dolo, viola os deveres processuais de boa-fé e cooperação (Art. 5º e 6º do CPC).

Sob o prisma da responsabilidade civil e administrativa por atos de terceiros, a inteligência artificial equipara-se normativamente aos assistentes não-juristas, como paralegais e estagiários. Conforme as teorias da culpa in eligendo (escolha da ferramenta) e culpa in vigilando (falha na fiscalização do resultado), o profissional signatário assume integralmente o risco pelas assimetrias informacionais e erros produzidos pelo software de apoio.

A assinatura do advogado em uma peça processual opera como uma chancela de autoria técnica e veracidade das fontes. A alegação de falha técnica da IA não constitui excludente de responsabilidade (como caso fortuito ou força maior), visto que a validação do conteúdo é obrigação inerente ao múnus público da advocacia. A tecnologia deve ser classificada estritamente como um vetor de primeiro rascunho, jamais como a peça final.

5. O Papel do Magistrado na Preservação da Integridade Processual

Ao identificar a utilização de informações manifestamente falsas, precedentes inventados ou fundamentações juridicamente inexistentes em petições e manifestações processuais, o magistrado possui o dever institucional de agir para preservar a regularidade do processo e a dignidade da função jurisdicional.

Nesse cenário, a determinação de expedição de ofício ao Tribunal de Ética e Disciplina da Ordem dos Advogados do Brasil constitui medida impositiva, compatível com os poderes de direção, prevenção e fiscalização do processo conferidos pelo Código de Processo Civil. O objetivo de tal ato não é punir a inovação tecnológica ou cercear o uso de ferramentas disruptivas, mas sim apurar a eventual negligência e desídia profissional decorrente da ausência de verificação dos dados apresentados.

A depender da gravidade da conduta, da extensão do dano processual e dos prejuízos causados ao constituinte, à parte contrária ou à própria administração da Justiça, o profissional estará sujeito a sanções disciplinares que variam desde a advertência e a censura até a suspensão do exercício profissional, assegurado o devido processo administrativo e a ampla defesa. A atuação do magistrado desempenha, portanto, uma função pedagógica e preventiva indispensável, sinalizando ao mercado jurídico que a automação complacente não será tolerada pelos órgãos jurisdicionais.

6. Aplicações Práticas Estruturadas no Fluxo de Trabalho Forense

A utilidade empírica da IA especializada (corporificada em plataformas verticais como o Vincent AI, vLex, entre outras soluções integradas) reflete-se na sua capacidade de atuar em múltiplos fluxos operacionais de alta complexidade, reduzindo drasticamente o tempo de latência da análise documental e expandindo as capacidades do advogado humano:

Análise de Contratos Complexos (Asset Purchase Agreements – APA): Permite o upload de instrumentos contratuais volumosos para a extração automatizada de obrigações pós-fechamento (post-closing obligations), identificação de cláusulas ambíguas ou contraditórias, mapeamento de riscos específicos e indicação de passivos ocultos (como planos de pensão congelados ou contingências ambientais).

Auditoria de Peças Litigiosas e Contestações: Diante do recebimento de uma petição inicial, o sistema realiza a decodificação imediata das causas de pedir, gerando cronologias fáticas estruturadas e sugerindo teses defensivas, exceções de pré-executividade ou institutos contrapostos com base na jurisprudência específica daquela comarca ou tribunal.

Pesquisas Jurisdicionais Comparadas (50-State Surveys / Análise Federativa): Executa a pesquisa e a consolidação de entendimentos jurisprudenciais e legislativos concorrentes em múltiplas unidades da federação de forma concomitante. Essa aplicação converte semanas de pesquisa analítica manual em matrizes comparativas estruturadas em poucos minutos, permitindo a visualização de tendências decisórias regionais.

7.  FENÔMENO DA AUTOMAÇÃO COMPLACENTE

O fenômeno da automação complacente, também chamado de viés de automação, descreve uma tendência humana de confiar excessivamente em sistemas automatizados, algoritmos ou inteligências artificiais, a ponto de reduzir o próprio senso crítico e a capacidade de supervisão. Em vez de utilizar a tecnologia como uma ferramenta de apoio à tomada de decisão, o indivíduo passa a tratá-la como uma autoridade incontestável, presumindo que suas respostas são sempre corretas.

Esse comportamento surge porque a automação geralmente oferece rapidez, consistência e conveniência. Quando um sistema apresenta bons resultados de forma repetida, os usuários desenvolvem uma percepção de confiabilidade elevada. Com o tempo, a necessidade de verificar informações, revisar processos ou confrontar resultados diminui. A confiança saudável transforma-se em dependência, e a supervisão humana se torna cada vez mais superficial.

Uma das principais consequências desse fenômeno é a redução da vigilância cognitiva. Os operadores deixam de monitorar ativamente o funcionamento do sistema e passam a aceitar suas recomendações sem análise crítica. Nessa situação, erros que poderiam ser facilmente identificados por um observador atento acabam passando despercebidos. Além disso, quando informações externas contradizem a decisão automatizada, existe uma tendência de desconsiderar essas evidências em favor daquilo que a máquina indicou.

O viés de automação pode se manifestar de duas formas principais. A primeira ocorre quando uma pessoa segue uma recomendação incorreta fornecida pelo sistema, mesmo possuindo informações suficientes para questioná-la. A segunda acontece quando ela deixa de agir porque o sistema não sinalizou um problema, assumindo que a ausência de alertas significa que tudo está funcionando normalmente. Em ambos os casos, a confiança excessiva na automação substitui o julgamento humano.

Esse fenômeno pode ser observado em diversos contextos. Na aviação, pilotos que dependem excessivamente do piloto automático podem demorar a perceber falhas ou situações inesperadas. Na medicina, profissionais de saúde podem aceitar diagnósticos gerados por softwares sem realizar uma avaliação independente dos dados clínicos. No trânsito, motoristas que utilizam sistemas avançados de assistência à condução podem reduzir sua atenção à estrada, acreditando que o veículo é capaz de lidar sozinho com qualquer situação. Da mesma forma, em ambientes corporativos, gestores podem tomar decisões baseadas exclusivamente em análises algorítmicas, ignorando fatores contextuais que não foram capturados pelo sistema.

O avanço da inteligência artificial torna esse tema ainda mais relevante. Modelos de IA frequentemente produzem respostas convincentes e bem estruturadas, o que pode gerar uma falsa impressão de precisão absoluta. Entretanto, esses sistemas continuam sujeitos a erros, limitações dos dados utilizados, vieses incorporados durante o treinamento e interpretações equivocadas de situações complexas. Quando usuários assumem que uma IA está sempre correta, aumenta o risco de decisões inadequadas, especialmente em áreas de alto impacto social, econômico ou humano.

Por essa razão, especialistas defendem o princípio da supervisão humana significativa (meaningful human oversight). Nesse modelo, a automação deve ampliar as capacidades humanas, e não substituí-las completamente. O papel do usuário deixa de ser apenas executar recomendações e passa a envolver verificação, validação e questionamento constante dos resultados apresentados pelo sistema.

Em síntese, a automação complacente não é um problema causado pela tecnologia em si, mas pela forma como os seres humanos se relacionam com ela. Quanto mais eficientes e sofisticados os sistemas automatizados se tornam, maior é o risco de que seus usuários relaxem os mecanismos de controle e pensamento crítico. O desafio contemporâneo consiste em equilibrar confiança e ceticismo, aproveitando os benefícios da automação sem abdicar da responsabilidade humana sobre as decisões finais.

8. Considerações Finais: O Paradoxo de Jevons e o Futuro do Trabalho Jurídico

A análise prospectiva da automação jurídica evoca o Paradoxo de Jevons, princípio clássico da ciência econômica que preconiza que o aumento na eficiência do consumo de um recurso correlaciona-se não à diminuição, mas ao incremento do seu consumo global. Ao contrair exponencialmente os custos de transação, o tempo despendido na elaboração de pesquisas e a redação de minutas preliminares, a inteligência artificial generativa não extinguirá o trabalho dos advogados; pelo contrário, viabilizará a absorção de demandas reprimidas no mercado (o chamado latent market), ampliando o acesso à justiça para estratos populacionais e microempresas historicamente alijados do suporte advocatício tradicional.

Esta transição metodológica impõe uma reformulação radical no plano pedagógico das instituições de ensino superior e no modelo de negócios dos escritórios de advocacia. A tradicional precificação baseada estritamente em horas faturáveis (billable hours) tende à obsolescência acelerada, sendo progressivamente substituída por modelos de honorários fixos ou de êxito (fixed fee / success fee) indexados à eficiência tecnológica e ao valor estratégico entregue.

Conclui-se que a Inteligência Artificial Generativa inaugura uma transformação paradigmática no Direito. Seu impacto definitivo não reside na substituição do profissional, mas na ampliação de suas capacidades cognitivas e operacionais. Desaparece o profissional focado no trabalho bruto, mecânico e repetitivo da triagem documental; emerge o jurista de alta performance, cujo valor central reside no elo final e insubstituível da cadeia de valor: o juízo prudencial, a sensibilidade ética, a estratégia macrojurídica e a persuasão humanizada perante os tribunais.

Referências Bibliográficas

• BRASIL. Lei nº 8.906, de 4 de julho de 1994. Dispõe sobre o Estatuto da Advocacia e a Ordem dos Advogados do Brasil (OAB).
• BRASIL. Lei nº 13.105, de 16 de março de 2015. Código de Processo Civil.
• CONSELHO FEDERAL DA OAB. Código de Ética e Disciplina da Ordem dos Advogados do Brasil.
• GOLDMAN SACHS. The Potentially Large Effects of Artificial Intelligence on Economic Growth. Global Economics Analyst, 2023.
• LEWIS, Patrick et al. Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks. NeurIPS, 2020.
• UNITED STATES DISTRICT COURT FOR THE SOUTHERN DISTRICT OF NEW YORK. Mata v. Avianca, Inc., No. 1:22-cv-01461 (S.D.N.Y. June 22, 2023).
• WALTERS, Ed. Practical AI for Lawyers: Hands On Tools for Daily Practice. Justia Webinars / vLex, 2023.