Inteligência artificial, erosão democrática e os limites do progresso humano
A discussão sobre inteligência artificial geral (AGI), consciência e criatividade computacional suscita uma questão que ultrapassa os limites da filosofia da mente: o desenvolvimento da inteligência é suficiente para assegurar o progresso moral e político da humanidade?
A distinção entre simular capacidades cognitivas e possuir subjetividade revela uma dificuldade filosófica ainda não resolvida, mas também oferece uma analogia importante para compreender a própria sociedade. Uma máquina pode executar operações extraordinariamente complexas sem que isso, por si só, demonstre a existência de experiência subjetiva; de maneira semelhante, uma sociedade pode acumular conhecimento científico, desenvolver tecnologias sofisticadas e aperfeiçoar seus instrumentos de comunicação sem se tornar necessariamente mais justa, prudente ou democrática. O progresso cognitivo não produz automaticamente progresso moral. A inteligência amplia nossas possibilidades de intervenção no mundo, mas não determina os fins para os quais empregaremos esse poder.
É nesse ponto que o otimismo iluminista encontra tanto sua força quanto seus limites. A confiança na razão, na ciência, na crítica racional e na capacidade humana de solucionar problemas constitui uma das mais importantes conquistas da modernidade. Não se trata de acreditar ingenuamente que a história avança de maneira inevitável, mas de reconhecer que problemas antes considerados insolúveis puderam ser enfrentados mediante conhecimento, experimentação, cooperação e aperfeiçoamento institucional. Entretanto, a razão também pode ser instrumentalizada: indivíduos inteligentes podem racionalizar preconceitos, instituições sofisticadas podem servir à concentração de poder e tecnologias avançadas podem ampliar a capacidade de vigilância, manipulação e destruição. A questão decisiva, portanto, não é apenas se seremos capazes de produzir sistemas mais inteligentes, mas se conseguiremos desenvolver mecanismos políticos, jurídicos e éticos proporcionais ao poder que estamos adquirindo. O risco não reside exclusivamente na possibilidade de uma inteligência artificial escapar ao controle humano; reside também na possibilidade de seres humanos utilizarem tecnologias extraordinárias sem controles democráticos adequados, responsabilidade institucional ou compromisso com o interesse público.
Essa contradição manifesta-se com especial intensidade na geopolítica contemporânea. A instabilidade das relações internacionais, a guerra de agressão russa contra a Ucrânia, as tensões envolvendo as grandes potências e o enfraquecimento de compromissos multilaterais demonstram que a interdependência econômica e o avanço tecnológico não eliminaram a política de poder. Tampouco a existência de instituições internacionais impede, por si só, que Estados poderosos violem normas ou instrumentalizem a ordem jurídica em benefício de seus interesses. A experiência histórica recomenda, assim, cautela diante de qualquer determinismo otimista: instituições não se preservam automaticamente, tratados não se executam por força de sua excelência normativa e a liberdade não sobrevive apenas porque seus benefícios podem ser demonstrados racionalmente. A democracia depende de cidadãos dispostos a defendê-la, de autoridades submetidas a limites efetivos e de mecanismos capazes de impor consequências a quem abusa do poder. A razão pública é indispensável, mas precisa encontrar expressão em estruturas institucionais resistentes à captura, à intimidação e à corrupção.
No Brasil, esse problema assume uma dimensão particularmente relevante quando a representação política se distancia da deliberação orientada pelo interesse público e passa a operar segundo incentivos de autopreservação eleitoral, distribuição de recursos, favorecimento de grupos organizados e exploração estratégica de identidades religiosas, ideológicas ou corporativas. A existência de bancadas temáticas, por si só, não caracteriza uma patologia democrática: em uma democracia pluralista, diferentes grupos têm o direito de organizar-se e defender suas convicções. O problema surge quando interesses particulares deixam de se submeter às exigências de transparência, impessoalidade, igualdade política e responsabilidade pública, ou quando a mobilização de identidades se converte em instrumento para deslegitimar adversários, enfraquecer controles institucionais e obstruir a fiscalização. A erosão democrática raramente exige a abolição imediata das eleições. Pode ocorrer gradualmente, por meio da deterioração dos padrões de integridade, da normalização de conflitos de interesses, da desinformação sistemática e da transformação das instituições em instrumentos de proteção de seus próprios ocupantes. Nesse ambiente, a polarização deixa de representar uma divergência legítima sobre políticas públicas e passa a funcionar como mecanismo de imunização contra a crítica: os erros dos aliados são relativizados, os adversários são tratados como inimigos e os fatos tornam-se subordinados à lealdade grupal.
Como escapar dessa armadilha? Não basta recomendar mais racionalidade a uma sociedade cujos incentivos políticos, econômicos e tecnológicos frequentemente recompensam o comportamento oposto. É necessário construir condições para que a racionalidade tenha consequências práticas. Isso pressupõe educação voltada ao pensamento crítico, imprensa livre, proteção ao pluralismo, transparência na utilização de recursos públicos, integridade eleitoral, independência dos órgãos de controle e responsabilização efetiva por ilícitos. Exige, igualmente, uma sociedade civil capaz de transformar indignação episódica em organização persistente, fiscalização documentada e propostas institucionais concretas. A pressão pública torna-se mais eficaz quando ultrapassa a lógica das torcidas políticas e estabelece parâmetros universais de avaliação: uma conduta não se torna aceitável porque beneficia o grupo com o qual nos identificamos, assim como uma violação institucional não se torna irrelevante porque foi praticada por uma autoridade de nossa preferência. O desafio brasileiro não consiste simplesmente em substituir determinados representantes por outros, mas em alterar os incentivos que permitem a reprodução de práticas incompatíveis com a responsabilidade republicana. Sem essa transformação, a alternância eleitoral pode modificar os ocupantes do poder sem modificar os mecanismos que produzem os abusos.
A resposta à pergunta que dá título a este artigo exige, portanto, uma distinção fundamental. A razão não nos salvará por uma espécie de automatismo histórico; poderá contribuir para nossa salvação política e civilizatória se for convertida em método de investigação, princípio de responsabilidade e fundamento de instituições controláveis. O otimismo racional é defensável não porque o progresso esteja garantido, mas porque a possibilidade de corrigir erros permanece aberta enquanto houver liberdade para questionar autoridades, revisar crenças, produzir conhecimento e organizar a resistência democrática. A sociedade civil brasileira possui instrumentos para desempenhar esse papel, mas sua eficácia depende de superar a fragmentação, construir agendas comuns e sustentar a cobrança pública para além dos ciclos eleitorais. Diante da inteligência artificial, da concentração de poder e da instabilidade geopolítica, a tarefa mais urgente não é escolher entre otimismo e pessimismo, mas recusar tanto a complacência de quem presume que o progresso resolverá tudo quanto o fatalismo de quem considera inútil qualquer tentativa de transformação. A razão não é uma garantia contra a barbárie: é uma das ferramentas com que podemos reconhecê-la, enfrentá-la e impedir que se torne inevitável.
Em resumo, o problema contemporâneo não é simplesmente a escassez de inteligência, mas a insuficiência dos mecanismos que convertem inteligência em responsabilidade, conhecimento em decisões justificáveis e poder em autoridade legitimamente limitada. A razão é indispensável, mas precisa de instituições democráticas, integridade moral e mobilização social para produzir efeitos concretos.
A consequência mais importante é esta: não podemos esperar que a razão prevaleça espontaneamente; precisamos organizar a sociedade para que a verdade possa ser demonstrada, o poder possa ser fiscalizado e os abusos possam ser efetivamente responsabilizados.
A transformação da razão pública em instituições capazes de limitar a captura do Estado exige superar uma das principais ilusões do pensamento político: a de que a demonstração racional de que determinada conduta é injusta, corrupta ou antidemocrática será suficiente para impedir sua prática. O problema fundamental não é apenas convencer as pessoas sobre o que é correto, mas construir uma ordem institucional na qual o exercício abusivo do poder encontre obstáculos, a integridade seja incentivada, a transgressão produza consequências e os cidadãos disponham de instrumentos efetivos para controlar seus representantes.
Essa questão pode ser examinada a partir de cinco dimensões complementares.
- Da razão pública à arquitetura institucional
A razão pública pressupõe que decisões coletivamente vinculantes possam ser justificadas mediante argumentos suscetíveis de escrutínio, crítica e contestação. Em uma democracia constitucional, o governante não pode considerar sua vontade pessoal, sua popularidade eleitoral ou a força de sua coalizão fundamentos suficientes para exercer o poder sem limites. Suas decisões devem respeitar a Constituição, os direitos fundamentais e as competências legalmente estabelecidas.
Entretanto, a justificação racional somente adquire eficácia política quando se converte em procedimentos obrigatórios. A publicidade dos atos administrativos, a motivação das decisões, a transparência orçamentária, a realização de consultas públicas, a fiscalização independente e o controle jurisdicional são exemplos de mecanismos que submetem o exercício do poder a exigências verificáveis.
A contribuição de Jürgen Habermas é especialmente relevante nesse contexto: a legitimidade democrática não se reduz à vitória eleitoral, pois depende também da possibilidade de os cidadãos participarem da formação da vontade política em condições compatíveis com a liberdade e a igualdade. A deliberação pública, contudo, não substitui as garantias jurídicas. Uma maioria pode decidir de maneira irracional, discriminatória ou autoritária. Por isso, a democracia constitucional exige tanto procedimentos de formação legítima da vontade coletiva quanto limites materiais ao que o poder pode fazer.
A primeira transformação necessária consiste, portanto, em converter princípios abstratos de racionalidade, publicidade e justificação em deveres institucionais exigíveis, acompanhados de mecanismos independentes de fiscalização e correção.
2. Alterar os incentivos que favorecem a captura do Estado
A captura institucional não depende necessariamente de conspirações coordenadas ou de agentes abertamente corruptos. Pode resultar de incentivos que tornam vantajoso utilizar competências públicas em benefício de interesses particulares, proteger aliados, distribuir recursos sem critérios transparentes ou enfraquecer órgãos fiscalizadores.
O problema precisa ser enfrentado também no plano da economia política. Quando os benefícios de uma decisão são concentrados em um grupo organizado, enquanto seus custos são distribuídos por milhões de cidadãos, os beneficiários possuem incentivos maiores para pressionar os agentes públicos. A sociedade, por sua vez, enfrenta custos individuais de informação e mobilização que dificultam uma reação proporcional. Essa assimetria ajuda a explicar por que interesses particulares bem organizados podem prevalecer mesmo em sistemas formalmente democráticos.
A resposta exige modificar as regras que estruturam essas relações. Isso compreende transparência sobre reuniões entre autoridades e representantes de interesses privados, divulgação dos critérios de distribuição de recursos públicos, rastreabilidade das emendas parlamentares, identificação dos beneficiários finais de contratos, gestão efetiva de conflitos de interesses, proteção a denunciantes e auditorias independentes baseadas em riscos.
Também é necessário assegurar que a responsabilização alcance os envolvidos de acordo com suas condutas e com as garantias do devido processo legal. Sanções previsíveis, proporcionais e efetivamente aplicadas tendem a ser mais importantes para a dissuasão do que penas severas anunciadas publicamente, mas aplicadas de maneira seletiva.
O ponto central é que a integridade não pode depender exclusivamente da virtude pessoal dos governantes. Sistemas bem desenhados devem reduzir oportunidades de abuso, tornar irregularidades detectáveis e impedir que os responsáveis controlem os mecanismos encarregados de investigá-los.
3. Proteger as instituições contra a captura e os impulsos autoritários
Uma democracia não se encontra protegida apenas porque possui Constituição escrita, eleições periódicas e tribunais formalmente independentes. Ela depende da preservação de uma estrutura de controles recíprocos que impeça a concentração arbitrária de poder.
A tradição constitucional de James Madison oferece uma contribuição decisiva: como não se pode presumir que os agentes públicos sejam sempre virtuosos, a organização do Estado deve criar mecanismos pelos quais o próprio poder contenha o poder. Essa premissa não implica desconfiança absoluta das instituições, mas reconhecimento realista de que a autoridade precisa ser acompanhada de controles.
Na prática, isso significa preservar a independência funcional dos órgãos de controle, impedir interferências arbitrárias nas investigações, estabelecer critérios objetivos para nomeações públicas, fortalecer a transparência dos processos decisórios e garantir que os órgãos fiscalizadores também estejam sujeitos à lei e à prestação de contas.
Há, entretanto, uma dificuldade adicional: os próprios mecanismos de controle podem ser capturados ou utilizados seletivamente para perseguir adversários. Por isso, a independência institucional precisa ser acompanhada de fundamentação pública, procedimentos imparciais, revisão adequada das decisões e responsabilização por abusos.
A proteção democrática tampouco pode justificar poderes ilimitados em nome da defesa da própria democracia. Medidas excepcionais, restrições de direitos e intervenções estatais devem obedecer à Constituição, à legalidade, à necessidade e à proporcionalidade.
O objetivo não é substituir a vontade arbitrária de um governante pela vontade arbitrária de uma autoridade fiscalizadora. É construir uma ordem em que nenhum agente público, por mais poderoso, popular ou bem-intencionado que seja, esteja autorizado a colocar sua própria vontade acima do direito.
4. Reconstruir a sociedade civil como força permanente de fiscalização
Nenhuma arquitetura institucional permanece íntegra indefinidamente se a sociedade deixa de acompanhar seu funcionamento. A democracia depende não apenas de representantes eleitos, mas também de cidadãos capazes de fiscalizar, questionar e contestar o exercício do poder.
Isso exige superar uma forma de participação política predominantemente emocional e episódica, marcada por mobilizações intensas durante crises e por períodos prolongados de desatenção entre elas. A indignação pode iniciar um processo de transformação, mas raramente é suficiente para sustentá-lo. Para produzir resultados, precisa converter-se em organização, informação verificável, objetivos delimitados e acompanhamento contínuo.
No Brasil, essa transformação pode ocorrer por meio de organizações da sociedade civil, associações profissionais, universidades, entidades de fiscalização, imprensa independente, observatórios de políticas públicas e iniciativas de educação cívica. Esses atores podem monitorar contratos, examinar despesas, acompanhar votações, avaliar indicadores de integridade e cobrar explicações documentadas de representantes e gestores.
A atuação cidadã também precisa ultrapassar a lógica da identificação partidária. Um sistema de fiscalização perde credibilidade quando denuncia irregularidades dos adversários e silencia diante das mesmas práticas cometidas por aliados. A consistência democrática exige critérios universais de avaliação, aplicados independentemente da identidade política dos envolvidos.
É igualmente importante reconhecer que a sociedade civil não constitui, por definição, um espaço imune à desinformação, ao autoritarismo ou à manipulação. Organizações privadas também podem concentrar poder, ocultar interesses ou difundir informações falsas. Sua contribuição democrática depende, portanto, de transparência, pluralismo, responsabilidade e abertura à crítica.
A questão decisiva não é simplesmente saber se a sociedade brasileira está indignada, mas se consegue organizar essa indignação em mecanismos duradouros de controle social.
5. CRIAR UMA CULTURA PÚBLICA DE EVIDÊNCIAS E RESPONSABILIDADE
A captura do Estado é favorecida quando a opinião substitui a evidência, a lealdade política prevalece sobre a avaliação dos fatos e a repetição de uma afirmação passa a valer como demonstração de sua veracidade.
Nesse ambiente, a educação democrática deve ir além da transmissão de informações sobre a Constituição e o funcionamento dos poderes. Precisa desenvolver a capacidade de distinguir fatos de interpretações, identificar conflitos de interesses, avaliar a qualidade das evidências, reconhecer incertezas e revisar posições diante de argumentos melhores.
Essa competência é especialmente importante em uma sociedade na qual sistemas digitais podem ampliar a circulação de conteúdos manipuladores e recompensar mensagens que provocam indignação. A resposta, entretanto, não deve consistir em atribuir a autoridades estatais o poder irrestrito de determinar quais opiniões podem circular. O enfrentamento da desinformação precisa respeitar a liberdade de expressão, a pluralidade e as garantias contra a censura arbitrária.
A solução institucional passa pela transparência sobre a publicidade política, pela identificação de conteúdos patrocinados, pela responsabilização juridicamente fundamentada por ilícitos, pela independência jornalística e pelo acesso a informações públicas confiáveis.
A cultura de evidências também deve alcançar o próprio Estado. Políticas públicas precisam ser avaliadas por critérios explícitos, resultados verificáveis e procedimentos de revisão. Decisões malsucedidas devem poder ser corrigidas sem que toda revisão seja tratada como derrota política. A disposição institucional para reconhecer erros é uma das manifestações mais importantes da racionalidade aplicada ao governo.
Uma democracia racionalmente organizada não é aquela em que todos concordam, mas aquela em que o desacordo pode ser processado sem violência, as decisões podem ser contestadas e os erros podem ser corrigidos.
Conclusão: transformar a razão em poder de controle
A questão fundamental pode ser sintetizada em uma proposição: a razão pública somente se torna uma força efetiva de contenção do autoritarismo quando deixa de depender da boa vontade dos governantes e passa a integrar as regras que organizam, limitam e fiscalizam o exercício do poder.
Essa transformação requer uma combinação de mecanismos complementares: normas claras, incentivos adequados, órgãos de controle independentes, transparência, responsabilização imparcial, educação crítica e participação cidadã permanente. Nenhum desses elementos é suficiente isoladamente. A transparência sem fiscalização pode apenas tornar visível o abuso; a fiscalização sem independência pode proteger os poderosos; a participação sem informação pode ser manipulada; e a legislação sem aplicação efetiva pode converter-se em promessa retórica.
Há, ainda, uma condição frequentemente negligenciada: as instituições democráticas precisam ser capazes de corrigir seus próprios defeitos sem depender de rupturas autoritárias. A legitimidade de uma ordem constitucional não deriva da inexistência de erros, mas de sua capacidade de identificá-los, processá-los e corrigi-los dentro de procedimentos juridicamente legítimos.
A sociedade civil brasileira, por conseguinte, não precisa esperar por uma transformação moral generalizada para começar a agir. Pode exigir transparência, acompanhar decisões, apoiar o jornalismo independente, fortalecer organizações fiscalizadoras, cobrar critérios objetivos para a utilização de recursos públicos e defender a aplicação imparcial das leis. Essas ações não eliminam as disputas políticas, mas podem alterar as condições em que elas ocorrem.
O otimismo racional defendido por pensadores do Iluminismo permanece relevante precisamente porque não exige acreditar na inevitabilidade do progresso. Exige reconhecer que instituições podem ser aperfeiçoadas, incentivos podem ser modificados e relações de poder podem ser submetidas a controles mais eficazes.
A razão não governa por si mesma. Ela precisa adquirir forma jurídica, sustentação social e eficácia institucional. A verdadeira questão, portanto, não é se a razão vencerá o autoritarismo por sua superioridade intelectual, mas se seremos capazes de construir instituições nas quais o poder não possa neutralizar impunemente a crítica, capturar os controles ou transformar interesses particulares em vontade pública.
É nessa passagem — da razão como ideal à razão como estrutura efetiva de limitação do poder — que se encontra uma das tarefas centrais da democracia contemporânea.