Inteligência Artificial e Democracia: O direito de resistir à otimização

Audrey Tang, The Humanist Review of AI (15/07/2026)

Quando questionam se a IA ameaça o humanismo, muitas vezes parece tarde demais. A ameaça mais séria surgiu antes, quando sistemas digitais aprenderam a gerenciar a atenção em larga escala. Antes de modelos generativos escreverem ensaios, comporem músicas ou simularem conversas, muitos já estavam sendo treinados para se comportarem como componentes em sistemas de classificação: sempre visíveis, reativos, mensuráveis. Quando a fluência sintética surgiu, uma transformação mais sutil já estava em andamento. Estávamos nos tornando mais fáceis de avaliar.

A questão fundamental deste século não é se as máquinas se tornarão mais humanas. É se os humanos ainda terão permissão para serem mais do que algo facilmente avaliado pelas máquinas.

Já testemunhei ambas as possibilidades. Por um lado, um modelo de linguagem pode auxiliar a iniciar uma conversa que de outra forma seria impossível. Antes de me reunir com um pensador japonês, com cuja obra mais recente não conseguia interagir no original, utilizei a IA para criar um vocabulário funcional que abrangesse nossas distintas tradições filosóficas. O sistema não substituiu o encontro. Ele o possibilitou. Assim que a conversa iniciou, a importância do modelo foi diminuindo. Ele desempenhou bem seu papel justamente por não precisar mais estar em destaque.

Por outro lado, todos já experienciamos sistemas que fazem o oposto. Eles não aprofundam a compreensão. Eles treinam indivíduos a viverem conforme o ritmo do feed, a se ajustarem ao que é mais legível para a plataforma e a confundirem reação constante com participação. A questão não é se a IA irá falar como nós. É se as instituições nos recompensarão por nos expressarmos como máquinas.

Nossa carência não está na satisfação, mas sim na compreensão mútua. Um futuro tecnológico humanizado não será garantido pelo sentimentalismo, nem por uma defesa nostálgica de cada tarefa que o software agora pode acelerar. Dependerá de nossa habilidade em conceber ferramentas, instituições e normas que protejam o que é distintamente humano na vida pública: a capacidade de interpretar uns aos outros apesar das diferenças, de assumir compromissos que nos conectem ao longo do tempo, de nos reinventarmos sem constrangimento, de responsabilizar o poder e de nos preocuparmos com as consequências que nenhum parâmetro consegue capturar completamente.

Nem tudo que merece ser preservado é manual.

Uma reação comum à IA é defender o ser humano defendendo cada tarefa humana. Se um modelo pode redigir uma carta, talvez a dignidade resida em redigir cada frase sem auxílio. Se um modelo pode resumir um livro, talvez a autenticidade exija que cada página seja processada diretamente. Se um modelo pode compor música, talvez a única resposta honrosa seja a pureza artesanal.

Compreendo esse instinto. Ele surge de um receio justificado de que a automação possa diminuir o significado da vida. Mas não penso que o humanismo se reduza à preservação do trabalho manual. Muitas tarefas humanas não são sagradas em si mesmas. Elas servem para algo mais importante.

A linha divisória crucial não está entre produção assistida e não assistida. Está entre expressão e obrigação. Um modelo pode me auxiliar a encontrar palavras, mas não pode garantir a promessa que essas palavras carregam. Um sistema pode me ajudar a me preparar para uma conversa, mas não pode assumir a responsabilidade pelo que decido dizer. Uma ferramenta pode tornar meus pensamentos mais claros em diferentes tradições culturais, mas a intenção, o compromisso e a responsabilidade devem permanecer humanos.

Essa distinção é significativa, pois nos possibilita abraçar tecnologias que ampliam nossos sentidos sem sacrificar o trabalho moral da presença. Óculos, legendas, mapas, aparelhos auditivos, ferramentas de tradução e mecanismos de busca ampliam nossas capacidades. Tornam o mundo mais acessível. Não nos tornam menos humanos ao utilizá-los. Tornam-nos mais capazes de compreender e ser compreendidos.

O mesmo se aplica aos sistemas de IA. Em minha experiência, os melhores usos deles não são aqueles que realizam uma vida em meu nome, mas sim aqueles que me tornam mais capaz de interagir bem com outra comunidade. Um bom sistema pode me ajudar a ouvir onde, de outra forma, só ouviria ruído, a descobrir um conceito em um idioma que ainda não conheço, ou a reformular uma conversa difícil de maneiras que preservem a dignidade de ambos os lados. Nestes casos, a ferramenta age menos como um substituto do eu e mais como uma prótese temporária para a inteligibilidade mútua.

Essa ambição é bastante diferente daquela implícita em grande parte da retórica atual sobre IA ativa. Um assistente que reserva um quarto ou organiza minha agenda pode ser útil. Um assistente que gradualmente se torna minha presença social, minha voz pública ou minha consciência substituta é algo completamente diferente. Quando as ferramentas deixam de ampliar nossa participação e começam a substituí-la, elas também começam a reformular os padrões pelos quais a própria participação é avaliada.

Neste ponto, as pessoas se adaptam ao proxy. Aprendem a escrever de forma legível para máquinas, a estruturar o trabalho para facilitar a compreensão do modelo, a otimizar a expressão emocional para a assimilação algorítmica. Os seres humanos não apenas usam o sistema. Eles começam a se organizar em torno do que o sistema consegue processar. Este é o verdadeiro perigo da desumanização: a conformidade humana à legibilidade da máquina.

Do eu autônomo à pessoa relacional

Durante vários séculos, grande parte do pensamento humanista enfatizou a autonomia do indivíduo. Esta tradição nos legou direitos, liberdades, consciência, liberdade de expressão e dignidade da pessoa contra o poder arbitrário. Não devemos abrir mão dessas proteções inestimáveis.

Mas a era da IA ​​está revelando, com uma clareza incomum, algo que a modernidade industrial muitas vezes obscureceu. Não somos apenas indivíduos autônomos; nos tornamos quem somos por meio de redes de cuidado, linguagem, confiança, conflito e reconhecimento. Uma pessoa não é simplesmente um recipiente de preferências. Uma pessoa também é um padrão de resposta.

Isso é importante porque muitas atividades antes consideradas essenciais para a inteligência agora são automatizadas. Seguir regras, fluência superficial, imitação estilística, completar padrões e realizar testes estão cada vez mais disponíveis como ferramentas. Quando isso acontece, as capacidades humanas mais importantes se tornam mais fáceis de perceber, e não mais difíceis.

O futuro de um estudante não deve depender de superar uma calculadora em cálculos ou um modelo em frases padronizadas. A dignidade de um trabalhador não deve depender de digitar cada frase administrativa à mão. O valor de um cidadão não deve ser medido pela precisão com que seu comportamento se alinha às premissas de um sistema de recomendação. O que permanece distintamente humano não é o resultado bruto. É a maneira como direcionamos a atenção, colaboramos, exercemos discernimento em situações de incerteza e nos importamos com um mundo compartilhado.

Costumo pensar nessas capacidades não como virtudes privadas, mas como relacionais. A curiosidade não é meramente um desejo interno de saber. É uma forma de abordar outra pessoa ou um problema sem reduzi-lo precipitadamente. A colaboração é mais do que trabalho em equipe no sentido corporativo. É a habilidade praticada de alterar o próprio plano em resposta a outras inteligências. O cuidado cívico com o bem comum não é altruísmo abstrato. É a disposição de expandir o círculo de consequências para além do ganho imediato.

Nenhuma dessas qualidades é bem descrita pela linguagem da otimização. Na verdade, elas costumam ser prejudicadas por ela. Uma pessoa obcecada em maximizar uma métrica torna-se menos curiosa, porque a curiosidade exige ir além do que a métrica recompensa. Ela torna-se menos colaborativa, porque a colaboração muda o ritmo e redistribui o crédito. Ela torna-se menos engajada civicamente, porque os bens públicos raramente rendem o melhor resultado a curto prazo.

Por isso, a questão educacional pós-IA não é “O que os humanos ainda conseguem fazer melhor do que as máquinas?”. Essa pergunta tem vida curta. A pergunta mais pertinente é: “Que formas de se tornar humano a educação deve cultivar quando muitas formas de desempenho podem ser automatizadas?”. Minha resposta é que a educação deve deixar de se concentrar em classificar resultados conformistas e passar a cultivar a coragem interpretativa, a amplitude da colaboração, a imaginação ética e a capacidade de participar da revisão sem perder a dignidade.

A democracia, em sua melhor forma, já ensina algo disso. É a tecnologia social pela qual uma sociedade resiste à tentação de se resolver de uma vez por todas. Ela oferece às pessoas mecanismos para mudar de rumo sem ruptura civil. Nesse sentido, a democracia não se opõe à tecnologia. Ela própria é uma das tecnologias mais importantes da humanidade: um método para manter a vida coletiva passível de correção.

A inteligência não é o problema, é a alimentação.

Quando as pessoas se preocupam hoje com intimidade sintética, enxames de bots e persuasão em larga escala, muitas vezes descrevem esses problemas como se fossem patologias totalmente novas. Não são. A IA generativa intensifica uma crise cuja arquitetura foi construída anteriormente.

A principal patologia da última década online não foi a abundância de conteúdo. Foi a extração de atenção por meio de rankings. O feed recompensava tudo o que fosse mais explosivo, performático, propenso a desencadear um contágio emocional rápido. A raiva revelou-se uma fonte barata de energia. A sutileza era lenta demais. O contexto se propagava mal. A correção quase sempre chegava depois que a afiliação já estava consolidada.

Em um ambiente assim, a informação torna-se menos importante do que o ritmo. As pessoas não adotam crenças apenas porque as evidências são convincentes. Elas as adotam porque a engrenagem social em torno dessas crenças se move mais rápido do que a reflexão consegue acompanhar. Quando um boato é contestado, uma identidade de grupo já pode ter se formado em torno dele. É aqui que a IA pode piorar muito as coisas. Ela pode gerar conteúdo persuasivo em grande volume, manipular sinais emocionais, simular consenso e inundar todos os canais com certeza sintética. Se implementada dentro da lógica antiga do feed, transformará a polarização existente em um motor perpétuo para a cisão.

Mas a IA também pode ser usada para contrariar essa lógica. Ela pode fazer anotações antes que a indignação se cristalize. Pode servir de tradução entre comunidades onde as linguagens morais divergem, mesmo quando as expectativas práticas coincidem. Pode ajudar a identificar dúvidas comuns antes que o conflito seja erroneamente interpretado como incompatibilidade civilizacional. Pode resumir uma discussão antes que as pessoas publiquem e tomem partido. Pode ajudar uma pessoa a responder à hostilidade sem ter que processar cada insulto individualmente.

Descobri que este último uso é surpreendentemente importante. Na vida pública, frequentemente recebemos mensagens repletas de desprezo, projeção ou ansiedade. Lê-las diretamente pode consumir muita energia emocional. Um modelo de linguagem, usado com cuidado, pode identificar as poucas frases em meio à hostilidade que ainda contêm uma preocupação genuína, um mal-entendido que merece esclarecimento ou uma dor disfarçada de ataque. Assim, o ser humano pode responder a essa parte menor e mais viável.

A máquina não reconcilia. A máquina não perdoa. Ela não cria amizades. Mas pode reduzir a quantidade de veneno que alguém precisa ingerir antes de decidir se um relacionamento ainda é recuperável. Nesse sentido, a IA pode, por vezes, servir tanto como um amplificador de conflitos quanto como uma membrana que permite a passagem do significado, ao mesmo tempo que diminui a toxicidade.

Se levarmos o humanismo a sério, é nessa direção que a IA de interesse público deve se desenvolver. Precisamos de infraestruturas de escuta, não apenas de geração. Precisamos de sistemas cívicos que aumentem a capacidade interpretativa, não apenas a expressiva. O teste não deve ser a quantidade de conteúdo que um modelo consegue produzir em um minuto. O teste deve ser se ele permite que o público compreenda melhor as divergências sem transformá-las em inimizade.

A verdade após a fotografia

Uma das razões pelas quais essas questões parecem tão urgentes é que a antiga relação entre imagens e verdade está se desfazendo. Por mais de um século, muitas sociedades trataram a fotografia como uma forma privilegiada de evidência. Uma imagem não era infalível, mas recebia um status epistêmico especial. Parecia capturar a realidade diretamente.

A cultura digital já enfraqueceu essa premissa. Os modelos generativos a dissolveram. Imagens, vozes e vídeos podem ser sintetizados de forma convincente. A superfície por si só já não basta.

Muitas pessoas interpretam isso como se a própria verdade estivesse entrando em crise terminal. Eu discordo. O que está ruindo não é a verdade em si, mas um atalho específico para a verdade. Estamos sendo forçados a redescobrir algo mais antigo e, a longo prazo, mais robusto: que a verdade pública sempre dependeu de representação, proveniência, procedimento, corroboração e da capacidade de contestação.

Mesmo antes dos deepfakes, os tribunais não decidiam um caso analisando uma imagem isoladamente. Questionavam quem a produziu, sob qual cadeia de custódia, em relação a quais depoimentos e sujeita a quais contestações. O jornalismo, em sua melhor forma, funciona de maneira semelhante. A ciência, certamente, também. A responsabilidade democrática também. A questão não é se uma imagem parece real. A questão é se existe um processo transparente pelo qual as alegações possam ser examinadas e revisadas.

Isso sugere uma epistemologia digital mais madura. Nos próximos anos, a distinção mais importante não será entre artefatos naturais e sintéticos, como se a realidade intocada e a mídia gerada ocupassem mundos separados. A distinção importante será entre mediação responsável e irresponsável.

Quem se responsabiliza por uma alegação? Qual comunidade, instituição ou signatário assume a responsabilidade por ela? Como outros podem inspecioná-la, contestá-la ou contextualizá-la? O sistema consegue registrar a dissidência sem torná-la invisível?

Em uma sociedade democrática, a verdade nunca significou uma única voz vinda do nada. Significa que diferentes comunidades podem trocar