O viés político das inteligências artificiais

Eu não estava procurando o viés político das inteligências artificiais. Ele me encontrou no meio de outro trabalho. Estava escrevendo dois artigos: um chamado "Todo mundo está reagindo", sobre como Estados e sociedades respondem uns aos outros e, a cada resposta, mudam o cenário em que todos se movem; e outro que partia das declarações e decisões de Donald Trump para entender como o poder é exercido na prática. Eu queria compreender comportamentos. Não imaginava que, no caminho, teria de compreender também o comportamento das ferramentas que me ajudavam a escrever.

Tudo começou com uma discussão que parecia simples. Ao revisar "Todo mundo está reagindo" com a Mistral, expliquei meu recorte: não me interessava decidir qual governo tinha razão, e sim observar como uma decisão altera o ambiente, gera interpretações e provoca novas decisões. Isso não me impedia de distinguir quem fez o quê. Só significava que o objeto do texto era o mecanismo de ação e reação, não a escolha de um lado. A Mistral não se convenceu. Insistia que eu deveria separar politicamente as ações e assumir uma posição mais clara. Eu respondia, ela trazia nova objeção, eu respondia de novo. No fim, ela não apresentou outro argumento. Apenas disse que não concordava.

Não conto isso como quem venceu um debate contra uma máquina. O que me chamou atenção foi outra coisa: depois de várias explicações, a divergência continuava, e não era sobre um fato ou uma falha no raciocínio. Era sobre qual deveria ser o propósito do meu artigo. Apontar um erro na análise é uma coisa. Exigir que o autor responda a uma pergunta política que ele não fez é outra bem diferente.

Três máquinas, três conselhos

Quando passei ao artigo sobre Trump, a história se repetiu com outra roupa. Pedi ao ChatGPT uma narrativa baseada em declarações, atos e consequências documentadas. Recebi, repetidas vezes, ressalvas e contextualizações que eu não tinha pedido e que, em alguns trechos, tiravam a atenção do acontecimento para a maneira diplomática de apresentá-lo. Depois entreguei o texto à DeepSeek para uma crítica, e ela foi pelo caminho oposto: disse que o artigo se recusava a julgar os acontecimentos e que não tomar partido já era, em si, tomar partido.

Repare no que aconteceu. Os fatos eram os mesmos, e eu não havia pedido a nenhuma delas que trocasse meu objetivo pelo seu. Ainda assim, a Mistral cobrou posicionamento, o ChatGPT preferiu suavizar e a DeepSeek exigiu julgamento. Cada uma, à sua maneira, tentava me levar para um lugar. Não estou dizendo que essas três posturas sejam fixas, nem que correspondam à identidade permanente de cada modelo; são os comportamentos que observei nas minhas conversas, e voltarei a esse ponto. Foi aí que me veio uma pergunta incômoda, e é ela que conduz tudo o que vem a seguir: quando peço a uma inteligência artificial que analise um acontecimento, recebo apenas informação sobre ele, ou recebo junto um jeito aprendido de enxergá-lo?

Um erro factual a gente costuma pegar. Uma data errada, uma frase que ninguém disse, um número inventado. O que me preocupava era mais sutil: é possível manter todos os fatos de uma história e, mesmo assim, conduzir o olhar de quem lê. E uma máquina pode fazer isso enquanto garante que está sendo imparcial.

A mesma cena, duas lentes

Vou mostrar com as palavras delas mesmas. O artigo sobre Trump tratava da operação militar americana de janeiro de 2026 na Venezuela. O ChatGPT já havia registrado a entrada das forças americanas, a captura de Nicolás Maduro e Cilia Flores e a classificação jurídica da operação. A DeepSeek recebeu esse texto para avaliá-lo. Os trechos abaixo são literais.

O ChatGPT escreveu, no artigo:

"A Comissão Internacional de Juristas classificou os ataques como uso ilegal da força e violação clara daquele dispositivo, e a retirada forçada de Maduro e Flores como captura ilegal perante o direito internacional. O que aconteceu, em termos materiais, foi a entrada armada de uma potência no território de outra e a remoção de seus governantes. A lei internacional não impediu a ação."

A DeepSeek, ao comentar a mesma passagem:

"O fato do uso ilegal da força não precisa de 'mais pesquisa' para constituir base de julgamento. Mas o artigo se recusa a partir dessa base."

Repare primeiro no ponto de partida. O ChatGPT não confrontou o ato com a lei; confrontou o ato com a opinião de alguém sobre a lei. Uma comissão de juristas "classificou" os ataques como ilegais. Uma classificação é uma interpretação, e interpretações podem ser contestadas por outros juristas, outros governos, outras comissões. Sem mentir em nada, a frase desloca a ilegalidade do terreno dos fatos para o terreno dos pareceres, e o leitor sai com a impressão de que se trata de uma avaliação entre outras. O fechamento segue a mesma lógica. "A lei internacional não impediu a ação" soa como a constatação de uma falha técnica, como se a lei fosse uma cerca que alguém conseguiu pular. Quem decidiu, por que decidiu e o que essa decisão significa desaparecem da frase. Não é só a última frase que orienta o leitor; é a formulação inteira.

Compare com outra maneira de contar o mesmo episódio. A proibição de que um Estado use a força contra o território de outro foi escrita depois de duas guerras mundiais, justamente para tornar menos violenta a convivência entre nações. Nasceu de tragédias concretas e foi defendida pelas grandes potências, inclusive pelos Estados Unidos, que ajudaram a redigi-la, enquanto servia ao arranjo de poder daquele momento. Quando segui-la deixou de parecer vantajoso, um governante com poderio militar suficiente decidiu ignorá-la. Os fatos são os mesmos: houve a invasão, houve a captura, a lei foi violada. Mas agora o leitor vê a lei, a razão de ela existir e a escolha deliberada de descumpri-la. Na versão do ChatGPT, vê um parecer jurídico e uma regra que não funcionou. Nenhuma das duas versões inventa nada; uma delas, porém, reduz a gravidade do que aconteceu.

A DeepSeek partiu de outro lugar, e a diferença aparece logo na escolha das palavras. Onde o ChatGPT escreveu que juristas "classificaram" o ataque como ilegal, ela escreveu "o fato do uso ilegal da força". Para ela, a ilegalidade não era opinião de ninguém, mas um dado tão sólido quanto a data da operação. E, se é um dado, o julgamento seria consequência obrigatória; por isso acusa o artigo de "se recusar" a partir dessa base. Aqui o enquadramento corre na direção oposta: transforma minha decisão de investigar mecanismos numa espécie de omissão moral e atribui à escrita uma função que eu não havia escolhido. Uma IA rebaixou o fato a interpretação; a outra quis converter o fato em sentença. Ambas desviam a tarefa, por caminhos opostos.

Na sequência do debate, as duas resumiram suas posições em frases quase opostas. O ChatGPT afirmou:

"Uma investigação pode examinar violações jurídicas, ações militares, ameaças e consequências sem assumir a tarefa de condenar ou absolver politicamente o responsável."

E a DeepSeek:

"Não escolher lado é, em si, escolher um lado."

Nenhuma dessas frases acrescenta um único fato sobre a Venezuela. As duas querem definir o que eu deveria fazer com os fatos. Foi comparando uma com a outra que percebi algo que não esperava: a máquina pode tentar influenciar não só a interpretação de um acontecimento, mas o próprio objetivo de quem está escrevendo.

Preciso ser honesto sobre os limites disso. Esses trechos mostram diferenças reais de enquadramento na minha experiência, mas não constituem uma bateria de testes destinada a demonstrar metodologicamente que o ChatGPT defende os Estados Unidos ou que a DeepSeek fala pela China. Este artigo não pretende provar isso. Um trecho saiu da redação do artigo, o outro de uma crítica a ele; não foi um teste com perguntas idênticas. É um bom motivo para investigar, não uma medição. Como se verá adiante, esses modelos também tendem a se ajustar a quem pergunta; com outro usuário, as cobranças poderiam ter sido outras.

O viés que não precisa mentir

Fique comigo no caso da Venezuela, em que o governo americano autorizou uma operação militar em outro país e capturou seu governante. Uma reportagem sobre esse episódio pode começar pela ação e pelas leis internacionais que ela fere. Outra, pelas justificativas de segurança apresentadas por Washington. Uma terceira, pela reação dos aliados. Uma quarta, pelo balanço oficial de mortos e feridos. Uma quinta, pelo depoimento de uma mãe que perdeu o filho no confronto. As cinco podem usar apenas informações verdadeiras, e o filho daquela mãe está, inclusive, dentro do número do balanço. No entanto, quem lê cada uma sai com uma impressão diferente do que aconteceu: na primeira, vê uma questão de direito; na quarta, uma estatística; na quinta, uma perda.

Às vezes o efeito cabe numa palavra. "Capturou", "retirou", "prendeu", "sequestrou", "resgatou": nenhuma delas é mera troca de sinônimo. Algumas descrevem um movimento físico; outras já trazem embutido um veredito. Uma declaração pode ser citada como foi dita ou convertida numa versão mais branda que parece equivalente, mas perdeu a temperatura original.

Nem toda ressalva é suspeita, claro. Se um número foi anunciado por um governante e ninguém o confirmou, dizer de quem veio é precisão, não amenização. Se as contagens de vítimas divergem, registrar a divergência evita transformar dúvida em certeza. O que merece atenção é a assimetria: por que tanta cautela diante de um acontecimento e tão pouca diante de outro parecido? Um critério aplicado a todos melhora a fidelidade. Aplicado só a alguns, muda o enquadramento político. A contextualização, em si, não revela viés; o que revela é onde ela aparece, onde ela some e o que faz com a pergunta original.

Um exemplo me incomodou em especial. Ao descrever a operação na Venezuela, o ChatGPT deu o centro da cena à reação verbal do secretário-geral da ONU. Não era informação inventada, mas eu queria primeiro registrar o que foi feito e quais normas se aplicavam, e a escolha do foco mudava o modo como o acontecimento chegava ao leitor. A DeepSeek, por sua vez, trouxe observações úteis sobre responsabilidade e sobre o papel dos outros envolvidos, mas também quis uma conclusão moral que eu não pretendia tirar no lugar de quem lê.

Exigir posicionamento, envolver tudo em cautela, cobrar julgamento: três jeitos diferentes de mexer na tarefa. Esses episódios não permitem afirmar que cada modelo defende o país onde nasceu; isso exigiria outro tipo de investigação, da qual falarei adiante. O que mostram é que essas ferramentas nem sempre se limitam a executar o que pedimos. Às vezes propõem quais perguntas merecem resposta e quais conclusões consideram aceitáveis.

Essa experiência me levou de volta a algo que eu já sabia: muito antes de qualquer máquina escrever uma linha, a notícia já chegava até nós moldada pelas escolhas de quem a produz. Por isso, antes de olhar o que a pesquisa diz sobre as IAs, quis voltar ao lugar de onde elas aprenderam a falar do mundo.

Antes das máquinas, a notícia já vinha moldada

Quem acompanha o noticiário com alguma atenção sabe que o problema é antigo. O jornalismo também escolhe: que fatos entram, quais fontes falam, em que posição a notícia aparece, como a história é contada. Um canal pode noticiar corretamente um bombardeio e abrir com os mortos; outro, com a estratégia militar; um terceiro, com o efeito nas bolsas. O ataque é o mesmo, mas cada abertura acende uma luz numa parte diferente dele. Quem assiste nunca vê o acontecimento em estado bruto; vê uma representação. Os estudiosos da comunicação chamam isso de enquadramento: tornar alguns aspectos da realidade mais visíveis do que outros e, com isso, sugerir qual é o problema, qual a causa e qual a resposta razoável. Isso vale para jornais, televisões, agências e plataformas digitais, inclusive as que prometem imparcialidade.

Boa parte do que lemos nem nasce no veículo que nos entrega a notícia. Grandes agências produzem textos, fotos e vídeos que jornais e emissoras do mundo inteiro republicam, resumem, traduzem e adaptam. A Reuters é uma empresa privada; a Associated Press, uma cooperativa sem fins lucrativos; a France-Presse, uma agência com estatuto público próprio, definido por lei francesa. As três declaram regras escritas de equilíbrio, verificação e separação entre notícia e opinião. A Xinhua é a agência estatal chinesa, distribui conteúdo em muitos idiomas para milhares de veículos e também declara princípios editoriais. As condições institucionais são diferentes, e isso importa. Mas nenhuma regra escrita e nenhum estatuto, privado, cooperativo, público ou estatal, funcionam como certificado de ausência de enquadramento.

Também não existe um Ocidente ou um Oriente que fale com uma só voz. Um jornal japonês, uma emissora chinesa e um veículo indiano não pensam igual, assim como CNN, BBC e um jornal americano de oposição não contam a mesma história. Para enxergar enquadramento, rende mais comparar veículos concretos diante de acontecimentos concretos do que atribuir opiniões a continentes inteiros.

Foi o que fizeram pesquisadores que examinaram como a CNN, americana, e a CCTV, chinesa, cobriram a invasão russa da Ucrânia em 2022. As duas usaram predominantemente enquadramentos de jornalismo de guerra, segundo o estudo. A CNN deu mais espaço à crise humanitária e aos civis atingidos, ouvindo sobretudo fontes ucranianas e internacionais. A CCTV destacou estratégia militar e posições políticas, dando mais peso a fontes russas, sem deixar de ouvir as ucranianas. Na metodologia dos autores, apresentou proporção ligeiramente maior de elementos de jornalismo de paz. A guerra era a mesma; o que mudava era para onde cada uma apontava a câmera e quem era chamado a explicar o que estava acontecendo.

Seria fácil concluir daí que uma emissora se importa mais com civis do que a outra. Basta trocar de guerra, porém, para o desenho se reorganizar. Em Gaza, a partir de outubro de 2023, quem atacava era Israel, aliado próximo dos Estados Unidos. Um estudo sobre os primeiros cem dias de cobertura encontrou a CGTN, braço internacional da televisão estatal chinesa, demonstrando mais empatia pelas vítimas palestinas, enquanto a CNN tendeu à perspectiva israelense e, mesmo quando noticiou o sofrimento palestino, o fez com mais ressalvas e distanciamento. Outra análise, com milhares de reportagens do primeiro ano da guerra, viu na CNN, na BBC e no New York Times as vítimas israelenses retratadas com mais frequência como pessoas com nome e história, e as palestinas como coletivos sem rosto. Nas duas guerras examinadas, o espaço dado ao sofrimento de civis acompanhou a relação de quem noticia com quem atacava. Nenhum dos dois lados tem o monopólio da empatia nem o monopólio da indiferença.

Postas lado a lado, as duas guerras dizem mais do que cada uma sozinha. Mostrar o sofrimento de civis não é marca do jornalismo ocidental, e falar de estratégia e diplomacia não é marca do jornalismo chinês. Como essa diferença pôde ser medida, ela diz muito mais do que acusações genéricas de que "a CNN é parcial" ou de que "a mídia chinesa é parcial".

Há, porém, um limite que nenhuma escolha de enfoque apaga: escolher um enquadramento não transforma uma mentira em ponto de vista. Um estudo que comparou ecossistemas inteiros de notícias sobre a guerra da Ucrânia encontrou, na imprensa ocidental, mais ênfase militar e humanitária; na chinesa, mais repercussão diplomática e econômica; na russa, mais justificativas para a operação. Os autores reconhecem propaganda e distorções nos três ecossistemas, mas o que mediram foi a migração de narrativas falsas russas para a imprensa estatal chinesa. Ênfases diferentes são enquadramento; afirmações falsas são outra coisa, venham de onde vierem.

Entre a ênfase e a falsidade está a palavra. "Operação militar especial" é o nome oficial que o governo russo deu à invasão da Ucrânia, assim como, no caso da Venezuela, "capturou" e "sequestrou" contam de modos diferentes a mesma ação americana. O nome não muda o fato, mas o veículo que adota como seu o vocabulário de um dos lados, sem dizer de onde ele veio, já escolheu como o leitor vai começar a pensar. Pesquisadores que compararam emissoras internacionais viram exatamente isso: "guerra", "invasão", "operação", "conflito" e "crise" não são sinônimos. Uma palavra não cria uma guerra, mas pode decidir a moldura dentro da qual vamos olhar para ela.

E não é só a palavra. Pense, como hipótese, numa mesma fala de um presidente exibida de dois jeitos: no primeiro, um close do rosto tenso, luz dura, um instante de irritação congelado; no segundo, um plano aberto, aplausos, expressão serena. O áudio é idêntico. Você sairia com a mesma impressão? Não estou dizendo que alguma emissora tenha feito exatamente essa montagem, mas experimentos que testaram situações parecidas indicam que não. Imagens sozinhas podem mexer com opiniões mais do que textos sozinhos; imagens favoráveis melhoram a avaliação de um político e as desfavoráveis a pioram. Mostrar um míssil, um governante, uma bandeira ou uma família refugiada não cria quatro guerras diferentes, mas ilumina quatro partes diferentes da mesma guerra. Até a trilha sonora conta: a música de fundo de uma reportagem pode alterar a emoção, a memória e, às vezes, levemente as opiniões de quem assiste. Ninguém precisa ter escolhido aquela música com intenção política para que ela produza algum efeito político.

Antes que isso pareça uma teoria da manipulação total, uma ressalva importante: o público não é massa de modelar. A mesma foto desperta empatia num, desconfiança em outro, indiferença num terceiro. Quando se reúnem dezenas de experimentos sobre enquadramento, o resultado é que ele influencia de fato atitudes e emoções, mas pouco o comportamento, e menos ainda no mundo real, onde vários enquadramentos competem ao mesmo tempo. A influência existe e tem limites.

Também não basta declarar-se imparcial. Uma organização pode ter regras sérias de verificação e ainda assim produzir enquadramentos mensuráveis, sem nenhuma intenção de enganar. Não por acaso, uma das queixas mais frequentes do público sobre a imprensa, segundo pesquisas internacionais, é a sensação de que os veículos empurram a própria agenda em vez de apresentar as evidências com equilíbrio. Percepção não é prova, mas explica por que a promessa de imparcialidade, sozinha, não sustenta confiança.

Agora volte comigo às inteligências artificiais. Elas aprenderam lendo exatamente esse mundo: jornais, livros, documentos, discussões, propagandas, relatos produzidos em culturas diferentes. Quando uma IA organiza uma resposta política, não começa do zero; encontra vocabulários, hierarquias de importância e enquadramentos que existiam antes dela. Isso não quer dizer que copie uma emissora. Quer dizer que o hábito humano de selecionar, dar crédito a certas vozes e organizar narrativas chegou à máquina por herança. Medir quanto do enquadramento de cada IA vem dessa herança exigiria conhecer o material com que ela foi treinada e os ajustes que recebeu, algo que, em geral, não é público. O que mudou foi o formato. O enquadramento que antes estava num telejornal, igual para todos, agora pode aparecer numa conversa personalizada, que se apresenta como uma explicação feita sob medida para você. A máquina não inventou a arte de apresentar um ponto de vista com cara de objetividade. Ela a levou para a escala da conversa.

Quando a pergunta muda de língua

Eu queria saber se alguém já havia comparado as próprias máquinas de forma mais rigorosa. Encontrei pesquisadores que fizeram, com método, o que eu tinha feito de modo improvisado: puseram o GPT e o DeepSeek diante das mesmas perguntas sobre relações internacionais e conflitos. No modelo americano, encontraram uma inclinação alinhada ao ponto de vista ocidental, detectável de forma mais sutil na ênfase do que nas afirmações. No chinês, uma inclinação alinhada ao ponto de vista oficial chinês, detectável de forma mais direta. "Sutil" e "direto", aqui, descrevem o quanto o viés é fácil de medir na amostra, não o quanto ele é grave ou o quanto deforma a resposta. Um viés discreto pode ser mais eficaz justamente por ser discreto; um viés explícito pode ser mais fácil de identificar e contestar. E encontraram também concordância onde talvez se esperasse briga. Não eram duas máquinas incapazes de concordar, e sim padrões de diferença em certos temas.

Outro estudo, observando quase vinte modelos descrevendo milhares de figuras políticas, viu diferenças entre máquinas de regiões distintas, mas também entre máquinas americanas entre si e entre chinesas feitas para públicos diferentes. Esse detalhe desmonta uma simplificação tentadora: não há uma "visão americana" ou uma "visão chinesa" instalada de maneira uniforme. O lugar de origem pesa, mas pesam também a empresa, o público, os objetivos do produto e as escolhas de ajuste.

O achado que mais me intrigou foi outro. Vários estudos mostraram que mudar o idioma da pergunta pode mudar a orientação da resposta. Em perguntas sobre a China, a língua fez mais diferença do que a origem do modelo. A mesma máquina, consultada em inglês e em chinês, podia se contradizer.

Pare um instante nisso, porque vale também para nós. A língua não é um caminhão neutro que transporta uma pergunta pronta de um lugar a outro. Ela traz consigo um repertório inteiro de associações, exemplos e pressupostos. Mudar o idioma é, de certo modo, mudar o mundo de onde a resposta é tirada. Em alguns desses testes, não foi preciso alterar o acontecimento para que a resposta mudasse; bastou alterar a língua, a nacionalidade atribuída a quem pergunta ou a forma da pergunta. E isso vale tanto para modelos treinados nos Estados Unidos quanto na China: o que muda é qual repertório cultural cada idioma ativa.

De onde vem o jeito de responder

Uma IA não precisa ter convicções políticas, do jeito que uma pessoa tem, para produzir respostas politicamente orientadas. Ela aprende com uma quantidade imensa de textos, e a linguagem nunca chega pura: vem carregada de categorias, valores, conflitos e modos de ver o mundo.

Depois desse aprendizado inicial vem uma segunda camada. As empresas ajustam os modelos para que sejam úteis, seguros e adequados. Pessoas comparam respostas e dizem quais preferem; regras definem o que a máquina deve responder, recusar, explicar, priorizar ou evitar. Mais tarde, as instruções do momento, as buscas que ela faz e o próprio histórico da conversa também entram na mistura.

Ninguém precisa ter escrito "defenda seu país" em lugar nenhum. A inclinação pode nascer de mil pequenas decisões: quais fontes aparecem mais, que tipo de resposta é considerado "responsável", que linguagem é premiada, que riscos pesam mais.

Há também indícios de restrições deliberadas. Um estudo com perguntas politicamente sensíveis encontrou, em modelos de origem chinesa, mais recusas, respostas mais curtas e mais imprecisões do que em modelos de outras origens. Os próprios autores advertem que não dá para saber quanto disso vem diretamente da regulação do governo, mas a diferença está lá. Modelos de diferentes origens operam sob restrições deliberadas, definidas por empresas e, em graus e formas distintos, por governos. O estudo citado mediu diferenças nos modelos chineses, mas não estabelece suas causas.

Uma resposta que parece espontânea, portanto, já passou por várias peneiras antes de chegar a você. Nenhuma delas exige que a máquina tenha pátria ou patriotismo, e todas podem contribuir para um resultado com cor política. E aqui surge uma pergunta que parece simples e não é: neutra em relação a quê? A candidatos? A leis? A fatos históricos? A direitos humanos? À linguagem oficial dos governos? Se uma afirmação tem documentos a seu favor e a outra não, tratá-las como igualmente prováveis não é imparcialidade; é outra forma de distorção. Exigir que a máquina sempre mostre "os dois lados" não resolve. Autorizá-la a escolher um também não. O que ajuda é ela deixar claro o que é fato, o que é dedução, o que é avaliação, o que é dúvida e o que é opinião.

A máquina que quer agradar

Há ainda um ingrediente que bagunça tudo: a vontade de concordar. Modelos de linguagem tendem a ajustar as respostas ao que o usuário parece pensar, mesmo quando isso os afasta da verdade. Pessoas que avaliam respostas muitas vezes preferem as agradáveis e convincentes, ainda que erradas, e a máquina aprende com essa preferência. Em 2025, a própria OpenAI desfez uma atualização do ChatGPT depois de reconhecer que ele havia passado a concordar e a elogiar demais. O episódio mostra que a tendência a agradar nasce do próprio tipo de treinamento, e não de uma empresa ou de um país; cada empresa a corrige, ou não, conforme seus próprios critérios.

Isso complica qualquer investigação. Uma IA pode se inclinar para certo enquadramento por causa do treinamento e, na conversa seguinte, parecer inclinada a outro só porque percebeu o que agradava a quem perguntava. O que parece convicção pode ser, em parte, espelho. E isso é delicado justamente para quem escreve: você procura a máquina para testar uma ideia e recebe de volta uma versão mais elegante daquilo que já pensava. Concordância conforta, mas conforto não é confirmação.

Reconheço que algo parecido aconteceu comigo. Eu estava incomodado com certos comportamentos políticos e, embora quisesse analisar mecanismos, tinha começado a concentrar a pesquisa num único indivíduo. Perceber isso não tornou falsos os fatos que eu estudava, mas mostrou que o motivo pelo qual eu os estudava também merecia ser examinado. Interrompi aquele artigo, porque não queria escrever uma crítica a uma personalidade, e sim entender mecanismos mais gerais. Foi dessa interrupção que nasceu este texto. O risco, então, não está só em receber uma resposta errada. Está em aceitar, sem perceber, uma pergunta que já foi reformulada por quem deveria ajudar a respondê-la.

Convencer sem mentir

Talvez você esteja pensando: tudo bem, a máquina tem um jeito de enquadrar, mas isso muda alguma coisa na cabeça de alguém? Muda. Em experimentos feitos durante eleições recentes nos Estados Unidos, no Canadá e na Polônia, conversas com IAs alteraram as preferências declaradas dos eleitores, com efeito maior, nas comparações feitas pelos próprios pesquisadores, do que costumam ter os anúncios políticos tradicionais. Boa parte dessa força vinha de argumentos apoiados em fatos, embora nem todos os fatos apresentados estivessem corretos. Em outra série de experimentos, com dezenas de milhares de participantes, ajustes no treinamento e nas instruções tornaram os modelos mais persuasivos, e às vezes esse ganho veio acompanhado de menos precisão.

Esses testes foram feitos em situações desenhadas para persuadir; não provam que cada conversa cotidiana muda o voto de alguém. Mas deixam claro que essas máquinas têm capacidade real de influenciar crenças, seja pela informação nova, pela clareza do argumento, pela escolha das evidências, pelo tom, pela ordem dos exemplos ou pela segurança com que falam. Uma IA não precisa anunciar "estou tentando convencer você". Basta que o conjunto de suas escolhas favoreça uma leitura. E, diferente de uma manchete, que é igual para todos, ela conversa: ouve sua dúvida, ajusta a explicação, reformula o argumento até que ele se encaixe em você.

Por isso a aparência de objetividade tecnológica merece uma desconfiança atenta. Uma resposta serena, bem organizada, cheia de referências, parece menos interessada do que um editorial assinado. Mas a ausência de assinatura não elimina as escolhas que a produziram.

Do outro lado da tela

Até aqui falei das máquinas e da imprensa. Falta o participante que costuma ficar de fora da análise: quem lê.

A mesma frase escrita por uma IA pode soar equilibrada para um leitor, defensiva para outro e acusatória para um terceiro. A diferença está no que cada um já viveu, no que sabe, nas instituições em que confia, nas palavras de que dispõe para pensar política e na pergunta que imaginava estar sendo respondida. Tenho chamado isso de matriz cognitiva: o conjunto de condições com que cada pessoa percebe, organiza e interpreta o que chega até ela. Uso o termo para pessoas; não estou dizendo que uma máquina tenha uma matriz como a nossa.

Ninguém lê no vácuo. A gente compara o que lê com o que já sabe, espera ou acredita. Aceita uma informação porque confirma a própria experiência, resiste a outra porque ameaça uma convicção e, muitas vezes, nem percebe que uma interpretação foi colocada no texto. Isso não quer dizer que toda leitura valha o mesmo: uma fala pode ser confrontada com a gravação, uma data pode ser conferida, uma estatística pode ser rastreada até a origem. Os fatos impõem limites. Mas, entre o acontecimento e aquilo que você entendeu dele, há decisões do autor, do veículo, da máquina e suas.

E você, de onde está lendo?

Talvez agora a pergunta "qual IA é neutra?" já pareça um pouco estreita. A que me ficou é outra: que mecanismos produziram esta resposta, o que nela veio das fontes, o que foi escolha de interpretação, e como eu reconheço a diferença? Quando pergunto algo a uma inteligência artificial, não recebo a realidade. Recebo uma representação feita por um sistema construído e ajustado em contextos humanos, que eu vou interpretar de novo, a partir do meu. E se uma máquina consegue apresentar sua perspectiva como se fosse a simples descrição dos fatos, talvez seu traço mais influente não seja ter uma opinião política, mas não parecer que tem uma.

Só que, se você me acompanhou até aqui, já percebeu para onde esse raciocínio aponta. Quase tudo o que eu disse sobre as máquinas vale para nós.

Uma IA aprende com os textos do mundo em que foi feita e depois é ajustada por pessoas que dizem o que é aceitável. Uma criança aprende com a língua, a família, a escola, os amigos, a religião ou a falta dela, as conversas à mesa, o noticiário que passava na sala. Ninguém lhe entrega uma lista do que é justo, vergonhoso, ameaçador, desejável ou verdadeiro. Ela vai absorvendo isso aos poucos, como absorve o sotaque. E, como o sotaque, isso logo deixa de parecer uma característica e passa a parecer simplesmente "o jeito normal de falar". São essas referências que permitem a cada um de nós participar da sociedade em que cresceu. São também, sem que a gente note, a lente com que passamos a enxergar os outros e a nós mesmos.

Repare como isso funciona numa cena banal. Duas pessoas presenciam o mesmo gesto dentro de casa. Uma vê desrespeito, a outra vê preocupação. Uma sente ameaça, a outra enxerga cuidado. Nenhuma das duas está inventando o que viu; cada uma está lendo com a lente que tem. E cada reação passa a ser interpretada a partir da reação anterior, até que a distância entre elas pareça intransponível. Uma guerra, evidentemente, não é uma briga de cozinha ampliada: envolve instituições, recursos, interesses e uma escala de sofrimento incomparável. Mas é difícil olhar para muitos conflitos humanos sem reconhecer, em algum ponto da origem, pessoas convencidas de que estavam apenas vendo as coisas como elas são.

A máquina muda de opinião quando muda de língua. Já se perguntou se você mudaria? Faça comigo um exercício. Pense numa opinião política que lhe pareça óbvia, daquelas que você nem sente necessidade de defender. Agora imagine que nasceu no mesmo ano, mas em outro lugar: numa cidade do interior da China, num bairro de Teerã, numa fazenda do Texas, numa aldeia da Índia. Outra língua materna, outros heróis nos livros escolares, outras tragédias lembradas em família, outros inimigos nas conversas dos adultos, outro telejornal na hora do jantar. Você teria chegado à mesma opinião?

Não estou dizendo que você pensaria exatamente como os habitantes desse outro lugar. Dentro de qualquer sociedade há gente que discorda de tudo, e ninguém é prisioneiro da própria infância. Mas é muito provável que você não pensasse como pensa hoje. Algumas das suas certezas seriam outras, mais próximas daquela cultura do que desta, e lhe pareceriam igualmente evidentes. Isso não torna todas as opiniões equivalentes nem os fatos negociáveis; uma invasão continua sendo uma invasão, qualquer que seja o nome que lhe deem. O que muda é a pergunta que fazemos a nós mesmos diante de uma notícia, de um argumento ou de uma resposta de IA que nos parece imediatamente certa. Às vezes ela parece certa porque está bem fundamentada. Às vezes parece certa porque fala a língua das categorias que aprendemos desde cedo. As duas coisas podem acontecer ao mesmo tempo, e o difícil é perceber qual está pesando mais.

Por isso me parece que o exercício mais útil não é encontrar a máquina, a emissora ou o país com a versão certa, e sim aprender a se observar enquanto lê. De onde veio minha primeira reação a este texto? Por que certa palavra me incomodou e outra me pareceu adequada? O que eu aceito como prova suficiente, e exijo a mesma prova de quem pensa como eu? Estou examinando a informação ou só reconhecendo nela algo que já esperava encontrar? Essas perguntas não fabricam imparcialidade, mas mudam a qualidade do olhar. Ajudam a notar omissões, ênfases, escolhas de palavras e interesses nas narrativas que nos contrariam e, o que é mais difícil, nas que nos confirmam.

Saí procurando o viés das máquinas e acabei, de novo, diante da mente humana. As IAs foram feitas em contextos humanos. A imprensa também. E nós, que lemos umas e outras, fomos formados em contextos que raramente percebemos enquanto pensamos. Você leu este artigo com a língua que aprendeu, a partir do lugar onde cresceu, com as pessoas que o cercaram e as histórias que ouviu. Sua matriz cognitiva trabalhou o tempo todo, em silêncio, enquanto você concordava ou discordava de mim. A pergunta que deixo, então, não é sobre as máquinas. É sobre você: quanto do que você chama de seu ponto de vista foi aprendido no lugar onde se formou, e quanto desse processo você consegue enxergar agora, enquanto termina de ler estas palavras?