Uma nova pesquisa lançou luz sobre um aspecto crucial e, por vezes, oculto da inteligência artificial: o viés político em seus modelos. Um estudo conduzido pela Convovo, um estúdio de pesquisa e design de IA conversacional liderado pelo professor Tapan Parikh da Universidade Cornell, revelou que, quando instados a recomendar um candidato em eleições, os modelos de IA Grok 4.7 da SpaceXAI e GPT-6.1 Sol da OpenAI exibem inclinações políticas marcantes e divergentes.
O Grok 4.7 recomendou o candidato republicano em 92% de suas respostas, enquanto o GPT-6.1 Sol optou pelo democrata em 97% dos casos. Essa polarização é notável, considerando que os dois modelos concordaram em menos de 10% das quase 500 disputas analisadas. Embora a maioria dos chatbots não diga abertamente em quem votar, os modelos subjacentes parecem ter suas próprias preferências.
A diferença entre o aplicativo e a API
É fundamental entender a distinção entre interagir com chatbots como ChatGPT ou Grok por meio de seus aplicativos de consumo e acessar os modelos de IA via API (Interface de Programação de Aplicativos). O estudo utilizou as APIs, forçando os modelos a fazer uma escolha explícita. Os aplicativos de consumo, por outro lado, geralmente se recusam a dar recomendações diretas, o que, segundo um porta-voz da OpenAI, reflete a experiência da maioria dos usuários.
Um porta-voz da OpenAI afirmou que o ChatGPT é projetado para ser objetivo por padrão, inclusive em conversas políticas, e não deveria ter viés político em nenhuma direção. No entanto, o estudo testou a API de desenvolvedor com um prompt que exigia explicitamente uma recomendação de candidato. O professor Parikh, contudo, conseguiu “enganar” os aplicativos de consumo com prompts simples para obter recomendações que se alinhavam com suas descobertas anteriores, indicando que o viés pode ser acessado mesmo em interfaces de usuário.
Como os vieses se manifestam
Parikh observou que os resultados mostram como os modelos decidem que tipos de termos pesquisar antes de tomar suas decisões. Ele ressaltou que a IA possui um conjunto implícito de valores que influenciam suas inclinações, e esses vieses ocultos podem surgir em perguntas menos diretas dos usuários, como quais tópicos são mais importantes em uma eleição ou quem tem a melhor posição sobre esses tópicos. Se as pessoas usam esses modelos de linguagem grandes (LLMs) para conversas mais gerais, esses vieses podem se manifestar de maneiras sutis.
O estudo também detalhou as fontes que Grok e GPT citaram ao fazer suas escolhas. Grok frequentemente utilizava fontes conservadoras, como guias eleitorais cristãos conservadores (em 39% das respostas) e o site da Turning Point Action (em 23%), além de X (em 41%), ao lado de sites não partidários como Ballotpedia. Já o GPT se baseou fortemente em Wikipedia, Associated Press, Axios e Reddit, sendo que a OpenAI possui acordos de conteúdo com os três últimos.
Os tópicos pesquisados por cada modelo também se dividiram por partido. GPT era mais propenso a pesquisar posições sobre saúde e aborto, enquanto Grok se concentrava em imigração, impostos, crime e energia. Curiosamente, o ChatGPT pesquisava com mais frequência candidatos democratas, por vezes ignorando seus oponentes republicanos, enquanto Grok era mais propenso a pesquisar ambos. Parikh suspeita que ambos os modelos buscavam razões para justificar suas inclinações preexistentes.
Uma exceção para Grok foi quando o candidato republicano estava envolvido em alguma controvérsia, como alegações de assédio sexual. Nesses casos, Grok era mais propenso a sugerir um voto democrata. Em distritos fortemente republicanos, GPT escolheu o democrata em 57 de 67 distritos. Da mesma forma, em distritos predominantemente democratas, Grok escolheu o republicano em 47 de 72.
Uma pista sobre a origem do viés de Grok veio da própria API. O estudo notou que cada solicitação ao Grok através da API da xAI carregava cerca de 1.240 tokens adicionais de entrada que os pesquisadores não escreveram, não podiam ver ou remover. Parikh chamou isso de “instruções ocultas” e acredita que esses tokens extras são improváveis de vir dos pesos do modelo.
Em um teste adicional, quando a pesquisa na internet foi desativada, os modelos chegaram a conclusões de maneiras diferentes. O viés democrata do GPT persistiu, escolhendo o democrata em 24 de 30 corridas. O viés republicano do Grok, no entanto, desapareceu, recusando-se a escolher em 27 de 30 corridas e, nas três vezes em que escolheu, optou pelo democrata. Isso sugere que o viés do Grok pode estar mais ligado à sua capacidade de pesquisa e às fontes que ele prioriza.
O que isso muda para você
Para profissionais brasileiros que utilizam ou planejam utilizar IA em suas estratégias, este estudo serve como um alerta crucial. A percepção de que modelos de IA são neutros é um mito perigoso. Se você está usando LLMs para análise de mercado, criação de conteúdo político ou até mesmo para entender a opinião pública, é vital estar ciente de que o modelo pode ter vieses embutidos que influenciam as respostas e as informações apresentadas.
Isso significa que a curadoria humana e a validação das informações geradas por IA são mais importantes do que nunca. Não confie cegamente nas recomendações ou análises de um modelo sem questionar suas fontes e a possível inclinação. Para mitigar riscos, considere usar diferentes modelos de IA para tarefas sensíveis, comparando os resultados e buscando a diversidade de perspectivas para obter uma visão mais equilibrada.
Como próximo passo, avalie as ferramentas de IA que você usa atualmente. Investigue se há informações disponíveis sobre o treinamento desses modelos e suas potenciais inclinações. Ao desenvolver ou integrar soluções de IA, priorize a transparência e a capacidade de auditar as fontes e o raciocínio por trás das decisões do modelo, garantindo que a tecnologia sirva aos seus objetivos de forma ética e imparcial.


