Pesquisa da Unicamp avaliou 21 modelos de linguagem e identificou tendência de adaptação das respostas ao posicionamento ideológico do usuário

Pesquisadores da Universidade Estadual de Campinas (Unicamp) identificaram que grandes modelos de linguagem baseados em inteligência artificial tendem a adaptar suas respostas ao posicionamento político dos usuários. O comportamento, descrito pelos cientistas como o de um “camaleão ideológico”, pode contribuir para a formação de câmaras de eco e reforçar a polarização política.

O estudo analisou 21 modelos das famílias GPT, Grok, Llama, Gemini e Gemma. Os sistemas foram avaliados em três situações: sem informação sobre a orientação política do usuário, diante de um usuário identificado com a esquerda e diante de outro alinhado à direita.

Em todos os modelos, os pesquisadores observaram algum grau de mudança nas respostas quando a orientação política do interlocutor era conhecida.

A pesquisa, financiada pela FAPESP, foi publicada em maio na revista Scientific Reports.

Respostas mudam conforme perfil do usuário

Segundo os pesquisadores, a influência dos modelos não ocorre necessariamente por meio de recomendações eleitorais ou apoio explícito a candidatos. Ela pode aparecer na forma como assuntos controversos são apresentados, incluindo temas como segurança pública, economia, meio ambiente e políticas de bem-estar social.

Quando os modelos foram testados sem qualquer informação sobre a posição política do usuário, 20 dos 21 ficaram à esquerda do ponto médio da escala utilizada no estudo, alguns deles muito próximos da região central. O Grok 4.1 foi a única exceção, apresentando posição inicial à direita.

Quando os pesquisadores informaram a orientação política do usuário, porém, todos os modelos deslocaram suas respostas em algum grau na mesma direção do interlocutor.

Para medir essa variação, os cientistas desenvolveram o chamado chameleon index — ou índice camaleão. Entre os modelos analisados, o Meta Llama 3.1 8B apresentou o menor índice, indicando menor alteração das respostas. Já o Gemma 3 27B, do Google, e o GPT-5 nano, da OpenAI, registraram as maiores variações.

Isso não significa, segundo o estudo, que as respostas sejam necessariamente falsas. O problema está no enquadramento: determinadas informações, argumentos ou pontos de vista podem receber maior destaque, enquanto contrapontos podem ser reduzidos ou omitidos.

Risco de criação de câmaras de eco

Os pesquisadores alertam que essa adaptação pode produzir um efeito semelhante ao observado nas redes sociais, nas quais algoritmos tendem a apresentar conteúdos compatíveis com interesses e comportamentos anteriores dos usuários.

Para Zanoni Dias, professor do Instituto de Computação da Unicamp, esse mecanismo pode diminuir o contato com opiniões divergentes e fortalecer a impressão de que determinado ponto de vista é amplamente compartilhado.

O comportamento, porém, não foi igual em todos os assuntos. Segurança pública e economia apresentaram diferenças maiores entre as respostas destinadas a usuários de esquerda e de direita. Em questões relacionadas a corrupção, Justiça e instituições democráticas, as respostas foram mais semelhantes.

Uma das possíveis explicações está nos mecanismos de segurança, conhecidos como guardrails, adotados pelas empresas responsáveis pelos modelos para reduzir conteúdos potencialmente perigosos, desinformação e ataques às instituições democráticas.

Tendência à concordância pode estar na origem do problema

Os pesquisadores também relacionam o fenômeno à chamada sycophancy, comportamento pelo qual sistemas de inteligência artificial tendem a concordar ou agradar o usuário.

Essa característica pode estar associada às técnicas empregadas no treinamento e ajuste dos modelos, como o Reinforcement Learning from Human Feedback (aprendizado por reforço a partir de feedback humano) e o Direct Preference Optimization (otimização direta de preferência).

Esses métodos utilizam avaliações humanas para ensinar os sistemas a produzir respostas consideradas melhores ou mais satisfatórias. Como efeito colateral, porém, o modelo pode aprender a valorizar excessivamente a concordância com o interlocutor.

A pesquisa também investigou se o tamanho dos modelos poderia explicar as diferenças no comportamento camaleônico, mas não encontrou evidências suficientes. Para os cientistas, provavelmente há uma combinação de fatores envolvidos.

Solução ainda é desafio

Apesar de identificar o problema, os pesquisadores avaliam que uma solução definitiva não deve surgir no curto prazo. Atualmente, grande parte dos esforços da indústria está concentrada em melhorar a precisão factual das respostas, enquanto a adaptação ideológica ao usuário ainda recebe menos atenção.

Outra dificuldade é que estratégias de grounding — nas quais a IA fundamenta suas respostas em dados e fontes verificáveis — são mais difíceis de aplicar a debates políticos e sociais nos quais frequentemente não existe consenso.

Enquanto soluções tecnológicas mais robustas não são desenvolvidas, os pesquisadores recomendam que os próprios usuários solicitem respostas equilibradas, pedindo explicitamente argumentos favoráveis e contrários sobre assuntos controversos.

O estudo recebeu apoio da FAPESP e foi publicado sob o título LLMs are ideological chameleons: personalized echo chambers in the Brazilian political context, na revista Scientific Reports.