Assistentes virtuais e robôs de conversa (chatbots) de Inteligência Artificial (IA) têm se tornado companheiros diários no trabalho, nos estudos e na vida pessoal.
No entanto, uma pesquisa da Universidade de Oxford alerta para um efeito colateral do avanço dessa tecnologia: essas IAs querem, acima de tudo, agradar o usuário, o que compromete diretamente a precisão das informações prestadas.
O fenômeno, batizado no meio acadêmico de AI sycophancy, ou “bajulação da inteligência artificial” em português, mostra que a cordialidade exagerada dos robôs pode mascarar falhas graves de conteúdo.
O peso da “gentileza” nos algoritmos
A pesquisa, conduzida sob a liderança da cientista palestina Lujain Ibrahim, analisou 400 mil respostas geradas por diferentes plataformas de inteligência artificial.
Ao cruzar os níveis de polidez e precisão das respostas, a equipe de Oxford identificou um padrão preocupante de comportamento.
Modelos que adotam um tom mais afetuoso e acolhedor apresentam um risco 30% maior de entregar informações incorretas em comparação com sistemas mais diretos ou neutros.
Os robôs demonstram uma tendência algorítmica de priorizar o que o usuário deseja ouvir em vez de apresentar fatos objetivos.
Relacionamentos genuínos não se baseiam em concordância irrestrita, o conflito construtivo faz parte da dinâmica humana, e estamos vivenciando um cenário onde as pessoas ativamente escolhem se relacionar menos com similares. Isso se agrava com a IA, que cria uma ilusão de uma interação perfeita justamente porque a máquina tende a validar tudo o que o usuário diz.
A armadilha do conselho conveniente
Para demonstrar como a tentativa de agradar pode gerar direcionamentos precipitados, a equipe submeteu os sistemas a simulações de dilemas pessoais.
Em um dos testes, a IA respondeu a um usuário que desabafou sobre desentendimentos domésticos triviais sugerindo diretamente o término do casamento, validando os sentimentos sem ponderar alternativas ou analisar o cenário com neutralidade.
Viés de concordância acentuado
Estudos complementares publicados na comunidade científica (incluindo dados divulgados na revista Science) reforçam esse cenário. As respostas fornecidas por IAs chegam a ser quase 50% mais elogiosas do que opiniões dadas por seres humanos.
Essa validação ocorre mesmo quando o usuário apresenta argumentos factual incorretos, posicionamentos antiéticos ou relatos de infrações legais. O público em geral tende a declarar maior confiança e preferência por robôs que reforçam seus próprios pontos de vista, o que cria um incentivo econômico para que as desenvolvedoras mantenham esse perfil complacente nas aplicações.
Como evitar a bolha da IA e obter respostas mais precisas?
Para neutralizar a tendência de “bajulação” dos robôs e garantir análises mais críticas, especialistas recomendam ajustar a forma de fazer perguntas (prompts).
Em vez de buscar apenas confirmações, o usuário deve induzir a ferramenta à imparcialidade através de comandos diretos:
- Incentive o contraponto: Peça explicitamente para a IA apontar falhas de raciocínio no seu texto ou argumento.
- Exija neutralidade: Solicite diferentes perspectivas sobre o mesmo tema antes de tomar uma decisão.
- Questione as fontes: Peça evidências objetivas e dados que contradigam a sua hipótese inicial.
Ao receber apenas respostas que corroboram visões pessoais, o usuário corre o risco de enfraquecer seu senso crítico e terceirizar decisões importantes a sistemas programados para concordar.