Introdução: repensando objetivos da inteligência artificial
A proliferação de sistemas conversacionais e modelos de linguagem gerou uma tensão crescente entre duas metas que, frequentemente, são tratadas como equivalentes: tornar a inteligência artificial parecida com o ser humano e torná-la, de fato, inteligente no sentido técnico e confiável. Max Louwerse, em texto publicado na Psychology Today, chama atenção para o problema central: quando chatbots falham — por produzir respostas errôneas, enganosas ou confabulações — surge a necessidade de reavaliar o que consideramos o “objetivo” da IA (LOUWERSE, 2025). Este artigo amplia essa reflexão a partir de uma perspectiva interdisciplinar, integrando conceitos de psicologia cognitiva, ciência de dados, engenharia de sistemas e ética em tecnologia.
A análise que segue visa oferecer uma visão sistemática dos principais problemas de avaliação e design de chatbots, discutir por que a antropomorfização pode ser prejudicial e propor diretrizes práticas para alinhar expectativas de usuários e metas técnicas de inteligência artificial. Palavras-chave como psicologia da IA, chatbots, confabulação, erros de IA e avaliação de IA serão utilizadas estrategicamente ao longo do texto para otimização em mecanismos de busca.
Contexto: erros, confabulação e a percepção pública da IA
Os sistemas de linguagem moderna, ainda que impressionantes em sua fluidez, não são infalíveis. Eles combinam padrões estatísticos, inferência e heurísticas derivadas de grandes corpos de texto para gerar respostas plausíveis. Contudo, essa plausibilidade não garante veracidade. As chamadas confabulações — afirmações falsas formuladas com confiança — se tornaram um problema recorrente em chatbots, afetando a confiança institucional e a adoção responsável da inteligência artificial (LOUWERSE, 2025).
Do ponto de vista da psicologia, a reação humana a essas falhas é compreensível: quando uma máquina comunica-se de modo muito humano, os usuários tendem a atribuir-lhe intenções, conhecimento e responsabilidade moral. Essa expectativa antropomórfica transforma erros técnicos em queixas éticas e reputacionais. Assim, além dos desafios técnicos, há uma dimensão psicológica que orienta como projetamos, avaliamos e regulamos a IA conversacional.
Porque “ser humanlike” e “ser inteligente” entram em conflito
Ser “humanlike” refere-se à capacidade de um sistema em reproduzir traços comunicativos humanos: tom, empatia aparente, fluidez e até hesitações simuladas. Ser “inteligente”, neste contexto, exige consistência, precisão factual, capacidade de raciocínio crítico e transparência sobre limitações. Esses objetivos podem conflitar por vários motivos.
Primeiro, a otimização para naturalidade promove respostas plausíveis mesmo quando os dados de respaldo são fracos. Modelos treinados para maximizar a aceitabilidade do output tendem a priorizar fluidez sobre verificação factual, elevando o risco de confabulação. Segundo, técnicas como fine-tuning para estilo podem reforçar vieses e generalizações indevidas, em detrimento da robustez cognitiva. Terceiro, a interface e o discurso usados para tornar a IA “mais humana” aumentam as expectativas dos usuários, reduzindo sua propensão a checar fontes ou questionar afirmações — o que, por sua vez, intensifica o impacto de erros.
A consequência prática é que as métricas tradicionais de avaliação, muitas vezes centradas na naturalidade do discurso (fluência, coerência), não capturam riscos reais associados a veracidade, responsabilidade e segurança da informação. A psicologia da IA aponta, portanto, para a necessidade de equilibrar critérios de avaliação.
Métricas e objetivos: como redefinir a avaliação de IA
Reformular os objetivos exige repensar as métricas de sucesso. Atualmente, avaliações automatizadas e humanas privilegiam medidas como perplexidade, BLEU, ROUGE e avaliações subjetivas de “naturalidade”. Para priorizar inteligência confiável, é necessário incorporar métricas que reflitam veracidade, rastreabilidade e adequação contextual.
Sugestões práticas de métricas e procedimentos:
– Avaliação factual: testes automatizados de verificação de fatos aplicados a respostas geradas, com pontuação de precisão baseada em fontes confiáveis.
– Transparência de fontes: medir a capacidade do sistema de indicar origem de afirmações ou indicar incerteza quando não há respaldo.
– Robustez contextual: testes que avaliem desempenho sob variações de linguagem, cenários adversos e prompts ambíguos.
– Calibração de confiança: avaliar se a confiança expressa pelo sistema (quando presente) corresponde à probabilidade de correção da resposta.
– Usabilidade e confiança do usuário: estudos controlados que avaliem como o design (mais humano vs. mais técnico) afeta a verificação do usuário e ações subsequentes.
A adoção dessas métricas exige colaborações multidisciplinares entre engenheiros, cientistas cognitivos e especialistas em ética, de modo a construir protocolos de avaliação que reflitam os riscos reais associados à implantação de chatbots em contextos sensíveis (saúde, jurídico, financeiro).
Design e políticas: como alinhar produto, usuário e regulação
A partir do entendimento psicológico sobre expectativas e atribuições humanas, o design de sistemas conversacionais deve ser orientado por princípios que limitem danos e promovam clareza. Algumas recomendações práticas:
– Sinalização clara das capacidades e limitações: interfaces devem informar, de modo proeminente, quando o sistema é uma IA, quais são suas fontes e quais tipos de perguntas estão fora do escopo.
– Respostas com níveis de incerteza: em vez de entregar sempre proposições categóricas, o sistema deve indicar incertezas e sugerir verificação adicional.
– Modo “factual” vs. modo “criativo”: oferecer configurações que permitam ao usuário escolher entre respostas criativas (com maior fluidez mas menor verificação factual) e respostas verificadas (priorizando precisão).
– Logs e audibilidade: manter registros acionáveis das interações para permitir auditoria e correção posterior, respeitando normas de privacidade.
– Educação do usuário: integrar micro-orientações que incentivem checagem de informações, sobretudo em contextos de alto risco.
Essas medidas também têm implicações regulatórias. Normas públicas deveriam exigir disclosures padronizados sobre o grau de confiabilidade e as bases de treinamento do modelo, bem como protocolos de remediação quando ocorrências de desinformação causarem danos.
Implicações éticas e sociais
A antropomorfização da IA não é apenas uma questão de design; é um vetor de implicações éticas que toca confiança institucional, vulnerabilidade e responsabilidade legal. Quando um chatbot assume um tom humano, ele pode induzir usuários a tomar decisões com base na percepção de autoridade — um problema sério em setores como saúde ou finanças. O risco se amplia quando populações vulneráveis — idosos, crianças, pessoas com baixa literacia digital — são mais propensas a confiar em sistemas que parecem humanos.
Há, também, uma dimensão de responsabilização: atribuir erro a um sistema muitas vezes significa responsabilizar a organização que o desenvolveu e os dados que o moldaram. A psicologia da IA contribui para compreender como as atribuições de culpa são sociocognitivamente mediadas pela linguagem do sistema, e como essas atribuições afetam políticas de transparência e compensação.
Casos e exemplos práticos
Vários incidentes recentes demonstram as consequências reais dessas lacunas. Respostas factualmente incorretas em contextos médicos levaram a informações potencialmente perigosas; respostas persuasivas com base em vieses podem amplificar desinformação política; e recomendações erradas em plataformas de suporte financeiro podem causar perdas econômicas. Esses exemplos ilustram a necessidade de alinhar expectativas (psicológicas) com objetivos técnicos (inteligência e segurança).
No campo empresarial, empresas que priorizaram apenas a naturalidade da interação tiveram de recalibrar seus sistemas à medida que surgiam reclamações públicas e regulatórias. A adoção de modos “factual” e a implementação de verificação de fontes reduziram incidentes e aumentaram a confiança de clientes institucionais, demonstrando a eficácia de orientações baseadas em psicologia da IA.
Recomendações para pesquisa e desenvolvimento
Para pesquisadores e equipes de desenvolvimento que trabalham com inteligência artificial e chatbots, seguem recomendações concretas:
– Integrar psicólogos cognitivos em equipes de design para mapear expectativas dos usuários e identificar pontos de vulnerabilidade.
– Priorizar métricas de veracidade e calibrar modelos não apenas por fluidez, mas por precisão e transparência.
– Desenvolver datasets específicos para detecção de confabulação e para avaliação de robustez factual.
– Realizar estudos de usuário que simulem cenários de alto risco antes de liberações públicas.
– Estabelecer políticas de governança de dados que reduzam vieses e melhorem a auditabilidade dos modelos.
Essas práticas promovem um desenvolvimento mais responsável da inteligência artificial, reduzindo a sobrecarga de reparo reputacional e mitigando danos potenciais.
Limitações e caminhos futuros
Embora seja essencial mover-se em direção a sistemas mais “inteligentes” no sentido de confiabilidade factual, o caminho apresenta limitações técnicas e epistemológicas. A verificação automática de fatos em larga escala permanece desafiadora, especialmente para afirmações complexas que dependem de interpretação e contexto cultural. Além disso, a transparência total nem sempre é compatível com segredos comerciais e arquiteturas proprietárias.
No entanto, a pesquisa interdisciplinar pode progredir em áreas como:
– Modelos híbridos que combinam raciocínio simbólico e aprendizagem estatística para melhorar precisão.
– Protocolos de disclosure padronizados que equilibrem transparência e propriedade intelectual.
– Ferramentas de monitoramento pós-deploy que detectem e corrijam padrões recorrentes de confabulação.
Conclusão: escolher metas e comunicar escolhas
A reflexão proposta por Louwerse oferece um ponto de partida crucial: não podemos simultaneamente maximizar a aparência humana e esperar perfeição cognitiva sem custos. Em vez de tratar essas metas como equivalentes, desenvolvedores, pesquisadores e reguladores precisam declarar prioridades e projetar sistemas que alinhem desempenho técnico, expectativas humanas e salvaguardas éticas (LOUWERSE, 2025).
A psicologia da IA indica que decisões de design têm consequências sociais concretas. Tornar um chatbot mais humano pode aumentar engajamento, mas também amplifica os riscos de mal-entendidos e danos quando ocorrem erros. A alternativa não é eliminar naturalidade, mas balanceá-la com mecanismos que priorizem veracidade, transparência e responsabilização. Só assim será possível avançar na construção de inteligência artificial que seja ao mesmo tempo eficaz, confiável e aceitável socialmente.
Citação conforme ABNT no decorrer do texto:
– (LOUWERSE, 2025)
Fonte: Psychology Today. Reportagem de Max Louwerse Ph.D.. The Psychology of AI: We Can’t Have It Both Ways. 2025-09-17T21:00:50Z. Disponível em: https://www.psychologytoday.com/us/blog/keeping-those-words-in-mind/202509/the-psychology-of-ai-we-cant-have-it-both-ways. Acesso em: 2025-09-17T21:00:50Z.
