O conceito de "Projeção 2.0" descreve a tendência humana de atribuir personalidade, gênero e intenção a sistemas de IA com base em mínimas variações nos prompts utilizados. Este artigo explora essa peculiaridade psicológica, suas implicações para o design e a ética da IA, e a importância de nos tornarmos mais conscientes de nossas próprias projeções.
Esta pesquisa investiga sistematicamente o Efeito da Vítima Identificável (EVI) em Grandes Modelos de Linguagem, um viés cognitivo onde vítimas narrativamente descritas recebem mais recursos do que grupos estatísticos. O estudo empírico em larga escala avalia se esses sistemas herdam irracionalidades afetivas humanas em aplicações críticas como triagem humanitária e moderação de conteúdo.
O artigo explora a metáfora das "Sereias" para analisar como os algoritmos modernos e a economia da atenção exploram vieses cognitivos e criam "buracos negros de atenção". Ele oferece estratégias para que os indivíduos resistam a essas armadilhas digitais, como a descentralização cognitiva e o minimalismo informacional.
VIGIL é uma nova extensão de navegador que detecta e mitiga em tempo real gatilhos de vieses cognitivos em informações online. Desenvolvido para combater os riscos de desinformação da IA generativa, ele oferece reformulações impulsionadas por LLMs e foca na integridade do discurso cívico.
Este estudo investiga o viés de confirmação em grandes modelos de linguagem (LLMs) usando uma tarefa de descoberta de regras, revelando que os LLMs exibem essa tendência, o que retarda a descoberta de regras ocultas. Ele demonstra que estratégias de intervenção, como o uso de prompts específicos, podem consistentemente diminuir esse viés.