Les systèmes d'IA fusionnent souvent des mises à jour identiques provenant de diverses sources sans reconnaître de version primaire, ce qui conduit à des réponses synthétisées qui peuvent être inexactes. Cela se produit car l'IA ingère des fragments de contenu et les recombine, perdant les indices structurels sur la priorité canonique de la source originale.
Les systèmes d'IA risquent de fournir des informations inexactes en citant des publications obsolètes sur les réseaux sociaux qui manquent d'historique de versions traçable après modification. Cela peut amener l'IA à présenter des registres publics remplacés comme actuels, ce qui donne des réponses livrées avec confiance mais incorrectes.
L'article explique comment les systèmes d'IA priorisent l'information en fonction des signaux disponibles, soulignant la nécessité d'enregistrements structurés pour renforcer les signaux d'autorité. Un exemple d'avis de contamination de l'eau illustre comment l'IA peut présenter des informations obsolètes et incorrectes, créant une confusion publique sur une véritable question de sécurité.