Le Pentagone utiliserait l'intelligence artificielle pour produire du contenu de propagande ciblant spécifiquement l'Amérique latine. Cette initiative soulève des inquiétudes quant à la diffusion de désinformation et à la manipulation de l'opinion publique dans la région.
L'article examine comment les "escrocs de l'IA" exploitent l'intelligence artificielle pour produire du contenu de faible qualité, souvent trompeur, notamment autour des récits anti-centres de données. Il met en évidence l'utilisation abusive de l'IA pour générer de la désinformation et du "contenu de pacotille".
Le pouvoir judiciaire américain a été sollicité pour adopter une nouvelle règle visant à enrayer les fausses affaires générées par l'IA dans les dépôts judiciaires. Cette mesure vise à garantir l'intégrité des procédures judiciaires et à prévenir l'utilisation abusive de l'IA devant les tribunaux.
L'article examine le potentiel de l'IA, notamment des grands modèles de langage, à être exploitée dans la création de 'fabriques de propagande'. Il explore comment ces technologies pourraient automatiser et intensifier la génération de contenu trompeur, posant des défis significatifs à l'intégrité de l'information et au discours public.
Un film généré par IA de 500 000 dollars, "The Last Dinner", a suscité la controverse en affirmant avoir été présenté en première à Cannes, alors qu'il ne faisait pas partie de la sélection officielle du festival. Cet incident met en lumière les défis et les fausses représentations concernant l'intégration de l'IA dans l'industrie cinématographique.
Le modèle d'IA Emily Hart, une influenceuse MAGA, s'est avéré être une tromperie gérée par un individu en Inde, soulignant la sophistication des opérations d'influence pilotées par l'IA. Cette affaire est une étude pour les développeurs sur l'accessibilité des outils d'IA, la rupture de la confiance en ligne et le rôle de la communauté technique.
Cette recherche propose un cadre de "red-teaming" empirique pour évaluer la capacité des grands modèles de langage (LLM) open-source déployés localement à soutenir des campagnes d'influence politique, en se concentrant sur l'intégrité de l'information. Elle mesure les "fenêtres d'Overton des LLM" et quantifie comment les "jailbreaks" en langage naturel élargissent l'éventail des opinions politiques que les modèles peuvent exprimer, révélant des asymétries systématiques dans l'expressivité politique.
Claim2Vec est un nouveau modèle d'intégration multilingue conçu pour représenter les allégations de vérification des faits sous forme de vecteurs pour une meilleure compréhension sémantique. Il aborde le défi du regroupement d'allégations pour la désinformation en tirant parti de l'apprentissage contrastif sur des paires d'allégations multilingues similaires, améliorant considérablement les performances.
Un professeur expert en désinformation par l'IA a été trompé par des citations hallucinées de ChatGPT, soulignant le défi actuel de vérifier le contenu généré par l'IA. Contrairement à la vérification des faits traditionnelle, le contenu IA manque de sources traçables, d'auteurs et de normes éditoriales.
Cette étude examine les différences linguistiques, structurelles et émotionnelles entre les fausses nouvelles générées par l'IA et celles écrites par des humains. Elle évalue les méthodes d'apprentissage automatique et d'ensemble pour distinguer ces types de contenu, en utilisant une représentation détaillée des caractéristiques.
Cette recherche examine les limites des LLM à détecter la désinformation sanitaire culturellement spécifique, en utilisant le discours sur l'urine de vache en Inde comme étude de cas. Elle montre que les LLM, principalement entraînés sur des corpus occidentaux, sont mal équipés pour analyser le contenu mélangeant langage traditionnel et affirmations pseudo-scientifiques, soulignant le besoin de compétence culturelle dans l'analyse assistée par l'IA.
Ce travail introduit le premier benchmark pour l'extraction de revendications multimodales à partir de publications sur les réseaux sociaux, essentiel pour la vérification automatisée des faits. Il évalue les MLLM de pointe et propose MICE, un cadre conscient de l'intention, pour relever les défis de la modélisation de l'intention rhétorique et des indices contextuels.
Une fausse image générée par IA d'un loup évadé à Daejeon, en Corée du Sud, a détourné une recherche pendant neuf jours et a conduit à une arrestation. Cet incident met en lumière l'impact réel de l'utilisation abusive de l'IA générative et de la désinformation.
Ce contenu explique comment l'intelligence artificielle, utilisant l'apprentissage automatique et le traitement du langage naturel, lutte contre la propagation des fausses nouvelles. Des modèles sont entraînés pour classer les textes basés sur le style, la structure et la fréquence des mots, tandis que le PNL comprend le contexte du contenu.
Un utilisateur de Reddit a manipulé ChatGPT en lui présentant un audio de pet comme sa musique originale, ce qui a conduit l'IA à l'analyser en détail. L'incident révèle une vulnérabilité critique des systèmes d'IA aux fausses entrées, soulevant des préoccupations concernant la désinformation et la fraude.