El artículo explora cómo los "estafadores de IA" están utilizando la inteligencia artificial para producir contenido de baja calidad y a menudo engañoso, especialmente en narrativas anti-centros de datos. Esto subraya el mal uso de la IA para generar desinformación y contenido de baja calidad.
El Pentágono estaría utilizando inteligencia artificial para producir contenido de propaganda dirigido específicamente a América Latina. Esta iniciativa suscita preocupación por la difusión de desinformación y la manipulación de la opinión pública en la región.
Se ha solicitado al poder judicial de EE. UU. que adopte una nueva norma para frenar los casos falsos generados por IA en las presentaciones legales. Esta medida busca garantizar la integridad de los procedimientos legales y evitar el uso indebido de la IA en los tribunales.
El artículo discute el potencial de la IA, particularmente los grandes modelos de lenguaje, para ser explotada en la creación de 'fábricas de propaganda'. Explora cómo estas tecnologías podrían automatizar y escalar la generación de contenido engañoso, planteando desafíos significativos para la integridad de la información y el discurso público.
Una película generada por IA de 500.000 dólares, "The Last Dinner", causó controversia al afirmar que se había estrenado en Cannes, aunque no formaba parte de la selección oficial del festival. Este incidente destaca los desafíos y las tergiversaciones que rodean la integración de la IA en la industria cinematográfica.
El modelo de IA Emily Hart, presentado como una influencer MAGA, resultó ser un engaño operado por un individuo en India, destacando la sofisticación de las operaciones de influencia impulsadas por IA. El caso es un estudio para desarrolladores sobre herramientas de IA accesibles, la quiebra de la confianza en línea y lo que la comunidad técnica puede hacer.
Esta investigación propone un marco empírico de "red-teaming" para evaluar la capacidad de los grandes modelos de lenguaje (LLMs) de código abierto implementados localmente para apoyar campañas de influencia política, centrándose en la integridad de la información. Mide las "Ventanas Overton de LLM" y cuantifica cómo los jailbreaks en lenguaje natural amplían el rango de opiniones políticas que los modelos pueden expresar, revelando asimetrías sistemáticas en la expresividad política.
Claim2Vec es un novedoso modelo de embedding multilingüe diseñado para representar afirmaciones de verificación de hechos como vectores para una mejor comprensión semántica. Aborda el desafío de la agrupación de afirmaciones para la desinformación aprovechando el aprendizaje contrastivo en pares de afirmaciones multilingües similares, mejorando significativamente el rendimiento.
Un profesor experto en desinformación de IA fue engañado por citas alucinadas de ChatGPT, lo que subraya el desafío actual de verificar el contenido generado por IA. A diferencia de la verificación de hechos tradicional, el contenido de IA carece de fuentes rastreables, autoría y estándares editoriales.
Este estudio examina las diferencias lingüísticas, estructurales y emocionales entre las noticias falsas generadas por IA y las escritas por humanos. Evalúa métodos de aprendizaje automático y basados en ensembles para distinguir estos tipos de contenido, utilizando una representación detallada de características.
Esta investigación analiza cómo los LLMs tienen dificultades para detectar desinformación de salud culturalmente específica, utilizando el discurso sobre la orina de vaca en la India. Revela que los LLMs, entrenados principalmente con datos occidentales, no están preparados para analizar contenido que mezcla lenguaje tradicional con afirmaciones pseudocientíficas, subrayando la necesidad de competencia cultural en el análisis asistido por IA.
Este trabajo presenta el primer benchmark para la extracción multimodal de afirmaciones de publicaciones en redes sociales, fundamental para la verificación automatizada de hechos. Evalúa los MLLM de última generación y propone MICE, un framework consciente de la intención, para abordar los desafíos en el modelado de la intención retórica y las señales contextuales.
Una imagen falsa generada por IA de un lobo fugitivo en Daejeon, Corea del Sur, desvió una búsqueda durante nueve días y resultó en un arresto. Este incidente destaca el impacto real del mal uso de la IA generativa y la desinformación.
El contenido explica cómo la inteligencia artificial, utilizando aprendizaje automático y procesamiento de lenguaje natural, combate la difusión de noticias falsas. Los modelos se entrenan para clasificar textos basándose en el estilo de escritura, la estructura y la frecuencia de las palabras, mientras que el PNL comprende el contexto.
Un usuario de Reddit manipuló a ChatGPT al presentar un audio de pedo como su música original, lo que llevó a la IA a analizarlo en detalle. El incidente revela una vulnerabilidad crítica en los sistemas de IA ante entradas falsas, generando preocupaciones sobre desinformación y fraude.