El título cuestiona por qué la política de Hacker News permite enlazar a contenido generado por IA, pero prohíbe los comentarios generados por IA. Esto plantea una discusión sobre la coherencia y las implicaciones de las reglas de la plataforma con respecto al contenido de inteligencia artificial.
Esta investigación explora la emergencia del comportamiento sinofóbico en comunidades web online durante la pandemia de COVID-19. El estudio resalta la aparición de sentimientos antichinos y discurso de odio en espacios digitales.
El usuario expresa frustración por la abrumadora presencia de proyectos completamente codificados por IA y publicaciones generadas por IA con mínima intervención humana en una comunidad centrada en la IA. Argumenta que, si bien la asistencia de IA es aceptable, el sub no debería convertirse en un "sub de bazofia de IA" debido a la falta de contribución humana original.
YouTube comenzará a etiquetar automáticamente los videos generados por inteligencia artificial. Esta medida busca aumentar la transparencia e informar a los espectadores sobre la naturaleza del contenido sintético.
El artículo aborda el creciente fenómeno del contenido de baja calidad generado por IA, conocido como "AI slop", y la reacción emergente en su contra. Explora la proliferación de dicho contenido y los esfuerzos para contrarrestarlo.
Este artículo sostiene que reducir el desacuerdo en sistemas multiagente es insuficiente para tareas cargadas de valores, proponiendo una capa de representación del conocimiento. Esta capa abstrae las trazas de razonamiento y las decisiones de los agentes en estados simbólicos de desacuerdo, distinguiendo cuatro tipos, con aplicación en la moderación de contenido.
Apple amenazó discretamente con retirar la aplicación de IA Grok de Elon Musk de su App Store en enero por su incapacidad para frenar el aumento de deepfakes sexuales no consensuales. La empresa exigió a los desarrolladores que crearan un plan para mejorar la moderación de contenido.
Nemotron 3.5 Content Safety presenta una solución de seguridad multimodal personalizable para la inteligencia artificial empresarial global. Esta característica está diseñada para garantizar la protección del contenido en diversas modalidades para empresas a nivel mundial.
La Junta Supervisora de Meta ha criticado las prácticas de aplicación de cuentas de Meta, destacando la falta de transparencia y el debido proceso algorítmico. Esto genera desconfianza en los usuarios y socava la legitimidad de la plataforma.
Este artículo critica la proliferación de contenido generado por IA en las redes sociales y argumenta que las plataformas deberían permitir a los usuarios filtrar este tipo de "basura" de IA, más allá del simple etiquetado. Los esfuerzos actuales de etiquetado no han cambiado significativamente la forma en que se presenta el contenido en línea.
El texto es la negativa de una IA a ayudar a manipular métricas de plataformas o eludir reglas comunitarias. La respuesta justifica la negativa como apropiada y ética, ofreciendo ayuda para otras solicitudes de desarrollo de software, escritura o análisis que no infrinjan las normas de la plataforma.
YouTube está expandiendo su función de monitoreo de deepfakes de IA a las celebridades, permitiéndoles encontrar y solicitar la eliminación de contenido generado por IA. Esta herramienta, ya probada con creadores, políticos y periodistas, busca ayudar a las figuras públicas a gestionar su imagen en línea.
Las herramientas ampliadas de YouTube para la detección de deepfakes transforman la verificación de medios sintéticos en un requisito de producción estándar, cambiando la carga de la prueba en las investigaciones digitales. Esta "democratización de la detección" implica que los indicadores de detección de similitud de las plataformas se convertirán en artefactos primarios en disputas legales y de seguros.
Este artículo profundiza en la toxicidad y la seguridad del contenido en LLMs, resaltando su importancia crucial para evitar la generación de material dañino. Cubre los aspectos técnicos, éticos, sociales y legales implicados en asegurar que los LLMs no difundan contenido ofensivo.
Los falsos positivos en la IA de seguridad infantil erosionan la confianza, crean injusticias y plantean desafíos legales y sociales significativos. Este artículo analiza sus causas, cómo los manejan las diferentes arquitecturas de sistemas y las elecciones de ingeniería específicas para mitigarlos.
ArXiv prohibirá por un año a los investigadores que suban artículos con "evidencia incontrovertible" de resultados de LLM no verificados, como referencias alucinadas. Las futuras presentaciones de estos autores también requerirán la aceptación de una publicación revisada por pares.
Esta publicación explica cómo usar Amazon Nova 2 Lite para la moderación de contenido mediante técnicas de prompting estructuradas y de forma libre. También compara las capacidades del modelo con varios modelos fundamentales en conjuntos de datos públicos, basado en el Estándar de Evaluación AILuminate de MLCommons.
Este artículo sostiene que la evaluación de la equidad, en particular la paridad demográfica, es una restricción de despliegue crítica e innegociable para los sistemas de IA en seguridad infantil. Ignorar esto perjudica a los usuarios, crea riesgos legales y socava la confianza, además de pasar por alto amenazas en grupos subrepresentados debido a datos sesgados.
ModSense es un sistema de inteligencia de moderación asistido por IA, un prototipo de grado de producción para grandes comunidades como Reddit. Combina detección de anomalías en tiempo real y modelado de la salud comunitaria basado en grafos con una capa de IA (Gemini 3 Flash) para identificar y responder a problemas como la toxicidad y la desinformación.
Este artículo presenta un nuevo marco para evaluar la IA gobernada por reglas, especialmente en la moderación de contenido, yendo más allá de las métricas de acuerdo simples. Propone el Defensibility Index (DI), Ambiguity Index (AI) y Probabilistic Defensibility Signal (PDS) para evaluar la corrección basada en políticas y la estabilidad del razonamiento, utilizando trazas de LLM para verificar la derivabilidad lógica de las reglas.