El artículo introduce DiBS, un nuevo enfoque guiado por un modelo de difusión para la selección de ramas en la resolución de Sudoku, un problema de satisfacción de restricciones. Mejora los solucionadores simbólicos utilizando un modelo de difusión para guiar el orden de las ramas, asegurando la completitud y mitigando problemas de búsqueda de cola larga.
Este artículo presenta el Modelo de Lenguaje de Difusión On-Policy (OPDLM) para transformar modelos autorregresivos (ARLMs) en modelos de lenguaje de difusión (DLMs). Aborda problemas como la pérdida de conocimiento y el desajuste entre entrenamiento e inferencia mediante el uso de la Destilación On-Policy (OPD).
El artículo presenta "bicache", la primera técnica de caché KV para prefijos compartidos en modelos de lenguaje de difusión (DLMs), abordando desafíos donde los métodos de caché de LLM existentes fallan debido a la atención bidireccional de los DLMs. Este nuevo enfoque busca desbloquear el servicio de DLM de alto rendimiento, aprovechando observaciones sobre la estabilidad de los KVs de prefijos compartidos en capas poco profundas.
DMax é um novo paradigma para modelos de linguagem de difusão (dLLMs) eficientes que mitiga o acúmulo de erros na decodificação paralela. Ele permite um paralelismo agressivo ao reformular a decodificação como um processo de auto-refinamento progressivo e introduzir uma estratégia de treinamento unificada.
El autor construyó un modelo de lenguaje de difusión desde cero para comprender mejor conceptos complejos, sin la ayuda de código generado por IA. Entrenó el modelo de 7.5M parámetros con el pequeño conjunto de datos de Shakespeare y compartió el código en GitHub.
Los Modelos de Lenguaje Grandes de Difusión (dLLMs) experimentan un "retraso de estabilidad" debido a la confirmación irreversible de tokens, un problema agravado por errores de Cuantificación Post-Entrenamiento (PTQ). FAIR-Calib propone un marco PTQ de dos etapas que utiliza un prior de posición y calibración por capa para proteger estados de frontera frágiles, mejorando la cuantificación para dLLMs.
El autor explora la belleza y la honestidad de pausar modelos de difusión a mitad de la renderización, encontrando estos marcos inacabados más reveladores que las imágenes finales pulidas. Estas etapas, donde los modelos de IA aún están "pensando" y negociando características de sus datos de entrenamiento, se describen como una "confesión" en lugar de una "declaración".
Este artículo propone una nueva técnica, Token-to-Mask (T2M) remasking, para refinar modelos de lenguaje de difusión enmascarados como LLaDA2.1. El método aborda las deficiencias de la edición Token-to-Token (T2T) al restablecer los tokens sospechosos a un estado de máscara, permitiendo una predicción más precisa.
Discrete Tilt Matching (DTM) es un nuevo método sin verosimilitud para el ajuste fino de grandes modelos de lenguaje de difusión enmascarada (dLLMs), abordando la intratabilidad de las probabilidades marginales. Este método reformula el ajuste fino como coincidencia a nivel de estado y emplea un objetivo de entropía cruzada ponderada con varianzas de control, logrando mejoras notables en tareas como Sudoku y Countdown.
El artículo revela una vulnerabilidad crítica en los modelos de lenguaje basados en difusión (dLLMs) donde su alineación de seguridad, basada en programas de denoising monotónicos, puede ser fácilmente eludida. Al volver a enmascarar tokens de rechazo e inyectar un prefijo afirmativo, los investigadores lograron altas tasas de éxito de ataque contra dLLMs destacados, exponiendo una falla estructural.
Este artículo ofrece una explicación teórica sobre la eficiencia de los modelos de difusión al aprender la función de score para datos de alta dimensión en variedades de baja dimensión. Identifica un mecanismo de "colapso y refinamiento" impulsado por la geometría de la función de score, donde el mapa de eliminación de ruido se proyecta en la variedad de datos y refina la densidad intrínseca.
El nuevo modelo gpt-image-2 de OpenAI ha resuelto el antiguo problema de la incapacidad de la IA para renderizar texto y diseños complejos con precisión en imágenes. Este pivote arquitectónico representa un avance significativo, que exige una reevaluación de los flujos de trabajo basados en modelos de difusión.
Esta investigación unifica Transformers, mapas de difusión y Laplacianos magnéticos, mostrándolos como diferentes regímenes de una única geometría de Markov. El estudio define una "bidivergencia" QK para conectar atención y difusión, organizando sus dinámicas con producto de expertos y puentes de Schrödinger.
Los modelos de lenguaje de difusión están logrando ganancias significativas de rendimiento y reduciendo la brecha con los decodificadores autorregresivos en la velocidad de inferencia. Los nuevos Modelos de Lenguaje de Difusión Introspectivos (I-DLM) abordan problemas previos de consistencia introspectiva y bucles de muestreo ineficientes, mejorando tanto la calidad como la latencia.
Esta investigación optimiza sistemáticamente la inferencia de modelos de difusión en tiempo real en el Apple M3 Ultra, explorando varias técnicas como la conversión CoreML y la cuantificación. El estudio logró 22.7 FPS para la transformación img2img de 512x512 combinando la conversión CoreML del SDXS-512 con una tubería de cámara de 3 hilos.
Este artículo analiza por qué los generadores de imágenes de IA, como Stable Diffusion y Midjourney, fallan sistemáticamente al renderizar texto, explicando que el problema radica en cómo los modelos de difusión aprenden patrones visuales. Sin embargo, señala la existencia de un modelo que finalmente ha superado esta limitación común.
Este artículo investiga las limitaciones de las intervenciones uniformes en los modelos de lenguaje de difusión discreta (DLMs), mostrando que degradan la calidad de la generación controlada. Los autores descubren que diferentes atributos se consolidan en etapas distintas del proceso de denoising, proponiendo un programador adaptativo para concentrar las intervenciones de manera eficiente.
FLUID es un nuevo framework que adapta eficientemente modelos autorregresivos (AR) al paradigma de difusión para la generación paralela de texto. Permite la inicialización desde modelos tipo GPT e introduce un mecanismo de denoising dinámico, logrando un rendimiento de vanguardia con costos de entrenamiento significativamente menores.
Este trabalho explora o agendamento de modelos para acelerar os Modelos de Linguagem de Difusão Mascarada (MDLMs), substituindo o modelo completo por um menor em certas etapas de denoising. A pesquisa mostra que as etapas iniciais e finais são mais robustas a essa substituição, permitindo uma redução de até 17% nos FLOPs com degradação mínima na perplexidade generativa.
Esta investigación introduce LIFT, un algoritmo de ajuste fino informado por la "learnability" (capacidad de aprendizaje), diseñado para mejorar las capacidades de razonamiento de los modelos de lenguaje de difusión. LIFT aborda las deficiencias del SFT estándar aprendiendo tokens de forma adaptativa según su dificultad y el contexto disponible en diferentes pasos de tiempo de difusión, mostrando un rendimiento mejorado.