Este contenido explora el papel crítico de la preferencia por pares en la evaluación de Grandes Modelos de Lenguaje (LLM). Discute cómo este método puede ayudar a alinear el rendimiento de los LLM de manera más efectiva con el juicio humano.
Los grandes modelos de lenguaje (LLM) enfrentan una limitación llamada 'cuello de botella de concepto', donde pierden hechos críticos en razonamientos latentes profundos. Este artículo propone AGCLR para abordar esto, aumentando CoCoNuT con un flujo de concepto con puerta para memoria persistente.
Esta investigación presenta una nueva tarea de búsqueda bidireccional de granularidad pequeña entre código y texto, con el objetivo de vincular publicaciones científicas con segmentos de código correspondientes. Propone un gran conjunto de datos, parcialmente generado por GPT-4, y un enfoque modular que logra buenos resultados.
GraphLoRA propone un nuevo marco para la Recomendación con Grandes Modelos de Lenguaje (LLMRec) que integra información estructural con semántica textual. Para ello, incrusta una red de paso de mensajes de grafos entrenable dentro de la vía de adaptación de bajo rango, permitiendo que la topología colaborativa guíe explícitamente las actualizaciones de los parámetros.
Sakana AI ha lanzado su Laboratorio de Auto-Mejora Recursiva (RSI), con el objetivo de desarrollar modelos de IA capaces de mejorar su propio rendimiento. Esta iniciativa se centra en la investigación fundamental para crear sistemas de IA más robustos y adaptables.
Un usuario de Hacker News pide a investigadores de IA que compartan artículos recientes de aprendizaje automático que les hayan impactado. El objetivo es descubrir publicaciones nuevas y emocionantes en el ámbito del ML para aquellos que buscan novedades.
Los grandes modelos de lenguaje (LLM) enfrentan el olvido catastrófico y la pérdida de plasticidad al actualizar sus parámetros para tareas específicas. Este trabajo introduce un marco de aprendizaje "rápido-lento" para LLM, utilizando los parámetros del modelo como pesos lentos y el contexto optimizado como pesos rápidos para adaptarse eficientemente sin comprometer el razonamiento general.
Un investigador independiente creó SGOCR, una pipeline de dataset de código abierto centrada en OCR y VQA con base espacial, para cubrir una brecha en los datasets visuales para la conexión de texto en imágenes. Esta pipeline genera tuplas VQA con metadatos enriquecidos, soportando diversas estrategias de entrenamiento de VLM.
Este contenido discute la perspectiva de que los Large Language Models (LLMs) aprenden de manera inversa y que la hipótesis de escalabilidad tiene límites inherentes.
Este contenido se refiere a un artículo de investigación titulado "Follow the Mean: Reference-Guided Flow Matching". Explora una nueva metodología en modelos generativos.
![Follow the Mean: Reference-Guided Flow Matching [R]](/cdn-cgi/image/width=3840,quality=75,format=webp/https://preview.redd.it/5pleq5b4861h1.png?width=140&height=91&auto=webp&s=5f80ce290c30e51700f9b9fd0f907ee56e9382b2)
El contenido describe un desalineamiento percibido en el proceso de revisión de ICML, donde los revisores se sienten presionados a homogeneizar las puntuaciones para evitar discusiones prolongadas, lo que podría llevar al rechazo de artículos positivos. Destaca la reticencia de los revisores a actualizar las puntuaciones incluso después de abordar las preocupaciones, creando dinámicas distorsionadas.
Esta discusión cuestiona si los Modelos de Lenguaje Visual (VLMs) en producción aún utilizan ViTs de parche fijo para sus capacidades de visión, a pesar de la existencia de métodos de tokenización más eficientes. Explora posibles razones para esto, como ganancias marginales, limitaciones de tubería o leyes de escala no claras para el "patching" adaptativo.
El título cuestiona si la investigación en IA se está optimizando para la aceptación inmediata en lugar de un valor duradero. Esto provoca una discusión crítica sobre la dirección y las prioridades de la innovación en inteligencia artificial.
Un usuario de KDD 2026 informó que las revisiones y discusiones de su artículo enviado han desaparecido de su vista de autor, mientras que puede ver las discusiones de otros artículos como revisor. Pregunta si otros autores están experimentando el mismo problema técnico en la plataforma de revisión.
La Hipótesis Piggyback explica cómo los tokens de plantilla de chat pueden causar desalineación emergente en LLMs, generalizando el comportamiento ajustado a consultas fuera del dominio. Se propone la técnica Token-Regularized Finetuning (TReFT) para mitigar este problema, preservando el aprendizaje en el dominio y reduciendo la desalineación.
El contenido debate si los artículos de aprendizaje automático aceptados entre 2000 y 2021 serían aprobados hoy, sugiriendo que el nivel de exigencia ha aumentado significativamente. Se discute si el estándar de investigación ha subido o si el campo se ha vuelto más concurrido y competitivo.
Una publicación en Reddit discute la gran variación en las puntuaciones de los artículos entre diferentes lotes de revisión para ICML 2026, con algunos lotes teniendo pocas puntuaciones altas y otros promedios más altos. El usuario pregunta por las razones de esta disparidad, como diferencias de dominio o revisores más estrictos, y si ICML lo tiene en cuenta.
El artículo de un autor fue rechazado de un taller por sonar más a informe técnico que a artículo de investigación, a pesar de seguir el formato habitual de visión por computadora. Busca la opinión de la comunidad para entender los errores comunes que conducen a tal evaluación.
Un estudiante universitario pregunta sobre las perspectivas futuras y la adopción de las Redes Neuronales Spiking y las Redes Neuronales Líquidas, cuestionando si son áreas prometedoras para el aprendizaje y proyectos. El usuario busca discutir el potencial de estas tecnologías de computación neuromórfica.
Este es un espacio para que los participantes de UAI 2026 compartan sus reacciones, ya sean quejas o alivio, una vez que las revisiones de la conferencia se publiquen pronto. Se desea buena suerte a todos con sus resultados.