← heapsort-ai

quality evaluation

2 items

RESEARCH↑ trendingReddit r/MachineLearning·14/4/2026

We benchmarked TranslateGemma against 5 other LLMs on subtitle translation across 6 languages. At first glance the numbers told a clean story, but then human QA added a chapter. [D]

Este contenido presenta un estudio comparativo que evaluó seis Grandes Modelos de Lenguaje (LLMs), incluyendo TranslateGemma-12b, en la traducción de subtítulos del inglés a seis idiomas. Los modelos fueron clasificados utilizando métricas de Evaluación de Calidad (QE) sin referencia y una métrica combinada personalizada llamada TQI, donde TranslateGemma-12b resultó ser el modelo con mejor rendimiento general.

We benchmarked TranslateGemma against 5 other LLMs on subtitle translation across 6 languages. At first glance the numbers told a clean story, but then human QA added a chapter. [D]
70
ARTICLEDEV.to AI·hace 18d

How I use an LLM as a translation judge

El autor usa GEMBA-MQM v2, un sistema basado en LLM, para la evaluación automática de la calidad de traducciones, categorizando errores por tipo y gravedad. A pesar de su alta correlación con anotaciones humanas, el sistema presenta ruido, requiriendo múltiples pasadas para mitigar la variabilidad de las puntuaciones.

27