PCA — artículos, noticias e investigación de IA

RESEARCH↑ trendingReddit r/MachineLearning·9/4/2026

[P] PCA before truncation makes non-Matryoshka embeddings compressible: results on BGE-M3 [P]

O conteúdo explora a técnica de aplicar PCA antes da truncagem de dimensões para comprimir embeddings, demonstrando que esta abordagem preserva a qualidade dos vetores (similaridade de cosseno) muito melhor do que a truncagem ingênua, especialmente para modelos não Matryoshka como BGE-M3. A técnica também é comparada a outros métodos de compressão, como quantização, mostrando resultados competitivos em termos de desempenho e taxa de compressão.

Dimensionality Reduction PCA Embedding Compression

Metric-Aware PCA as a Linear Instance of Geometric Deep Learning

Este artículo sitúa el Análisis de Componentes Principales con Conciencia Métrica (MAPCA) dentro del marco del aprendizaje profundo geométrico. La métrica se interpreta como el prior geométrico, y las soluciones de MAPCA son equivariantes bajo el grupo de simetría que induce.