self-supervised learning

10 items

RESEARCH↑ trendingReddit r/MachineLearning·17/04/2026

Low accuracy (~50%) with SSL (BYOL/MAE/VICReg) on hyperspectral crop stress data — what am I missing? [R]

Le contenu détaille un problème persistant de faible précision (~50 %) lors de l'utilisation de méthodes d'apprentissage auto-supervisé comme BYOL, MAE et VICReg pour la détection du stress des cultures hyperspectrales. Malgré diverses techniques, les performances restent à peine meilleures que le hasard pour trois classes, soulevant des doutes sur la séparabilité des données ou l'adéquation des méthodes SSL.

model performance Hyperspectral imaging deep learning self-supervised learning

RESEARCHDEV.to AI·il y a 3j

Self-Supervised Temporal Pattern Mining for bio-inspired soft robotics maintenance with zero-trust governance guarantees

L'article explore la maintenance de la robotique souple bio-inspirée, en abordant la nature non linéaire de la dégradation des matériaux qui remet en question les calendriers de maintenance traditionnels. La recherche se concentre sur l'exploration de motifs temporels auto-supervisée pour identifier les signaux précurseurs de défaillance et intégrer des garanties de gouvernance de confiance zéro.

soft robotics self-supervised learning security predictive maintenance

RESEARCHarXiv CS.CL·il y a 5j

Predict and Reconstruct: Joint Objectives for Self-Supervised Language Representation Learning

Cet article propose un objectif de pré-entraînement hybride pour les encodeurs de texte, combinant une perte de prédiction d'espace latent de type JEPA avec un objectif standard de modélisation de langage masqué (MLM). Cette approche vise à encourager des représentations ancrées dans une structure sémantique plus profonde plutôt que dans la simple identité des tokens de surface, démontrant des embeddings significativement plus uniformes.

language models deep learning self-supervised learning machine learning

RESEARCHDEV.to AI·19/04/2026

Self-Supervised Learning for Stereo Matching with Self-Improving Ability

Ce travail explore l'apprentissage auto-supervisé pour la mise en correspondance stéréoscopique, en se concentrant sur un système doté d'une capacité d'auto-amélioration. La recherche vise à améliorer la précision et la robustesse des algorithmes de vision par ordinateur dans l'estimation de la profondeur.

Stereo Matching deep learning self-supervised learning computer vision

RESEARCHarXiv CS.AI·il y a 28j

PIVOT: Bridging Planning and Execution in LLM Agents via Trajectory Refinement

PIVOT (Plan-Inspect-eVOlve Trajectories) s'attaque au désalignement plan-exécution chez les agents LLM via un cadre auto-supervisé. Il affine itérativement les trajectoires par l'interaction avec l'environnement, démontrant des performances de pointe lors d'évaluations empiriques.

LLM Agents self-supervised learning Trajectory optimization machine learning

ARTICLEDEV.to AI·il y a 23j

Self-Supervised Temporal Pattern Mining for planetary geology survey missions under multi-jurisdictional compliance

Cet article examine l'exploration de modèles temporels auto-supervisés pour les données d'études géologiques planétaires, abordant les complexités de la conformité multi-juridictionnelle. Il relate une découverte personnelle dans l'analyse autonome d'images satellites et de télémétrie de rovers pour les missions spatiales.

self-supervised learning Planetary Geology Space Law Temporal Pattern Mining

RESEARCHarXiv CS.CL·10/04/2026

Lexical Tone is Hard to Quantize: Probing Discrete Speech Units in Mandarin and Yor\`ub\'a

O artigo investiga como as unidades discretas de fala (DSUs), derivadas de modelos SSL, codificam o tom lexical, descobrindo que elas o fazem de forma menos confiável do que a estrutura segmental. Embora as representações latentes do SSL codifiquem o tom, a quantização tende a priorizar a estrutura fonética, um problema demonstrado em mandarim e iorubá que persiste com vários métodos.

self-supervised learning Speech Processing Discrete Speech Units Lexical Tone

RESEARCHarXiv CS.AI·il y a 28j

RankQ: Offline-to-Online Reinforcement Learning via Self-Supervised Action Ranking

RankQ est un objectif d'apprentissage par renforcement hors ligne-vers-en ligne conçu pour améliorer l'efficacité des échantillons en exploitant des ensembles de données pré-collectés. Il résout les problèmes de critiques imprécis et de couverture limitée des données en utilisant une perte de classement multi-termes auto-supervisée, qui impose un ordre d'action structuré et oriente la fonction Q vers des actions de meilleure qualité.

Offline-to-Online Learning Action Ranking reinforcement learning self-supervised learning

RESEARCHarXiv CS.LG·08/04/2026

PRIME: Prototype-Driven Multimodal Pretraining for Cancer Prognosis with Missing Modalities

PRIME é um novo framework de pré-treinamento multimodal auto-supervisionado projetado para prognóstico de câncer, que aborda o desafio de modalidades de dados ausentes em coortes clínicas. Ele integra imagens de histopatologia, expressão gênica e relatórios patológicos, aprendendo representações robustas por meio de imputação semântica no espaço latente e objetivos de alinhamento intermodal.

self-supervised learning Multimodal Pretraining Missing Modalities Cancer Prognosis

RESEARCHarXiv CS.LG·06/04/2026

UI-Oceanus: Scaling GUI Agents with Synthetic Environmental Dynamics

UI-Oceanus é uma estrutura que escala agentes GUI generalistas, focando em dominar a física da interação através de feedback ambiental em vez de imitar trajetórias. O sistema utiliza exploração autônoma e predição de dinâmicas futuras para construir um modelo de mundo interno robusto, superando limitações de dados e supervisão.

self-supervised learning generative models world model scaling