Weak Supervision

3 items

RESEARCHarXiv CS.AI·09/04/2026

Weakly Supervised Distillation of Hallucination Signals into Transformer Representations

Este artigo propõe um novo método para detecção de alucinações em LLMs, destilando sinais de supervisão externa diretamente nas representações internas do modelo durante o treinamento. Para isso, introduz um framework de supervisão fraca que combina correspondência de substrings, similaridade de embeddings e um LLM como juiz, culminando na criação de um dataset de 15.000 amostras para este propósito.

Transformer Representations hallucination detection LLMs Machine Learning

RESEARCHarXiv CS.LG·13/04/2026

Structured Exploration and Exploitation of Label Functions for Automated Data Annotation

L'article présente EXPONA, un cadre automatisé pour l'étiquetage programmatique qui aborde les défis de l'annotation manuelle des données, coûteuse et sujette aux erreurs. EXPONA explore systématiquement des fonctions d'étiquetage multiniveaux et applique des mécanismes de fiabilité pour générer des étiquettes faibles de haute qualité pour l'entraînement des modèles d'IA.

Machine Learning Automated Data Annotation Weak Supervision Programmatic Labeling

RESEARCHarXiv CS.LG·08/04/2026

Learning Stable Predictors from Weak Supervision under Distribution Shift

Este artigo de pesquisa formaliza o 'supervision drift' em experimentos CRISPR-Cas13d, analisando a robustez de modelos sob shift de distribuição, inclusive quando o mecanismo de supervisão muda. Utilizando um benchmark não-IID, demonstra bom desempenho in-domain, mas falha na transferência temporal e apenas sucesso parcial na transferência entre linhagens celulares.

robustness distribution shift Transfer Learning Machine Learning