← heapsort-ai

Weak Supervision

3 items

RESEARCHarXiv CS.AI·09/04/2026

Weakly Supervised Distillation of Hallucination Signals into Transformer Representations

Este artigo propõe um novo método para detecção de alucinações em LLMs, destilando sinais de supervisão externa diretamente nas representações internas do modelo durante o treinamento. Para isso, introduz um framework de supervisão fraca que combina correspondência de substrings, similaridade de embeddings e um LLM como juiz, culminando na criação de um dataset de 15.000 amostras para este propósito.

28
RESEARCHarXiv CS.LG·13/04/2026

Structured Exploration and Exploitation of Label Functions for Automated Data Annotation

O artigo apresenta EXPONA, uma estrutura automatizada para rotulagem programática que aborda os desafios da anotação manual de dados, que é cara e propensa a erros. A EXPONA explora sistematicamente funções de rótulo multinível e aplica mecanismos conscientes da confiabilidade para gerar rótulos fracos de alta qualidade para treinar modelos de IA.

27
RESEARCHarXiv CS.LG·08/04/2026

Learning Stable Predictors from Weak Supervision under Distribution Shift

Este artigo de pesquisa formaliza o 'supervision drift' em experimentos CRISPR-Cas13d, analisando a robustez de modelos sob shift de distribuição, inclusive quando o mecanismo de supervisão muda. Utilizando um benchmark não-IID, demonstra bom desempenho in-domain, mas falha na transferência temporal e apenas sucesso parcial na transferência entre linhagens celulares.

27