machine unlearning

4 items

RESEARCHarXiv CS.AI·12d atrás

RULER: Representation-Level Verification of Machine Unlearning

O artigo apresenta RULER, um conjunto de métricas de verificação ao nível da representação para o desaprendizado de máquina, visando remover a influência de registros de treinamento específicos de um modelo. Diferentemente das avaliações de nível de saída, RULER detecta resíduos de registros esquecidos em representações intermediárias, revelando que métodos de desaprendizado aproximados ainda podem codificar informações esquecidas.

AI Verification privacy model security machine unlearning

RESEARCHarXiv CS.LG·17d atrás

DualOptim+: Bridging Shared and Decoupled Optimizer States for Better Machine Unlearning in Large Language Models

DualOptim+ é uma nova estrutura de otimização que aprimora o desaprendizado de máquina em grandes modelos de linguagem, conectando estados de otimizador compartilhados e desacoplados. Ele utiliza estados base para representações comuns e estados delta para residuais específicos de objetivos, oferecendo também uma variante quantizada de 8 bits para reduzir o consumo de memória sem comprometer o desempenho.

Optimization learning machine unlearning large language models

RESEARCHarXiv CS.AI·20d atrás

Interference-Aware Multi-Task Unlearning

O desaprendizado de máquina geralmente se concentra em configurações de tarefa única, mas modelos modernos de IA frequentemente operam em ambientes multi-tarefas com backbones compartilhados, causando interferência indesejada ao remover dados. Este artigo introduz o desaprendizado multi-tarefas, propondo uma estrutura consciente de interferência que utiliza projeção de gradiente sensível à tarefa para lidar com interferências em nível de tarefa e de instância.

gradient projection multi-task learning interference learning

RESEARCHarXiv CS.LG·15d atrás

Approximate Machine Unlearning through Manifold Representation Forgetting Guided by Self Mode Connectivity

Este artigo propõe o ManiF-SMC, um novo método para o desaprendizado de máquina aproximado que supera as limitações das abordagens existentes. Ele reformula o desaprendizado como o afastamento de amostras apagadas de sua representação de manifold original em direção a vizinhos semânticos nos dados retidos, buscando equivalência com o retreinamento.

data privacy Model Retraining machine unlearning Manifold Learning