כתבה
arXiv cs.LG ·
Inference-Time Machine Unlearning via Gated Activation Redirection
GUARD-IT, שיטה חדשה לביטול זיכרון בזמן הריצה, נותנת כוח למודלי LLM לשכוח נתונים מיוחדים, כולל נתונים פרטיים, תוך שמירת יכולת הדיבור הטובה שלהם.
תקציר מקורי באנגליתarXiv:2605.12765v4 Announce Type: replace Abstract: Large Language Models (LLMs) memorize vast amounts of training data, raising concerns regarding privacy, copyright infringement, and safety. Machine unlearning seeks to remove the influence of a targeted forget set while preserving model performance, ideally approximating a model retrained from scratch without it. Once an LLM is in use, every new request to make it forget specific content demands updating its weights. However, unlearning through parameter updates is expensive, hard to audit, and can be undone by quantization. We show that unlearning can be enforced entirely at inference time, without training, gradients, or weight changes. We introduce Inference-Time Unlearning via Gated Activation Redirection (GUARD-IT), a training- and
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית