יום שלישי, 15 בספטמבר 2026 LIVE
AI־INFO

כתבה arXiv cs.AI ·

שכחה נבחרת: שיטה חדשה לאימון מחדש של מודלים גדולים

Forgetting Only What Matters: Layer-Selective Unlearning toward Robust LLMs
חוקרים הציגו שיטה חדשה לאימון מחדש של מודלים גדולים, המאפשרת שכחה נבחרת של תוכן. השיטה, הנקראת Forgetting Only What Matters, משתמשת בציון חשיבות כדי לזהות אילו שכבות במודל הן החשובות ביותר לשכחה. השיטה הוכחה כיעילה במניעת זיכרון של תוכן רגיש.
תקציר מקורי באנגליתarXiv:2609.10439v1 Announce Type: cross Abstract: Large Language Models (LLMs) can memorize and reproduce sensitive, copyrighted, or otherwise undesirable training content, creating privacy, safety, and regulatory concerns. Machine unlearning offers a practical alternative to full retraining, but many existing methods apply broad or fixed parameter updates that can degrade utility and remain brittle under deployment changes such as post-training quantization, where forgotten knowledge may partially re-emerge. We propose Forgetting Only What Matters via Unlearning Layers (FOM-UL), a layer-level unlearning framework that selects transformer layers using a forget-to-retain significance score. This score identifies layers with high influence on the forget set and low sensitivity to the retain
קרא במקור המקורי