כתבה
arXiv cs.AI ·
PLUME: תכנון עדכני וזול של דגמי תקשורת גדולים על ידי התאמה נמוכת-דרגה של משתמשים במרחבים משותפים
PLUME: Parameter-Efficient Personalization of Large Language Models via Low-Rank User Modulation in Shared Subspaces
PLUME היא פרקטיקה חדשה שמאפשרת עדכון זול ומשמעותי של דגמי תקשורת גדולים. היא משתמשת במרחבים משותפים כדי להגדיל את האפשרויות של דגמי התקשורת. PLUME כבר הוכיחה את עצמה במספר מבחנים של תקשורת גדולה.
תקציר מקורי באנגליתarXiv:2609.04715v1 Announce Type: new Abstract: Personalizing large language models (LLMs) is essential for delivering AI assistance that aligns with individual users' styles, intents, and preferences. While per-user fine-tuning can substantially enhance personalization quality, it introduces significant parameter and storage overhead, limiting scalability to large user populations. We propose PLUME (Personalized Low-Rank Adaptation through User Modulation and Shared Subspace), a lightweight framework that achieves efficient and expressive per-user adaptation by leveraging a shared task-specific subspace. Specifically, PLUME first learns a global task subspace from aggregated user data. Personalization is then achieved by training only a lightweight small square matrix within this subspace
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית