יום שלישי, 15 בספטמבר 2026 LIVE
AI־INFO

כתבה arXiv cs.LG ·

למידת חסימה לשאלות ותשובות בדיבור במודלי שפה גדולים

Machine Unlearning for Speech Question Answering in Large Audio-Language Models
במאמר זה, חוקרים חקרו את האפשרות להסרת ידע פרטי ממודלי שפה גדולים לשאלות ותשובות בדיבור. הם הציגו שיטות שונות להסרת ידע זה, כולל גרדיאנט אסקנס, חישובי משימה ושיטות התאמה-בהתאמה. התוצאות הראו שאלו השיטות יכולות לקטין את קצב הפריצה של פרטיות עד 80% בעודם שומרות על יכולת המודל להגיב באופן נייטרלי.
תקציר מקורי באנגליתarXiv:2609.13195v1 Announce Type: new Abstract: Large Audio-Language Models (LALMs) have recently shown strong capabilities in speech understanding and question answering (QA), but they also inherit privacy risks from large-scale training data, including the unintended memorization of sensitive information. In this work, we study machine unlearning for speech QA in LALMs, a setting that is more challenging than prior work on text-based Large Language Models (LLMs) or Automatic Speech Recognition (ASR) due to the tight coupling between acoustic perception and factual knowledge. We present and evaluate multiple unlearning strategies, including gradient ascent, task arithmetic, and alignment-based fine-tuning methods that enforce safe refusal responses, to remove private knowledge while still
קרא במקור המקורי