כתבה
arXiv cs.LG ·
האם אנחנו עושים אכן למידה במקצועות נמוכים? בחינה קריטית של ההנחות של הכשרה
Are We Really Doing Few-Shot Learning? A Critical Examination of Pre-Training Assumptions
במאמר זה, נבחן את ההנחות של הכשרה בלמידה במקצועות נמוכים. נראה שהכשרה בתחום זה עשויה להיות יעילה יותר כאשר המודלים נלמדים על נתונים שאינם קשורים לתחום המטרה.
תקציר מקורי באנגליתarXiv:2609.10851v2 Announce Type: replace-cross Abstract: Few-shot learning is commonly evaluated under protocols that pre-train a model on a large auxiliary set whose classes are disjoint from the target episodes yet drawn from the same visual domain. This paper examines whether such protocols truly reflect low-data learning. We systematically compare no pre-training, class-disjoint in-domain pre-training, supervised out-of-domain pre-training, and label-free out-of-domain pre-training across eight datasets, three few-shot architectures, and multiple way-shot settings. Our results show that class disjointness alone is insufficient to remove the influence of target-domain data. In-domain pre-training improves over no pre-training by 33.41 percentage points on average, whereas supervised ou
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית