יום ראשון, 4 באוקטובר 2026 LIVE
AI־INFO

כתבה arXiv cs.CL ·

שיפור דגמים באמצעות סגמנטציה תפקודית

Layer-Informed Fine-Tuning via Three-Stage Functional Segmentation of LLMs
חוקרים הציעו שיטה חדשה לשיפור דגמי LLM באמצעות סגמנטציה תפקודית. השיטה, הנקראת LIFT, מאפשרת שיפור יעיל ומהיר של הדגמים. המחקר הראה כי LIFT משפר את ביצועי המודל ומאיץ את תהליך האימון.
תקציר מקורי באנגליתarXiv:2609.38027v1 Announce Type: new Abstract: In recent years, the performance of large language models (LLMs) on reasoning tasks has been remarkable, even surpassing human capabilities on various benchmarks. However, there remains a lack of clear understanding in the academic community regarding how the structure and internal parameters of LLMs progressively solve complex reasoning problems. In this study, we investigate the inference process of LLMs on cross-linguistic materials and propose the hypothesis that LLM layers exhibit a structured division of labor across conceptualization, reasoning, and textualization. Based on this hypothesis, we introduce a bottleneck identification mechanism using sensitivity analysis to pinpoint the most critical functional stage for a specific task. L
קרא במקור המקורי