כתבה
arXiv cs.AI ·
מודלים רקורסיביים אקראיים
Random Recursive Models
מודלים רקורסיביים אקראיים מאפשרים חישוב יעיל יותר. הם משתמשים בשכבות למידה שונות ומאפשרים עומק משתנה בזמן הידור. המודלים האלה מתאימים למשימות קשות ויכולים לשפר ביצועים ללא צורך באימון מחדש.
תקציר מקורי באנגליתarXiv:2610.00541v1 Announce Type: cross Abstract: Recursive models create computational depth through parameter reuse, offering a parameter-efficient alternative to increasing model size. However, most recursive models repeatedly apply one learned transformation or a prescribed sequence of transformations, restricting computation to a fixed layer order. We introduce the Random Recursive Model (RRM), which maintains a pool of $L$ learned layers and performs $T$ recursive steps by sampling one layer independently with replacement for each example and step. This enables flexible layer reuse while retaining the parameter efficiency of recurrence. We evaluate RRM on challenging reasoning tasks, where it matches or exceeds the baselines, often with 50-75 % fewer parameters. RRM can vary its dept
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית