יום ראשון, 4 באוקטובר 2026 LIVE
AI־INFO

כתבה arXiv cs.CL ·

פורק-שיח עם ביטחון

Fork-Think with Confidence
אתרוג-שיח, שהוצג במאמר, מצליח לצמצם את צריכת הטוקן של LLM ואת זמן הרצה, תוך שמירה על יכולת הביצועים. השיטה, המכונה Fork-think, עובדת באופן יעיל יותר משיטות קיימות ומסוגלת לזהות נקודות-פריצה חשובות בתהליך החשיבה.
תקציר מקורי באנגליתarXiv:2606.31484v2 Announce Type: replace-cross Abstract: Parallel thinking has enjoyed great success for boosting LLM performance on reasoning tasks without the need for any re-training. However, existing methods follow a think-first-then-decide paradigm, i.e., they first sample multiple reasoning paths, which inevitably leads to overgeneration, then prune or stop unnecessary paths to compensate. In contrast, decide-first-then-think, i.e., first identifying points that are likely to lead to desirable generations, has been underexplored so far. Following this paradigm, we propose Fork-think with confidence, that first identifies forking points using model confidence in a single seeding path, then triggers thinking, sampling multiple continuations and aggregating them for the final response
קרא במקור המקורי