וידאו
YT AI Engineer ·
חשיבה מחדש על סביבות עבור עבודה באופק ארוך
Rethinking Environments for Long-Horizon Work — Rayan Garg, Theta Software
▶ צפה כאן — בלי לצאת מהאתר
ריאן גארג מ-Theta Software דן במהו אופק ארוך וכיצד למדוד אותו. הוא מציג גישות לעיצוב סביבות ואימות תוצאות עבור סוכנים הפועלים באופק זמן ארוך. המטרה היא ליצור הערכה מדויקת יותר של ביצועי הסוכנים.
תקציר מקורי באנגליתEveryone wants agents that handle long horizon work, but Rayan Garg starts with the awkward question of what long horizon even means. One popular answer measures the time horizon as the task length at which an agent crosses a success threshold, like the sixteen hour mark, which is a useful endpoint but a noisy one, since human time estimates vary and the same wall clock hides very different amounts of real difficulty. How you choose to measure this has an outsized effect on what you conclude about a model. From there Theta Software's work is about designing the environments and verifiers that make those measurements honest. A task can be artificially stretched by forcing serial dependencies, or made genuinely hard when a bad early query cascades through everything after it, and as environm
קרא במקור המקורי
youtube.com
פתח כתבה מקורית