כתבה
arXiv cs.AI ·
FlexiFlow: שינוי דגלי עבודה בזמן ריצה לשם השגת תוצאות זיהוי טובות
FlexiFlow: Bandit-based Model Switching in ML Workflows
FlexiFlow היא מערכת שמשנה בזמן ריצה בין דגלי עבודה שונים כדי לשפר תוצאות זיהוי. המערכת משתמשת בגישה Bandit כדי ללמוד לדרג דגלי עבודה ולשנות ביניהם. ניסויים עם דגלי עבודה אמיתיים הראו ששינוי דגלי עבודה משפר תוצאות זיהוי בעד 23%. FlexiFlow יכולה לשנות בין דגלי עבודה שונים בזמן ריצה, כולל דגלי עבודה של Meta AI, Google AI ו-GPT-5.
תקציר מקורי באנגליתarXiv:2610.07286v1 Announce Type: cross Abstract: Model optimizations help improve inference performance and accuracy of ML workflows. However, relying on a single model to perform inference across all data batches often fails to maximize accuracy and thus overall performance. In many cases, alternate models could perform better on specific subsets of data where a primary model underperforms. Our experiments with real ML workflows indeed show that switching models improves workflow accuracy by up to 23%. Yet, current systems lack the ability to adaptively switch between models based on performance, forcing users to manually test models in sequence. We present FlexiFlow, a dataflow system that dynamically switches between alternate models when the current model exhibits low accuracy. FlexiF
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית