כתבה
arXiv cs.LG ·
FastCI: פרקטיקה יעילה ל-CI עבור רכיבי LLM
FastCI: Efficient GPU-Intensive CI for LLM Training Frameworks
FastCI היא פרקטיקה יעילה ל-CI עבור רכיבי LLM, המשתמשת בראיות זמניות והפרדת ניסויים להקטין את זמן ה-CI ושימוש במשאבי GPU. FastCI כבר נכנסה לשימוש ב-CI של רכיבי LLM ב-ByteDance.
תקציר מקורי באנגליתarXiv:2610.01967v1 Announce Type: new Abstract: As large language models (LLMs) keep growing in size and complexity, their training frameworks evolve at a rapid pace as well. Therefore, continuous integration (CI) is critical for maintaining the quality and stability of these frameworks. However, unlike traditional software, CI for LLM training frameworks relies on GPU-intensive tests, which usually involve complete model training or evaluation. This leads CI itself to become a new bottleneck for fast-paced development. In this paper, we introduce FastCI, a framework that improves the efficiency of CI for LLM training frameworks. FastCI leverages runtime evidence to select affected tests and prune tests that execute changed code in equivalent contexts. Then FastCI prioritizes high-risk tes
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית