כתבה
arXiv cs.LG ·
Para-Pipe: מסגרת לניצול מקביליות היררכית
Para-Pipe: Exploiting Hierarchical Operator Parallelism of ML Computational Graphs on SoCs
Para-Pipe היא מסגרת לניצול מקביליות היררכית בגרפים חישוביים של ML. היא מאפשרת ביצועים מהירים יותר וצריכת אנרגיה נמוכה יותר ב-SoCs. המחקר הראה ש-Para-Pipe משפרת את יעילות האנרגיה ב-11% לעומת שיטות פייפליין טהורות.
תקציר מקורי באנגליתarXiv:2609.04168v1 Announce Type: cross Abstract: As edge-based deep learning applications become more complex, optimizing performance on heterogeneous System-on-Chips (SoCs) presents unique challenges. Traditional pipelining techniques distributing the computation across different on-chip processing units, while effective for throughput, do not address the latency demands posed by modern neural networks with complex interdependencies and extensive operator parallelism. There is a potential in leveraging operator parallelism to enable concurrent execution across multiple processing units, thereby reducing inference latency. However, prioritizing pipelining or parallel execution often necessitates a compromise, where optimizing one performance metric adversely impacts the other. This paper
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית