כתבה
arXiv cs.LG ·
דינמיקה כקוד: על צינורות קיצור דגם באמצעות מערכת דינמית
Dynamics as Code: On Model Compression via Dynamic System
צינורות קיצור דגם באמצעות מערכות דינמיות לשם הפקת דגמים יעילים. המחקר עוסק בפיתוח צינורות קיצור דגם חדשים, המבוססים על מערכות דינמיות, כדי להפקיד דגמים יעילים. המחקר כולל גם פיתוח של צינורות קיצור דגם חדשים, המבוססים על מערכות דינמיות, כדי להפקיד דגמים יעילים.
תקציר מקורי באנגליתarXiv:2610.11115v1 Announce Type: new Abstract: The escalating size of pretrained neural networks has rendered model compression a prerequisite for deployment under stringent memory and compute constraints. With the irrational winding as an example, earlier work introduced a dynamic system (DS) paradigm that reconceptualizes compression as compact weight representation: high-dimensional parameters are encoded by the index of a trajectory produced by a dynamic system, from which the vector is recovered during decompression. This mechanism is fundamentally distinct from pruning, quantization, knowledge distillation, and low-rank decomposition. Along this direction, we prove that under a Diophantine condition, a finite trajectory of \(M = O(\epsilon^{-(d+\nu)})\) states in the irrational wind
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית