כתבה
arXiv cs.LG ·
16-ביט דיוק של רשתות עצביות מקבילות
16-bit Precision of Convolutional Neural Networks on Microcontroller Units for 8-bit Costs
W16A16 הוא שיטת קידוד 16-ביט מהירה וחסכונית באנרגיה. היא משיגה מהירות וצריכת אנרגיה נמוכה יותר מאשר שיטות קידוד 8-ביט. המחקר בוחן את הארכיטקטורה של Armv7E-M ומדגים תוצאות משופרות.
תקציר מקורי באנגליתarXiv:2610.03402v1 Announce Type: new Abstract: To deploy deep neural networks on edge hardware, highly efficient inference schemes are necessary that retain high accuracy. This work presents W16A16, a high precision (16-bit), fast speed, low energy quantization method. On a widely applied microcontroller architecture Armv7E-M, our proposed approach achieves faster speed and lower energy consumption on layer- and model-level compared to alternative quantization schemes. We analyze the architecture of Armv7E-M, explain the underlying principles behind the performance advantages of 16-bit approaches, and evaluate the empiric quantization errors for regression and classification tasks, as well as empiric time- and energy consumption in MCU deployment. We observe ca.\ 10 times lower quantizati
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית