כתבה
arXiv cs.AI ·
המונח הרביעי החסר במודל TME
The Missing Fourth Term for the Emulation Tensor Memory Equilibrium (TME) Model: The Residue Deconstruction Cost
חוקרים גילו חוסר במודל TME, המשפיע על זמן ביצוע החיקוי. הם הוסיפו את המונח הרביעי וקבעו סף עבור נצילות החיקוי. NVIDIA B300 GPU הוא הדוגמה המרכזית.
תקציר מקורי באנגליתarXiv:2610.10924v1 Announce Type: cross Abstract: The Tensor-Memory Equilibrium (TME) model of "FP8 is All You Need (Part 1)" calculates the execution time of Ozaki Scheme II emulation of fp64 as the maximum of a tensor-core term and a High-Bandwidth Memory (HBM) traffic term, plus a per-output reconstruction term. However, it omits the per-input deconstruction cost: every streamed fp64 operand must be scaled, rounded, and reduced modulo each of the $r$ moduli on SIMT pipes before any matrix multiply can issue. In this note we add this fourth term, calibrate its constant from the cuBLAS emulation path, and derive a closed-form operational-intensity threshold $\mathrm{OI}^{*} = c_q r P_{\mathrm{fp64}}/(8P_{\mathrm{int}})$ below which emulation cannot match native fp64 regardless of tensor-c
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית