כתבה
arXiv cs.LG ·
EMMI: תכנון רשתות רב-מודלי לאינטליגנציה קצה על-מודלי MLLM
EMMI: Edge Multi-Modal Intelligence for Communication-Efficient MLLM Inference via Fused Representation Compression
EMMI מאפשרת אינטליגנציה קצה על-מודלי MLLM עם צריכת תקשורת נמוכה. המערכת משתמשת בתכנון רשתות רב-מודלי כדי לקבל ייצוג קצר וקובץ של נתונים, ולשלוח אותו למשאבי השרת. זה מאפשר זמן עיבוד נמוך יותר וצריכת תקשורת נמוכה.
תקציר מקורי באנגליתarXiv:2609.11058v1 Announce Type: new Abstract: Recent advances in multimodal large language mod- els (MLLMs) have opened new opportunities for edge intelligence by enabling reasoning across heterogeneous sensor modalities, such as vision, text, and telemetry data. However, deploying these capabilities on resource-constrained edge platforms remains challenging due to the substantial computational, memory, and communication demands of modern MLLMs. Rather than transmitting raw sensor observations or partitioning neural networks at intermediate layers, Edge Multi-Modal Intelligence (EMMI) communicates a compact representation between edge devices and server resources, enabling communication-efficient edge MLLM inference. To achieve this, EMMI performs modality-specific encoding, cross-modal
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית