יום שלישי, 15 בספטמבר 2026 LIVE
AI־INFO

כתבה arXiv cs.LG ·

משקלות קפואות, אותות חיים: רשתות תפוצה קדימה של מודלי שפה קפואים

Dead Weights, Live Signals: Feedforward Graphs of Frozen Language Models
ארכיטקטורה של רשת תפוצה קדימה המשתמשת במודלי שפה קפואים כצירים. המחקר מציג רשת של צירים קפואים, שבה הצירים משתמשים במרחב רצפי רצף רציף כדי לשתף מידע. המחקר מציע רשת של צירים קפואים, שבה הצירים משתמשים במרחב רצפי רצף רציף כדי לשתף מידע. המחקר מציע רשת של צירים קפואים, שבה הצירים משתמשים במרחב רצפי רצף רציף כדי לשתף מידע.
תקציר מקורי באנגליתarXiv:2604.08335v2 Announce Type: replace Abstract: We present a feedforward graph architecture in which heterogeneous frozen large language models serve as computational nodes, communicating through a shared continuous latent space via learned linear projections. Building on recent work demonstrating geometric compatibility between independently trained LLM latent spaces~\cite{armstrong2026thinking}, we extend this finding from static two-model steering to end-to-end trainable multi-node graphs, where projection matrices are optimized jointly via backpropagation through residual stream injection hooks. Three small frozen models (Llama-3.2-1B, Qwen2.5-1.5B, Gemma-2-2B) encode the input into a shared latent space whose aggregate signal is injected into two larger frozen models (Phi-3-mini,
קרא במקור המקורי