כתבה
arXiv cs.LG ·
מבנה סימבולי נסתר במודלי יסוד לבריאות: גילוי, התאמה והעברה מודלים-קרוס
Emergent Symbolic Structure in Health Foundation Models: Extraction, Alignment, and Cross-Modal Transfer
מחקר חדש מצא שמודלי יסוד לבריאות, שנלמדו independent, נגיעים למבנה נסתר זהה של הפיזיולוגיה. הממצאים יכולים לשפר את הבינה העצמית של המודלים.
תקציר מקורי באנגליתarXiv:2605.07407v2 Announce Type: replace Abstract: We show that information can be transferred post-hoc across independently trained health foundation models (FMs), each pretrained on ~20M minutes of wearable sensor data from ~172K participants, by aligning their data-dependent coordinate systems. From frozen embeddings we extract candidate symbol-like components using linear decomposition methods, and align them across models with simple linear maps. Aligned symbols associate selectively with health conditions and physiological attributes, with associations similar across modalities and architectures. A classifier trained on one model's symbols and applied to another retains more than 95% of its in-domain performance, with similar retention in both directions. Overall, our results indica
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית