כתבה
arXiv cs.AI ·
חוקי גידול מולטימודליים זוגיים
Paired Multimodal Scaling Laws
חוקי גידול מולטימודליים חדשים לנתונים זוגיים. החוקים החדשים חושפים את השפעת יחס הזיהוי על קורס האבדן במשימות הכרה מולטימודליות.
תקציר מקורי באנגליתarXiv:2609.36263v1 Announce Type: cross Abstract: Existing multimodal scaling laws fit multimodality terms empirically after testing and never vary how much data is multimodally paired at fixed data budgets. We investigate how, under the same total data per modality, changing the number of paired data affects loss curves in multimodal classification tasks. We train models in three different environments and run experiment sweeps varying data sizes and pairing budget. Pairing ratios have a dramatic impact on loss and this impact is directly tied to how much information synergy the task contains. Only paired data is able to reduce synergistic loss, while unpaired data can reduce redundant or unimodal information up until unimodal floors. Unlike traditional scaling laws where loss drops immed
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית