כתבה
arXiv cs.AI ·
הגעה לקידוד חללי במודלי חיפוש אודיו-ויזואליים גדולים
Unlocking Spatial Grounding in Large Audio-Visual Retrieval models
במאמר זה, המחברים מציגים פרקטיקה יעילה לאתרת קולות באמצעות נתוני אודיו-ויזואליים, ללא צורך באנוטציות חלליות. הם מציגים פרקטיקה חדשה, LAIP, המשתמשת באגרגציה חללית נבונה, המאפשרת קידוד חללי במודלי חיפוש אודיו-ויזואליים גדולים.
תקציר מקורי באנגליתarXiv:2607.24786v2 Announce Type: replace-cross Abstract: Weak supervision sets a practical regime for audio-visual sound source localization as dense spatial annotations are costly to obtain at scale. The task, however, remains challenging, as models must locate sound sources from temporally aligned audio-visual data without pixel-level supervision. Recent large-scale audio-visual retrieval models, trained at unprecedented scale, encode rich multimodal structure. We show their latent representations, though optimized for global alignment, can nonetheless enable fine-grained spatial grounding. While spatial detail is progressively lost in the upper layers of retrieval backbones due to global pooling, intermediate visual tokens retain highly structured spatial information. To exploit this,
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית