כתבה
arXiv cs.LG ·
קיצוץ פרומפטים בקלאסיפייקטור רנטגן חזה רב-מודאלי
Layer-Wise Gate-Controlled Prompt Truncation in a Multimodal Chest X-Ray Classifier
חוקרים פיתחו שיטה לקיצוץ פרומפטים בקלאסיפייקטור רנטגן חזה רב-מודאלי. השיטה משתמשת בשליטה על גייטים כדי לקצר פרומפטים ולשפר דיוק. התוצאות הראו שיפור בדיוק הקלאסיפיקציה.
תקציר מקורי באנגליתarXiv:2609.06590v1 Announce Type: new Abstract: Mixture of Prompt Experts (MoPE) adapts multimodal transformers through input-dependent prompt composition, while retaining a fixed prompt length. We investigate a layer-wise gating extension in a binary chest X-ray classification pilot study. The controller predicts a retention ratio for each sample, averages these ratios within a mini-batch, and uses the resulting integer length to truncate the static and mixed visual prompts. Retained mixed prompts are also scaled by the individual ratios. In one recorded run per configuration, the gated model reached a best validation accuracy of 0.8996, compared with 0.8969 for the fixed-length baseline; the corresponding final values were 0.8963 and 0.8802. The exported gate statistics imply a retained
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית