כתבה
arXiv cs.AI ·
אל תשלח את שאלה שאתה לא צריך: פירוק טוקן מונחה שאלה כהגנה על פרטיות עבור מודלי שפה-תמונה
Don't Send What You Don't Need: Question-Guided Token Pruning as a Privacy Defense for Vision-Language Models
פירוק טוקן מונחה שאלה לשם הגנה על פרטיות עבור מודלי שפה-תמונה. ניתן להשתמש ב-DINOv2.
תקציר מקורי באנגליתarXiv:2609.15671v1 Announce Type: cross Abstract: Visual Question Answering (VQA) with Vision-Language Models (VLMs) is increasingly used in privacy-sensitive and bandwidth-constrained settings. Federated Learning (FL), Split Learning (SL), and U-Shaped Split Learning (USL) keep raw data local, but transmitting all visual tokens across a model partition remains costly and can expose private information. We propose QPriv-VL, a question-guided, privacy-aware token-pruning framework for FL, SL, and USL that prunes visual tokens before transmission based on task utility and privacy sensitivity. Its core component is a lightweight Dynamic Threshold Predictor (DTP) that jointly estimates a sample-specific pruning ratio and a token-level retention mask in one forward pass. DTP combines question r
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית