כתבה
arXiv cs.AI ·
גילוי חולשה: אופטימיזציה של כבדי מודלים עשויה להכניס חולשה
Trusted Weights, Treacherous Optimizations? Optimization-Triggered Backdoor Attacks on LLMs
אופטימיזציה של כבדי מודלים עשויה להכניס חולשה שאינה נראית. חוקרים גילו שאופטימיזציה של LLMs עשויה להכניס חולשה שאינה נראית. החולשה נגלית רק כאשר ה-LLM מופעל באופן מאופטימיזציות. החוקרים גילו שאופטימיזציה של LLMs עשויה להכניס חולשה שאינה נראית. החולשה נגלית רק כאשר ה-LLM מופעל באופטימיזציות.
תקציר מקורי באנגליתarXiv:2605.20641v2 Announce Type: replace-cross Abstract: Inference optimization aims to minimize the latency and resource consumption of LLM inference while preserving output quality, making large-scale deployment practical and cost-effective. However, optimized execution can introduce small numerical inconsistencies from the original model. We reveal that this inconsistency not only causes the model's outputs to diverge, but more critically can introduce hidden backdoors. The backdoor remains dormant under standard unoptimized execution and is activated only when inference optimization is enabled, allowing it to evade existing backdoor detection pipelines. We first introduce the Input-Specific Optimization Backdoor (ISOB) to demonstrate that optimization-induced differences can cause wro
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית