כתבה
arXiv cs.AI ·
MOMAT: מערכת של מפות רב-גופניות להגנה נמוכת-אנרגיה מפני פריצה ל-LLMs מוצפנים
MOMAT: Mixture of Multiple Atlases for Low-Power Jailbreak Defense of Quantized LLMs
MOMAT היא מערכת של הגנה נמוכת-אנרגיה שמשתמשת במפות רב-גופניות להגנה מפני פריצה ל-LLMs מוצפנים. המערכת משתמשת ב-GPT-5 וב-Gemini ומסוגלת להגן על LLMs מפני פריצה באופן יעיל ונמוך-אנרגיה.
תקציר מקורי באנגליתarXiv:2610.01058v1 Announce Type: cross Abstract: Quantized large language models are increasingly deployed on edge devices for their low latency and energy efficiency. However, model quantization weakens alignment safeguards, leaving qLLMs (quantized large language models) highly vulnerable to jailbreak attacks. To address this challenge, we present MOMAT (Mixture of Multiple Atlases), a hardware-enhanced safety framework that combines structured knowledge retrieval with low-power defense acceleration. Each atlas represents a semantic cluster of harmful or benign sample sets and policy templates, enabling domain-localized Retrieval-Augmented Generation guarding that mitigates the curse of dimensionality and the resulting semantic sparsity problem in large, heterogeneous safety databases.
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית