כתבה
arXiv cs.AI ·
Bits Under ZK-LLM: הערכת קוונטיזציה ידידותית ל-Zero-Knowledge
Bits Under ZK-LLM: Evaluating Zero-Knowledge-Friendly Quantization for Verifiable Private LLM Inference
חוקרים בדקו קוונטיזציה ידידותית ל-Zero-Knowledge עבור מודלים של LLM, כולל Qwen2.5-14B ו-Qwen3-30B-A3B. התוצאות מראות כי דיוק ההפעלה רגיש יותר מדיוק המשקל, וכי קירובים לא ליניאריים יכולים להיות המקור העיקרי לירידה בתועלת.
תקציר מקורי באנגליתarXiv:2609.36437v1 Announce Type: new Abstract: Zero-knowledge proofs are emerging as a promising approach for enabling private, verifiable LLM governance and auditing, where regulators, users, and auditors need to verify claims about training-data usage or LLM inference-time behavior, while model providers must protect proprietary model parameters. However, despite the growing interest in ZK-LLMs, the understanding of ZK-friendly quantization remains limited. This gap matters because in the ZK setting, quantization directly shapes the arithmetic structure, constraint complexity, and proving cost of ZK inference. ZK protocols operate over finite fields and incur costs that depend heavily on the number and type of arithmetic operations, nonlinearities, and lookup constraints. Understanding
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית