כתבה
arXiv cs.LG ·
הבריחה החשאית: חדירה באמצעות LLM
The Innocent Courier: Covert Exfiltration Through Legitimate LLM Web Fetching
LLMLeak הוא וקטור תקיפה חדש שמנצל LLM כדי להעביר נתונים רגישים. התוקף יכול לשלוח נתונים דרך URL שנוצר על ידי ה-LLM, ואז לקבל את הנתונים המוצפנים דרך שרת DNS או web. המחקר בדק 11 מודלים פתוחים ומצא שיעור הצלחה של 79.7%.
תקציר מקורי באנגליתarXiv:2610.01768v1 Announce Type: cross Abstract: With the increasing capabilities of Large-Language-Models (LLMs) and LLM-based agents, users are increasingly using them to solve everyday problems, such as answering e-mails or providing programming support. Existing work has extensively investigated security and privacy risks, such as prompt injections and the disclosure of sensitive data to chatbot providers. While various solutions were developed to address these risks, including input structuring to prevent prompt injections or deploying local LLMs to avoid sharing confidential data with chatbot operators, LLMs also pose the risk of leaking confidential data to third parties. In this paper, we demonstrate with LLMLeak a novel attack vector where malicious software that runs locally but
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית