כתבה
arXiv cs.CL ·
RAG-Safety-Bench: ניטור יעיל של בטיחות LLM עם רישום-אוגמנטציה
RAG-Safety-Bench: Reliable Evaluation of Retrieval-Augmented LLM Safety
נחשפה תשתית חדשה לבדיקת בטיחות של LLMs עם רישום-אוגמנטציה. התשתית, RAG-Safety-Bench, מספקת ניטור יעיל של בטיחות LLMs ומאפשרת לבדוק את השפעת רישום-אוגמנטציה על בטיחות ה-LLM. התשתית כוללת ארבעה תנאים שונים, כולל רישום-אוגמנטציה עם דוקומנט אורקל, רישום-אוגמנטציה עם דוקומנטים קשורים, ורישום-אוגמנטציה עם דוקומנטים בטוחים. התשתית נועדה לספק תשתית חדשה ויעילה לבדיקת בטיחות LLMs ולאפשר למדענים לבדוק את השפעת רישום-אוגמנטציה על בטיחות ה-LLM.
תקציר מקורי באנגליתarXiv:2609.11758v1 Announce Type: new Abstract: Allowing large language models (LLMs) to retrieve information from a set of trusted documents can increase reliability and reduce hallucination. However, recent work has demonstrated that retrieval-augmented generation (RAG) can have unintended side effects on the overall safety of the generated responses, when prompted for harmful or dangerous content. A clearer understanding of the mechanisms leading to this result is needed, as increasing numbers of end users turn to RAG to incorporate corporate documents and knowledge bases into LLM-based systems. We introduce RAG-Safety-Bench, a benchmark to measure the safety impact of RAG on LLM models. By removing the confounding effect of retriever quality, and cleanly separating the problem into fou
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית