כתבה
arXiv cs.LG ·
NOMOS: תיקון ואימות של כללי תקינה לג'נרטורים של LLM
NOMOS: Compiling Written Policies into Statically Verified Tool-Call Gates for LLM Agents
NOMOS היא תוכנה שמתקנת ואומתת כללי תקינה לג'נרטורים של LLM. היא עובדת באופן סטטי ומאפשרת תיקון ואימות של כללי תקינה. התוכנה נכתבה על ידי צוות של מדעני דטה ומהנדסים שעבדו בחברה Meta.
תקציר מקורי באנגליתarXiv:2610.11030v1 Announce Type: cross Abstract: Tool-using LLM agents violate the policies they are deployed to enforce, often silently. Prior defenses hand-write rules, query an LLM verifier per action, or compile policies through heavyweight formal machinery. Naive compilation fails: extracted rules block the tool satisfying their own precondition, or read arguments their tool lacks. NOMOS, a four-pass compiler, turns a natural-language policy into a deterministic tool-call gate; static verification with tool-schema-level checks alone (no prover, solver, or LLM) repairs or rejects 37% (airline) and 13% (retail) of candidates, without which most shipped rules are inoperable. Replaying compiled rules over undefended transcripts flags bindings that refuse legitimate work (a development bi
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית