כתבה
arXiv cs.LG ·
אישור בטיחות ללמידת חיזוק לא מקוונת
Certified Safety Curation: Distribution-Free Guarantees for Safe Offline Reinforcement Learning
חוקרים פיתחו שיטה לאישור בטיחות ללמידת חיזוק לא מקוונת, המאפשרת להבטיח שפעולות הבוט יהיו בטוחות. השיטה משתמשת במנגנון סינון ושיבוט, ומאפשרת לקבוע סף בטיחות עבור הפעולות.
תקציר מקורי באנגליתarXiv:2609.12014v1 Announce Type: new Abstract: Safe offline reinforcement learning assumes a cost function on every transition. We ask what remains possible when safety can be judged only by comparing short clips and occasionally asking whether an episode exceeded its budget. Certified safety curation answers with a filter-then-clone pipeline: a state-only value trained from segment comparisons scores whole trajectories, Learn-then-Test calibration certifies a selection threshold under a distribution-free $(\alpha, \delta)$ bound on the unsafe fraction of the selection, and behavior cloning follows. We are not aware of prior work certifying the composition of a training set for offline RL or imitation. Oracle controls justify the design: reweighting individual transitions fails even with
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית