כתבה
arXiv cs.LG ·
אופטימיזציה Bayesiana עם גאומטריה של מידע פישר: גבולות גרדיאנט ושיטות של אזורי אמון
Bayesian Optimization with Fisher Information Geometry: Gradient Bounds and Trust-Region Methods
אופטימיזציה Bayesiana עם גאומטריה של מידע פישר. המחברים מציגים שיטה חדשה לאופטימיזציה Bayesiana המבוססת על גאומטריה של מידע פישר. השיטה, שנקראת FITR, משתמשת במטריקת פישר כדי להגדיר גבולות גרדיאנט על פונקציות קבלה. המחברים מציגים גם תיאור על השיטה ואת תוצאות הניסויים.
תקציר מקורי באנגליתarXiv:2609.31107v1 Announce Type: new Abstract: We study Bayesian optimization (BO) through the lens of information geometry. Pulling back the Fisher information metric through the surrogate posterior map yields a local sensitivity tensor on the input space, which leads to an upper bound on the gradient of reparameterizable acquisition functions. This view explains vanishing-gradient behavior in high-dimensional BO and provides a common interpretation of heuristics such as RAASP and dimension-scaled lengthscales. Building on this analysis, we propose FITR, a trust-region-based BO method that replaces lengthscale-based scaling by local pullback-Fisher weights. FITR is not restricted to GP kernels with explicit lengthscales. On GP benchmarks with an SE kernel, experiments show competitive pe
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית