יום שני, 5 באוקטובר 2026 LIVE
AI־INFO

כתבה arXiv cs.AI ·

תשומת לב ברז: אלגברת גוף קשיח בתוך טרנספורמר

Screw Attention: Rigid-Body Algebra Inside a Transformer
Screw Attention הוא שכבת טרנספורמר שבה היחס בין שני גופים הוא טרנספורמציה מרחבית. המחקר מראה כי השיטה עמידה בפני שינויים גאומטריים ורעש.
תקציר מקורי באנגליתarXiv:2610.00904v2 Announce Type: replace-cross Abstract: Learned manipulation policies rediscover from data the spatial relations that rigid-body mechanics supplies in closed form, which leaves them fragile to geometric change. We present Screw Attention, a transformer layer in which the relation between two bodies is a spatial transform rather than a graph edge. Each pair of tokens carries the relative pose and, for robot joints, the joint screw. Messages are transported along this relation into the receiver's frame, while the attention scores see only frame-invariant quantities. By construction, the messages are equivariant to an independent change of frame at every token, and a single layer can express the velocity recursion of rigid-body mechanics. On LIBERO-Spatial, a policy of 16k p
קרא במקור המקורי