יום רביעי, 7 באוקטובר 2026 LIVE
AI־INFO

כתבה arXiv cs.LG ·

התאמת LLMs לידע ביומדי לפי טוהר תפיסה

Aligning LLMs with Biomedical Knowledge using Balanced Fine-Tuning
התאמת LLMs לידע ביומדי לפי טוהר תפיסה. פיתוח של LLMs לקידום מחקר ביומדי דורשת התאמה חזקה לידע ביומדי.
תקציר מקורי באנגליתarXiv:2511.21075v4 Announce Type: replace Abstract: Engineering LLMs to accelerate life sciences research requires a robust alignment with biomedical knowledge. We observe that biomedical text exhibits a fundamentally different uncertainty structure from general text: dense low-confidence runs encode epistemic knowledge gaps (dense causal chains, rare entities) rather than the sparse aleatoric stylistic variation typical of general text. Based on this discovery, we propose Balanced Fine-Tuning (BFT), a dual-scale post-training method that combines group-normalized token reweighting with sequence-level reallocation toward knowledge-dense samples exhibiting dense epistemic uncertainty. Across medical evaluation, biological reasoning, sparse-reward RL, and biological representation tasks, BFT
קרא במקור המקורי