כתבה
arXiv cs.CL ·
לולאה לא שלמה: היקש דדוקטיבי, אינדוקטיבי ואבדוקטיבי במודלים של שפה
An Incomplete Loop: Deductive, Inductive, and Abductive Reasoning in Language Models
מחקר חדש בודק את היכולת של מודלים של שפה ללמוד משימות חדשות בדרכים שונות. הניסויים הראו פער גדול בין סוגי ההיקש: המודלים יכולים ללמוד מפרומפטים עם מעט דוגמאות, אך לא להסביר את חוקי החיזוי שלהם. המחקר משתמש במודלים ממשפחות gpt ו-llama.
תקציר מקורי באנגליתarXiv:2404.03028v4 Announce Type: replace Abstract: Modern language models (LMs) can learn to perform new tasks in different ways: in instruction following, the target task is described explicitly in natural language; in few-shot prompting, the task is specified implicitly with a small number of examples; in instruction inference, LMs are presented with in-context examples and are then prompted to generate a natural language task description before making predictions. Each of these procedures may be thought of as invoking a different form of reasoning: instruction following involves deductive reasoning, few-shot prompting involves inductive reasoning, and instruction inference involves abductive reasoning. How do these different capabilities relate? Across four LMs (from the gpt and llama
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית