וידאו
YT AI Engineer ·
אל תנו ל-LLM לנהוג
Don't Let the LLM Drive - Ornella Bahidika & Joel Allou, Microsoft
▶ צפה כאן — בלי לצאת מהאתר
במערכת הדיבור של מיקרוסופט, LLM אינו קובע את סיום השיעור. ה-LLM רק 'מדבר' ומקבל הוראות. מנגנון 'הארנס' אחראי על בקרת הזרימה. המערכת משתמשת במכונות מצב קטנות כדי לווסת את ה-LLM.
תקציר מקורי באנגליתThe LLM in my voice tutor doesn't decide when the lesson is over. It doesn't decide whether the user got the answer right. It doesn't decide which step comes next. A harness does all of that. The LLM just shows up and talks. Every engineer who's tried to ship a multi-step flow agent has felt this: the model declares itself done before it should, skips a check, loops on a step, or quietly drops half the procedure. Prompting gets you most of the way. Tool-use discipline gets you closer. The last stretch, the difference between a demo and a system real users sign into every day, is owning the flow outside the model. Ace is a voice tutor in production. The lesson is a small state machine: intro, teach, check, grade, advance, wrap. Each node hands the LLM a narrow contract: do this, return that
קרא במקור המקורי
youtube.com
פתח כתבה מקורית