וידאו
YT AI Engineer ·
פסילת תזמון: איך למנוע תקלות בחיפוש
Stop Fine-Tuning to Fix Retrieval Problems — Anant Srivastava
▶ צפה כאן — בלי לצאת מהאתר
אנאנט סריווסטבה, טכנולוג מנהל למערכות נתונים ו-AI ב-Oracle, טוען שאין להסתמך על תזמון כדי לתקן תקלות בחיפוש. הוא מציע תרגיל פשוט לכל אחד מהכלים: הפרזנטציה היא להתנהגות קטנה ויציבה, הזיכרון הוא לידע שנמצא בספרייה, והמשקלות הן רק לתגובות שכבר לא משתנות. הוא סוגר עם תכנון תפעולי שבו האג'נט נשאר טוב יותר בעת שהוא עושה את תפקידו.
תקציר מקורי באנגליתMost AI teams never decide where their knowledge lives. Six months of normal product work decides for them. Anant Srivastava, principal technologist for data and AI platforms at Oracle, argues that prompt, memory and weights aren't a ladder you climb when answers go wrong. They're three tools for three jobs. Through a support assistant that kept inventing product names after a fine-tune, he shows how architecture builds up by accident. He then gives a simple diagnostic for each: the prompt is for small, stable behavior; memory is for knowledge that's current, large, citable or access-controlled; weights are only for reflexes that have stopped changing. He closes with a circulating architecture where the agent gets better by doing its job. In this talk: • How every prompt edit, indexed doc
קרא במקור המקורי
youtube.com
פתח כתבה מקורית