כתבה
arXiv cs.AI ·
מעבר מאיחוד מונוליתי לאורכביות נפרדת: תגובה דינמית לעוזרי דיבור בקנה מידה
From Monolithic Blending to Agentic Orchestration: Dynamic Response for Conversational Assistants at Scale
עוזרי דיבור של חברת נוף עוברים מאיחוד מונוליתי לאורכביות דינמית. המעבר כולל שינויים בפרומפטים, התאמה ושירות. התוצאות כוללות עלייה בדיוק של 89.1% בבחירת ישויות והפחתה ב-100% בהופעת תגובות מבולבלות. המעבר גם כולל שיפורים בביצועי השרת וקטיעה של עלויות השירות.
תקציר מקורי באנגליתarXiv:2609.05758v2 Announce Type: new Abstract: Conversational assistants can blend retrieval, action selection, escalation, and wording in a single model path, or separate those roles. We report a production migration of a customer-support assistant at a large accommodation marketplace (millions of conversations per month, 11 languages, 10-second P90). Dynamic Response (DR) replaces a single Qwen3-235B-A22B blended responder with a bounded ReAct orchestrator over typed tools plus a smaller generator that writes from a backend-validated context contract. Because the migration also changed prompts, alignment, and serving, we attribute each effect to its cause and claim as architecture effects only those measured on identical replayed turns: typed entity selection moves the reservation selec
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית