כתבה
arXiv cs.LG ·
השמה מרובת תגיות באמצעות LLM
Multi-Label Topic Assignment via LLM Distillation: A Comparative Analysis of Generative vs. Discriminative Student Models
ניתוח השוואתי של מודלים יוצרים ומבדילים להשמה מרובת תגיות. המחקר בוחן את ביצועיהם של מודלים קטנים וגדולים, כולל LLM, בנושאים שונים. התוצאות מראות כי מודלים יוצרים עדיפים על מודלים מבדילים בנושאים מסוימים.
תקציר מקורי באנגליתarXiv:2610.09063v1 Announce Type: new Abstract: Multi-label topic assignment for user-generated content (UGC) -- including product reviews and buyer-seller conversations -- poses unique scalability challenges in large-scale e-commerce due to informal language, extreme label sparsity, and rapidly evolving taxonomies. While utilizing Large Language Models (LLMs) as labeling oracles to distill ground-truth data has emerged as an industry standard to bypass prohibitive manual annotation costs, determining the optimal, low-latency architecture for the resulting student models remains an open challenge. To address this, we conduct a comprehensive evaluation across Small Language Model (SLM) parameter scales (1B, 4B, and 8B) and architectural paradigms (causal generative versus bidirectional disc
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית