וידאו
YT AI Engineer ·
הגברת ה-Hugging Face Hub ללא קריסה
Serving 2 Million Models Without Melting: Scaling the Hugging Face Hub — Arek Borucki, Hugging Face
▶ צפה כאן — בלי לצאת מהאתר
ה-Hugging Face Hub משרת 14 מיליון משתמשים ומיליון סטים נתונים. חיפוש מהיר נעשה אפשרי באמצעות Apache Lucene ו-MongoDB Atlas. המערכת משתמשת בשבעה צומתי MongoDB, כאשר רק הצומת הראשי מקבל כתיבה.
תקציר מקורי באנגליתType llama into a catalog of 3 million public models and the result still has to feel instant. At 20,000 models any query is fast; at Hugging Face's scale, 14 million users and a million datasets on top, search becomes the hard part. Arek Borucki shows how the Hub keeps it quick: full text search on Apache Lucene, served through MongoDB Atlas, which stores only the metadata while the model artifacts sit in S3 so compute scales on its own. Regex ranking did not hold, so relevance now runs through one unified query with the $search operator, sorted by downloads, likes, and trending. Underneath is a seven node MongoDB cluster where only the primary takes writes, with a hidden analytics node soaking up the heavy queries so production traffic never feels them. Keep queries light, push everythin
קרא במקור המקורי
youtube.com
פתח כתבה מקורית