כתבה
MarkTechPost ·
Architect משיק Liquid Inference, מכירה פומבית באופן זמני להפעלת LLM
Architect Launches Liquid Inference, a Real-Time Auction for LLM Inference
Architect Financial Technologies השיקה Liquid Inference, שירות של מכירה פומבית באופן זמני להפעלת LLM. Liquid Inference הוא שוק להפעלת LLM שבו ספקים מתחרים על תפוקה. הקונה רוכש את השירות במחיר הנמוך ביותר שמצליח להגיע לדרישותיו.
תקציר מקורי באנגליתArchitect Financial Technologies has launched Liquid Inference , an LLM router that runs a live auction for every request. Liquid Inference is an LLM inference marketplace from Architect where providers bid to serve each prompt. The buyer pays the lowest offer that meets its rules. For developers, it is quite simple message: swap a base URL, keep your code, and let providers compete on price. What is Liquid Inference? Liquid Inference is an exchange-style router for LLM inference. According to Architect , providers post offers to serve specific models. Each request is auctioned across every provider quoting the named model. The lowest-priced offer that meets the buyer’s rules wins. The product comes from a trading firm, not an AI lab. Architect runs the AX perpetual futures exchange
קרא במקור המקורי
marktechpost.com
פתח כתבה מקורית