כתבה
Simon Willison ·
שרת השלמות שיחת LLM
llm-chat-completions-server 0.1a0
פורסם שרת השלמות שיחת LLM, התומך בבקשות השלמה בסגנון OpenAI Chat Completions. השרת מאפשר ללקוחות להשתמש במודלים שונים, כולל qwen3.5-4b, ולנהל שיחות מורכבות.
תקציר מקורי באנגלית<p><strong>Release:</strong> <a href="https://github.com/simonw/llm-chat-completions-server/releases/tag/0.1a0">llm-chat-completions-server 0.1a0</a></p> <p>A key goal of the new content-addressable logs <a href="https://simonwillison.net/2026/Jul/30/llm-rc1/">in LLM 0.32rc1</a> was being able to support OpenAI Chat Completion style requests where each incoming message extends the previous conversation, like this:</p> <pre><code>curl http://localhost:8002/v1/chat/completions \ -H 'Content-Type: application/json' \ -d '{ "model": "qwen3.5-4b", "messages": [ {"role": "user", "content": "Capital of France?"}, {"role": "assistant", "content": "Paris."}, {"role": "user", "content": "Germany?"} ] }' </code></pre> <p>Here the conversation state is tracked by the client, so each of these requests
קרא במקור המקורי
simonwillison.net
פתח כתבה מקורית