כתבה
Simon Willison ·
Nativ: הרץ דגמי AI מקומית על Mac
Nativ: Run AI models locally on your Mac
Nativ הוא יישום macOS שמאפשר לרוץ דגמי AI מקומית. הוא תומך בדגמים MLX ומספק שרת API מקומי. היישום זיהה דגמים MLX שכבר היו מותקנים במערכת.
תקציר מקורי באנגלית<p><strong><a href="https://blaizzy.github.io/nativ/">Nativ: Run AI models locally on your Mac</a></strong></p> Prince Canuma is the developer behind the excellent <a href="https://github.com/Blaizzy/mlx-vlm">MLX-VLM</a> Python library for running vision-LLMs using MLX on a Mac.</p> <p>I'm really excited about his new project, which wraps MLX in a full macOS desktop application. It's similar in shape to LM Studio, providing both a chat interface and a localhost API server for accessing models.</p> <p>The app picked up MLX models I had already tried that were present in my Hugging Face cache directory, which was a nice touch. <p><small></small>Via <a href="https://news.ycombinator.com/item?id=48982681">Hacker News</a></small></p> <p>Tags: <a href="https://simonwillison.net/tags/macos">macos
קרא במקור המקורי
simonwillison.net
פתח כתבה מקורית