MLX LM
Run and fine-tune LLMs on Apple Silicon with Apple’s MLX framework.
- Star 数
- 7.3K
- Fork 数
- 1.1K
- 未关闭 Issue
- 236
- 最近提交
- 2026-10-10
数据来自 GitHub API · 更新于 2026-10-15
MLX LM 是什么？
MLX LM uses Apple’s MLX array framework to run LLMs efficiently on M-series Macs, with quantization, LoRA fine-tuning and direct access to thousands of mlx-community models on Hugging Face.
主要功能
- Optimized for Apple Silicon unified memory
- Quantize and convert Hugging Face models
- LoRA and full fine-tuning
- OpenAI-compatible server
系统要求
- 平台
- macOS
- 显卡
- Apple Silicon (M1 or newer)
- Python
- 3.9+
如何安装 MLX LM
根据项目 README 整理。开源项目更新很快，请以 GitHub 页面上的最新说明为准。
pip
- 1Install.
pip install mlx-lm - 2Generate text.
mlx_lm.generate --model mlx-community/Llama-3.2-3B-Instruct-4bit --prompt "Write a haiku about the sea"
优势
- Fastest option on Macs
- Easy fine-tuning
不足
- Apple Silicon only
MLX LM 替代品对比
| 软件 | Star 数 | 许可证 | 平台 | 显存 |
|---|---|---|---|---|
| MLX LM Run and fine-tune LLMs on Apple Silicon with Apple’s MLX framework. | 7.3K | MIT | — | |
| Ollama Get up and running with large language models locally. | 183.2K | MIT | — | |
| llama.cpp LLM inference in C/C++ — the engine behind most local AI apps. | 131.2K | MIT | — | |
| Jan Open-source ChatGPT-style desktop app that runs 100% offline. | 45K | AGPL-3.0 | — | |
| GPT4All Private, on-device chat with local document Q&A. | 77.4K | MIT | — | |
| LocalAI Self-hosted, OpenAI-compatible API for text, images, audio and more. | 49.5K | MIT | — |
常见问题
MLX LM 免费吗？
是的——MLX LM 是开源软件，采用 MIT 许可证。商用前请确认软件及模型权重的许可条款。
MLX LM 支持 Windows、Mac 和 Linux 吗？
MLX LM 支持：macOS。
运行 MLX LM 需要什么配置？
Apple Silicon (M1 or newer)
如何安装 MLX LM？
1. Install. 2. Generate text.
MLX LM 有哪些好的替代品？
常见替代品包括 Ollama, llama.cpp, Jan, GPT4All，详见本页对比表。