LocalAI
Self-hosted, OpenAI-compatible API for text, images, audio and more.
- Star 数
- 49.5K
- Fork 数
- 4.5K
- 未关闭 Issue
- 189
- 最近提交
- 2026-10-15
数据来自 GitHub API · 更新于 2026-10-15
LocalAI 是什么？
LocalAI is a drop-in replacement for the OpenAI API that runs locally. It serves LLMs, image generation, speech-to-text, TTS and embeddings through multiple backends, with a model gallery and web UI.
主要功能
- OpenAI API–compatible endpoints
- Text, image, audio and embedding backends
- Runs on CPU or GPU
- Model gallery and P2P distributed inference
系统要求
- 平台
- Linux · macOS · Docker · Windows
- 显卡
- Optional
- 内存
- 8 GB+
如何安装 LocalAI
根据项目 README 整理。开源项目更新很快，请以 GitHub 页面上的最新说明为准。
Docker
- 1Run the CPU image and open http://localhost:8080.
docker run -ti --name local-ai -p 8080:8080 localai/localai:latest
Install script
- 1Install with the official script.
curl https://localai.io/install.sh | sh
优势
- One API for many modalities
- Drop-in OpenAI replacement
不足
- More moving parts than Ollama
LocalAI 替代品对比
| 软件 | Star 数 | 许可证 | 平台 | 显存 |
|---|---|---|---|---|
| LocalAI Self-hosted, OpenAI-compatible API for text, images, audio and more. | 49.5K | MIT | — | |
| Ollama Get up and running with large language models locally. | 183.2K | MIT | — | |
| vLLM High-throughput LLM serving engine with PagedAttention. | 93.8K | Apache-2.0 | — | |
| llama.cpp LLM inference in C/C++ — the engine behind most local AI apps. | 131.2K | MIT | — | |
| Jan Open-source ChatGPT-style desktop app that runs 100% offline. | 45K | AGPL-3.0 | — | |
| GPT4All Private, on-device chat with local document Q&A. | 77.4K | MIT | — |
常见问题
LocalAI 免费吗？
是的——LocalAI 是开源软件，采用 MIT 许可证。商用前请确认软件及模型权重的许可条款。
LocalAI 支持 Windows、Mac 和 Linux 吗？
LocalAI 支持：Linux, macOS, Docker, Windows。
运行 LocalAI 需要什么配置？
Optional. RAM: 8 GB+
如何安装 LocalAI？
1. Run the CPU image and open http://localhost:8080.
LocalAI 有哪些好的替代品？
常见替代品包括 Ollama, vLLM, llama.cpp, Jan，详见本页对比表。