Ollama 把“在本地机器上运行大语言模型”从研究项目变成了一条命令:拉取模型、启动服务、获得 OpenAI 兼容的 API, powering 无数本地聊天界面与工具。
核心特性
• 一行命令拉取并运行 Llama、Qwen、Gemma 等主流开源模型。
• 提供本地 HTTP API(兼容 OpenAI 接口),便于接入各类前端与 Agent。
• 支持模型量化与硬件加速,消费级显卡即可推理。
• 跨平台(macOS / Linux / Windows),Go 语言实现,MIT 协议,GitHub 星标约 17 万。
适用场景:隐私优先的本地 AI 助手、离线推理、企业内部私有化大模型服务、AI 应用开发调试。
相关资料
官网:https://ollama.com/
GitHub:github.com/ollama/ollama |