Jan — 开源离线 AI 大模型运行客户端

Jan 是一款开源的离线 AI 大模型运行客户端，让用户在自己的电脑上本地运行 Llama、Mistral、Gemma 等开源大语言模型，提供简洁直观的桌面界面和完整的模型管理功能，无需联网即可使用 AI 对话能力。

核心功能

• 本地模型运行：直接在用户电脑上运行大语言模型，支持 CPU 和 GPU 加速，无需依赖云端服务
• 模型商店：内置模型下载中心，支持一键下载 Llama 3、Mistral、Phi、Gemma 等热门开源模型的多种量化版本
• 兼容 OpenAI API：提供与 OpenAI 完全兼容的本地 API 服务，现有使用 OpenAI API 的应用可无缝切换到本地模型
• 对话与助手管理：支持创建多个对话线程，自定义不同的 AI 助手角色和系统提示词，管理历史对话记录
• 扩展插件系统：通过插件架构支持功能扩展，社区开发了 RAG 文档问答、代码解释器等实用插件

应用场景

隐私敏感用户无需将个人数据上传到任何云端，在完全断网的环境下也能使用 AI 对话功能，适合处理涉密文件和私人信息。开发者利用 Jan 的本地 API 服务作为开发和测试环境，在本地调试 AI 应用而无需消耗云端 API 额度。AI 爱好者可以方便地尝试和对比各种开源模型的表现，探索不同模型在不同任务上的优劣。

产品亮点

• 完全离线运行：所有数据和模型都在本地，即使完全断开网络也能正常使用，隐私保护做到极致
• 跨平台桌面应用：提供原生桌面应用，支持 macOS、Windows 和 Linux 三大操作系统
• 开源且活跃：AGPLv3 协议开源，GitHub 星标超过 25K，社区持续贡献新功能和模型支持

价格与平台

Jan 完全免费开源，无任何付费功能或订阅。支持 macOS（含 Apple Silicon 优化）、Windows 和 Linux 桌面端下载安装。运行要求至少 8GB 内存，推荐 16GB 以上以获得更好的对话体验。支持 NVIDIA GPU 加速和 Apple Metal 加速。