Jan

一个免费开源的本地运行大模型并进行AI聊天对话的工具，可以帮助用户在本地电脑（Windows、Mac、Linux）上安装、部署、运行并使用开源版本的ChatGPT替代大模型，如LLaMa、Mistral、Phi-2等20多个模型。此外，它还支持输入自己的OpenAI API Key以运行GPT。相较于之前介绍的Ollama，该工具提供了对话UI和API服务器，非常适合开发者、研究人员或AI爱好者在本地体验开源的大模型。

Jan的主要功能包括：
1. 本地运行开源大模型：支持LlaMa、Mistral、Phi-2、DeepSeek、Yi等20多个模型，可以手动导入也可以从模型库下载模型。
2. 简洁好用的聊天界面：软件界面清爽简洁、直观易用，可以直接在本地与开源大模型进行快速对话聊天。
3. 支持多个平台：Jan可以在Windows、Mac（Intel、M1/M2/M3）和Linux等操作系统上运行，未来还将推出移动端APP。
4. 内置API服务器：与OpenAI API兼容，可以通过API获取模型信息、下载、启动、停止模型以及进行聊天等操作。