MLC Chat

MLC Chat是一个开源项目MLC LLM的一部分，允许任何语言模型在多种硬件后端和本地应用程序上进行部署。MLC Chat是一个运行时，可以在您的手机上运行不同的开放模型架构。该应用程序旨在用于非商业目的。它允许您运行从互联网下载的开放语言模型，每个模型都可能受到其各自的许可证的约束。因为模型在本地运行，所以只适用于具有足够VRAM的设备，具体取决于所使用的模型。用户可以在iPad和iPhone上本地与开放语言模型聊天，一旦模型下载到应用程序中，所有内容都在本地运行，不需要服务器支持，也不需要互联网连接，不会记录任何信息。