llama2-webui是一个公共的GitHub代码库，用于在GPU或CPU上从任何地方运行具有gradio用户界面的Llama 2（一个用于自然语言处理的模型）。它支持Llama-2-7B/13B/70B模型，可以使用8位和4位精度。同时支持GPU推理（6GB VRAM）和CPU推理。
相关导航
暂无评论...
51an.com是一家专门收集整理各种AI工具网站的导航网站，致力于为用户提供全面、便捷、高效的AI工具导航服务。网站收录了众多AI工具、资源网站，包括AI绘图、智能剪辑视频、自然语言处理、图像识别、大数据分析等多个领域的工具。是AI爱好者必备工具。
鄂公网安备 ：42010202000889 号