GLM-4-9B支持 Ollama 部署

2024-07-12 13:45·[AIGC研究社](/c/user/token/MS4wLjABAAAAWCO1_svc1geCGAumWK7gYuyqWAY33v1cQlIhdH55k1Z2OJSLKzYOAUyhuRBxD5cc/?source=tuwen_detail)

![](https://doc.xiqi.site/media/202407/2024-07-23_060216_9055200.804007975646288.png)

**GLM-4-9B 及 CodeGeeX4-ALL-9B 现已支持Ollama部署。**

**GLM-4-9B** 是智谱 AI 推出的最新一代预训练模型 GLM-4 系列中的开源版本。在语义、数学、推理、代码和知识等多方面的数据集测评中， GLM-4-9B 在各项能力上均表现出卓越的能力。

> 具体可参见 Github Repo：https://github.com/THUDM/GLM-4

**CodeGeeX4-ALL-9B** 是最新的 CodeGeeX4 系列模型的开源版本。该模型是在 GLM-4-9B 基础上持续训练的多语言代码生成模型，显著提升了代码生成能力。

> 具体可参见 Github Repo：https://github.com/THUDM/CodeGeeX4

**Ollama**是一个专为在本地环境中运行和定制大型语言模型而设计的工具。它提供了一个简单而高效的接口，用于创建、运行和管理这些模型，同时还提供了一个丰富的预构建模型库，可以轻松集成到各种应用程序中。Ollama支持多种操作系统，包括macOS、Windows、Linux以及Docker，适用性广泛。通过Ollama，用户可以方便地部署和运行GLM-4-9B 等开源的大语言模型。此外，Ollama还提供了包括网页、桌面应用和终端界面在内的多种互动方式，方便用户使用和管理这些模型。

欢迎大家体验！

模型地址：

-   _https://ollama.com/library/glm4_
-   _https://ollama.com/library/codegeex4_

```
#执行以下命令即可部署运行

ollama run glm4

ollama run codegeex4
```

注意:此模型需要Ollama 0.2或更高版本，目前处于预发布阶段。

当前支持ollama部署的仅为语言模型，多模态模型尚不支持ollama部署。