17.8 ChatGLM3/CogVLM一键部署指南:32K长文本+多模态实战,零基础搞定企业级模型微调(附完整代码)
GLM 模型部署微调实践
ChatGLM3-6B 开源介绍与快速上手
智谱AI开源的ChatGLM3-6B模型基于GLM-6B基座模型进行指令微调,在32K上下文长度支持下展现出强大的多轮对话能力。其技术亮点包括:
- 基座模型:采用GLM架构的6B参数模型
- 训练数据:包含1.4T中英文本的预训练语料
- 对话格式:创新性支持工具调用(Function Call)和代码解释器(Code Interpreter)
快速部署指南
# 安装基础环境
conda create -n chatglm python=3.10
conda activate chatglm
pip install -r requirements.txt
from transformers