ChatGLM-6B一键安装，马上使用（windows）！！

妖狐艹你老母 2023-10-14 16:23 44阅读 0赞

#### 文章目录 ####

*   *  演示
     *  产品特点
     *  基本介绍：
     *   *  1、硬件要求：
         *  2、下载ChatGLM一键部署安装包
         *  3、一键运行

### 演示 ###

![63a7999440b24fce88b518b4f61e0a77.gif][]

![63a7999440b24fce88b518b4f61e0a77.gif][]

### 产品特点 ###

双语： 同时支持中文和英文。

高精度（英文）： 在公开的英文自然语言榜单 LAMBADA、MMLU 和 Big-bench-lite 上优于 GPT-3 175B（API: davinci，基座模型）、OPT-175B 和 BLOOM-176B。

高精度（中文）： 在7个零样本 CLUE 数据集和5个零样本 FewCLUE 数据集上明显优于 ERNIE TITAN 3.0 260B 和 YUAN 1.0-245B。

快速推理： 首个实现 INT4 量化的千亿模型，支持用一台 4 卡 3090 或 8 卡 2080Ti 服务器进行快速且基本无损推理。

可复现性： 所有结果（超过 30 个任务）均可通过我们的开源代码和模型参数复现。

跨平台： 支持在国产的海光 DCU、华为昇腾 910 和申威处理器及美国的英伟达芯片上进行训练与推理。

### 基本介绍： ###

基于ChatGLM-6B 的快速安装服务，您可以快速将ChatGLM-6B 安装安装在您本地服务器中。支持一键安装，无需任何服务配置和代码编写即可完成。

ChatGLM-6B 是一个开源的、支持中英双语的对话语言模型，基于 General Language Model (GLM) 架构，具有 62 亿参数。结合模型量化技术，用户可以在消费级的显卡上进行本地部署（INT4 量化级别下最低只需 6GB 显存）。 ChatGLM-6B 使用了和 ChatGPT 相似的技术，针对中文问答和对话进行了优化。经过约 1T 标识符的中英双语训练，辅以监督微调、反馈自助、人类反馈强化学习等技术的加持，62 亿参数的 ChatGLM-6B 已经能生成相当符合人类偏好的回答。

#### 1、硬件要求： ####

量化等级 最低 GPU显存（推理） 最低 GPU 显存（高效参数微调）  
FP16 （无量化） 13 GB 14 GB  
INT8 8 GB 9 GB  
INT4 6 GB 7 GB

#### 2、下载ChatGLM一键部署安装包 ####

链接：https://pan.baidu.com/s/13uNzRsJMeXgvhZSJH-nYgQ?pwd=java

提取码：java

#### 3、一键运行 ####

下载完成后，点击文件中的run.exe直接一键运行

运行完成后，即完成本地化ChatGLM安装，您可以直接进行使用。

--------------------

原地址：csdn：xiangbiao

[63a7999440b24fce88b518b4f61e0a77.gif]: https://img-blog.csdnimg.cn/63a7999440b24fce88b518b4f61e0a77.gif

发表评论取消回复

表情：

评论列表（有 0 条评论，44人围观）

还没有评论，来说两句吧...

相关阅读

相关 Python：清华ChatGLM-6B中文对话模型部署

简述了清华ChatGLM-6B中文对话模型部署

红太狼/ 2024年04月20日 12:02/ 0 赞/ 73 阅读

相关手把手一起在本地CPU上部署ChatGLM3-6B

1 下载ChatGLM3-6B代码如下图所示，下载链接: [ChatGLM-6B][] ![在这里插入图片描述][87415ce173ad4b2eb7bf276e...

迷南。/ 2024年04月20日 11:46/ 0 赞/ 77 阅读

相关【ChatGLM2-6B】nginx转发配置

背景好不容易把`ChatGLM2-6B`大语言模型部署好了，使用`streamlit`方式启动起来了，终于可以愉快的玩耍了，然后想着申请一个域名，使用`HTTPS`协议

布满荆棘的人生/ 2024年03月27日 19:25/ 0 赞/ 76 阅读

相关【ChatGLM2-6B】P-Tuning训练微调

机器配置阿里云`GPU`规格`ecs.gn6i-c4g1.xlarge` `NVIDIA T4`显卡\1 `GPU`显存`16G`\1 准备训练数

男娘i/ 2024年02月20日 12:33/ 0 赞/ 46 阅读

相关 ChatGLM2-6B入门

目录 ChatGLM2-6B入门安装ChatGLM2-6B 使用ChatGLM2-6B生成对话示例：生成对话使用建议总结 ----------------

快来打我*/ 2024年02月20日 11:30/ 0 赞/ 57 阅读

相关 ChatGLM-6B一键安装，马上使用（windows）！！

文章目录演示产品特点基本介绍： 1、硬件要求： 2、下载ChatGLM一键部署安装

妖狐艹你老母/ 2023年10月14日 16:23/ 0 赞/ 45 阅读

相关【ChatGLM】使用ChatGLM-6B-INT4模型进行P-Tunning训练记录及参数讲解

文章目录模型训练步骤参数含义名词解释欠拟合泛化能力

妖狐艹你老母/ 2023年10月12日 12:49/ 0 赞/ 32 阅读

相关【ChatGLM】记录一次Windows部署ChatGLM-6B流程及遇到的问题

文章目录部署环境文件下载项目文件模型配置文件模型文件运行demo 遇到的问题部署环境

梦里梦外;/ 2023年10月12日 12:49/ 0 赞/ 37 阅读

相关 Windows 上安装 Python2.6

安装 Python 2.6.6 1、官网下载安装包安装：`https://www.python.org/downloads/windows/` 2、修改 `python

电玩女神/ 2023年09月30日 21:50/ 0 赞/ 1 阅读

相关一键安装GitLab7在RHEL6.4上

参考原文：[http://www.linuxidc.com/Linux/2014-08/105137.htm][http_www.linuxidc.com_Linux_201

秒速五厘米/ 2022年07月12日 04:17/ 0 赞/ 277 阅读