700字范文,内容丰富有趣,生活中的好帮手!
700字范文 > 【ChatGLM】本地版ChatGPT ?6G显存即可轻松使用 !ChatGLM-6B 清华开源模型本地部署教程

【ChatGLM】本地版ChatGPT ?6G显存即可轻松使用 !ChatGLM-6B 清华开源模型本地部署教程

时间:2018-09-04 09:34:31

相关推荐

【ChatGLM】本地版ChatGPT ?6G显存即可轻松使用 !ChatGLM-6B 清华开源模型本地部署教程

目录

感谢B站秋葉aaaki大佬

前言

部署资源

部署流程

实机演示

ChatGML微调(人格炼成)(个人感觉蛮有趣的地方)

分享有趣の微调人格

实机演示(潘金莲人格)

感谢B站秋葉aaaki大佬

秋葉aaaki的个人空间_哔哩哔哩_bilibili/12566101

前言

由于ChatGLM-6B的规模较小,目前已知其具有相当多的局限性,如事实性/数学逻辑错误,可能生成有害/有偏见内容,较弱的上下文能力,自我认知混乱,以及对英文指示生成与中文指示完全矛盾的内容。请大家在使用前了解这些问题,以免产生误解。

很明显这个模型,因为是中文训练的,在很多数据上非常适合中文提问和回答

其次,本模型有思想钢印的存在,部分滑梯是不能说的

但是其也有着本地部署和开源社区的优势。

部署资源

模型可以从huggingface上下载

THUDM/chatglm-6b · Hugging Facehttps://huggingface.co/THUDM/chatglm-6bwebui项目地址,目前只是简易版仍然在更新 ChatGLM-webui:

Akegarasu/ChatGLM-webui: A WebUI for ChatGLM-6B ()/Akegarasu/ChatGLM-webui

链接:

百度网盘 请输入提取码 ()/share/init?surl=xuCvJDbQYlHECY5-2b3-Eg提取码: y2ab

部署流程

将这三个压缩包解压到同一个文件夹

解压后如下图所示

将更新的的压缩包放入文件夹进行替换

实机演示

点击自己机型对应显存的程序

进行本地web—UI的配置

这样便可以在本地配置成功了

ChatGML微调(人格炼成)(个人感觉蛮有趣的地方)

分享有趣の微调人格

下载链接人格设定分享_免费高速下载|百度网盘-分享无限制 ()/s/14z3X5BL5n9cJnW7b9GtZ4A?pwd=Glut#list/path=%2F

实机演示(潘金莲人格)

本内容不代表本网观点和政治立场,如有侵犯你的权益请联系我们处理。
网友评论
网友评论仅供其表达个人看法,并不表明网站立场。