热门搜素: 电商 教育 视频 健康
新知榜公众号 随时随地查看资讯 手机访问更加便捷
首页 > 行业观察 > ChatGLM2-6B:清华唐杰团队开发的开源AI大语言模型
ChatGLM2-6B:清华唐杰团队开发的开源AI大语言模型
新知榜官方账号
2023-07-23 16:24:22
ChatGLM是由清华大学唐杰团队开发的是一个开源的、支持中英双语的类ChatGPT大语言模型,自今年4月份推出后,迅速受到了很多人的欢迎。最近它还更新了2代,拥有更强大的能力:模型升级,性能加强,支持更长上下文,推理能力大幅提升,允许免费商用。
ChatGLM2-6B是经过约1T标识符的中英双语训练,拥有62亿参数的开源AI大语言模型,它能生成相当符合人类偏好的回答。而且还可以在消费级显卡上部署,使大家都能拥有自己的AI大模型。
本地部署通过我之前分享的文章:一键本地部署类GPT大模型,免费!即可快速在本地部署并体验ChatGLM2。进入以下目录中oobabooga_windows\text-generation-webui,在上方地址中输入“cmd”。在打开的命令指示窗口,输入以下代码,以下载ChatGLM2模型文件:
python download-model.py THUDM/chatglm2-6b
等待下载完成后,再回到项目目录,点击“start-windows”,即可启动。然后将下方弹窗中的地址,输入到浏览器。之后需要在“model”选显卡里,选择ChatGLM2以加载模型。注意,需要勾选“trust-remote-code”选项(否则会报错):
等待模型加载完成,预计需要16G以上的内存:模型加载完成后,就可以回到主界面,跟ChatGLM2聊天了。我问了一个问题:猪可以飞吗?然后ChatGLM2给的回答还是比较靠谱的。恭喜你,拥有了这个聪明的国产AI大模型了。感兴趣的朋友,快去试试吧~
相关工具
相关文章
相关快讯
短视频知识人物影响力榜
新知榜独家 {{faTime.effecttime}}发布
总榜
人物 领域 粉丝数 影响力指数
{{item.manIndex}}
{{item.nickname}} {{item.field}}
{{item.fs}}
{{item.effect}}