detail.title
AI对话工具

ChatGLM

开源的、支持中英双语的1300亿参数的对话语言模型

本页网址:https://www.xinzhibang.net/tool-detail-328.html?category_id=14

标签:

ChatGLM-130B 是由 AI 编程助手「CodeGeex」背后的智谱 AI 团队开发的 1300 亿参数的开源的、支持中英双语的对话语言模型。

GLM-130B 是一个开源开放的双语(中文和英文)双向稠密模型,拥有 1300 亿参数,模型架构采用通用语言模型(GLM1)。它旨在支持在一台 A100(40G * 8) 或 V100(32G * 8)服务器上对千亿规模参数的模型进行推理。截至 2022 年 7 月 3 日,GLM-130B 已完成 4000 亿个文本标识符(中文和英文各 2000 亿)的训练,它有以下独特优势:

  • 双语:同时支持中文和英文。

  • 高精度(英文): 在 LAMBADA 上优于 GPT-3 175B(+4.0%)、OPT-175B(+5.5%)和 BLOOM-176B(+13.0%),在 MMLU 上略优于 GPT-3 175B(+0.9%)。

  • 高精度(中文):在 7 个零样本 CLUE 数据集(+24.26%)和 5 个零样本 FewCLUE 数据集(+12.75%)上明显优于 ERNIE TITAN 3.0 260B。

  • 快速推理:支持用一台 A100 服务器使用 SAT 和 FasterTransformer 进行快速推理(提速最高可达 2.5 倍)。

  • 可复现性:所有结果(超过 30 个任务)均可通过我们的开源代码和模型参数轻松复现。

  • 跨平台:支持在 NVIDIA、Hygon DCU、Ascend 910 和 Sunway 处理器上进行训练与推理。

类似网站

相关文章

2023人工智能大模型评测报告

2023人工智能大模型评测报告今天分享的是人工智能AI行业研究报告:《2023人工智能大模型评测报告》。(报告出品方:新华社研究院)研究报告内容摘要如下:2023年各大厂商纷纷布局大模型,其内在价值显露无疑大模型的发展可以提供更多的智能化应用场景,拓展更多的智能化服务,提升服务的质量和效率,实现产业

人工智能大模型评测报告

12-08 16:18

语聚AI新增对话助手、知识助手多种模型、对话背景设定、Markdown编辑器、成员可见范围、费用中心查看消费会话详情、未找到相关内容的解决方案

语聚AI新增对话助手、知识助手多种模型、对话背景设定、Markdown编辑器、成员可见范围、费用中心查看消费会话详情、未找到相关内容的解决方案语聚AI近期新增功能:1. 对话助手、知识助手新增多种模型对话助手提供了丰富的国内外大语言模型,供用户个性化配置使用。在已支持ChatGPT3.5,GPT4,

语聚AI对话助手知识助手模型背景设定Markdown编辑器成员可见范围费用中心消费会话详情未找到相关内容

11-29 12:03

国内11家备案人工智能大模型名单及发布时间

2023年8月31日,国内第一批完成备案的人工智能大模型名单出炉,共计11(8+3)家,包括文心一言(百度)、智谱清言、日日新(商汤)、云雀(字节)、百川智能、紫东太初、MiniMax、书生(上海人工智能实验室),以及通义千问(阿里巴巴)、360智脑、讯飞星火认知大模型(科大讯飞)。 2023年11

人工智能大模型备案发布时间

11-29 04:14

最受HuggingFace欢迎的AI机构有哪些?

最受HuggingFace欢迎的AI机构有哪些?15个受欢迎的AI机构榜上有名,其中包括国内唯一入选的KEG实验室,其开源模型ChatGLM-6B已在GitHub和抱抱脸上获得了广泛关注。StabilityAI、MetaAI、Runway占据排名前三,大众熟知的OpenAI、谷歌、微软也榜上有名。K

HuggingFaceAI机构StabilityAIMetaAIRunwayOpenAI谷歌微软KEG实验室ChatGLM-6B智谱AIGLM预训练架构MoE架构GLM-10BGLM-130B

11-29 04:13

科大讯飞发布星火认知大模型V3.0,七大能力全面提升

科大讯飞发布星火认知大模型V3.0,七大能力全面提升10月24日,第六届世界声博会暨2023全球1024开发者节开幕,现场科大讯飞董事长刘庆峰、研究院院长刘聪发布讯飞星火认知大模型V3.0,七大能力持续提升,全面对标GPT3.5。主论坛上,科大讯飞重磅发布星火认知大模型V3.0,七大能力均持续提升,

科大讯飞星火认知大模型V3.0ChatGPT

11-28 02:18

星火认知大模型V3.0发布,讯飞会议耳机“VIAIMAI”功能将进一步升级

星火认知大模型V3.0发布,讯飞会议耳机“VIAIMAI”功能将进一步升级10月24日,星火认知大模型V3.0正式发布。相比2.0版本,星火3.0实现了七大能力持续提升,整体超越ChatGPT,还升级了启发式对话、AI人设功能,能够打造更个性化的AI助手。根据国务院发展研究中心国研经济研究院测评报告

星火认知大模型V3.0讯飞会议耳机AI助手

11-28 02:17

科大讯飞发布星火认知大模型V3.0,各项能力均有提升

10月24日,科大讯飞正式对外发布了星火认知大模型V3.0。据科大讯飞董事长刘庆峰介绍,相较于2.0版本,星火大模型V3.0在文本生成、语言理解、知识问答、逻辑推理、数学能力、代码能力、多模态能力等方面均有提升,分别提升了7%、6%、7%、8%、3%、9%、7%。在5月6日,科大讯飞首次提出“1+N

科大讯飞星火认知大模型V3.0

11-28 02:16

KEG实验室与智谱AI合作推出ChatGLM-6B受到AI社区欢迎

KEG实验室与智谱AI合作推出ChatGLM-6B受到AI社区欢迎近日,HuggingFace作为开源AI社区的代表,总结了社区最欢迎的前15个公司和机构,几乎囊括了全部国内外风头正盛的AI科技机构,StabilityAI、MetaAI、Runway占据排名前三,大众熟知的OpenAI、谷歌、微软也

KEG实验室智谱AIChatGLM-6B

11-27 02:26

智谱AI发布第三代对话大模型ChatGLM3,性能和多模态能力均有显著提升

引言随着人工智能技术的飞速发展,自然语言处理(NLP)已成为最具挑战性和活跃的研究领域之一。在这个领域,大型预训练模型已被证明是实现卓越性能的关键。智谱AI最近发布的ChatGLM3,作为其第三代对话大模型,不仅在性能上有了显著提升,还在多个方面展现了其技术优势。推理速度和成本ChatGLM3的推理

智谱AIChatGLM3自然语言处理多模态能力

11-27 02:25

今年火爆全网的ChatGPT能做什么?听说过吗?

ChatGPT:实用又有趣的AI问答神器今年,ChatGPT成为全网热门话题。YY同学-AI问答神器是一款功能强大的智能机器人,可以帮助用户解决各种问题。YY同学不仅可以用来输出产品设计方案,还可以回答各种产品相关问题。此外,它还有各种有趣的玩法,例如摸鱼、写小红书爆款旅记、脱单道路上的得力军师、鸡

ChatGPTAI问答神器面具

11-26 10:05