清华大学沈阳团队评估7个大语言模型,GPT-4成为第一名

新知榜官方账号

2023-08-18 08:18:20

清华大学新闻与传播学院的沈阳团队最近分享了一项卓有成效的《大语言模型全方位评估研究》。他们选择了7个主要的大语言模型,包括ChatGPT、文心一言和通义千问,并在生成质量、使用性能、以及安全和合规等三大区域做了深度的分析和评估。这次评测专门围绕了中文语义理解和逻辑推理等20个重点指标进行。

在所有评估的模型中,GPT-4独占鳌头,无可挑剔的成为了第一名,紧随其后的是百度打造的文心一言模型,而GPT-3.5获得了第三名。接下来的名次依次是Claude、讯飞星火、阿里云的通义千问以及昆仑的天工。

尽管在整体评估中,GPT-4成为明显的胜出者,然而对于国内用户,中文理解能力是非常重要的评价标准。从这个角度来看,百度的文心一言在中文语义理解能力上表现突出,在一些关键的中文语义理解测试中,它以92%的得分率超过了讯飞星火以及GPT-4,成为了这个研究中的得分率最高者。

作为具有知识增强特色的模型,文心一言对于中国本土语言特性的理解更为深入,这使得它在处理与中国本土文化相关的主题和背景上更具优势,例如诗歌和方言等。这也为文心一言在国内的实际应用落地提供了更大的可能性。

本页网址:https://www.xinzhibang.net/article_detail-10006.html

寻求报道,请 点击这里 微信扫码咨询

关键词

大语言模型 评估 GPT-4

分享至微信: 微信扫码阅读

相关工具

相关文章