复旦大学自然语言处理实验室发布国内首个类ChatGPT模型MOSS

新知榜官方账号

2023-08-06 05:04:35

复旦大学自然语言处理实验室发布国内首个类ChatGPT模型MOSS

2月20日,复旦大学自然语言处理实验室发布了国内首个类ChatGPT模型MOSS,立即引起各界关注,MOSS网站(https://moss.fastnlp.top/)一度瘫痪。目前,已有数万名用户申请参与内测。由于高校实验室的推理服务器资源非常有限,为保证MOSS较为流畅地给出回复,复旦科研团队只能分批邀请用户参与内测。

复旦MOSS团队回应内测2月20日晚,MOSS发布至公开平台邀公众参与内测。当晚,社交媒体上出现截图,显示该平台“服务器流量过载,请明天上午重试”。昨日,MOSS官网发布公告,解释称“计算资源不足以支持如此大的访问量”“给大家造成非常不好的体验和第一印象”并致以真诚的歉意。昨日凌晨2时30分,复旦科研团队修复了网站服务器。

关于MOSS一个显著的反馈是,MOSS的英文回答水平比中文高,这在公众与ChatGPT的互动中也有类似体现。复旦科研团队坦承,“MOSS的英文回答水平比中文高,因为它的模型基座学习了3000多亿个英文单词,中文词语只学了约300亿个。”目前,MOSS的最大短板是中文水平不够高,主要原因是互联网上中文网页干扰信息如广告很多,清洗难度很大。为此,复旦大学自然语言处理实验室正在加紧推进中文语料的清洗工作,并将清洗后的高质量中文语料用于下一阶段模型训练。复旦科研团队相信,这将有效提升模型的中文对话能力。

MOSS回答问题的水平如何?MOSS的基础功能与ChatGPT类似,可以按照用户输入的指令完成各类自然语言处理任务,包括文本生成、文本摘要、翻译、代码生成、闲聊等等。在预览期间,MOSS的使用是免费的。那么MOSS的中英文回答水平怎么样?在面对涉及伦理判断和法律知识等问题时它会如何回答?近日,就有记者与ChatGPT聊了聊↓↓↓可以看出,MOSS的回答语言流畅、逻辑清晰且观点正确。与ChatGPT类似,MOSS有时也会输出一些事实性错误的例子,比如以下例子中《黑客帝国》的导演并不是ThomasNeff,而是沃卓斯基兄弟(姐妹)。复旦科研团队也坦诚指出,当前版本的MOSS表现不够稳定,有些回答存在事实差错或逻辑不顺。除了多轮对话,MOSS生成代码也不在话下。此外,MOSS还具备一定的价值观,当被要求回答不合理的问题时,MOSS会拒绝回答并给出正确的劝导。

MOSS可执行对话生成、编程、事实问答等一系列任务,打通了让生成式语言模型理解人类意图并具有对话能力的全部技术路径。这条路径的走通,为国内学术界和产业界提供了重要经验,将助力大语言模型的进一步探索和应用。邱锡鹏表示:“尽管MOSS还有很大改善空间,但它的问世证明了在开发类ChatGPT产品的路上,国内科研团队有能力克服技术上的重要挑战。”MOSS研发项目得到了上海人工智能实验室的有力支持。后期,这项工作将通过开源方式和业界社区分享。据介绍发布之后,团队将持续通过提供MOSS的可访问界面,根据宝贵的用户反馈(在许可下)不断改进模型。

本页网址:https://www.xinzhibang.net/article_detail-9368.html

寻求报道,请 点击这里 微信扫码咨询

关键词

MOSS 复旦大学 自然语言处理 ChatGPT 模型 内测

分享至微信: 微信扫码阅读

相关工具

相关文章