昆仑万维和奇点智源合作推出天工文本预训练大模型

新知榜官方账号

2023-07-10 07:50:36

昆仑万维和奇点智源合作推出天工文本预训练大模型

天工是如何诞生的？昆仑万维和奇点智源合作自研，实现真正智能涌现的国产大模型，对话式助手。

为什么现在要搞天工？昆仑万维当初是以网游题材上市的，上市之后在海外进行了多元化的发展，业务包括浏览器、社交、娱乐、新闻等板块，所以对内容生成方面的技术进展一直非常敏感。从2020年起开始在音乐的AIGC领域进行投入，而奇点智源在2020年就意识到AI技术在未来的应用潜力。当时GPT3诞生以后，奇点智源判断这是内容生成领域的里程碑，因此果断投入了大规模的算法和算力资源，聚集了一支国内最高水平的科研团队，开始构建自己的技术和研发矩阵。到了2022年，我们昆仑准备从音乐AI往多模态AI扩展，同时奇点智源也越发强烈地意识到千亿级的文本大模型是AIGC的一个突破口，并且只有自研迁移及大文本大模型才能建立核心壁垒、掌握主动权。所以我们双方一拍即合，开始搞天工文本预训练大模型是一个水到渠成的选择。

天工为什么很快出来了？过程中遇到最困难技术挑战是什么？（1）2020年就开始投入积累，起步早；（2）奇点智源技术实力很强挑战：训练收敛问题，跑飞问题都难解决；海量数据集都是公开的，但质量参差不齐，如何预处理解决质量问题很重要。

天工拥有超强的记忆能力，目前最多可以支持1万字以上的文本对话，实现20轮以上的问答交互。其他的国产大模型在实现连续对话的时候体验没有那么好。在推理的时候，天工采用了蒙特拉卡洛搜索树的算法进行优化，让解码过程中的准确性和安全性得到了提高，让天工在复杂任务和场景中间能够快速和准确的响应指令，输出高质量的回答。采用了双千亿参数的超大规模结构，包括一个千亿级别的基座模型和一个千亿级别的排序模型，具有了更高级的自主学习和智能涌现的能力，从而能解决跨领域的问题和比较复杂的逻辑问题。在大规模预训练的基础上还做了场景化的微调，让他在各种场景下都能给展开流畅且能智能的对话，提供高效以及个性化的帮助。

昆仑万维大模型开发成功之后，会进行人员优化吗？每个人都需要考虑组织结构和人才培养才能适应AI新时代，但更多带来的是效率提升和创造力扩展，创造出更大价值。使用AI大模型价值不在于降本，而在于增效。

本页网址：https://www.xinzhibang.net/article_detail-7324.html

寻求报道，请

关键词

分享至微信：

相关工具

Adobe Firefly

Adobe最新推出的AI图片生成工具

Facet

AI图片修图和优化工具

标小智Logo生成

人工智能AI生成Logo设计工具

Relight

ClipDrop推出的AI图像打光工具

Graviti Diffus

开箱即用的 Stable Diffusion WebUI 在线图像生成服务

Scribble Diffusion

将草图转变为精美的插画

百度用AI重构移动生态，以AI原生思维重构产品用户体验

百度用AI重构移动生态，以AI原生思维重构产品用户体验5月25日，2023万象·百度移动生态大会上，百度提出以AI原生思维重构百度移动生态，全面“刷新”百度搜索、百度APP、百度电商、百度文库等产品的用户体验。百度集团资深副总裁、百度移动生态事业群组（MEG）总经理何俊杰表示，之前文心一言、Chat

分类标签百度AI移动生态

12-10 02:28

百度AI开发者大会：李彦宏被泼水，百度宣布多项智能合作

百度AI开发者大会：李彦宏被泼水，百度宣布多项智能合作7月3日，在于北京举行的2019年百度AI开发者大会上，百度创始人、董事长兼CEO李彦宏因被泼水“上头条”。而会上百度宣布与吉利发布智能汽车、与浦发创造“数字人”、与华为麒麟芯片深度对接等消息，确实也正如李彦宏被泼水后所说：不会影响百度AI的决心

分类标签百度AI开发者大会李彦宏智能合作

12-10 02:27

百度搜索开始测试AI对话功能

百度搜索开始测试AI对话功能近日，有关百度搜索新增AI对话功能的消息在网上传出。CNMO了解到，消息称百度搜索已开始面向部分用户测试“AI对话”功能，测试渠道包括百度主站及百度App、独立网址等。据悉，使用该功能的用户需拥有并登录百度账号，而未被纳入测试范围的用户无法正常访问该功能，并且在访问百度主

分类标签百度搜索AI对话文心一言

12-10 02:26

百度输入法推出全新AI助聊功能，让聊天更加轻松自在

百度输入法推出全新AI助聊功能，让聊天更加轻松自在记得上学的时候，对于错词别字有一个案例大家或许印象深刻，那就是”伞”与”命”这两个字，书写时很容易出错，从而导致不一样的结果，其实在我们现实工作生活中，这样的错误必不可免，很容易引起误会，尴尬，甚至出现更重要的问题，那么减少这样的错误除了要细心校对之

分类标签百度输入法AI助聊智能预测

12-10 02:25

百度上线了AI对话功能，体验智能搜索引擎

百度上线了AI对话功能，体验智能搜索引擎大家好，我是Ai发声，今天小编看到百度搜索上线了Ai对话功能，在首页和搜索结果页都能看到AI对话的入口哦，赶紧试试人工智能的搜索引擎吧。百度首页Ai对话入口这是百度首页的Ai入口搜索结果页的Ai对话入口百度搜索结果页的Ai对话入口简洁的Ai对话窗口百度搜索Ai

分类标签百度AI对话智能搜索

12-10 02:24

中国式浪漫

中国式浪漫中国式的浪漫有着独特的韵味，充满了婉约而华贵的情感。从古至今，我们常常可以看到一些文艺作品中描绘的恋人们穿越古代的长廊，相互倾诉着深情而含蓄的爱意。这种浪漫，不单单是一种场景的表达，更多的是一种文化的传承。第一章：东方之美，婉约而华贵的爱在现代社会中，这种东方之美依然在中国式的爱情中得以体

分类标签中国式浪漫爱情

12-09 22:07

中国式浪漫

中国式浪漫中国式的浪漫有着独特的韵味，充满了婉约而华贵的情感。从古至今，我们常常可以看到一些文艺作品中描绘的恋人们穿越古代的长廊，相互倾诉着深情而含蓄的爱意。这种浪漫，不单单是一种场景的表达，更多的是一种文化的传承。在现代社会中，这种东方之美依然在中国式的爱情中得以体现。例如，现代新人在婚礼上常常选

分类标签中国式浪漫东方之美传统与现代

12-06 22:10

昆仑万维：元宇宙业务月活跃用户超过1900万

昆仑万维：元宇宙业务月活跃用户超过1900万昆仑万维在投资者关系平台上表示，元宇宙业务月活跃用户超过1900万，单季总收入超过1400万美元；同时，OperaGX游戏浏览器DAU已突破900万；GX.Games游戏社区上线游戏数量突破2000款，在元宇宙生态营造方面，Opera已经进行了成功试点。天

分类标签昆仑万维元宇宙OperaGX

12-03 22:31

刺青物语，品鉴集萃

刺青物语，品鉴集萃刺青艺术是一种古老的文化遗产，它不仅是一种身体艺术，更是一种文化和信仰的表达。在国内外，有许多优秀的刺青艺术家，他们用自己的创意和技巧，创作出了许多精美的刺青作品。刺青艺术作品，不仅是一种美的表现，更是一种文化的传承。刺青文化源远流长，它承载着人们的信仰、思想和情感，是人类文化的重

分类标签刺青纹身艺术

12-03 22:10

足球迷纹身风景线

足球迷纹身风景线纹身文化是当今足坛的一道重要风景，小贝、伊布等人的全身纹身已经让我们见识了不少，今天带来一些新的纹身，尤其是一些死忠球迷的纹身更让人感觉，这才是死心塌地的球迷。先来个梅西的，上帝与我同在好吧，面对球迷这样的纹身，梅西也是乐开怀。梅西有了，C罗呢，话说这小朋友真是看着C罗踢球长大的，小

分类标签足球纹身球迷

12-03 22:09