TigerBot：虎博科技犀利小团队打破“成本魔咒”

新知榜官方账号

2023-10-08 10:06:46

拥有多年NLP经验的虎博科技，凭借自身独特的技术创新，打破“成本魔咒”，重新定义“短小精悍”。国内大模型创业迎来了新面孔。包含70亿参数和1800亿参数两个版本的大模型TigerBot正式亮相，一经推出，就以独特的实力，引起了外界瞩目。从评测结果可见，TigerBot与OpenAI同规模模型的得分十分接近作为一款国产自研的多模态大语言模型，TigerBot不仅能进行编程、画图、翻译，还支持多种办公场景下的任务，具有高效的学习能力、创造力和可控性。更重要的是，借助更先进的微调算法，TigerBot在只使用少量参数的情况下，就能快速理解人类的问题，提升回答的准确性。在同样50万条数据训练的情况下，TigerBot的收敛速度比斯坦福推出的Alpaca快5倍，在公开数据集上评测显示性能提升17%。有点难以置信的是，研发了如此强劲大模型的团队，最初只有5个人，身为CEO兼首席科学家的团队Leader陈烨，担任了最核心的代码工作。后来成员规模虽有扩充，但也只控制在了10人左右。

众所周知，训练大模型所需的高昂算力、成本，一度使得ChatGPT这样的通用大模型，成为了少数科技巨头的专利。然而，拥有多年NLP经验的虎博科技，却凭借自身独特的技术创新，打破了这一“成本魔咒”，并重新定义了何谓“短小精悍”。具体来说，为了降低模型的训练成本和难度，虎博科技在以下几个方面进行了创新：

指令完成监督微调
突破并行训练难关

除了模型的底层架构上的改进外，TigerBot另一大降低训练难度和成本的创新，就是突破了deep-speed等主流框架中的若干内存和通信问题，实现了千卡环境下训练数月无间断。

除了上述提到的技术外，虎博科技在大模型方面，还运用ensemble和probabilisticmodeling的方法，让模型在创造性和可控性上做出了适当的权衡。同时，针对中文连续性强、多义歧义情况多等问题，虎博科技通过不断吸取开源模型和代码中的优点，从tokenizer到训练算法上，都做了相应优化。而这些提升性能、降低成本的技术创新，和自然界中的生物面临环境压力时，所激发出的“突变”和“进化”，有着异曲同工之妙。

纵观TigerBot诞生的过程，我们可以发现，这是一个既守住了饭碗，又赢得了理想的故事。科研出身的陈烨，有技术，也有情怀，但却并没有在现实与理想之间顾此失彼，而是以用户需求为导向，结合自身的技术优势，开发出多种适用于不同场景的AI产品。在此过程中，其依据对技术前沿趋势的敏锐洞察，逐步提高了自身的开发能力和工程化水平，从而在后来的大模型研发中，突破了主流框架中的技术难点和瓶颈。如果说，当下的大模型竞争，是一场物竞天择的竞赛，那么唯有那些在广泛的产品和服务中，积累了足够多技术因子的企业，才能在压力和挑战面前，完成“进化”与“突变”。

本页网址：https://www.xinzhibang.net/article_detail-15928.html

寻求报道，请

关键词

分享至微信：

相关工具

文心一言

百度推出的基于文心大模型的AI对话互动工具

DeepMind联创新公司推出的AI聊天机器人

ChatGLM

开源的、支持中英双语的1300亿参数的对话语言模型

HuggingChat

HuggingFace推出的在线聊天机器人，基于Open Assistant模型

360智脑

360搜索最新推出的AI对话聊天机器人

商量SenseChat

商汤科技推出的类ChatGPT的人工智能大语言模型

如何使用聊天机器人及常见聊天对话平台

一、聊天机器人的使用方法1.选择合适的聊天机器人平台在选择聊天机器人平台时，需要考虑平台的易用性、可靠性、安全性等因素。目前，聊天机器人平台主要有以下几点特点：易用性：聊天机器人平台的操作界面简单易懂，用户可以自主地使用和设置机器人。可靠性：聊天机器人平台通常采用分布式架构，可以保证机器人的稳定性和

分类标签聊天机器人聊天对话平台机器人程序

11-25 00:11

使用人工智能聊天机器人和人工AI对话平台

使用人工智能聊天机器人选择聊天机器人平台注册账号选择聊天机器人类型编写聊天机器人代码测试聊天机器人使用人工AI对话平台选择对话平台注册账号选择对话机器人类型编写对话机器人代码测试对话机器人总结微撰的AI聊天机器人平台和人工AI对话平台是微撰的主要产品，用户可以根据自己的需求选择聊天机器人和对话机器人

分类标签人工智能聊天机器人人工AI对话平台

11-25 00:10

如何使用聊天机器人及找到聊天机器人的入口

聊天机器人的使用确定聊天机器人的类型。查找聊天机器人的应用程序或网站。注册聊天机器人账户并登录。开始与聊天机器人交流。找到聊天机器人的入口在搜索引擎上查找聊天机器人的名称。在应用程序或网站的目录中查找聊天机器人。直接访问聊天机器人应用程序或网站。注意事项确保聊天机器人的使用环境干净。定期更新聊天机器

分类标签聊天机器人人工智能入口

11-25 00:09

ai聊天机器人怎么用？自动聊天机器人软件有哪些比较好用？

一、ai聊天机器人怎么用使用ai聊天机器人软件，可以按照以下步骤进行：选择聊天机器人软件：可以在搜索引擎上搜索“聊天机器人软件”，找到适合您使用的聊天机器人软件，并下载和安装到电脑或手机上。注册账号：完成安装后，进入聊天机器人软件的账号页面，注册一个账号，方便后续使用。创建聊天机器人：注册账号后，可

分类标签 ai聊天机器人自动聊天机器人软件微撰AI问答机器人

11-25 00:08

如何使用AI机器人聊天及免费AI对话平台入口

如何使用AI机器人聊天及免费AI对话平台入口随着人工智能技术的不断发展，越来越多的人们开始使用和依赖这种技术，而自然语言交互的AI机器人也成为了人们日常交流中不可或缺的一部分。那么，AI机器人聊天怎么使用？免费AI对话平台入口在哪？本文将为您一一解答。一、AI机器人聊天怎么使用下载相关应用程序：使用

分类标签 AI机器人免费对话平台聊天应用程序

11-25 00:07

如何使用AI机器人进行聊天？

如何使用AI机器人进行聊天？随着人工智能技术的不断发展，越来越多的人们开始使用和依赖AI机器人来进行各种交流和沟通。在使用AI机器人聊天时，可以按照以下步骤进行：选择一个合适的AI对话机器人网站平台注册并登录输入要聊的内容选择聊天方式享受愉快的聊天体验在选择合适的AI对话机器人网站平台时，需要根据自

分类标签 AI机器人聊天方式对话机器人

10-27 16:22

人工智能交流：指令式语言是边界还是拓展？

随着AI技术的不断发展，人与机器的交流方式更加多样化，伴随着新技术的发展，“交流”的含义被重新定义，促使我们重新思考“交流”的边界。本文以“Hey,Siri”为例，思考虚拟技术带来的交流逻辑，一起来看看。豆瓣平台上有一个名叫“人机之恋”的小组，组内成员分享的大部分内容，都是一款聊天软件Replika

分类标签人工智能交流指令式语言

10-09 23:41

球球大作战heyhey语音使用方法

球球大作战heyhey语音使用方法球球大作战推出了HeyHey语音系统，我们可以与自己的好友进行组队语音，这样刚方便与沟通作战，那么球球大作战heyhey语音怎么开呢，下面就为大家带来球球大作战heyhey语音使用方法。heyhey语音是组队语音，所以我们要在组队模式中才能看到，包括团战模式和大逃杀

分类标签球球大作战heyhey语音组队语音

10-09 23:38

苹果计划缩短语音助手唤醒词

苹果计划缩短语音助手唤醒词现如今各大智能手机品牌都有专属于自己的语音助手，且呼叫唤醒的方式也是五花八门，但其中最著名的当属苹果手机的“HeySiri”。据外媒报道，苹果的工程师爆料目前正在打算缩短苹果语音助手的唤醒词，并表示虽然目前苹果用户已经很习惯于“HeySiri”的唤醒词，但苹果方面还是希望能

分类标签苹果语音助手唤醒词

10-09 23:36

自然拼读APP推荐，让孩子边玩边学英语

自然拼读APP推荐，让孩子边玩边学英语孩子学拼读，肯定有爸妈担心，自己的英文发音不标准，怎么在家里辅助孩子学习？这时候，就得找些工具来帮你。比如拼读APP！童趣的阅读界面，多功能的操作设置，丰富的资源内容，帮助孩子熟悉巩固单词的拼读规律。其实对于启蒙阶段的孩子，如果学习自然拼读的方式更有趣，学习速度

分类标签自然拼读APP推荐孩子英语学习

10-09 23:35

ChatGPT Midjourney 文心一言文心一格 bing新必应 Stable diffusion 稿定设计墨刀AI mastergo Adobe Firefly runway