火山引擎发布大模型服务平台“火山方舟”,解决企业大模型安全与信任问题

新知榜官方账号

2023-07-06 11:04:52

火山方舟:解决企业大模型安全与信任问题

6月28日,在火山引擎主办、英伟达合作举办的“V-Tech体验创新科技峰会”上,火山引擎发布大模型服务平台“火山方舟”,面向企业提供模型精调、评测、推理等全方位的平台服务(MaaS,即Model-as-a-Service)。

目前,“火山方舟”集成了百川智能、出门问问、复旦大学MOSS、IDEA研究院、澜舟科技、MiniMax、智谱AI等多家AI科技公司及科研院所的大模型,并已启动邀测。基于“火山方舟”独特的多模型架构,企业可同步试用多个大模型,选用更适合自身业务需要的模型组合。

企业使用大模型,首先要解决安全与信任问题。对此,火山引擎总裁谭待表示,“火山方舟”实现了大模型安全互信计算,为企业客户确保数据资产安全。据火山引擎智能算法负责人吴迪介绍,“火山方舟”已上线了基于安全沙箱的大模型安全互信计算方案,利用计算隔离、存储隔离、网络隔离、流量审计等方式,实现了模型的机密性、完整性和可用性保证,适用于对训练和推理延时要求较低的客户。

此外,“火山方舟”还在探索基于NVIDIA新一代硬件支持的可信计算环境、基于联邦学习的数据资产分离等多种方式的安全互信计算方案,更全面地满足大模型在不同业务场景的数据安全要求。

模型精调和评测支持

大模型的生产门槛很高,数据安全成为大模型时代的新命题。企业使用大模型,最担心的是数据泄露。如果将大模型私有化部署,企业将承担更高的成本,模型生产方也会担心知识资产安全。

“火山方舟”的首要任务,就是做好大模型使用者、提供者和云平台可以互相信任的安全保障。火山引擎为此提供了丰富的模型精调和评测支持。企业可以用统一的工作流对接多家大模型,对于复杂需求可设置高级参数、验证集、测试集等功能,再通过自动化和人工评估直观对比模型精调效果,在不同业务场景里还可灵活切换不同的模型,实现最具性价比的模型组合。

这些自定义指标和评估数据的积累,将成为企业在大模型时代宝贵的数据资产。抖音集团内部已有十多个业务团队试用“火山方舟”,利用大模型能力促进降本增效。

多家大模型企业积极响应

“火山方舟”的多模型架构不仅为企业提供了丰富选择,也得到众多大模型生产方的积极响应。ChatGLM是智谱AI推出的千亿基座认知模型,其开源版本在大模型开源领域极具影响力,近期智谱AI还对ChatGLM做了新升级,大幅提升了模型能力。在“火山方舟”上,智谱AI提供具有竞争力的大模型,共建安全可靠的第三方MaaS服务。

MiniMax等大模型企业代表也亮相参加“火山方舟”的发布仪式。MiniMax联合创始人杨斌公开分享了与火山引擎的合作成果:MiniMax在火山引擎上实现了从月至周级别的大模型迭代速度,和指数级的用户交互增长。复旦大学自然语言处理实验室开发的MOSS大模型、IDEA研究院开发的姜子牙系列大模型,均是该领域的代表作。

“在技术驱动和需求拉动的作用下,大模型的世界必然百花齐放。”谭待坦言,“火山方舟”还在起步阶段,工具链和下游应用插件需要持续完善。平台还将接入更多大模型,并逐步扩大邀测范围,加速大模型在各行各业的应用落地。

本页网址:https://www.xinzhibang.net/article_detail-6339.html

寻求报道,请 点击这里 微信扫码咨询

相关工具

相关文章