优酷如何利用多模态技术最大限度地挖掘视频信息

新知榜官方账号

2023-10-13 22:06:33

优酷如何利用多模态技术最大限度地挖掘视频信息

作为4G、5G时代最丰富的信息承载媒介，视频可以传达出的信息量远远超过声音、图像等单一渠道，浩如烟海的视频资源中蕴含的大量信息也还远未被充分挖掘。对于视频公司来说，如何将AI技术与海量视频资源结合，将成为一个潜力巨大的研发方向，带来的价值不可估量。

在国内AI领域，多模态技术的研发历史虽然不久，但其带来的价值早已得到了充分验证。本文中，来自优酷算法中心负责人王晓博将为我们解析，优酷是如何利用多模态技术，最大限度地挖掘视频信息，创造更大的价值。

优酷作为一家超过12年的视频网站，其最大的数字资产便是存量数亿的视频，这不仅包括平台购买的版权OGC视频，更多的是用户上传的UGC视频。视频作为4G、5G时代信息最便捷的载体，给用户带来极大便利的同时也给各个互联网厂商带去了更大的挑战，富媒体信息的存储、计算以及分发对比单一的文字信息要困难很多。

优酷在多媒体信息处理方面积累了多年，为了更好的支持视频内容理解及智能生产的需要，我们在2018年从算法中心抽调核心骨干力量组建认知实验室，主要聚焦在计算机视觉、视频结构分析与智能生成、智能影像处理以及视频质量四个方向。

本文将从优酷这一企业级应用的视角来介绍多模态内容理解在我们实际线上系统中的应用，文章结构如下：首先介绍简要多模态分析技术，然后结合优酷给出若干主要应用场景，接下来对多模态技术中一些难点做些剖析，最后是对未来的展望。

多模态分析技术简介

模态是个专有名词，在计算机信息处理的场景下，专指人接受信息的方式，包括视频、图像、文字、语音等不同的手段。多模态学习按照其所研究的问题大致分为如下几个方向：

表达学习：实际用途很广，主要将多个模态的信息转换为实值的向量，多用于召回、相关性计算以及预估特征
模态映射：影视剧中的剧情详细描述如何能与视频切片对应起来，在跨模态检索中应用较多
模态对齐：将图像中的实体与文字中的实体对应起来，这在视频语义检索中十分有用
协同学习：每个模态的标注任务都很挑战且成本高企，相对而言，文字模态的标注成本是比较低的，而如何能够在缺乏标注信息的模态数据上利用其它模态的数据进行训练对于节省成本共享信息非常有帮助

典型应用场景问题及挑战

视频搜索信息检索的技术发展已经走过了几十年，而视频内容检索在企业里之前一直停留在关键字层面，主要检索的信息来源是视频的标题和描述，与文章、网页的检索架构区别不大，其原因除了技术上的挑战外，还有用户的需求通过关键字检索基本能够满足。

视频推荐系统由于其基于统计机器学习算法的局限性，不可避免的出现头部过热甚至明显违背常识的推荐结果，推荐理由和交互式推荐都是缓解这一现象的有效方法。而运营的经验知识与数据算法间的有机结合将是国内视频网站推荐系统的重要演化方向。

视频媒资库对于视频业务的新价值。视频的全自动生成是一件很有挑战的事情，而内容的剪辑创作是机器目前比较难于胜任的工作，但是素材的搜索和推荐却是提效视频创作的有效手段。

对未来的展望

多模态搜索推荐会成为视频信息获取的重要趋势，而向单一的文字模态做降维仅仅是开始，探索更为通用的端到端检索模型仍是需要解决的难题。

基于多模态内容分析解构技术的智能媒资库逐渐会成为视频网站、电视台、甚至企业内部平台的标配，这将会是一个很大的toB市场空间。

多模态内容理解作为一项逐渐走出学术象牙塔的技术，未来会在视频业务中扮演着越来越重要的角色。

本页网址：https://www.xinzhibang.net/article_detail-16680.html

寻求报道，请

关键词

分享至微信：

相关工具

Compose AI

免费的Chrome浏览器自动化写作扩展

智搜

Giiso写作机器人，内容创作AI辅助工具

Magic Write

Canva旗下AI文案生成器

5118 SEO优化精灵

一键式生成高质量SEO文章，提高搜索引擎排名获得更多流量

Writesonic

AI写作，文案，释义工具

Texta

AI博客和文章一键生成

三个国外专业免费的调色网站

三个国外专业免费的调色网站无论制作视频、编辑图片，合适的色彩会让你的作品增加视觉冲击力，所以专业的调色技术价值非凡，一部电影或一部好的视频、图片海报，专业调色耗费少则上万，多则上百万，只是大家对专业调色这个行业知之甚少，今天网玩君就为大家分享三个国外专业免费的调色网站，记得收藏好，以后编辑视频、图片

分类标签调色网站免费

04-18 16:42

电影制作中的纹理技术

纹理在电影制作中的重要性纹理是指将详细的表面特征应用于3D模型或视觉效果元素，使其看起来更逼真。纹理对于创建视觉上引人入胜且可信的电影场景至关重要，尤其是涉及CGI、动画或特效的场景。纹理还支持叙事和讲故事，可以通过纹理设置年龄大小等属性，为故事奠定基础。纹理技术的发展历程自胶片问世以来，电影制作人

分类标签纹理电影制作CGI视觉效果微缩模型UV映射

04-18 16:42

UnrealSynth虚幻合成数据生成器-NSDT

UnrealSynth虚幻合成数据生成器-NSDTUnrealSynth基于UE5虚幻引擎开发，可用于生成合成数据集，包括图像和标注数据。可用于各种行业细分场景中目标识别任务的实施效率提高。UnrealSynth合成数据工具包内容UnrealSynth基于UE5虚幻引擎开发，目前支持YOLO系列模型

分类标签 UnrealSynth虚幻引擎数据合成YOLO模型深度学习训练数据

04-18 16:42

人工智能与音乐：谷歌的Project Magenta

谷歌的Project Magenta利用人工智能技术生成音乐和其他艺术形式，如素描、视频和笑话。该项目的目标是为人们创造新的交流方式。本文介绍了该项目的背景、发展历程和应用。在上世纪90年代中期，谷歌研究院的Douglas Eck就开始了他的人生目标：融合人工智能与音乐。二十年后，他与一支谷歌研究团

分类标签人工智能音乐谷歌

04-18 16:42

如何做好SEO优化？

如何做好SEO优化？想要做好SEO优化，得从站内优化和站外优化两个方面入手。一、站内优化1.关键词定位和分析关键词整理是SEO优化中的核心工作，一旦定下来就不建议再次去更改。站长始终要记住关键词一定要和行业、产品、领域息息相关，同时还可以参考竞争对手所做的关键词，可以利用站长工具、5118、爱站网、

分类标签 SEO优化关键词定位网站架构布局

12-11 08:19

万兴科技：营收实现稳健增长，拥抱AIGC新机遇

万兴科技：营收实现稳健增长，拥抱AIGC新机遇国元证券股份有限公司耿军军近期对万兴科技进行研究并发布了研究报告《2022年年度报告点评：营收实现稳健增长，拥抱AIGC新机遇》，本报告对万兴科技给出买入评级，当前股价为75.24元。万兴科技(300624)事件：公司于2023年4月7日收盘后发布《20

分类标签万兴科技营收增长AIGC

12-11 02:11

AI分身市场潜力巨大，万兴科技、京东等已率先布局

“AI孙燕姿”和“CarynAI”引爆市场最近，“AI孙燕姿”和“CarynAI”以以假乱真的程度引爆市场，都是通过采集本人的语音、文字、图像等素材，并通过开源的生成式训练模型进行训练而成。其中，“CarynAI”成功地借助AI技术，打造了自己的AI分身，通过付费的方式，跟AI版的自己进行交往，预计

分类标签 AI孙燕姿CarynAIAI分身AIGC技术虚拟主播数字人

12-11 02:10

万兴科技推出名师必备讲演神器“万兴智演”

万兴科技推出名师必备讲演神器“万兴智演”9月8日，万兴科技面向泛知识领域，推出名师必备讲演神器“万兴智演”。该款AI演示新品集成强大的AIGC能力、精美的行业课程模板以及动画特效素材，大大简化课件制作过程。同时，产品内置强大的录制、直播功能，通过真人实拍与演示内容相结合的形式，实现人景融合的实时演示

分类标签万兴科技万兴智演AI演示

12-11 02:09

万兴科技创始人吴太兵在2023互联网岳麓峰会上的主题演讲

万兴科技创始人吴太兵在2023互联网岳麓峰会上的主题演讲2023互联网岳麓峰会论坛上，万兴科技创始人、董事长兼总裁吴太兵进行主题演讲。红网时刻新闻记者郭雅倩甘红长沙报道十届、十年，岳麓峰会从2014年的“湖湘汇”到如今云集万人的盛会，积攒了巨大的关注度和影响力。6月19日，2023互联网岳麓峰会在长

分类标签万兴科技吴太兵岳麓峰会

12-11 02:05

樟宜机场：通过科技改变旅客体验

樟宜机场：通过科技改变旅客体验樟宜机场在智能手机上移动的小红点代表了在机场上空飞行的飞机，通过传感器的追踪获取了相关飞行轨迹。机场通过人工智能、面部识别和数据分析等技术的应用，不断提高机场运营效率，保持创新，致力于成为一个旅客体验更佳、充满活力的目的地。人工智能优化机场运营效率樟宜机场在2017年共

分类标签樟宜机场科技旅客体验

12-10 22:16