文生视频模型开源，可生成1024×576高清视频

新知榜官方账号

2023-10-04 08:52:46

萧箫发自凹非寺量子位|公众号QbitAI可生成1024×576高清分辨率视频的大模型，开源了！无论是在海草间游动的小鱼：还是精细到眼珠子的神秘克苏鲁图像：全部以前所未有的清晰感呈现出来，让网友直呼“san值狂掉”。这个视频生成模型开源即爆火，不仅在推特和Reddit上收获一众热度，就连前特斯拉AI总监AndrejKarpathy也来围观了一波：现在，HuggingFace工程师已经搞出了试玩demo，不少网友直接线上开炫，例如生成《星球大战》达斯·维德在水上冲浪的珍贵影像：效果看起来也不错，所以它究竟是怎么训练的？

基于17亿参数大模型改造Zeroscope的“原型”，是达摩院ModelScope（魔搭）社区开源的17亿参数文生视频大模型。这一版大模型由文本特征提取、文本特征到视频隐空间扩散模型、视频隐空间到视频视觉空间3个子网络组成。其中，扩散模型采用Unet3D结构，通过从纯高斯噪声视频中迭代去噪过程，最终实现视频生成。不过在ModelScope社区中开源的这版大模型，生成视频的效果还不能说是高清：为此，ZeroScope设计了两个阶段，先通过文生视频、再通过视频生视频提升分辨率，最终生成1024×576分辨率的视频：第一步，文生视频，基于ZeroScope_v2_576w来生成576×320分辨率的视频；第二步，视频生视频，基于ZeroScope_v2_XL来生成1024×576分辨率的视频片段。

训练上，ZeroScope采用了9923个1024×576分辨率的视频片段，每个片段包含24帧画面，其中有3帧被打上标记，加起来一个是29769个标记帧（taggedframes）。不过，生成高清视频，需要的硬件要求也会更高一些。要想生成576×320分辨率、帧率30的视频，至少需要7.9GB的VRam（显存的一种）；如果要生成1024×576分辨率、帧率30的视频，则至少需要15.3GB的VRam。

有网友感到高兴：又一个足以与Gen-2竞争的文生视频模型出现了！甚至有网友认为，这个模型的出现已经说明，人们没必要为了Runway搞出来的Gen-2付钱了，毕竟后者效果也没有那么好。无论如何，文生视频AI领域的“新搅局者”都已经出现。

在线试玩Demo已出模型一开源，HuggingFace上就已经出现了试玩Demo。这里我们试着生成“和爱因斯坦打高尔夫球”。效果还不错，虽然不知道为什么爱因斯坦打着打着蹲下了（手动狗头）从提示词类型来看，不仅可以输入比较精细的描述：例如“一个男人在行驶的火车上睡觉，窗外物体飞速移动”（Amanissleepinginhisseat,insideatrainrunning,backgroundbehindthewindowismovingfast）也可以只输入简单的一句话，像是“巨型皮卡丘大战哥斯拉”（GiantPikachuversusGodzillafight）除此之外，也有不少网友分享了自己的作品。例如这是“爱因斯坦大笑着开星球大战里的飞梭赛车”：还有网友@Callimiya生成了“达斯维德在课室跳舞”的神奇视频，似乎还有小孩子在陪他一起跳：不过，由于试玩人数比较多，导致它有时会出bug。这时候只要不停地提交，还是可以冲进队列中的。当然，如果你觉得这一版的Demo可控性不够好，还可以尝试另一版，无论是seed（便于生成相似内容）还是推理次数都可手动调整：怎么样，想好用它生成什么新视频了吗？

简单版试玩：https://huggingface.co/spaces/fffiloni/zeroscope

可控版进阶试玩：https://huggingface.co/spaces/hysts/zeroscope-v2

参考链接：[1]https://twitter.com/_akhaliq/status/1672650155743408133[2]https://www.reddit.com/r/aivideo/comments/14hbiql/announcing_zeroscope_v2_xl_a_new_1024x576_video/[3]https://twitter.com/fffiloni/status/1673644193967747072

本页网址：https://www.xinzhibang.net/article_detail-15319.html

寻求报道，请

关键词

分享至微信：

相关工具

Copy.ai

人工智能营销文案和内容创作工具

Writesonic

AI写作，文案，释义工具

字符狂飙

全方位AI文档生成工具，快速生成专业文档

HeyFriday

国内团队推出的智能AI写作工具

Jenni

AI研究文章和博客写作辅助工具

Typeface AI

AI创意内容创作助手

三个国外专业免费的调色网站

三个国外专业免费的调色网站无论制作视频、编辑图片，合适的色彩会让你的作品增加视觉冲击力，所以专业的调色技术价值非凡，一部电影或一部好的视频、图片海报，专业调色耗费少则上万，多则上百万，只是大家对专业调色这个行业知之甚少，今天网玩君就为大家分享三个国外专业免费的调色网站，记得收藏好，以后编辑视频、图片

分类标签调色网站免费

04-18 16:42

电影制作中的纹理技术

纹理在电影制作中的重要性纹理是指将详细的表面特征应用于3D模型或视觉效果元素，使其看起来更逼真。纹理对于创建视觉上引人入胜且可信的电影场景至关重要，尤其是涉及CGI、动画或特效的场景。纹理还支持叙事和讲故事，可以通过纹理设置年龄大小等属性，为故事奠定基础。纹理技术的发展历程自胶片问世以来，电影制作人

分类标签纹理电影制作CGI视觉效果微缩模型UV映射

04-18 16:42

UnrealSynth虚幻合成数据生成器-NSDT

UnrealSynth虚幻合成数据生成器-NSDTUnrealSynth基于UE5虚幻引擎开发，可用于生成合成数据集，包括图像和标注数据。可用于各种行业细分场景中目标识别任务的实施效率提高。UnrealSynth合成数据工具包内容UnrealSynth基于UE5虚幻引擎开发，目前支持YOLO系列模型

分类标签 UnrealSynth虚幻引擎数据合成YOLO模型深度学习训练数据

04-18 16:42

人工智能与音乐：谷歌的Project Magenta

谷歌的Project Magenta利用人工智能技术生成音乐和其他艺术形式，如素描、视频和笑话。该项目的目标是为人们创造新的交流方式。本文介绍了该项目的背景、发展历程和应用。在上世纪90年代中期，谷歌研究院的Douglas Eck就开始了他的人生目标：融合人工智能与音乐。二十年后，他与一支谷歌研究团

分类标签人工智能音乐谷歌

04-18 16:42

如何做好SEO优化？

如何做好SEO优化？想要做好SEO优化，得从站内优化和站外优化两个方面入手。一、站内优化1.关键词定位和分析关键词整理是SEO优化中的核心工作，一旦定下来就不建议再次去更改。站长始终要记住关键词一定要和行业、产品、领域息息相关，同时还可以参考竞争对手所做的关键词，可以利用站长工具、5118、爱站网、

分类标签 SEO优化关键词定位网站架构布局

12-11 08:19

万兴科技：营收实现稳健增长，拥抱AIGC新机遇

万兴科技：营收实现稳健增长，拥抱AIGC新机遇国元证券股份有限公司耿军军近期对万兴科技进行研究并发布了研究报告《2022年年度报告点评：营收实现稳健增长，拥抱AIGC新机遇》，本报告对万兴科技给出买入评级，当前股价为75.24元。万兴科技(300624)事件：公司于2023年4月7日收盘后发布《20

分类标签万兴科技营收增长AIGC

12-11 02:11

AI分身市场潜力巨大，万兴科技、京东等已率先布局

“AI孙燕姿”和“CarynAI”引爆市场最近，“AI孙燕姿”和“CarynAI”以以假乱真的程度引爆市场，都是通过采集本人的语音、文字、图像等素材，并通过开源的生成式训练模型进行训练而成。其中，“CarynAI”成功地借助AI技术，打造了自己的AI分身，通过付费的方式，跟AI版的自己进行交往，预计

分类标签 AI孙燕姿CarynAIAI分身AIGC技术虚拟主播数字人

12-11 02:10

万兴科技推出名师必备讲演神器“万兴智演”

万兴科技推出名师必备讲演神器“万兴智演”9月8日，万兴科技面向泛知识领域，推出名师必备讲演神器“万兴智演”。该款AI演示新品集成强大的AIGC能力、精美的行业课程模板以及动画特效素材，大大简化课件制作过程。同时，产品内置强大的录制、直播功能，通过真人实拍与演示内容相结合的形式，实现人景融合的实时演示

分类标签万兴科技万兴智演AI演示

12-11 02:09

万兴科技创始人吴太兵在2023互联网岳麓峰会上的主题演讲

万兴科技创始人吴太兵在2023互联网岳麓峰会上的主题演讲2023互联网岳麓峰会论坛上，万兴科技创始人、董事长兼总裁吴太兵进行主题演讲。红网时刻新闻记者郭雅倩甘红长沙报道十届、十年，岳麓峰会从2014年的“湖湘汇”到如今云集万人的盛会，积攒了巨大的关注度和影响力。6月19日，2023互联网岳麓峰会在长

分类标签万兴科技吴太兵岳麓峰会

12-11 02:05

樟宜机场：通过科技改变旅客体验

樟宜机场：通过科技改变旅客体验樟宜机场在智能手机上移动的小红点代表了在机场上空飞行的飞机，通过传感器的追踪获取了相关飞行轨迹。机场通过人工智能、面部识别和数据分析等技术的应用，不断提高机场运营效率，保持创新，致力于成为一个旅客体验更佳、充满活力的目的地。人工智能优化机场运营效率樟宜机场在2017年共

分类标签樟宜机场科技旅客体验

12-10 22:16