Meta开发出文生图模型CM3Leon

新知榜官方账号

2023-07-22 01:28:35

简介

Meta公司宣布开发出一款名为CM3Leon的文生图模型,该模型能够独力解决文本到图像和图像到文本的双向生成任务。

SEO关键词

  • Meta
  • CM3Leon
  • 文生图模型

摘要

CM3Leon是一款多模态模型,能够以其他图像和文本内容的任意序列为条件,生成相应的文本与图像序列。该模型具备自回归模型的功能多样性和有效性,同时保持着较低的训练成本和良好的推理效率。CM3Leon在文本到图像的生成方面表现出同类领先的性能。

详细内容

Meta公司宣布开发出一款名为CM3Leon的文生图模型,该模型能够独力解决文本到图像和图像到文本的双向生成任务。与其他文生图模型不同,CM3Leon采用了基于token的自回归模型方法,训练时的计算量仅相当于以往基于Transformer方法的五分之一,但在文本到图像的生成方面获得了同类领先的性能。

CM3Leon是首个使用纯文本语言模型配方改编和训练而成的多模态模型,并经历了大规模检索增强预训练和随后的多任务监督微调(SFT)阶段。作为一套因果掩码混合模态(CM3)模型,它能够以其他图像和文本内容的任意序列为条件,生成相应的文本与图像序列,这极大扩展了以往大模型只能从文本到图像、或者只能从图像到文本的功能局限。

Meta称,与目前广泛使用的图像生成基准(零样本MS-COCO)进行性能比较时,CM3leon获得了4.88的FID(FréchetInceptionDistance,一种用于计算真实图像与生成图像间特征向量距离的指标,FID值越小则相似度越高,最好为0),超越谷歌的文本到图像模型Parti,证明了自身技术的先进性。此外,CM3leon还表现出令人印象深刻的复杂组合对象生成能力。

CM3Leon的跨任务执行能力展现出强大的通用性,能够在单一模型之上完成文本引导的图像生成与编辑、文本任务、结构引导的图像编辑、物体到图像、抠图、超分辨率结果等各项任务。

随着AI行业的不断发展,像CM3Leon这样的生成模型正变得越来越复杂。这些模型通过数百万的示例图像接受训练,学习视觉效果与文本之间的关系,但同时也可能反映训练数据集中存在的偏差/偏见。Meta称,目前AI行业仍处于理解和应对这些挑战的早期阶段,提升透明度才是加速解决这些问题的关键。

本页网址:https://www.xinzhibang.net/article_detail-8469.html

寻求报道,请 点击这里 微信扫码咨询

关键词

Meta CM3Leon 文生图模型

分享至微信: 微信扫码阅读

相关工具

相关文章

相关快讯