AI绘画原理解析

新知榜官方账号

2023-09-27 08:38:37

为什么我们输入一句话,人工智能便能产出一幅画作呢?

AI绘画究竟是如何生成图像的?这篇文章里,作者将AI绘画过程拆解成了5个核心问题,或许搞清楚这5个核心问题,你就能明白AI绘画的工作原理了,一起来看看吧。

问题1:如何理解文本信息

你输入的文字,AI是怎么知道你想要描述的是什么?

AI绘画最主要的使用方式就是在模型或软件里,输入一句话(俗称Prompt),可以写主体、背景、人物、风格、参数等等,然后发送,就可以得到一张图。AI绘画底层也是大模型,是一个图像模型,根据你的Prompt去上面的数据库里从768个维度进行相似度的匹配,然后拿图像和文本编码后的特征去计算出一个相似性矩阵。再根据这个相似性矩阵,找到最相似的维度描述后,把这些图像特征全部融合到一起,构建出本次要产出的图像的总图像特征向量集。

问题2:原始噪声图的来源

AI绘画是把“马赛克”一点点抹掉,那所谓的“马赛克”图,也就是噪声图是怎么来的呢?

噪声图的是扩散模型生成的,也就是根据余弦相似度的规律来处理。根据余弦调度逐渐正向扩散原始图,就像把一个完整的拼图一步一步拆开,直至完全打乱。

问题3:模型如何去除噪声

AI把文字转成了特征向量了,也拿到噪声图片了,但噪声图是怎么一点点被去除“马赛克”的呢?

U-Net模型通过采样的方式抽取一部分特征向量,再根据这些向量识别出其中的无用的噪声然后用最开始的全噪声图和当前这次预测的噪声做减法,然后得到一个比最开始噪声少一些的图,然后再拿这个图,重复上述流程,直至最终图像清晰,没有噪声或没有识别出无用的噪声为止,最终生成一张符合要求的图像。

问题4:应该去除哪些无用的噪声

U-Net模型如何识别应该去除哪些噪声呢?其实这就是一个模型训练的过程。U-Net的训练集是很多张已经叠加了随机噪声的数据库,可以理解为很多添加了马赛克的图片,然后让AI不断地从这个数据库里抽取图片出来,自己尝试抹去噪声,全部抹掉后再来和这张图的原图做比对,看看差别多大。

问题5:稳定性控制

如果想要稍微控制下AI绘画的效果,有什么好的方法吗?

可以通过调整Prompt、垫图、插件、训练模型等方式来控制出图效果。

数据集

本文分享了7个常见的文图生成的数据集,包括COCO、VisualGenome、ConceptualCaptions、YFCC100M、ALT200M、LAION-400M、LAION-5B。

本页网址:https://www.xinzhibang.net/article_detail-13947.html

寻求报道,请 点击这里 微信扫码咨询

关键词

AI绘画 图像生成 深度学习

分享至微信: 微信扫码阅读

相关工具

相关文章

相关快讯