AI能实时解读大脑信号，快速还原出人在0.5秒内看的图像

新知榜官方账号

2023-10-20 01:30:26

AI能实时解读大脑信号，快速还原出人在0.5秒内看的图像

现在，AI已经能实时解读大脑信号了！这不是耸人听闻，而是Meta的一项新研究，能够凭脑信号猜出你在0.5秒内看的图，并用AI实时还原出来。在此之前，AI虽然已经能从大脑信号中比较准确地还原图像，但还有个bug——不够快。为此，Meta研发了一个新解码模型，让AI光是图像检索的速度就提升了7倍，几乎“瞬间”能读出人在看什么，并猜出个大概。

像是一个站立的男人，AI数次还原后，竟然真的解读出了一个“站立的人”出来：LeCun转发表示，从MEG脑信号中重建视觉等输入的研究，确实很棒。

那么，Meta究竟是怎么让AI“快速读脑”的？大脑活动解码如何解读？目前，AI读取大脑信号并还原图像的方法，主要有两种。其中一种是fMRI（功能性磁共振成像），可以生成流向大脑特定部位的血流图像；另一种是MEG（脑磁图），可以测量脑内神经电流发出的极其微弱的生物磁场信号。然而，fMRI神经成像的速度往往非常慢，平均2秒才出一张图（≈0.5Hz），相比之下MEG甚至能在每秒内记录上千次大脑活动图像（≈5000Hz）。所以相比fMRI，为什么不用MEG数据来试试还原出“人类看到的图像”呢？

基于这一思路，作者们设计了一个MEG解码模型，由三个部分组成。第一部分预训练模型，负责从图像中获得embeddings；第二部分是一个端到端训练模型，负责将MEG数据与图像embeddings对齐；第三部分是一个预训练图像生成器，负责还原出最终的图像。训练上，研究人员用了一个名叫THINGS-MEG的数据集，包含了4个年轻人（2男2女，平均23.25岁）观看图像时记录的MEG数据。这些年轻人一共观看了22448张图像（1854种类型），每张图像显示时间为0.5秒，间隔时间为0.8~1.2秒，其中有200张图片被反复观看。除此之外，还有3659张图像没有展示给参与者，但也被用于图像检索中。

所以，这样训练出来的AI，效果究竟如何？图像检索速度提升7倍整体来看，这项研究设计的MEG解码模型，比线性解码器的图像检索速度提升了7倍。其中，相比CLIP等模型，又以Meta研发的视觉Transformer架构DINOv2在提取图像特征方面表现更好，更能将MEG数据和图像embeddings对齐起来。作者们将整体生成的图像分成了三大类，匹配度最高的、中等的和匹配度最差的。不过，从生成示例中来看，这个AI还原出来的图像效果，确实不算太好。即使是还原度最高的图像，仍然受到了一些网友的质疑：为什么熊猫看起来完全不像熊猫？作者表示：至少像黑白熊。（熊猫震怒！）当然，研究人员也承认，MEG数据复原出来的图像效果，确实目前还不太行，主要优势还是在速度上。例如之前来自明尼苏达大学等机构的一项名为7TfMRI的研究，就能以较高的复原度从fMRI数据中还原出人眼看到的图像。

无论是人类的冲浪动作、飞机的形状、斑马的颜色、火车的背景，基于fMRI数据训练的AI都能更好地将图像还原出来。对此，作者们也给出了解释，认为这是因为AI基于MEG还原出来的视觉特征偏高级。但相比之下，7TfMRI可以提取并还原出图像中更低级的视觉特征，这样生成的图像整体还原度更高。

你觉得这类研究可以被用在哪些地方？

论文地址：https://ai.meta.com/static-resource/image-decoding

本页网址：https://www.xinzhibang.net/article_detail-17325.html

寻求报道，请

关键词

分享至微信：

相关工具

AIGC原创内容创作和营销文案生成

创作王

AI一键帮助你创作营销内容

Peppertype.ai

高质量AI内容生成

Notion AI

Notion推出的AI内容创作助手

ChatAI

AI内容创作工具

秘塔写作猫

AI写作，文章生成

三个国外专业免费的调色网站

三个国外专业免费的调色网站无论制作视频、编辑图片，合适的色彩会让你的作品增加视觉冲击力，所以专业的调色技术价值非凡，一部电影或一部好的视频、图片海报，专业调色耗费少则上万，多则上百万，只是大家对专业调色这个行业知之甚少，今天网玩君就为大家分享三个国外专业免费的调色网站，记得收藏好，以后编辑视频、图片

分类标签调色网站免费

04-18 16:42

电影制作中的纹理技术

纹理在电影制作中的重要性纹理是指将详细的表面特征应用于3D模型或视觉效果元素，使其看起来更逼真。纹理对于创建视觉上引人入胜且可信的电影场景至关重要，尤其是涉及CGI、动画或特效的场景。纹理还支持叙事和讲故事，可以通过纹理设置年龄大小等属性，为故事奠定基础。纹理技术的发展历程自胶片问世以来，电影制作人

分类标签纹理电影制作CGI视觉效果微缩模型UV映射

04-18 16:42

UnrealSynth虚幻合成数据生成器-NSDT

UnrealSynth虚幻合成数据生成器-NSDTUnrealSynth基于UE5虚幻引擎开发，可用于生成合成数据集，包括图像和标注数据。可用于各种行业细分场景中目标识别任务的实施效率提高。UnrealSynth合成数据工具包内容UnrealSynth基于UE5虚幻引擎开发，目前支持YOLO系列模型

分类标签 UnrealSynth虚幻引擎数据合成YOLO模型深度学习训练数据

04-18 16:42

人工智能与音乐：谷歌的Project Magenta

谷歌的Project Magenta利用人工智能技术生成音乐和其他艺术形式，如素描、视频和笑话。该项目的目标是为人们创造新的交流方式。本文介绍了该项目的背景、发展历程和应用。在上世纪90年代中期，谷歌研究院的Douglas Eck就开始了他的人生目标：融合人工智能与音乐。二十年后，他与一支谷歌研究团

分类标签人工智能音乐谷歌

04-18 16:42

如何做好SEO优化？

如何做好SEO优化？想要做好SEO优化，得从站内优化和站外优化两个方面入手。一、站内优化1.关键词定位和分析关键词整理是SEO优化中的核心工作，一旦定下来就不建议再次去更改。站长始终要记住关键词一定要和行业、产品、领域息息相关，同时还可以参考竞争对手所做的关键词，可以利用站长工具、5118、爱站网、

分类标签 SEO优化关键词定位网站架构布局

12-11 08:19

万兴科技：营收实现稳健增长，拥抱AIGC新机遇

万兴科技：营收实现稳健增长，拥抱AIGC新机遇国元证券股份有限公司耿军军近期对万兴科技进行研究并发布了研究报告《2022年年度报告点评：营收实现稳健增长，拥抱AIGC新机遇》，本报告对万兴科技给出买入评级，当前股价为75.24元。万兴科技(300624)事件：公司于2023年4月7日收盘后发布《20

分类标签万兴科技营收增长AIGC

12-11 02:11

AI分身市场潜力巨大，万兴科技、京东等已率先布局

“AI孙燕姿”和“CarynAI”引爆市场最近，“AI孙燕姿”和“CarynAI”以以假乱真的程度引爆市场，都是通过采集本人的语音、文字、图像等素材，并通过开源的生成式训练模型进行训练而成。其中，“CarynAI”成功地借助AI技术，打造了自己的AI分身，通过付费的方式，跟AI版的自己进行交往，预计

分类标签 AI孙燕姿CarynAIAI分身AIGC技术虚拟主播数字人

12-11 02:10

万兴科技推出名师必备讲演神器“万兴智演”

万兴科技推出名师必备讲演神器“万兴智演”9月8日，万兴科技面向泛知识领域，推出名师必备讲演神器“万兴智演”。该款AI演示新品集成强大的AIGC能力、精美的行业课程模板以及动画特效素材，大大简化课件制作过程。同时，产品内置强大的录制、直播功能，通过真人实拍与演示内容相结合的形式，实现人景融合的实时演示

分类标签万兴科技万兴智演AI演示

12-11 02:09

万兴科技创始人吴太兵在2023互联网岳麓峰会上的主题演讲

万兴科技创始人吴太兵在2023互联网岳麓峰会上的主题演讲2023互联网岳麓峰会论坛上，万兴科技创始人、董事长兼总裁吴太兵进行主题演讲。红网时刻新闻记者郭雅倩甘红长沙报道十届、十年，岳麓峰会从2014年的“湖湘汇”到如今云集万人的盛会，积攒了巨大的关注度和影响力。6月19日，2023互联网岳麓峰会在长

分类标签万兴科技吴太兵岳麓峰会

12-11 02:05

樟宜机场：通过科技改变旅客体验

樟宜机场：通过科技改变旅客体验樟宜机场在智能手机上移动的小红点代表了在机场上空飞行的飞机，通过传感器的追踪获取了相关飞行轨迹。机场通过人工智能、面部识别和数据分析等技术的应用，不断提高机场运营效率，保持创新，致力于成为一个旅客体验更佳、充满活力的目的地。人工智能优化机场运营效率樟宜机场在2017年共

分类标签樟宜机场科技旅客体验

12-10 22:16