谷歌大脑展示神经网络可解释性研究成果

新知榜官方账号

2023-10-20 10:08:15

谷歌大脑展示神经网络可解释性研究成果

几个小时前，谷歌AI领域的高级研究科学家GregCorrado在推特上发出这样一句话。随后，谷歌传奇人物JeffDean也跟进转发。之所以说出略带“挑衅”色彩的话，是因为谷歌一项进行很久的研究，今天正式对外公布。

这项研究由谷歌大脑团队的天才少年ChrisOlah领衔完成，题目叫做：TheBuildingBlocksofInterpretability。这项研究，展示了机器如何工作，如何做出一项决定。整体来讲，这项研究探讨了特征可视化如何与其他可解释性技术结合，从而更好地了解神经网络，包括决策的过程，以及如何影响最终的输出结果。

以谷歌大脑为主的研究团队，探索了神经元激活的情况，并为每个神经元配上可视化的图片。谷歌将此比作为神经网络的MRI（核磁共振成像）。谷歌的这项研究将将神经网络的可解释性向前推进一步。

了解神经网络如何工作这件事，已经变得原来越重要。因为它们正在越来越多的代替人类作出决定。谷歌不但放出了相关研究，而且把与之相关的研究工具也进行了开源。其中包括Lucid，一个建立在DeepDream之上的神经网络可视化库。

这项研究仍然处于起步阶段。供职于UberAILab的机器学习科学家JasonYosinski警告说，想要理解计算机的思维永远不是一件易事。随着神经网络越来越复杂，理解这件事也越来越困难。他说：“这有点像试图理解人类如何做决定。”

谷歌大脑团队的天才少年ChrisOlah领衔完成的TheBuildingBlocksofInterpretability研究展示了机器如何工作，如何做出一项决定。谷歌将此比作为神经网络的MRI，这项研究将将神经网络的可解释性向前推进一步。

本页网址：https://www.xinzhibang.net/article_detail-17375.html

寻求报道，请

关键词

分享至微信：

相关工具

文心一言

百度推出的基于文心大模型的AI对话互动工具

通义千问

阿里巴巴最新推出的类ChatGPT响应人类指令的大模型

DeepMind联创新公司推出的AI聊天机器人

TigerBot

虎博科技推出的AI对话聊天机器人，基于TigerBot开源大模型

Character.AI

创建虚拟角色并与其对话

Bing新必应

微软推出的新版结合了ChatGPT功能的必应

Unity推出AI工具Muse和Sentis，助力游戏制作新一轮技术变革

AI正在驱动游戏制作新一轮的技术变革。近日，全球知名游戏引擎公司Unity推出Muse和Sentis两款AI工具，旨在提高开发者的工作效率，增进他们实时3D创作的体验。Unity方面称，其中Muse能帮助开发者工作效率提高10倍。目前，这两款产品还在封测中。据悉，UnityMuse是一款AI辅助创作

分类标签 UnityAIMuseSentis游戏引擎实时3D

11-29 22:09

Take-Two首席执行官施特劳斯•泽尔尼克表示《GTA6》可能包含生成式人工智能对话

Take-Two首席执行官施特劳斯•泽尔尼克在Paley国际理事会峰会上表示，《GTA6》可能包含生成式人工智能对话。他认为使用人工智能生成对话树并增加多样性可以使互动“非常有趣”。泽尔尼克补充说，他认为生成式人工智能“可能更好，但几乎可以肯定，它不会更快、更便宜”。与此同时，如果SAG-AFTRA

分类标签 Take-TwoGTA6人工智能NPC罢工SAG-AFTRA

11-22 10:17

微软与InworldAI合作开发AI驱动的游戏设计协助者

微软与InworldAI合作开发AI驱动的游戏设计协助者微软日前宣布其Xbox部门与InworldAI（一家专注于生成式AI工具的公司）建立合作伙伴关系。根据微软博客上发布的公告，此次合作旨在将Inworld在将生成式AI模型应用于角色方面的专业知识与微软基于Azure云的AI解决方案（包括Open

分类标签微软InworldAIAI游戏设计生成式AI模型角色

11-22 10:16

AI技术将带来游戏开发的新变革

电子游戏的发展一直与前沿技术紧密交织，而现在，生成式AI技术的突破，又一次为这个行业带来了颠覆性的变革。随着游戏开发成本的不断攀升和产品定价的停滞，越来越多的开发者开始转向AI工具。摩根士丹利的分析师最近预测，AI工具可能会将AAA级游戏的成本削减高达15%。而诸如微软的Xbox和索尼的PlaySt

分类标签人工智能电子游戏生成式AI

11-22 10:15

《侠盗猎车手5》MOD为游戏增加AI元素

《侠盗猎车手5》MOD为游戏增加AI元素根据T2的最新财报数据，《侠盗猎车手5》的总销量已经来到了1.85亿份。在此游戏发布10周年之际，R星依然在为这款作品的线上模式进行着更新。然而在Carry的不只有R星官方，就连玩家也还在通过MOD，提升游戏的可玩性。　AI技术是今年游戏圈最热门的话题之一，关

分类标签侠盗猎车手5游戏MODAI技术

11-22 10:14

市场综述：FAANMG多数收涨，微软与InworldAI合作开发人工智能驱动角色工具集

市场综述隔夜三大指数高开低走，盘中呈现V字型走势。FAANMG多数收涨，微软(MSFT.US)收涨0.74%、谷歌A(GOOGL.US)收涨0.66%、苹果(AAPL.US)收涨0.59%、奈飞(NFLX.US)收涨0.47%、MetaPlatforms(META.US)收涨0.30%，仅有亚马逊(

分类标签 FAANMG微软InworldAI人工智能角色开发游戏

11-22 10:13

Unity推出AIHub，为开发者提供AI软件交易平台

Unity推出AIHub，为开发者提供AI软件交易平台据环球网科技综合报道，游戏制作软件提供商Unity日前正式推出面向开发者的AI软件市场AIHub，为AI软件开发者和游戏研发商提供一个更便利的AI软件交易平台。据该公司介绍，AIHub中的解决方案涵盖了一系列功能，包括生成式AI解决方案、AI/M

分类标签 UnityAI软件AIHub

11-22 10:12

AR技术厂商Niantic开放AR内容开发平台Lightship

AR技术厂商Niantic开放AR内容开发平台Lightship据报道，美国AR技术厂商Niantic开放AR内容开发平台Lightship，并发布LightshipAR开发工具包（ARDK），旨在帮助开发者构建AR应用。此外，Niantic还宣布成立风投公司NianticVentures，且将投入

分类标签 ARNianticInworldAI

11-22 10:11

Microsoft旗下Xbox Game Studios与Inworld AI合作开发AI增强型游戏开发工具包

Microsoft旗下Xbox Game Studios与Inworld AI合作开发AI增强型游戏开发工具包Microsoft旗下的视频游戏部门Xbox Game Studios今日宣布与人工智能公司Inworld AI进行重大合作，致力于开发一个全新的一体化AI增强型游戏开发工具包，旨在赋能游戏

分类标签 MicrosoftXboxGameStudiosInworldAI

11-22 10:10

微软Xbox与InworldAI合作开发AI驱动的游戏开发工具

微软Xbox与InworldAI合作开发AI驱动的游戏开发工具微软Xbox与InworldAI建立合作关系，将共同创建AI驱动的游戏开发工具，主要用于故事编写与角色创作。双方将建立多年的合作伙伴关系，希望在电子游戏中发挥AI技术的无穷创造力。两家公司将共同开发一套易于使用、且强调责任的跨平台AI工具

分类标签微软XboxInworldAIAI工具集

11-22 10:09

ChatGPT Midjourney 文心一言文心一格 bing新必应 Stable diffusion 稿定设计墨刀AI mastergo Adobe Firefly runway