产学研代表联名发表公开信，暂停巨型AI实验

新知榜官方账号

2023-10-01 08:52:32

产学研代表联名发表公开信，暂停巨型AI实验

近日，包括马斯克、Bengio在内的上千位产学研代表联名发表公开信，要求所有AI实验室立即暂停训练GPT-4更先进的AI系统，时间至少为6个月。该公开信引起了轩然大波，信中强调，如果不迅速实施，政府应该介入强制执行。信中还明确指出，这并不意味着总体限制一般人工智能的发展，而是从目前危险的竞技中退后一步，避免更强大、更不可预测的黑箱模型和新兴能力出现。

SEO关键词

AI实验
公开信
暂停
人工智能
治理系统
安全协议

摘要

所有AI实验室立即暂停训练GPT-4更先进的AI系统！至少6个月限期。包括马斯克、Bengio在内的上千位产学研代表联名发表公开信“暂停巨型AI实验”，瞬间引起轩然大波。信中强调：如果不迅速实施，那么政府应该介入强制执行。我们熟知的一些大咖，比如StabilityAICEO、07年图灵奖得主、苹果联合创始人、多位DeepMind工程师也都赫然在列。

在公开信中，马斯克Bengio联名呼吁暂停巨型AI实验，并提出了三个方面的需求和建议举措：立即暂停比GPT-4更先进的AI系统训练，时间至少是6个月；开发和实施一套共享安全协议，用于高级人工智能设计和开发，并由独立外部专家进行严格审核和监督；开发人工智能治理系统。

对于这个治理系统，他们认为应该包括：专门负责人工智能的全新监管机构；监督和跟踪高能力的AI系统和大型算力池；注明出处和水印系统，帮助区分真实和合成、以及跟踪模型泄露；健全的审计和认证生态系统；对人工智能造成的伤害进行责任认定；为人工智能安全技术研究提供强大的公共资金；以及提前预防人工智能导致的巨大经济政治破坏。

最后，他们还畅想了一下未来，希望在成功创造出强大的AI系统之后，能够给社会一个适应的机会，暂停使用一些危害系统。这项“拯救行动”已有1100+的AI从业者签署，其中不乏一些知名的大牛。

本页网址：https://www.xinzhibang.net/article_detail-14660.html

寻求报道，请

关键词

AI实验公开信暂停人工智能治理系统安全协议

分享至微信：

相关工具

一帧秒创

简单好用的AI智能视频创作平台

Lumen5

AI将博客文章转换成视频

Artflow

AI创建生成视频动画

Rephrase.ai

AI文字到视频生成

Runway

强大的AI视频制作工具，绿幕抠像、视频合成等

Synthesys

AI虚拟人出镜讲解

人工智能或许会杀死人类？比利时研究员自杀背后的故事

本文由「等闲少年」原创，全文1800字，创作维艰，成文不易，点赞关注，共同进步～～～“原本一切都很美好，直到大约两年前，他开始对生态环境问题感到焦虑。”“他不相信人类有任何摆脱全球变暖的方法，他把所有的希望都寄托在技术和人工智能上。”“他仿佛上瘾了，每天早晚他都在其中避难，而且他再也离不开它了。”这

分类标签人工智能自杀比利时

12-10 22:20

OpenAI研发的AI战队在Dota2比赛中击败人类玩家

本周一，马斯克的人工智能机构OpenAI研发的AI战队，在一场5V5的比赛中，翻盘血虐了人类玩家的五黑队伍。AI队伍的名字叫做OpenAIFive，它是运行在256块GPU和12.8万个CPU上的5个智能体，能够实现自我对抗，一天的训练量相当于人类的180年。虽然这个看起来十分强大的AI赢了人类，但

分类标签 OpenAIAI战队Dota2人类玩家比赛胜利

12-10 22:19

1100余企业和学术界人士联名信解封巨型AI研究限制引发激烈讨论

1100余企业和学术界人士联名信解封巨型AI研究限制引发激烈讨论2017年全球近千名人工智能专家签署了阿西洛马人工智能原则（AsilomarAIPrinciples，阿西莫夫的机器人三大法则的扩展版本），而在2023年ChatGPT-4问世并被大规模体验之后，这种担忧达到了历史最高峰。这封信呼吁，全

分类标签人工智能联名信AI研究限制

12-10 22:18

谷歌宣布17家乌克兰初创企业获得创业支持基金

谷歌宣布17家乌克兰初创企业获得创业支持基金谷歌公司设立的“乌克兰创业支持基金”宣布了第一批受资助者--17家乌克兰初创企业中的每一家都获得了10万美元的资助。该公司的博客对此进行了报道。谷歌在3月份宣布成立“乌克兰创业谷歌支持基金”，金额为500万美元，用于分配2022年的非股权现金赠款。该公司补

分类标签谷歌乌克兰创业支持基金

12-04 08:36

使用myheygen翻译任意时长视频的完整教程

使用myheygen翻译任意时长视频的完整教程近期，一款名为“视频翻译”的工具引起了广泛关注。这不是一个简单的网页应用，而是一个可以免费部署在个人电脑或服务器上的实用程序。它的强大之处在于能够翻译任意时长的视频内容。所谓的视频翻译，实际上是指同声传译。虽然这类工具并非近期才问世，市场上已有多款成熟产

分类标签视频翻译同声传译免费软件

12-03 16:24

视频翻译工具MyHeyGen使用教程

视频翻译工具MyHeyGen使用教程近期，一款名为“视频翻译”的工具引起了广泛关注。这不是一个简单的网页应用，而是一个可以免费部署在个人电脑或服务器上的实用程序。它的强大之处在于能够翻译任意时长的视频内容。所谓的视频翻译，实际上是指同声传译。虽然这类工具并非近期才问世，市场上已有多款成熟产品，例如我

分类标签视频翻译工具MyHeyGen同声传译

12-03 02:25

AI视频：催化创意的神奇威力

AI视频：催化创意的神奇威力当下人工智能技术已经深入到生活的方方面面，其中AI视频更是带给世界一股创新的风潮。通过人工智能技术的强大支持，AI视频不仅能提供触动心灵的观影体验，还可以为创作者们提供便利和灵感的源泉。本文探讨了AI视频的好处，以及万彩AI这个在线AI创作平台的优势。AI视频的好处首先，

分类标签 AI视频人工智能万彩AI

11-22 22:26

创意无限，AI自动生成视频，不可错过

创意无限，AI自动生成视频，不可错过如今AI技术的迅猛发展，为我们生活带来了无尽的便利和创新。其中AI自动生成视频作为一项领先的技术，不仅给我们的生活带来了趣味和创意，更引领着全新的视频创作方式。首先AI自动生成视频具有创意无限的优势。传统的视频创作过程繁琐且费时费力，需要专业的技术和大量的人力投入

分类标签 AI自动生成视频万彩微影视频创作

11-22 22:25

万彩微影：AI视频自动生成原创，让你成为创意大师

万彩微影：AI视频自动生成原创，让你成为创意大师视频内容越来越受欢迎，如何制作吸引眼球独一无二的原创视频成为摆在所有视频创作者面前的难题。然而万彩带给我们的一个全新的解决方案，使用AI技术自动生成原创视频，让你成为创意大师。AI视频自动生成原创的好处不仅仅体现在其高效性上，更在于它为创作者们提供了无

分类标签万彩微影AI视频自动生成原创

11-22 22:24

万彩信息 - AI视频创作带来不同寻常的视觉盛宴

万彩信息 - AI视频创作带来不同寻常的视觉盛宴在数字时代的今天，AI技术进步突飞猛进，为文化艺术领域开启了前所未有的创作之门。其中，AI生成视频的出现更是为我们带来了无限可能。AI生成视频的好处不胜枚举，既是源于其独特的创作方式，也是因为它的内容拓展和视觉聚焦方面给观众带来了全新体验。解放人力资源

分类标签万彩微影AI生成视频在线AI创作平台

11-21 08:46

ChatGPT Midjourney 文心一言文心一格 bing新必应 Stable diffusion 稿定设计墨刀AI mastergo Adobe Firefly runway