警示AI风险的公开信引发热议，数千名科技大佬和AI专家联名呼吁暂停比GPT-4更强的人工智能系统的训练

新知榜官方账号

2023-09-26 17:04:57

警示AI风险的公开信引发热议

当全球都在为AI的进化而欢呼雀跃，一封警示AI风险的公开信在硅谷科技圈广为流传。

生命未来研究所（FutureofLife）向全社会发布了一封《暂停大型人工智能研究》的公开信，呼吁所有人工智能实验室立即暂停比GPT-4更强大的人工智能系统的训练，暂停时间至少为6个月。

该机构以“引导变革性技术造福生活，远离极端的大规模风险”为使命，其在信中提到：我们不应该冒着失去对文明控制的风险，将决定委托给未经选举的技术领袖。只有当确保强大的人工智能系统的效果是积极的，其风险是可控的才能继续开发。

截止目前，图灵奖得主YoshuaBengio、马斯克、苹果联合创始人SteveWozniak、StabilityAI创始人EmadMostaque等上千名科技大佬和AI专家已经签署公开信。

大佬联名呼吁：暂停比GPT-4更强的AI

公开信呼吁所有人工智能实验室立即暂停比GPT-4更强大的人工智能系统的训练，时间至少持续6个月。这种暂停应该是公开的、可核查的，并包括所有关键参与者。如果这种禁令不能迅速实施，政府应该介入并制定暂停令。

在暂停的6个月内，人工智能实验室和独立专家应共同制定和实施一套先进的共享安全协议，来规范人工智能设计和开发。协议完成后，应该由独立的外部专家进行严格的的审查和监督。这些协议应该确保遵守协议的系统的安全性。

重写文章：警示AI风险的公开信引发热议

近日，生命未来研究所发布了一封《暂停大型人工智能研究》的公开信，呼吁所有人工智能实验室立即暂停比GPT-4更强大的人工智能系统的训练，暂停时间至少为6个月。该机构以“引导变革性技术造福生活，远离极端的大规模风险”为使命，呼吁人工智能研究和开发者共同制定和实施一套先进的共享安全协议，由独立的外部专家进行严格的审查和监督。数千名科技大佬和AI专家已经签署了这份公开信，呼吁大家不要冒着失去对文明控制的风险，将决定委托给未经选举的技术领袖。

在公开信中，呼吁所有人工智能实验室立即暂停比GPT-4更强大的人工智能系统的训练，时间至少持续6个月。这种暂停应该是公开的、可核查的，并包括所有关键参与者。如果这种禁令不能迅速实施，政府应该介入并制定暂停令。在暂停的6个月内，人工智能实验室和独立专家应共同制定和实施一套先进的共享安全协议，来规范人工智能设计和开发。协议完成后，应该由独立的外部专家进行严格的审查和监督。这些协议应该确保遵守协议的系统的安全性。

同时，呼吁人工智能开发者与政策制定者合作，大幅加快开发强大的AI治理系统。系统至少应该包括：专门针对人工智能的监管机构；监督和跟踪高能力的人工智能系统和大型计算能力的硬件；出处和水印系统，帮助区分真实和合成，并跟踪模型泄漏；强大的审查和认证生态系统；对人工智能造成的伤害承担责任；为人工智能安全技术研究提供强大的公共资金以及资源充足的机构，以应对人工智能可能导致的巨大的经济和政治破坏。

GPT-5已在路上

据预测，GPT-5将在GPT-4的基础上，带来一系列增强的性能，比如在多态交互、创造力和适应复杂任务方面的全面超越。这让人们更加重视对人工智能的风险和治理。

本页网址：https://www.xinzhibang.net/article_detail-13836.html

寻求报道，请

关键词

AI风险公开信 GPT-4 人工智能系统暂停训练科技大佬

分享至微信：

相关工具

绘影字幕

一键智能在线自动为视频加字幕

Movio

AI真人出镜视频讲解

BgRem

无水印AI视频背景移除

D-ID

AI真人口播视频生成工具

EbSynth

AI将真人视频转化为油画风动画

Kaiber

图片文字转视频的AI引擎

人工智能或许会杀死人类？比利时研究员自杀背后的故事

本文由「等闲少年」原创，全文1800字，创作维艰，成文不易，点赞关注，共同进步～～～“原本一切都很美好，直到大约两年前，他开始对生态环境问题感到焦虑。”“他不相信人类有任何摆脱全球变暖的方法，他把所有的希望都寄托在技术和人工智能上。”“他仿佛上瘾了，每天早晚他都在其中避难，而且他再也离不开它了。”这

分类标签人工智能自杀比利时

12-10 22:20

OpenAI研发的AI战队在Dota2比赛中击败人类玩家

本周一，马斯克的人工智能机构OpenAI研发的AI战队，在一场5V5的比赛中，翻盘血虐了人类玩家的五黑队伍。AI队伍的名字叫做OpenAIFive，它是运行在256块GPU和12.8万个CPU上的5个智能体，能够实现自我对抗，一天的训练量相当于人类的180年。虽然这个看起来十分强大的AI赢了人类，但

分类标签 OpenAIAI战队Dota2人类玩家比赛胜利

12-10 22:19

1100余企业和学术界人士联名信解封巨型AI研究限制引发激烈讨论

1100余企业和学术界人士联名信解封巨型AI研究限制引发激烈讨论2017年全球近千名人工智能专家签署了阿西洛马人工智能原则（AsilomarAIPrinciples，阿西莫夫的机器人三大法则的扩展版本），而在2023年ChatGPT-4问世并被大规模体验之后，这种担忧达到了历史最高峰。这封信呼吁，全

分类标签人工智能联名信AI研究限制

12-10 22:18

谷歌宣布17家乌克兰初创企业获得创业支持基金

谷歌宣布17家乌克兰初创企业获得创业支持基金谷歌公司设立的“乌克兰创业支持基金”宣布了第一批受资助者--17家乌克兰初创企业中的每一家都获得了10万美元的资助。该公司的博客对此进行了报道。谷歌在3月份宣布成立“乌克兰创业谷歌支持基金”，金额为500万美元，用于分配2022年的非股权现金赠款。该公司补

分类标签谷歌乌克兰创业支持基金

12-04 08:36

使用myheygen翻译任意时长视频的完整教程

使用myheygen翻译任意时长视频的完整教程近期，一款名为“视频翻译”的工具引起了广泛关注。这不是一个简单的网页应用，而是一个可以免费部署在个人电脑或服务器上的实用程序。它的强大之处在于能够翻译任意时长的视频内容。所谓的视频翻译，实际上是指同声传译。虽然这类工具并非近期才问世，市场上已有多款成熟产

分类标签视频翻译同声传译免费软件

12-03 16:24

视频翻译工具MyHeyGen使用教程

视频翻译工具MyHeyGen使用教程近期，一款名为“视频翻译”的工具引起了广泛关注。这不是一个简单的网页应用，而是一个可以免费部署在个人电脑或服务器上的实用程序。它的强大之处在于能够翻译任意时长的视频内容。所谓的视频翻译，实际上是指同声传译。虽然这类工具并非近期才问世，市场上已有多款成熟产品，例如我

分类标签视频翻译工具MyHeyGen同声传译

12-03 02:25

AI视频：催化创意的神奇威力

AI视频：催化创意的神奇威力当下人工智能技术已经深入到生活的方方面面，其中AI视频更是带给世界一股创新的风潮。通过人工智能技术的强大支持，AI视频不仅能提供触动心灵的观影体验，还可以为创作者们提供便利和灵感的源泉。本文探讨了AI视频的好处，以及万彩AI这个在线AI创作平台的优势。AI视频的好处首先，

分类标签 AI视频人工智能万彩AI

11-22 22:26

创意无限，AI自动生成视频，不可错过

创意无限，AI自动生成视频，不可错过如今AI技术的迅猛发展，为我们生活带来了无尽的便利和创新。其中AI自动生成视频作为一项领先的技术，不仅给我们的生活带来了趣味和创意，更引领着全新的视频创作方式。首先AI自动生成视频具有创意无限的优势。传统的视频创作过程繁琐且费时费力，需要专业的技术和大量的人力投入

分类标签 AI自动生成视频万彩微影视频创作

11-22 22:25

万彩微影：AI视频自动生成原创，让你成为创意大师

万彩微影：AI视频自动生成原创，让你成为创意大师视频内容越来越受欢迎，如何制作吸引眼球独一无二的原创视频成为摆在所有视频创作者面前的难题。然而万彩带给我们的一个全新的解决方案，使用AI技术自动生成原创视频，让你成为创意大师。AI视频自动生成原创的好处不仅仅体现在其高效性上，更在于它为创作者们提供了无

分类标签万彩微影AI视频自动生成原创

11-22 22:24

万彩信息 - AI视频创作带来不同寻常的视觉盛宴

万彩信息 - AI视频创作带来不同寻常的视觉盛宴在数字时代的今天，AI技术进步突飞猛进，为文化艺术领域开启了前所未有的创作之门。其中，AI生成视频的出现更是为我们带来了无限可能。AI生成视频的好处不胜枚举，既是源于其独特的创作方式，也是因为它的内容拓展和视觉聚焦方面给观众带来了全新体验。解放人力资源

分类标签万彩微影AI生成视频在线AI创作平台

11-21 08:46

ChatGPT Midjourney 文心一言文心一格 bing新必应 Stable diffusion 稿定设计墨刀AI mastergo Adobe Firefly runway