马斯克等AI专家呼吁暂停开发超越GPT-4的AI系统

新知榜官方账号

2023-09-29 02:20:21

据报道,马斯克和许多人工智能(AI)专家、企业领导人都签署了一封公开信,呼吁所有AI实验室应立即暂停训练比GPT-4更强大的AI系统,否则可能危及社会和全人类。这封由非营利性的“生命未来研究所”(FutureofLifeInstitute)发布,直至记者截稿时已有1,125人签署。

信中指出,大量研究表明,具有与人类竞争能力的AI系统,可能对社会和人类构成深远的风险,这点也得到了顶级AI实验室的承认。在信中,专家们呼吁高级AI开发至少应暂停6个月,让AI实验室和独立专家利用这段时间共同制定、实施一套开发与设计先进AI的共享安全协议,并由独立的外部专家进行严格的监督。

专家们强调:“人工智能的研究和开发应重新聚焦于使今天强大的、先进的系统更加准确、安全、可解释、透明、健全、一致、可信和忠诚。”信中还呼吁开发者应与政策制定者合作,加强对AI的治理和监管,设立公共资金,并建立资源充足的机构,应对AI可能对经济与民主的破坏。

马斯克曾是OpenAI的联合创办人,但他对OpenAI的现况并不满意,并在2月发推文:“创建时OpenAI是一间开源非营利性公司(这就是为何我把它命名为OpenAI),以作为对Google的制衡,但现在它已成为一个闭源盈利性公司,实际上由微软控制。”

本页网址:https://www.xinzhibang.net/article_detail-14276.html

寻求报道,请 点击这里 微信扫码咨询

关键词

人工智能 AI实验室 马斯克

分享至微信: 微信扫码阅读

相关工具

相关文章

相关快讯