AI专家呼吁暂停训练比GPT-4更强大的AI系统

新知榜官方账号

2023-10-02 19:40:24

公开信:暂停训练更强AI至少6个月

近日,特斯拉CEO马斯克、AI三巨头之一YoshuaBengio、苹果联合创始人SteveWozniak等千余名AI专家联名发布公开信,呼吁暂停训练比GPT-4更强大的AI系统。信中开门见山地表示,当前这种具有人类智能的人工智能系统可能对社会和人类构成深远的风险。

基于上述风险,公开信呼吁所有正在训练比GPT-4更强大的AI系统的实验室立即暂停训练,至少暂停6个月。如果不能迅速实施,政府应该介入并发布禁止令。同时,利用这段暂停时间共同开发和实施一套人工智能设计和开发的共享安全协议,由独立外部专家进行审核监督。而如果这种暂停无法迅速实施,还应允许各国政府介入实施暂停。

支持者:非常必要vs反对者:骇人听闻

截至稿件发布,公开信的署名已攀升至1377个。Bengio在接受媒体采访时强调,暂停六个月实验对于包括政府在内的治理机构是必要的,可以利用这段时间来审核和验证AI系统以保证公众安全。

有一些AI界大佬声称自己“被签名”了。除了澄清自己没有在公开信上签名,不少人还表达了对公开信的不满和不认可。

AI大模型角力白热化

从BERT模型到GPT-4,AI大模型角力白热化。自然语言处理领域的大模型的“暴力美学”开始成为国内外技术领域一道亮眼的道路。相关技术更新迭代的赛跑即使称不上“失控”,也绝对算得上愈发焦灼。

本页网址:https://www.xinzhibang.net/article_detail-14979.html

寻求报道,请 点击这里 微信扫码咨询

关键词

AI GPT-4 人工智能 暂停训练 大模型 公开信

分享至微信: 微信扫码阅读

相关工具

相关文章

相关快讯