人工智能正在变得比人类更聪明,AI教父吹哨提醒风险

新知榜官方账号

2023-09-29 02:22:35

人工智能正在变得比人类更聪明,AI教父吹哨提醒风险

人工智能领域的开创者之一,被誉为“AI教父”的杰弗里・辛顿(GeoffreyHinton)近日宣布离开他工作了十年的谷歌公司,原因是他对人工智能技术的发展越来越担忧。他认为人工智能正在变得比人类更聪明,他想要“吹哨”提醒人们应该认真考虑如何防止人工智能控制人类。

辛顿是神经网络技术的先驱,他的研究为今天许多产品中使用的人工智能系统奠定了基础。他在周一接受《纽约时报》采访时首次透露了他的离职消息,并表达了他对人工智能技术的潜在危害的担忧。他说,他担心人工智能会导致大量失业,并创造一个许多人“无法知道什么是真实的”世界。他还指出,人工智能技术的进步速度远远超出了他和其他人的预期。

“如果它变得比我们聪明得多,它就会非常擅长操纵,因为它是从我们身上学到的,而且很少有例子证明一个更聪明的东西会被一个更笨的东西控制,”辛顿周二对塔珀说,“它知道如何编程,所以它会想出办法绕过我们对它的限制。它会想出办法操纵人们做它想要的事情。”

辛顿并不是唯一一个对人工智能表示担忧的技术领袖,今年3月,一些社区成员联名发表了一封信,呼吁人工智能实验室对最强大的人工智能系统至少暂停训练六个月,理由是“对社会和人类有深刻的风险”。苹果公司联合创始人史蒂夫・沃兹尼亚克(SteveWozniak)也是在这封信上签名的人之一,他周二在“CNN今日早晨”节目中重申了对人工智能传播虚假信息的担忧。

“对于那些想要欺骗你的人来说,欺骗将变得更容易。”沃兹尼亚克对CNN说,“我们在这方面没有做出任何改变——我们只是假设我们现有的法律会解决这个问题。”沃兹尼亚克还表示,可能需要“某种类型”的监管。辛顿则表示,他没有签署这封请愿书。

“我不认为我们能阻止这种进步,”他说,“我没有签署说我们应该停止研究人工智能的请愿书,因为如果美国人停止研究,中国人不会。”但他承认,他没有一个明确的解决方案,“我不清楚我们能否解决这个问题。我相信我们应该努力思考解决问题的方法。我目前还没有解决方案。”

本页网址:https://www.xinzhibang.net/article_detail-14277.html

寻求报道,请 点击这里 微信扫码咨询

关键词

人工智能 AI教父 风险

分享至微信: 微信扫码阅读

相关工具

相关文章

相关快讯