AI的风险与管理:来自科技巨头和政府的共识与担忧

新知榜官方账号

2023-09-22 03:22:27

AI的共识与担忧

近年来,AI技术以其强大的功能和应用前景,在科技界迅速崛起。然而,人们对于AI的使用和管理也产生了一些担忧。一方面,AI可能会替代人类的工作,造成一些社会问题;另一方面,AI的出错或虚假信息泛滥也可能会带来一定的风险。此外,人类对于文明崩溃的担忧也可能会影响对AI的发展。

科技巨头和政府的共识与担忧

针对AI的风险和管理问题,科技巨头和政府都开始展开行动。例如,OpenAI在财务文件中规定了当AI摧毁人类经济体系时的退出机制;IBM举办了一次人工智能会议,希望通过共同交流来解决相关问题;特斯拉、SpaceX、NeuralinkCEO伊隆·马斯克则呼吁成立一个新的机构来监管人工智能。此外,微软总裁布拉德·史密斯提出了建立「紧急制动器」来应对人工智能可能造成的巨大风险,而英伟达首席科学家兼高级副总裁威廉·达利则认为,人工智能的参与需要将人类置于关键环节中,制约人工智能的一些决策权力。

AI管理的开源与风险

在管理AI的过程中,开源模式也引起了一些争议。一些人认为,开源会加剧被滥用的风险,而另一些人则认为开源模式可以促进公平竞争和创新。就AI的开源问题而言,MetaCEO扎克伯格认为开源可以有助于人工智能的民主化,但同时也可能会带来危险。DeeMind联合创始人MustafaSuleyman也认为,开源将使得单个个体就能对世界造成前所未有的伤害和影响。

共同努力解决问题

面对AI的管理问题,单个个体或者单个公司/政府往往无法独立解决。因此,共同努力和交流显得尤为重要。谷歌CEO桑达尔·皮查伊表示谷歌将参与有关这些技术将如何塑造我们社会的重要辩论。同时,已有多家公司签署了「负责任地开发人工智能(AI)技术」协议,共同努力解决相关问题。

本页网址:https://www.xinzhibang.net/article_detail-13012.html

寻求报道,请 点击这里 微信扫码咨询

关键词

AI 风险 管理

分享至微信: 微信扫码阅读

相关工具

相关文章