AI监管：大佬们的态度和政府的行动

近年来，各种反乌托邦式英美剧大火，而人工智能频繁成为了其中的重要话题，比如《西部世界》中描绘的“杀人”机器人，《黑镜》中演绎的生成式AI偷取真人生活等等。本文探讨了AI监管的话题，包括大佬们的态度和政府的行动。

自从AI诞生，它对人类的赋能和其对社会危害的讨论一直是并行的，正是因其双刃性，科技圈的各种大佬对AI的态度也是大相径庭，甚至可以说，AI成为了有史以来让科技圈态度最为割裂的话题之一。

AI保守派在众多对AI采取较为保守态度的科技大牛中，最让人有些惊讶的就是被称为“ChatGPT”之父的OpenAICEO-SamAltman。

在具体应用领域上，Altman指出，AI被用于传播虚假信息是他最担心的事情。他还认为，AI有可能会带来失业，但也有机会创造新的工作机会，政府的决策很大程度上可以决定事情向哪个方向发展。同时他还建议成立AI监管机构，为大规模AI模型的开发颁发许可，AI模型的安全法规和测试在向公众发布之前必须通过许可。Altman的主动攻势对于引导政府对AI的态度极其重要。因为他游说的主题虽然是监管AI，但同时更是让立法者对人工智能产生兴趣和进行了解，缩小了以往华盛顿和硅谷间的信息鸿沟，避免此前科技公司与立法者间关于干预程度的冲突。他的策略也确实起了作用，立法者已经将他视为AI监管的导师和盟友，会邀请他对ChatGPT进行介绍，也在立法时寻求他的建议。

与此前小扎和贝索斯等人毫不情愿出现在听证会上，还要面红耳赤与国会成员争吵辩论的画风不同，SamAltman选择主动参加会议，在会议上Altman表示，如果AI技术产生危害，这些危害将非常致命，他想和政府合作防止最坏情况的发生。在具体应用领域上，Altman指出，AI被用于传播虚假信息是他最担心的事情。他还认为，AI有可能会带来失业，但也有机会创造新的工作机会，政府的决策很大程度上可以决定事情向哪个方向发展。同时他还建议成立AI监管机构，为大规模AI模型的开发颁发许可，AI模型的安全法规和测试在向公众发布之前必须通过许可。

就在这一听证会后不久，Altman还与多位AI科学家共同签署了一封信，内容非常简短，只表达了“我们应该将减轻AI对灭绝人类的风险作为全球的首要任务”，签署这封信的还包括DeepMind的CEODemisHassabis，Anthropic的联合创始人DanielaAmodei，以及被称为“AI教父”之一的GeoffreyHinton。GeoffreyHinton在Google任职有十年之久。他在神经网络和深度学习方面的开创性研究为ChatGPT等人工智能系统奠定了基础。今年Hinton宣布将从Google离职，主要是为了可以更加公正自由的对公众介绍AI带来的危害。他曾在多个场合表示，AI目前的智能已经到了令人细思恐极的地步，虽然还没有达到人类的水平，但这一未来并不遥远，同时AI将以我们无法还想象的方式改变社会，而这些改变很大程度将是糟糕的，比如恶势力使用AI发动军事袭击等等，他认为AI所带来的威胁比气候问题还要严重，甚至表示他后悔自己在AI方面做出的努力。

同样有着“AI教父”之称的YoshuaBengio与Hinton观点类似，他在与BusinessInsider的采访中表示，AI乐观派认为AI灭绝人类并不会成为问题，但没人能确保这一点，在没有证据保证这一末日不会到来之前就宣扬它的安全性是不负责的。

选择站在这一战线的还有ElonMusk、著名认知科学家GaryMarcus、还有Apple的联合创始人SteveWozniak等。他们在今年3月联合数百位科技界的知名人士共同签署了一封公开信，号召所有AI研究室立即停止训练比GPT-4更强大的AI模型至少半年，为了防止AI的进展太快对社会和人类产生巨大风险，目前联名人数已经超过了3万。

与YannLeCun站在同一战线并且也签署了上面这封联合声明的还有知名AI学者、GoogleBrain的创始人和斯坦福大学计算机科学系教授吴恩达（AndrewNg）。他不但反对社会上对AI监管的声音，而且直白表示科技大公司们只是为了自身利益才试图夸大人们对AI的恐惧，因为他们并不想与开源公司竞争。吴恩达还在自己的X上发表了推文，表示目前对于AI监管的游说将会促成一些压制开源和阻碍创新规定的建成，而这则是他最恐惧的事情。

随后GeoffreyHinton很快在这条推文下进行了回复，不但出了一道题，让吴恩达计算“如果AI不被严格监管，它在未来30年内导致人类灭绝的概率是多少？我的估计是0.1，我猜YannLeCun估计的值小于0.01，”而且还表示，“如果大公司游说AI监管是为了自己利益而进行的阴谋论，那么我从Google离职不就是最好的反证吗？”

随后LeCun加入讨论，表示他估计的概率是比其他能够导致人类灭绝原因的概率小的多，并且让Hinton计算AI拯救人类免于灭绝的概率。吴恩达也很快回复，表示自己并没有说这是一场阴谋论，但举了一些例子来表达过度夸大AI的恐惧会带来的真正伤害，比如新的人才拒绝加入AI领域，因为他们不想成为人类灭绝的帮凶，并再次强调了监管对开源和创新的伤害。

任何科技的发展都是在支持和反对的声音中前进的，而AI正因背负着巨大的期待，在未来很长一段时间内仍会成为话题中心，甚至将继续“割裂”硅谷的声音，也许历史和时间能告诉我们真相，在评论里讨论下你更支持哪一派的声音呢？