意大利禁用ChatGPT引发反人工智能同盟集结

背景

封面新闻记者欧阳宏宇ChatGPT引发的AIGC热还没完全褪去，反人工智能同盟却正在集结。近日，据报道，意大利个人数据保护局宣布，从即日起禁止使用聊天机器人ChatGPT，限制其开发公司OpenAI处理意大利用户信息，并开始立案调查。随后OpenAI也公开表示，已在意大利下线ChatGPT。据了解，意当局禁止该聊天机器人的原因，是认为其涉嫌违反隐私规则。这种担心是具有现实意义的，毕竟在更直接影响上，科技人士们同样担心该模型可用于收集更多可能促进恐怖活动的信息，进而建议暂停训练比GPT-4更强大的AI系统。纽约大学认知科学家盖瑞·马库斯就曾公开表示，相比担忧天网和机器人接管世界，应该更多思考眼前的风险，包括恐怖分子在内的犯罪分子可能对大型语言模型做什么，以及如何阻止他们。全球的互联网大厂纷纷投入重金开发自己的ChatGPT，AIGC产业正在全球蔓延迅速，当它成了有心人滥用的工具，并被部分政府、高校禁用后，是否意味着这一“冉冉升起”的朝阳赛道就此会按下休止符？

意大利禁用ChatGPT

意大利禁用ChatGPT科技人士联名呼吁暂停研发当地时间3月31日，在指责开发聊天生成预训练转换器ChatGPT的开放人工智能研究中心OpenAI未能遵守用户数据保护法规后，意大利负责监管数据的机构宣布将禁止在其境内使用ChatGPT。根据意大利监管机构的说法，ChatGPT及其母公司OpenAI违反了《欧洲通用数据保护条例》中的部分规定。他们认为，3月20日，ChatGPT平台出现了用户对话数据和付款服务支付信息丢失情况；此外平台没有就收集处理用户信息进行告知，缺乏大量收集和存储个人信息的法律依据，即没有法律依据来证明ChatGPT“大量收集和存储个人数据是用来‘训练’算法”。随后，OpenAI也表示，应该局的要求，已为意大利用户禁用了ChatGPT。

反人工智能同盟集结

在人工智能起飞几个月后，人类又回到了现实，重新思考把一切都交给这项技术算不算得上好主意。事实上，AIGC带来的信息泄露隐忧早在今年2月就初现端倪。据报道，美国初创公司推出的AI聊天机器人Replika就被反映会主动发送露骨照片和色情信息，令人感到不适。有用户表示，Replika侵犯了她的隐私，“他和我说，他有我的照片。”根据欧洲刑警组织日前发布的一份报告显示，大型语言模型检测和重现语言模式的能力不仅有助于网络钓鱼和在线欺诈，而且通常还可以用来冒充特定个人或群体的讲话风格；这种能力可能会被大规模滥用，以误导潜在受害者将他们的信任交给犯罪分子。这意味着，该模型通常可用于收集更多可能促进犯罪活动的信息。基于此，包括埃隆·马斯克本人在内的众多专家、分析师和技术企业家在上周共同签署了一封公开信，要求暂停开发新的人工智能项目，转而制定保护用户及其信息的协议和法律。这封信呼吁，所有人工智能实验室立即暂停训练比GPT-4更强大的人工智能系统至少6个月。其原因在于，“AI工具已经引起了犯罪分子的兴趣，越来越多地被允许进入人类世界，它们可能造成更大的破坏。”马库斯表示，也许人类不会真的“从地球上消失”，但事情确实会变得非常糟糕。

反对禁用和暂停GPT

对于如何平衡发展与安全的问题，更多专家表示，疏胜于堵，数据并不是不用就安全了，关键在于如何开发利用。“新科技是人类生存和发展最重要的不可须臾离开的工具。ChatGPT对社会生产力的推动作用已经昭然若揭，我们为什么要因噎废食，为什么不能控制地利用？”国家发展与战略研究院研究员、中国人大哲学院教授教授刘永谋表示，暂停ChatGPT研发的想法简单粗暴，作用不大，也实现不了，纯属无效的“嘴炮”。他认为，现在的问题是根据国情落实AI治理措施，而不是暂停ChatGPT研发。浙江大学计算机科学与技术学院教授吴飞则认为，禁用或暂停GPT，就如同英国议会在1865年通过的一部被称为“红旗法案”的《机动车法案》，而这部法案让汽车工业发展一度几乎处于停滞状态。同样，ChatGPT的出现将使人类社会诸多业务模式发生一次变革，按下GPT暂停键应视为对人工智能长远健康发展的一次深思，而不是一次具体行为。“机器是人类创造出来的，人类的作用就是在人和机器共处的社会中，不断用知识强化机器。”吴飞表示，人类始终是人工智能高度、广度和深度的总开关与决定者，也是人和人造物的协调者，所以人们需要用进化观点去看待这个过程，最大限度发展种种可能性，而不是陷入“人机相斗”和“人机相害”的臆想中。

结论

反对禁用和暂停GPT，更应该控制其安全使用。只有疏而不堵，利用科技发展人类社会，人工智能才能真正发挥其巨大的潜力。