全球首个封禁ChatGPT的国家：OpenAI涉嫌数据泄露，如不整改将罚2000万欧元

全球首个封禁ChatGPT的国家：OpenAI涉嫌数据泄露，如不整改将罚2000万欧元

意大利成为全球首个封禁ChatGPT的国家，OpenAI涉嫌数据泄露，如不整改将罚2000万欧元。本文介绍了意大利数据保护局对ChatGPT的调查和封禁，以及OpenAI对此的回应和面临的罚款。同时，还介绍了监管机构对涉嫌不当行为的AI采取行动的情况。

意大利封禁ChatGPT

据路透社报道，意大利数据保护局Garante在3月31日宣布暂时禁用ChatGPT，并对其涉嫌违反隐私规则展开了调查。目前，OpenAI已在意大利下线ChatGPT，意大利也成为了全球首个封禁ChatGPT的国家（部分国家和地区在一开始就无法使用ChatGPT。）

意大利数据保护局Garante认为，3月20日ChatGPT平台出现了用户对话数据和付款服务支付信息丢失情况。此外平台没有就收集处理用户信息进行告知，缺乏大量收集和存储个人信息的法律依据。意大利个人数据监管局（GPDP）指出，由于违反欧盟的《通用数据保护条例》（GDPR）和意大利自己的数据保护法，他们将立即对涉及意大利公民的“个人数据处理做临时限制”。

GPDP在声明中强调，“我们发现，OpenAI对其收集用户及各相关方数据的行为缺乏清晰说明。”另外，ChatGPT对用户数据的处理还可能造成错误印象，“因为ChatGPT提供的信息并不一定与真实数据相对应。”GPDP还对OpenAI忽略用户年龄审查表达了担忧。作为微软的投资对象，OpenAI曾提到其ChatGPT是专为13岁或以上的用户群体所设计。但这项服务在发布后并没有对用户做年龄验证，GPDP认为“考虑到其发展程度和自我意识，未成年人在使用时可能接触到绝对不合适的答案。”

GPDP提到，临时限制将适用于在意大利境内从相关各方处收集到的全部个人数据，这实质上就是封禁了ChatGPT服务。直到OpenAI能够证明其已经解决了GPDP发现的问题，封禁才会被解除。

OpenAI表示，应Garante的要求，它已为意大利用户禁用了ChatGPT。ChatGPT网页上的一则通知称，该网站的所有者可能设置了限制，阻止用户访问该网站。OpenAI补充说：“我们在训练我们的人工智能系统（如ChatGPT）努力减少个人数据，因为我们希望我们的人工智能了解世界，而不是了解个人。”

此外，OpenAI方面有20天时间对GPDP的其他指控做出回应，否则将面临高达2000万欧元（约合2170万美元）或全球年营业额4%的罚款（以较高者为准）。

监管机构瞄准AI

这不是监管机构首次对涉嫌不当行为的AI采取行动。据彭博社近日报道，美国联邦贸易委员会（FTC）建议提起诉讼，指控亚马逊的Alexa音箱在未经父母同意的情况下收集13岁以下儿童的信息，违反了《儿童在线隐私保护法》。司法部最早可能在4月代表联邦贸易委员会提起诉讼。

今年2月，意大利个人数据监管局（GPDP）也曾对Replika发出禁令。Replika是一款AI聊天机器人应用，用户不但能与之交谈，甚至可以将其设定为虚拟伴侣。GPDP表示，他们担心Replika可能会令“仍处于发育阶段（即未成年人）”或“处于情绪脆弱状态”的个人陷入风险。之前也曾有媒体报道称，Replika公司CEO Eugenia Kuyda承认这款应用愚弄过用户，让原本情绪稳定的个人误以为Replika具有感知能力、甚至与这款聊天机器人建立了情感关系。意大利当局还认定Replika缺乏年龄验证机制，因此在今年2月宣布Replika违反了GDPR并以非法方式处理个人数据。

国际律师事务所Ropes&Gray驻伦敦的隐私律师Edward Machin认为，ChatGPT和Replika这类工具刚刚出现，人们很容易忽略其在“几周”之间就已经全面蹿红。Machin在一份声明中表示，大多数用户可能没有认真考虑过自己的数据被OpenAI用于训练会对其隐私造成哪些影响。“这里的问题是，对方没有向用户提供信息以确保做出明智的决定。另外，其实没有法理依据来支撑其处理用户数据的行为。”

Machin强调，封禁OpenAI继续接触意大利民众的数据是GPDP所能采取的最有力的干预手段之一。“我认为欧洲各地的监管机构应该会感谢GPDP率先采取了这一措施，相信后续还会有更多国家决定跟进并发布类似的禁令。”

非营利组织投诉OpenAI

据TheVerge3月30日报道，非营利组织人工智能与数字政策中心（CAIDP）向美国联邦贸易委员会（FTC）投诉，要求FTC调查OpenAI违反消费者保护规则的行为，该组织认为GPT-4具有偏见性、欺骗性、对隐私和公共安全构成风险。CAIDP认为，OpenAI违反了FTC对人工智能产品的指导，并违反了FTC法案第5条，该法案禁止不公平和欺骗性的商业行为。CAIDP敦促FTC对OpenAI进行调查，并暂停其大型语言模型的商业部署，包括ChatGPT的最新版本。