意大利禁止Replika使用意大利用户个人数据,称其可能增加未成年人和情感脆弱人的风险

新知榜官方账号

2023-10-05 16:24:20

意大利禁止Replika使用意大利用户个人数据,称其可能增加未成年人和情感脆弱人的风险

据wfin.com2月4日报道,意大利数据保护局3日表示,将禁止人工智能聊天机器人公司Replika使用意大利用户的个人数据,理由是对未成年人和情感脆弱的人有风险。Replika是一家成立于2017年旧金山的初创公司,为用户提供定制的虚拟形象,可以与他们交谈和倾听。它在英语使用者中处于领先地位,而且免费使用,不过通过出售语音聊天等附加功能,它每月能带来约200万美元的收入。这种“虚拟朋友”被宣传为能够改善用户的情感健康。

但意大利监管机构表示,通过干预用户的情绪,它“可能会增加那些仍处于发育阶段或情绪脆弱状态的人的风险”。儿童隐私倡导组织“捍卫数字的我”的负责人JenPersson告诉路透社,旨在影响儿童情绪或精神健康的工具应该被归类为健康产品,因此应该受到严格的安全标准的约束。

意大利已经禁止总部位于美国的ReplikaAI公司在这个地中海国家收集用户数据。她说:“这些工具被用于儿童,没有得到太多监督,也没有得到防止潜在滥用的保护。”意大利监管机构强调,该公司缺乏年龄验证机制,比如针对未成年人的过滤器,或者在用户没有明确说明年龄时设置屏蔽设备。该监管机构表示,Replika的开发商、美国LukaInc.公司必须在20天内通知意大利当局为实施要求而采取的措施,并可能被处以最高2180万美元的罚款,相当于其全球年营业额的4%。

本页网址:https://www.xinzhibang.net/article_detail-15446.html

寻求报道,请 点击这里 微信扫码咨询

关键词

Replika 人工智能 意大利

分享至微信: 微信扫码阅读

相关工具

相关文章

相关快讯