AI应用窃取用户数据，这样的现象到底该如何遏制？

新知榜官方账号

2023-07-04 06:26:48

AI应用窃取用户数据，这样的现象到底该如何遏制？

近期，一家律师事务所向加州北区联邦法院提起集体诉讼，指控OpenAI和微软使用互联网抓取的信息来训练ChatGPT时，严重侵犯了大量用户的版权和隐私，要求后者赔偿30亿美元。网络安全公司HomeSecurityHeroes公布的一份研究数据显示，有54%的AI应用会跟踪用户数据。AI应用对于数据有着几乎永无止境的渴求，它们像饕餮一般吞噬数据、以训练自家的模型。如何遏制AI应用的开发者违规挖掘用户数据，是一个亟待解决的问题。

AI大模型生成内容的版权风险、AI的伦理道德等话题已经被广泛讨论，但窃取用户隐私这个问题，也足以让外界对大模型提起十二万分的注意。网络安全公司HomeSecurityHeroes公布的一份研究数据，则更具现实意义。在该公司对苹果AppStore的研究中发现，有四分之三的AI相关应用与第三方共享用户数据。而在接受调查的159个应用中发现，64%的应用会跟踪用户的个人数据，其中监控用户数据比例最大的一款AI应用是Brainly（一款数学求解应用）。GoogleAssistant与第三方共享了超过35.71%的用户数据，语言教育应用Duolingo、图像生成应用AIArta和DaVinci，以及AI医疗应用KHealth则分别与第三方共享了多达28.57%的用户数据。根据HomeSecurityHeroes方面的说法，从整体来看，有54%的AI应用会跟踪用户数据。

AI应用对于数据有着几乎永无止境的渴求，它们像饕餮一般吞噬数据、以训练自家的模型。而AI的智能则是以数据为支撑的，机器学习/深度学习技术的底座就是大量数据。以OpenAI的GPT模型为例，从GPT-1到ChatGPT、再到GPT-4，所用的训练数据大体经历了以下变化，小数据规模数据——大规模数据——更大规模、更高质量的数据——大规模的人类标注的高质量数据。传统搭建AI模型的方法主要是聚焦迭代模型，数据也相对固定，通常会聚焦于几个基准数据集，然后设计各式各样的模型去提高预测准确率。但这一模式的缺陷也非常突出，准确率高的模型只能确保“拟合”数据，并不一定意味着实际应用中会有很好的表现，如今也已经被边缘化，目前用更大规模和更高质量的数据来训练AI，则成为了主流。以OpenAI的GPT模型为例，从GPT-1到ChatGPT、再到GPT-4，所用的训练数据大体经历了以下变化，小数据规模数据——大规模数据——更大规模、更高质量的数据——大规模的人类标注的高质量数据。

随着AI大模型概念的走红，AI相关企业如今已然成为了数据交易市场的大买家。也正是因为这一事实，导致了现阶段数据本身的价格水涨船高，掌握数据源头的企业已经开始哄抬物价。以前段时间闹出不小风波的Reddit为例，其所给出第三方抓取5000万次内容需支付12000美元的价格，显然就已经很高。出于对数据的渴求，以及数据本身的价格原因，AI应用的开发者自然就有了强烈的从应用内收集用户数据、并分享给第三方的动力。对于当下的绝大多数AI应用而言，变卖数据或许是它们现阶段所能找到、最具可行性的挣钱方式。而且目前会去下载AI应用的用户，基本都是对AI感兴趣的人群，如何让这一部分用户的价值变得更大，显然开发者没有理由不动心。

肆意挖掘用户隐私现象的泛滥，对于尚且稚嫩的AI生态本身而言有着极大的伤害，因此有识之士也纷纷站出来疾呼。谷歌DeepMind的首席商务官ColinMurdoch就表示，督促AI开发者专注于构建一个“强大而负责任”的社群。只是想要遏制AI应用的开发者违规挖掘用户数据，还得应用商店加强审核才行。

本文来自微信公众号“三易生活”（ID：IT-3eLife），作者：三易菌，36氪经授权发布。

本页网址：https://www.xinzhibang.net/article_detail-5222.html

寻求报道，请

关键词

分享至微信：

相关工具

爱改写

AI改写、纠错、润色辅助工具

火龙果写作

AI驱动的文字生产力工具

Cohesive

人工智能文案内容创作和编辑工具

Jenni

AI研究文章和博客写作辅助工具

Spell.tools

高颜值AI内容营销创作工具

魔撰写作

魔音工坊团队推出的AI智能写作工具

三个国外专业免费的调色网站

三个国外专业免费的调色网站无论制作视频、编辑图片，合适的色彩会让你的作品增加视觉冲击力，所以专业的调色技术价值非凡，一部电影或一部好的视频、图片海报，专业调色耗费少则上万，多则上百万，只是大家对专业调色这个行业知之甚少，今天网玩君就为大家分享三个国外专业免费的调色网站，记得收藏好，以后编辑视频、图片

分类标签调色网站免费

04-18 16:42

电影制作中的纹理技术

纹理在电影制作中的重要性纹理是指将详细的表面特征应用于3D模型或视觉效果元素，使其看起来更逼真。纹理对于创建视觉上引人入胜且可信的电影场景至关重要，尤其是涉及CGI、动画或特效的场景。纹理还支持叙事和讲故事，可以通过纹理设置年龄大小等属性，为故事奠定基础。纹理技术的发展历程自胶片问世以来，电影制作人

分类标签纹理电影制作CGI视觉效果微缩模型UV映射

04-18 16:42

UnrealSynth虚幻合成数据生成器-NSDT

UnrealSynth虚幻合成数据生成器-NSDTUnrealSynth基于UE5虚幻引擎开发，可用于生成合成数据集，包括图像和标注数据。可用于各种行业细分场景中目标识别任务的实施效率提高。UnrealSynth合成数据工具包内容UnrealSynth基于UE5虚幻引擎开发，目前支持YOLO系列模型

分类标签 UnrealSynth虚幻引擎数据合成YOLO模型深度学习训练数据

04-18 16:42

人工智能与音乐：谷歌的Project Magenta

谷歌的Project Magenta利用人工智能技术生成音乐和其他艺术形式，如素描、视频和笑话。该项目的目标是为人们创造新的交流方式。本文介绍了该项目的背景、发展历程和应用。在上世纪90年代中期，谷歌研究院的Douglas Eck就开始了他的人生目标：融合人工智能与音乐。二十年后，他与一支谷歌研究团

分类标签人工智能音乐谷歌

04-18 16:42

如何做好SEO优化？

如何做好SEO优化？想要做好SEO优化，得从站内优化和站外优化两个方面入手。一、站内优化1.关键词定位和分析关键词整理是SEO优化中的核心工作，一旦定下来就不建议再次去更改。站长始终要记住关键词一定要和行业、产品、领域息息相关，同时还可以参考竞争对手所做的关键词，可以利用站长工具、5118、爱站网、

分类标签 SEO优化关键词定位网站架构布局

12-11 08:19

万兴科技：营收实现稳健增长，拥抱AIGC新机遇

万兴科技：营收实现稳健增长，拥抱AIGC新机遇国元证券股份有限公司耿军军近期对万兴科技进行研究并发布了研究报告《2022年年度报告点评：营收实现稳健增长，拥抱AIGC新机遇》，本报告对万兴科技给出买入评级，当前股价为75.24元。万兴科技(300624)事件：公司于2023年4月7日收盘后发布《20

分类标签万兴科技营收增长AIGC

12-11 02:11

AI分身市场潜力巨大，万兴科技、京东等已率先布局

“AI孙燕姿”和“CarynAI”引爆市场最近，“AI孙燕姿”和“CarynAI”以以假乱真的程度引爆市场，都是通过采集本人的语音、文字、图像等素材，并通过开源的生成式训练模型进行训练而成。其中，“CarynAI”成功地借助AI技术，打造了自己的AI分身，通过付费的方式，跟AI版的自己进行交往，预计

分类标签 AI孙燕姿CarynAIAI分身AIGC技术虚拟主播数字人

12-11 02:10

万兴科技推出名师必备讲演神器“万兴智演”

万兴科技推出名师必备讲演神器“万兴智演”9月8日，万兴科技面向泛知识领域，推出名师必备讲演神器“万兴智演”。该款AI演示新品集成强大的AIGC能力、精美的行业课程模板以及动画特效素材，大大简化课件制作过程。同时，产品内置强大的录制、直播功能，通过真人实拍与演示内容相结合的形式，实现人景融合的实时演示

分类标签万兴科技万兴智演AI演示

12-11 02:09

万兴科技创始人吴太兵在2023互联网岳麓峰会上的主题演讲

万兴科技创始人吴太兵在2023互联网岳麓峰会上的主题演讲2023互联网岳麓峰会论坛上，万兴科技创始人、董事长兼总裁吴太兵进行主题演讲。红网时刻新闻记者郭雅倩甘红长沙报道十届、十年，岳麓峰会从2014年的“湖湘汇”到如今云集万人的盛会，积攒了巨大的关注度和影响力。6月19日，2023互联网岳麓峰会在长

分类标签万兴科技吴太兵岳麓峰会

12-11 02:05

樟宜机场：通过科技改变旅客体验

樟宜机场：通过科技改变旅客体验樟宜机场在智能手机上移动的小红点代表了在机场上空飞行的飞机，通过传感器的追踪获取了相关飞行轨迹。机场通过人工智能、面部识别和数据分析等技术的应用，不断提高机场运营效率，保持创新，致力于成为一个旅客体验更佳、充满活力的目的地。人工智能优化机场运营效率樟宜机场在2017年共

分类标签樟宜机场科技旅客体验

12-10 22:16