信息技术和AI产品的伦理与法律审查

新知榜官方账号

2023-07-08 07:06:50

随着信息技术和人工智能（AI）的突飞猛进，借助于AI的深度造假（Deepfakes）也进入人们的生活，并激起巨大涟渏，冲击着人们的神经。在换脸造假之后，语音合成的深度造假也出笼了，这项技术可以模拟任何人的声音。据央视财经报道，彭博社记者万斯使用电脑合成语音给他母亲打了个电话，他的母亲并没有识别出这是真儿子还是语音合成的假儿子。在万斯告诉母亲是电脑合成他的语音在与她通话后问母亲，“你觉得吓人还是觉得不错？”母亲的回答是，“如果涉及到非常重要的事情，真的挺吓人的。”不只是万斯的母亲会认为深度造假的语音吓人，天下的母亲都会感到吓人。无论是相貌还是语音的深度造假，都涉及技术的两面性。

在谈到技术的两面性时，人们都会引用刘易斯·芒福德的《技术与文明》，认为人类发明技术本来是为了便利和舒适，但最终自己的生活却被技术无情地改变甚至主宰了。网络、IT和AI当然是人类智慧的结晶，向善和向着有利于人和社会的方向发展，将把人类社会带入新的文明。但是，如果这些技术被不法者利用，而且管控不当，受到伤害的将会是每一个人。今天的信息技术的发展早就超出了《技术与文明》所描述的特征和人们拘泥的认识，即每项科技手段和成果只有在应用之后才会发现其问题，才能有时间和精力来监管。

但是，信息技术的正反两方面问题正如其特点一样，一旦出现，就没有时间差，会随着其网络传播的速度，迅速传遍人类社会的每一个角落，只要有网络、WIFI布局的地方。对于信息技术和AI产品，全球有社会责任感的研发人员和公司早就深有同感，如果只是把新产品的研发和新技术的应用当作赚钱的工具，势必造成社会的混乱、失序。因此，微软提出了人工智能的一些伦理，包括公平、可靠和安全、隐私和保障、包容、透明和责任等。而且，这些准则已形成共识。但是，仅有这些准则远远不够。深度造假在语音和人脸、相貌上的多种产品就是如此。在中国有ZAO，在美国有FakeApp（2018年1月上线），都可以“一键换脸”。现在又有了“一键换音”的软件和APP。而这些产品在上市上线之前，显然并没有经过伦理审查和法律评估。因此，它们一上线，其负面效应就和正面效应同时出现，不只是BUG太多，还出现“技术行恶”的种种可能，如欺诈、制造外交纠纷、煽动政治暴力、破坏选举、危及国家安全等。

这也意味着，信息技术和AI产品并不等同于一般的产品，如汽车，只有出现交通事故之后，才会想到用交通规则来管理，而是需要有一个提前量。而且，信息技术和AI产品还有一个特点是，覆水难收。例如，一键换脸的FakeApp在Reddit网站和其他网站已明令禁止，但仍有超过9万名用户在Reddit上传播换脸视频和图片。因此，在每一件AI产品和APP发布和投放市场之前，必须进行伦理和法律评估。同步甚至是前置监管信息技术产品，已成一种强烈的现实需求。

国际上已有法律和伦理依据——欧盟欧盟2018年5月25日颁布实施的通用数据保护条例（GDPR），把个人数据置于现行欧盟法律保护之下。目前，其已对某些产品可能引发的个人隐私泄露的严重关切作出了反应，例如GOOGLEMAP、FACEBOOK等。未来，GDPR还将通过进一步确立“数据保护法案”来补充。同时，人工智能和信息技术伦理委员会也将对有技术公司在出台和发布AI产品进行审查，该委员应有工程师、科学家、律师、社会学家、公众代表、科技公司法人或领导组成。对信息科技产品尤其是AI产品进行科技伦理和法律审查，不是阻碍和桎梏科技发展，而是要为科技创新划定正确航道和必须遵守的价值底线，唯其如此才能加速科技发展。只有制度能保障科技向善之时，才会有人类社会的未来，才会提升社会文明。（张田勘）

本页网址：https://www.xinzhibang.net/article_detail-6799.html

寻求报道，请

关键词

信息技术 AI产品伦理法律审查深度造假语音合成

分享至微信：

相关工具

BGM猫

灵动音科技推出的AI智能生成BGM音乐

Play.ht

超真实在线AI语音生成

Voicemaker

AI文本到语音生成工具

Lemonaid

AI音乐生成工具

Voicemod

AI变声工具

NaturalReader

AI文本转语音工具

中国式浪漫

中国式浪漫中国式的浪漫有着独特的韵味，充满了婉约而华贵的情感。从古至今，我们常常可以看到一些文艺作品中描绘的恋人们穿越古代的长廊，相互倾诉着深情而含蓄的爱意。这种浪漫，不单单是一种场景的表达，更多的是一种文化的传承。在现代社会中，这种东方之美依然在中国式的爱情中得以体现。例如，现代新人在婚礼上常常选

分类标签中国式浪漫传统文化现代社会

12-07 22:22

如何学习插画？插画师必备的素材灵感网站大全

如何学习插画？插画师必备的素材灵感网站大全想要学习插画，你需要了解一些学习技巧，以及在哪里寻找学习绘画的素材。本文为你收集整理了一些关于如何学习插画的教程，以及插画师必备的素材灵感网站。插画师必备的素材灵感网站：ArtStation：主要以游戏或者影视的概念艺术设定及3D模型为主，这里基本上都是极高

分类标签插画学习技巧绘画资源

12-05 02:08

字节跳动海绵乐队：进军AI音乐创作领域

字节跳动海绵乐队：进军AI音乐创作领域近年来，随着人工智能技术的不断发展，AI音乐创作已经成为了音乐领域的热门话题。2021年初，字节跳动推出了一款名为“海绵乐队”的APP，该应用引入了大量AI技术来协助音频创作和编辑。与传统的音乐录制和编辑工具不同，“海绵乐队”具有录音棚、弹唱优化、一键remix

分类标签字节跳动海绵乐队AI音乐创作人工智能

12-01 22:29

配音网站上的真人配音怎么做，最全攻略免费送

配音网站上的真人配音怎么做，最全攻略免费送配音网站的功能有两种，一种是为专业配音人员搭建商务平台，在行业中发挥自己的专业优势。一种是为用户提供专业的配音服务，其中包括智能配音和真人配音两种情况。所以配音网站的存在也可以看作是为用户和配音人员搭建起来的沟通桥梁，在各取所需的基础上为大家带来高质量的合作

分类标签配音网站真人配音智能配音

11-25 16:20

八款AI智能软件，提高工作效率，解决各种日常问题

聊天机器人——ChatGPTChatGPT是一款功能强大的聊天机器人，它能够像人类一样聊天交流，还可以写邮件、写论文、写视频脚本，翻译、敲代码等，帮助我们提高工作效率，解决各种日常问题。写作助手——NotionAiNotionAi是一款强大的写作助手，它能根据输入的关键词，推荐相关的文章素材，可以帮

分类标签 AI智能软件提高工作效率解决日常问题

11-23 22:11

如何快速制作小和尚开口说话视频并实现快速变现

近来，小和尚开口说话视频风靡一时，不少人通过这种方式实现了快速变现。本文将为您介绍制作这种视频的方法。小和尚图片制作使用AI辅助工具midjourney，通过输入小和尚的描述词并将其翻译成英文，即可自动生成高清的小和尚图片。从系统提供的多张选项中选择最满意的图片，并下载保存。文案与音频制作从同行的热

分类标签小和尚开口说话视频快速变现

11-19 16:18

阿才与狐仙的爱情故事

阿才与狐仙的爱情故事阿才与狐仙的爱情故事，是一个流传千古的美丽传说。在古老的村庄里，阿才与狐仙相遇，经历了许多艰难险阻，最终战胜了邪恶的道士，过上了幸福美满的生活。阿才是一个年轻人，长相英俊，但因为家境贫困，一直未能娶到心仪的姑娘。然而，他并没有因此灰心丧气，依然努力生活，相信自己终有一天会遇到自己

分类标签阿才狐仙爱情故事

11-19 16:17

协助老年人从仰卧位转换为床边坐起

协助老年人从仰卧位转换为床边坐起随着人口老龄化的加剧，老年人的护理成为了一个重要的问题。协助老年人从仰卧位转换为床边坐起是老年人护理中的一个重要环节，需要护理员具备一定的专业知识和技能。下面，我们来介绍一下具体的步骤和注意事项。步骤老年人自愿且身体状况允许。护理员穿戴整齐，洗手并表现得温和。全面评估

分类标签老年人仰卧位床边坐起

11-19 16:15

数字人、TTS、VR等技术助力苏州广电传媒集团在苏州文化创意设计产业交易博览会中获得成功

数字人、TTS、VR等技术助力苏州广电传媒集团在苏州文化创意设计产业交易博览会中获得成功近日，在第十二届中国苏州文化创意设计产业交易博览会（以下简称“苏州文博会”）中，苏州广电传媒集团（总台）（以下简称苏州广电）以“数字赋能广电+文化”为主题参展，用数字人、TTS、VR等技术为现场观众带来了沉浸式的

分类标签数字人TTSVR

11-19 16:14

民间故事：麻雀报恩

民间故事：麻雀报恩从前有兄弟二人，老大性格霸道，老二温和善良。父母去世后，兄弟俩分家产，老大独占了良田和房屋，而老二只得到了一间小房子和一小块薄田。一天，老二在家中听到麻雀的叫声，开门一看，发现一只幼鸟从屋檐上的窝里掉了下来，摔断了腿。他很可怜这只小鸟，便捡起来找了一段布条，小心翼翼地把它的腿缠起来

分类标签民间故事麻雀报恩善良

11-19 16:13