用AI技术“复活”亲人照片引发争议

新知榜官方账号

2023-09-20 22:20:48

用AI技术“复活”亲人照片引发争议

近期人工智能等话题层出不穷引发网友热议，如果用AI技术“复活”去世的人，你会得到怎样的回应呢？有一位网友就做到了，他用AI技术让去世的奶奶和自己重新对话。本文介绍了用AI技术“复活”亲人照片的过程及其引发的争议，包括法律隐患等问题。

虚拟数字人的生成过程

视频中，UP主用AI工具生成了奶奶的虚拟数字人，并和奶奶进行了对话。首先是头像。UP主选择了当下主流的AI绘画软件Midjourney，并上传了奶奶的照片。之后再用文字细化某些面部特征。比如皱纹、眼眸、发型和神态。下一步是音频。这一步的素材基本来自于过去的电话录音、录像视频或者微信语音。UP主将过去奶奶的电话音频上传给了AI，并用音频编辑软件AU进行调整，将音频切割成若干秒的短句，方便标注。最后将处理好的音频打包放入语音合成系统中去，利用该系统，UP主就可以尝试输入文本转语音了。接着最关键的一步——生成虚拟数字人。通过D-ID，用户可以生成数字虚拟人，并和他们展开交流。在左侧选择头像，右侧上传文本或音频即可。网站上奶奶的形象栩栩如生，音频也完美还原了奶奶的“乡音”。搭配上右侧拉家常一般的聊天内容，宛如和奶奶面对面视频通话一样。值得注意的是，奶奶的这些“回复”是UP主借助时下大热的ChatGPT生成的。

引发的争议

有网友看完视频很感动，想起了自己失去的亲人，认为这样能寄托哀思，非常有意义。想制作这类“AI奶奶”，必须要有身故者生前的音频才能还原语言，有网友因此后悔没有好好保存亲人的音频数据。也有网友认为，没必要把已故亲人做成AI，“亲人感觉就是被操纵的电子玩偶，你想让它怎么说就怎么说”。还有网友认为，生活应该向前看，不应过度沉浸在悲思中。更有网友担心，这种技术如果被用在不法用途上……

法律隐患

用AI技术“复活”亲人照片涉及到深度伪造、人脸识别技术等法律隐患。有律师表示，这种情况主要涉及死者家属的精神损害问题，无论是支付宝、微信等支付APP，还是小区里广泛应用的人脸识别技术，都可能存在法律隐患。规范人脸识别技术迫在眉睫，应从立法层面对能够采集人脸样本的系统进行管理，规范人脸识别采集的权限，杜绝技术的滥用。

本页网址：https://www.xinzhibang.net/article_detail-12739.html

寻求报道，请

关键词

人工智能 AI技术虚拟数字人深度伪造人脸识别技术法律隐患

分享至微信：

相关工具

SteveAI

Animaker旗下AI在线视频制作工具

幻舟AI

一站式AI影视创作平台

DreamFace

让图片动起来的AI工具

绘影字幕

一键智能在线自动为视频加字幕

HeyGen

AIGC 视频创建平台，生成吸引人的商业视频

Neurodub

端到端的AI视频语音本地化工具

Gemini的展示是剪辑造假？我们亲测了一下，发现...

Gemini的展示是剪辑造假？我们亲测了一下，发现...最近Gemini的展示引起了一些疑问，有人认为其中有剪辑造假的成分。我们进行了调查和测试，发现一些问题。首先，我们发现在Gemini的展示视频中，有些镜头明显是经过剪辑处理的。这些镜头可能是为了突出产品的特点而加入的，但也可能会误导观众。其次，

分类标签 Gemini展示剪辑造假

12-10 08:00

阿里云通义听悟正式上线，成为国内首个开放公测的大模型应用产品

阿里云通义听悟正式上线，成为国内首个开放公测的大模型应用产品6月1日，阿里云宣布通义大模型进展，聚焦音视频内容的AI新品“通义听悟”正式上线，成为国内首个开放公测的大模型应用产品。阿里云方面透露，通义听悟接入了通义千问大模型的理解与摘要能力，可成为用户工作学习中的得力AI助手，帮助随时随地高效完成对

分类标签阿里云通义听悟大模型应用

11-30 22:13

AI技术被骗子利用，智能AI技术进行电信诈骗的案件被曝光

AI技术被骗子利用，智能AI技术进行电信诈骗的案件被曝光随着AI技术的普及，带来的副作用也日益显现。证据存证，真实不可篡改AI这一技术，能让视频中的人物变脸、变声。有人用它诈骗，有人将自家主播的脸换成明星的脸带货捞钱。只要你一不小心就会“入套”。或许很多人没有意识到问题的严重性，认为技术还没有成熟到

分类标签 AI技术骗子电信诈骗

11-19 16:20

Meta发布了一款突破性的语音生成AI模型Voicebox

Meta发布了一款突破性的语音生成AI模型VoiceboxMeta介绍了一种「突破性」的生成式语音系统，它可以合成六种语言的语音，执行噪声消除、内容编辑、风格转换和多样化样本生成。Voicebox是第一个没有经过专门针对语音生成的训练，却可以泛化到语音生成任务的模型。Voicebox可以创建多种样式

分类标签 Meta语音生成AI模型

10-11 18:12

极限元：AI虚拟主播、实时变声、说话人自适应等解决方案

AI虚拟主播解决方案极限元AI虚拟主播基于少量的音视频数据即可快速生成主播形象，输入文本就可以生成具备同步口型、丰富面部表情及各类型动作的AI合成主播播报的音视频，结合语音识别、语义理解、语音合成、虚拟形象驱动等AI核心技术，通过手机APP、大屏一体机等终端展现形式，实现用户与虚拟客服之间的“面对面

分类标签 AI虚拟主播实时变声说话人自适应

10-11 18:10

Meta推出通用性最高的语音生成AI工具Voicebox，Gannett引入AI协助撰写新闻，NYU研究人员通过ChatGPT设计芯片

Meta推出通用性最高的语音生成AI工具Voicebox18日（美国当地时间17日），Meta推出突破性文本转语音的AI工具Voicebox，可以合成六种语言的语音，执行降噪、内容编辑、转换音频风格等。Meta称其为目前通用性最高的语音生成AI，比相仿模型快20倍。根据Meta的说法，Voicebo

分类标签 MetaVoiceboxGannettAIChatGPTNYU

10-11 18:08

TAVMedia：全平台视频剪辑方案

背景这几年短视频行业的迅速发展，视频内容生产作为内容生态的重要一环，逐渐成为内容平台必备基础能力，像手Q、抖音、快手、视频号等各种内容或社交类产品，都需要音视频编辑能力。除短视频行业之外，AMS广告对于动态视频需求也愈发强烈，游戏行业对于战报视频也成为刚性需求，比如头部的王者战报、吃鸡战报等等。但是

分类标签短视频智影TAVMedia

10-04 22:22

腾讯智影AI智能成片技术的应用场景和未来发展前景

腾讯智影AI智能成片技术的技术原理腾讯智影AI智能成片技术是一种非常强大的智能化影像处理技术，它基于图像识别和深度学习算法，通过分析大量的影像数据，学习和模仿专业导演的创作过程。这项技术能理解影像的内容，识别出不同的场景、人物和动作等元素，并根据这些元素来自动进行剪辑和后期处理。具体来说，这个技术首

分类标签腾讯智影AI智能成片技术应用场景

10-04 22:20

Python语音识别程序

Python语音识别程序该程序使用Python的SpeechRecognition库和Pyaudio库实现语音识别和播放功能。程序首先创建一个Recognizer对象，并使用麦克风录制语音。然后使用recognize_google方法将语音转换为文本，并将结果打印出来。最后使用Pyaudio库播放录

分类标签 Python语音识别SpeechRecognition

10-03 07:06

录音回听：提高口语表达能力的有效方法

录音回听是提高口语表达能力的有效方法之一。通过录制自己的语音并回听，可以发现自己的不足之处并加以改进。以下是具体方法和注意事项：1. 记住一小部分录音选择30秒到1分钟的录音时间，可以是一段英语播客、一段小课堂讲解或一段TED演讲等。首先听一遍录音，然后默读文本并边听边跟读，最后尝试背诵整段录音。2

分类标签录音回听口语表达能力语音训练

10-03 07:04