AI技术被用于攻击，深度假货对社会构成威胁

新知榜官方账号

2023-06-29 19:16:36

据华尔街日报报道，犯罪分子通过商业化的人工智能语音生成软件，向一家英国能源公司多位同事及合作伙伴骗取钱财，使得该公司一天内损失220000欧元（约合173万元人民币）。AI假扮领导声音，只能跪着被骗和上面故事描述的一样，这家英国能源公司CEO接到了来自德国母公司领导的电话。

上述模型设想，可以简称为voicetransfer（CTI技术中一种语音传输方法的设计与实现），它能够让语音助理，拥有所有的不同风格，甚至创造一个拥有自己声音的语音助手。现阶段使用AI的攻击手段主要有人脸识仿冒（又称：数字整容）语音克隆两类，其实现难度并不大。

简单来讲，攻击者会通过AI技术对现有录音的嗓音、音阶范围等进行模拟，即可模拟发声。这是一种基于AI的实时变音技术，在知道了声音的频率和声线等数据后，即可根据提前设定好的文字内容与库中的文字（带有音调信息）进行比对，然后按照希望模拟的人的声音进行发声。这种发声方式的拟真度极高，对方很难辨识。

美国众议院情报委员会于2019年6月13日星期四举行公开听证会，讨论人工智能对国家安全构成的威胁。具体来说，听证会关注的是最近兴起的利用deepfake人工智能技术创建的操纵媒体。听证会的证人都在法律、安全或人工智能开发和研究领域担任要职。虽然专家们都有不同的想法，但整个董事会至少有一个共识：深度假货对社会各阶层构成了真正的威胁。

什么是deepfake？“深度学习”和“假冒”这两个词的组合，是使用深度学习技术创建的合成媒体。合成图像、视频或音频可能没有明显的邪恶目的。然而，利用真实人物的图像、视频或声音操纵媒体，会带来道德和法律问题。深度假货可以描绘出人们在做他们从未做过的事情或者说他们从未说过的话。基本上，通过给模型提供成百上千的目标图像，deepfake算法可以从多个角度和各种表达式中学习某人的面部表情。通过训练，该算法可以预测目标个体的面部表情会是模仿其他人的面部表情。一个类似的过程被用来训练一个deepfake算法来模仿某人声音的口音、语调和音调。此外，运行deepfake算法的技术要求较低。任何一个拥有中高档消费PC和足够存储空间的有积极性的人都可以制造出deepfake。

要了解更多关于deepfake算法的信息，请查看Github上提供的开源程序DeepFaceLab和FaceSwap。

本页网址：https://www.xinzhibang.net/article_detail-2862.html

寻求报道，请

关键词

分享至微信：

相关工具

Mubert

AI BGM背景音乐生成工具

ACE Studio

AI歌声合成工具，输入歌词与旋律即可生成宛如真人的歌声

网易天音

网易推出的AI音乐创作平台

TME Studio

腾讯音乐推出的智能音乐创作助手

MetaVoice

AI实时变声工具

Notta

AI在线将语音转换成文字

中国式浪漫

中国式浪漫中国式的浪漫有着独特的韵味，充满了婉约而华贵的情感。从古至今，我们常常可以看到一些文艺作品中描绘的恋人们穿越古代的长廊，相互倾诉着深情而含蓄的爱意。这种浪漫，不单单是一种场景的表达，更多的是一种文化的传承。第一章：东方之美，婉约而华贵的爱在现代社会中，中国式的浪漫依然得以体现。例如，现代新

分类标签中国式浪漫东方之美传统与现代的碰撞

12-07 22:30

变声器电脑版哪个好用？主播同款变声器~

变声专家介绍随着吃鸡游戏大火，各路主播纷纷借助吃鸡游戏蹭热度，其中最火热的就是主播们使用变声器将男声变成女声来整蛊队友，这也让不少人在网上寻找好用且可以在吃鸡游戏里使用的变声器，那到底哪个变声器电脑版好用呢？感兴趣的小伙伴可以动动小手指接着往下滑动看看啦~~变声专家基本情况变声专家是海外软件AVVo

分类标签变声器电脑版主播变声器吃鸡游戏

11-29 16:59

人工智能“闻声识相”：如何通过声音识别人脸？

人工智能“闻声识相”：如何通过声音识别人脸？人工智能近年来发展迅速，其中“闻声识相”技术备受关注。该技术通过深度学习和跨模态检索技术，将人脸图像和语音音频片段分别输入人脸编码器网络和语音编码器网络，根据身份的平均损失为提取的特征值分配不同的权重，并过滤掉个性化样本，然后使用两级模态匹配更新神经网络参

分类标签人工智能算力算法数据闻声识相声音识别

11-29 16:58

八款AI智能软件，让你的工作效率倍增！

八款AI智能软件，让你的工作效率倍增！大家好！我叫阿志，做自媒体已有三年之久也做出了理想的成绩。今天我就分享我在用的八款AI智能软件，大部分是免费的哦。1. ChatGPTChatGPT是一款聊天机器人，不仅可以像人类一样聊天交流，还可以写邮件、写论文、写视频脚本，翻译、敲代码等，能够帮助我们提高工

分类标签 AI智能软件工作效率自媒体

11-28 08:43

StabilityAI推出StableAudio，用于AI制作音频生成工具

StabilityAI推出StableAudio，用于AI制作音频生成工具StabilityAI是一家专注于开源AI模型的创业公司，其旗下的StableDiffusion是如今最好的图片生成AI之一（另一个是midjourney）。最近，StabilityAI又推出了StableAudio，这是一款

分类标签 StabilityAIStableAudioAI制作音频潜在扩散模型

11-20 22:15

VoiceChanger「变声器」——让你的声音变得与众不同

VoiceChanger「变声器」是一款充满趣味性的手机应用程序，它提供了丰富多样的变声效果选择，只需轻点一下，你就可以轻松变换声音。从小萝莉到御姐音，再到神秘的幽灵和酷炫的机器人，只要你敢尝试，你的声音就可以变得与众不同。而且，它的界面设计独具匠心，简单又有趣，让变声过程变得更加乐趣无穷。除了给声

分类标签 VoiceChanger变声器语音编辑器

11-19 16:23

市面上那么多AI变声器到底该选哪个？某宝抖音里499、599、699调试变声到底值不值得？

市面上那么多AI变声器市面上的AI变声器其实都是同一个人制作的，只是换了不同的外观和声音模型。这个人制作的变声器是开源的，所以市面上出现了很多不同的变声器软件，它们的声音模型有免费的也有收费的。至于那些贵的离谱的收费模型，如果你有钱，可以购买，但如果你想免费使用，也有温柔御姐、俏皮萝莉等各种声音模型

分类标签 AI变声器某宝抖音调试变声

11-19 16:22

实时变音神器：入梦Ai变声器使用体验指南

实时变音神器：入梦Ai变声器使用体验指南入梦Ai变声器是一款实用的实时变音软件，能帮助用户轻松实现各种声音效果。该软件能够在录音、直播、游戏语音中实时变换声音，为用户提供更多声音选择。本文旨在让读者了解此类工具的存在，以防上当受骗，并非教导如何利用变声器欺骗他人。体验与使用运行入梦Ai变声器.exe

分类标签实时变音软件入梦AI变声器声音选择

11-19 16:21

大饼AI变声：声音创造的无限乐园

大饼AI变声：声音创造的无限乐园声音不再局限于自然的音色，而是成为一种可以塑造、创造的艺术。大饼AI变声作为一款免费的AI实时变声工具，为用户带来了前所未有的声音体验。大饼AI变声以其千种音色和自然的人声效果而备受瞩目。用户可以选择多样化的音色，实现从幽默搞笑到庄重神秘的无限可能性。这款工具支持全场

分类标签大饼AI变声声音体验音色转换

11-19 16:19

AI+公开课已经有团队开始用AI训练人了！

AI+公开课已经有团队开始用AI训练人了！近年来，随着人工智能技术的不断发展，越来越多的公司开始尝试用AI训练人。据悉，AI+公开课团队已经开始了这项尝试，并取得了一定的成果。AI训练人的意义在于，通过让机器学习人类的行为模式和思维方式，从而让机器更好地服务于人类。这项技术的应用前景非常广阔，尤其是

分类标签 AI训练人张佳

11-16 08:01