AI被滥用的风险：小心您的声音安全

新知榜官方账号

2023-06-29 19:54:42

风险背景

人工智能有巨大的潜能改变人类命运，但同样存在一定安全风险。

AI基础设施潜藏安全风险。比如，全球著名漏洞数据库CVE披露的典型机器学习开源框架平台安全漏洞数量逐渐增多。另一方面，AI设计研发阶段安全风险突出，出现了许多针对AI系统的新型安全攻击手法，如对抗样本攻击、数据投毒攻击、模型窃取攻击等。除此之外，AI应用失控风险危害显著，像“深度伪造”类应用，给大众带来新奇的体验的同时，也带来了新的安全隐患，一旦这类应用被攻击者滥用，将助长谣言传播、黑灰产诈骗等。

VoIP电话劫持语音模拟攻击

AI语音技术是AI的一个分支，随着AI技术的发展，AI语音技术也在突飞猛进换代升级。通过基于AI的深度伪造变声技术，可以利用少量用户的声音生成他想要模仿的声音。这种技术给用户带来新奇体验的同时，也潜在安全风险。深度伪造AI变声技术也可能成为语音诈骗的利器。

研究发现，利用漏洞可以解密窃听VoIP电话，并利用少量目标人物的语音素材，基于深度伪造AI变声技术，生成目标人物声音进行注入，拨打虚假诈骗电话。

技术原理

总的来说，这种新型攻击的实现方式分为两个部分，一是VoIP电话劫持，二是语音模拟。

VoIP电话劫持
- 音频嗅探技术
- 来电身份及语音篡改
语音模拟

真实案例

英国某公司CEO遭AI语音诈骗，损失220，000欧元（约合人民币173万元）。

防范建议

如何防范这样的攻击，其实可以从防范传统攻击以及防范AI恶意应用两个角度来说。首先，要防御类似的攻击手法，需要防止VoIP漏洞被攻击者利用，安全工程师建议，可以使用新版本的VoIP协议电话，如SIP、SRTP等，减少数据被嗅探甚至被篡改流量包的风险。其次，可以用AI对抗AI，规避AI技术的不合理应用。

针对语音的攻击手段并不只有这一种，可以给语音中添加微小扰动，或修改部分频谱信息，就可以欺骗语音识别系统。或者，将唤醒命令隐藏在不易察觉的音乐中，就可能唤醒智能设备进行对应操作。AI应用失控问题不应忽视，应合理善用AI技术，捍卫技术的边界。除了AI应用失控的问题，AI的数据、算法、模型、基础组件等核心要素，均潜在安全隐患，AI安全问题日益凸显。

本页网址：https://www.xinzhibang.net/article_detail-2876.html

寻求报道，请

关键词

分享至微信：

相关工具

Uberduck

开源的AI语音生成社区，5000多种不同的声音

ACE Studio

AI歌声合成工具，输入歌词与旋律即可生成宛如真人的歌声

Murf AI

AI文本转语音生成工具

Adobe Podcast

Adobe推出的在线AI音频录制和编辑工具

Speechify

超2000万人都在用的文字转语音朗读器

Typecast

在线AI文字转语音生成工具

Achronix如何降低ASR解决方案的成本

概述本篇白皮书详细介绍了自动语音识别（ASR）的应用场景，以及Achronix如何在实现ASR解决方案的同时将相关成本降低高达90%。交互式人工智能（CAI）简介什么是交互式人工智能（AI）？交互式人工智能（CAI）使用机器学习（ML）的子集深度学习（DL），通过机器实现语音识别、自然语言处理和文本

分类标签自动语音识别交互式人工智能CAINLPASRFPGA

12-07 22:33

如何做到每天进步

如何做到每天进步如果你现在没有那么厉害，不要紧，只要你努力，只要你尽力而为。首先，要明确跟自己比较的重要性。竞争是无处不在的，但是我们更应该关注的是自己的个人成长和发展。每天努力比上次做得更好，后天也是，天天比昨天好。我们要竭尽所能，不断进步，才能提高个人竞争力。其次，要制定目标和计划。明确自己的目

分类标签自我超越努力进步个人竞争力

11-30 16:12

8款AI智能软件，提高工作效率，解决日常问题

ChatGPTChatGPT是一款聊天机器人，可以写邮件、写论文、写视频脚本，翻译、敲代码等，能够帮助我们提高工作效率，解决各种日常问题。NotionAiNotion是一款强大的Al写作助手。它能根据输入的关键词，推荐相关的文章素材，可以帮助我们提高文章的质量和准确度。MidjourneyMidjo

分类标签 AI智能软件自媒体工作效率

11-28 08:47

谷歌推出适配Pixel手机的全神经元设备端语音识别器Gboard

最近华为和三星为新机像素互相掐架。神仙打架分外精彩，但智能手机，不是应该比谁更智能吗？大多数人都不知道Google有一个手机亲儿子——Pixel。近日网上有消息透露，谷歌将新推出Pixel3a和Pixel3aXL两款中端机型。比Google手机本身更惹人期待的是，可以适配所有Pixel手机的Gboa

分类标签谷歌Pixel手机语音识别器

11-20 10:16

思必驰-上海交通大学智能人机交互联合实验室10篇论文被INTERSPEECH2020收录

思必驰-上海交通大学智能人机交互联合实验室10篇论文被INTERSPEECH2020收录国际顶级的语音技术圈会议INTERSPEECH2020于10月25-30日在中国上海举办，本次会议主题为“CognitiveIntelligenceforSpeechProcessing”。对话式人工智能平台公司

分类标签思必驰语音技术INTERSPEECH2020说话人识别语音识别口语语义理解

11-20 10:15

谷歌宣布增强Google Assistant技能，新增“阅读”功能

谷歌宣布新增“阅读”功能谷歌于今日宣布了一项名叫“阅读”（Readit）的Google Assistant增强技能。顾名思义，它可以帮助用户大声朗读网页文章、博客、或者短篇小说。在浏览相关网页的时候，你可唤出谷歌智能助理来执行这项操作，比如喊一声“Hey Google，Read this page”

分类标签谷歌GoogleAssistant阅读

11-20 10:14

云听CEM：帮助企业管理客户体验的新兴企业客户管理概念

云听CEM：帮助企业管理客户体验的新兴企业客户管理概念早期的企业客户管理系统以SAP、Salesforce等为代表，通过打通企业内部的业务流，整合数据，帮助用户提升了运营效率。但随着互联网的发展以及消费市场竞争的加剧，获取全渠道、全触点消费者的体验信息并基于此改善企业产品服务逐渐成为重点，这一趋势在

分类标签 CEM客户体验管理视界信息

11-08 08:51

五款免费听歌APP推荐

五款免费听歌APP推荐现如今人们版权意识越来越高，音乐平台也开始了版权争夺战。以前每个平台都能听到喜欢的歌曲，现在却不得不在几个APP之间来回切换，实在是非常麻烦，也不知道这场版权争夺战什么时候能结束。但在此之前，我找到了5个非常不错的听歌APP分享给大家，希望各位都能在听歌的时候能够不受限制。1.

分类标签听歌APP免费下载播放器音乐平台

11-08 08:50

语音对话推荐：研究、数据集、评估与展望

引言近年来，推荐系统在工业界取得了巨大成功，甚至成为互联网发展中不可或缺的增长引擎，基于此研究者们也在积极探索推荐系统的新形态，其中对话推荐系统（Conversational Recommender System，简称CRS）作为一个备受关注的研究方向被热议。对话推荐系统主要是通过使用自然语言进行多

分类标签语音对话推荐ConversationalRecommenderSystemVCRS

10-28 08:59

SoundHound或成AI语音助手竞赛中的大黑马

SoundHound或成AI语音助手竞赛中的大黑马据台湾《中时电子报》2月2日报道，除了Google Assistant、苹果Siri以及亚马逊Alexa之外，还有哪一款AI(人工智能)语音助手即将出头天？日前获得英伟达(NVIDIA)以及三星连手投资7500万美金的SoundHound，很可能将是

分类标签 AI语音助手SoundHound自动驾驶

10-28 08:57