AI生成式技术可能带来的风险

新知榜官方账号

2023-10-13 17:36:29

AI生成式技术可能带来的风险

从ChatGPT爆红开始，欧美媒体就充斥着各种对于生成式AI（AIGC）带来潜在风险的担忧和警告，而一位被称为“AI教父”的人工智能专家杰弗里·辛顿博士（GeoffreyHinton）将此推向了巅峰，他在今年5月辞去了谷歌的副总裁等职务，并警告人工智能的发展带来越来越大的危险。

他说，他对自己在人工智能领域的多年工作感到后悔，因为他认为人工智能可能会变得比人类更聪明，甚至威胁到人类的生存。他担心各大企业为了和OpenAI公司的聊天机器人ChatGPT、微软的Bing等AI服务竞争，而放松对AI的约束，甚至引发一系列伦理问题。

经过一段时间的观察，各路神仙的观点，总结下来不外乎以下几点：

人类失业的风险
虚假内容的风险
超越和控制人类的风险

哪些岗位容易受到AIGC技术影响

一般来说，那些重复性高、创新性低、标准化程度高的岗位，比较容易被AIGC技术所替代或者辅助。例如：内容生产者、数据分析师、代码编写者等。

相反，那些重复性低、创新性高、标准化程度低的岗位，比较不容易被AIGC技术所替代或者辅助。例如：内容策划者、数据解释者、创新者等。

虚假内容的风险

AIGC的虚假内容有很多经典的例子，例如利用深度学习技术合成或者替换人物的面部表情、声音或者动作的视频，利用自然语言生成技术NLG生成或者补全自然语言文本的人工智能系统，利用自然语言生成技术NLG和图像生成技术GAN生成或者变换图像的人工智能系统等。

这对于我们获取信息和形成观点是一个严重的威胁，但我们可以通过两种方法来防止被骗：一是要求所有使用AI制作的内容都要有明显的标识或水印，二是使用AI的反制技术，来检测和揭露那些隐藏或伪装的假内容。

超越和控制人类的风险

科学家和哲学家担心的问题是，人工智能系统可能会发展出自己的意志和目标，并与人类利益相冲突或相抵触。虽然很多言论听起来耸人听闻，而且这也是一个值得关注和探讨的问题，但并不是最紧迫或最现实的风险。

本页网址：https://www.xinzhibang.net/article_detail-16669.html

寻求报道，请

关键词

分享至微信：

相关工具

Kaiber

图片文字转视频的AI引擎

AVCLabs

AI自动移除视频背景

BgRem

无水印AI视频背景移除

幻舟AI

一站式AI影视创作平台

Elai.io

AI文本到视频生成工具

HeyGen

AIGC 视频创建平台，生成吸引人的商业视频

Runway Gen-2文本到视频更新，如何体验？

引言不久前介绍了一个号称地表最强的文本生视频的工具Moonvalley。紧接着在11月2日，Runway重磅发布了第2代文本到视频和图像到视频生成的更新。Gen-2的视频「保真度」和「一致性」较之前的版本都有了很大的提升。完全看不出是AI生成的！如何体验Gen-2Gen-2目前支持三种生成视频的方式

分类标签 RunwayGen-2文本到视频AI工具

12-09 22:13

免费视频翻译工具MyHeyGen的安装及使用教程

免费视频翻译工具MyHeyGen的安装及使用教程近期，一款名为“视频翻译”的工具引起了广泛关注。这不是一个简单的网页应用，而是一个可以免费部署在个人电脑或服务器上的实用程序。它的强大之处在于能够翻译任意时长的视频内容。所谓的视频翻译，实际上是指同声传译。虽然这类工具并非近期才问世，市场上已有多款成熟

分类标签视频翻译工具MyHeyGen同声传译

12-08 16:09

视频翻译工具myheygen的安装及使用教程

视频翻译工具myheygen的安装及使用教程近期，一款名为“视频翻译”的工具引起了广泛关注。这不是一个简单的网页应用，而是一个可以免费部署在个人电脑或服务器上的实用程序。它的强大之处在于能够翻译任意时长的视频内容。所谓的视频翻译，实际上是指同声传译。虽然这类工具并非近期才问世，市场上已有多款成熟产品

分类标签视频翻译myheygen免费工具

12-03 16:21

视频翻译工具MyHeyGen使用教程

什么是MyHeyGen？MyHeyGen是一款免费实用的视频翻译工具，可以免费部署在个人电脑或服务器上。与市场上其他视频翻译工具不同的是，MyHeyGen可以处理任意时长的视频内容，而且不需要成为付费会员。如何使用MyHeyGen？使用MyHeyGen需要一定的硬件要求，至少需要12GB的显存空间。

分类标签视频翻译MyHeyGen同声传译

12-03 08:35

视频翻译工具MyHeyGen的使用方法

视频翻译工具MyHeyGen的使用方法近期，一款名为“视频翻译”的工具引起了广泛关注。这不是一个简单的网页应用，而是一个可以免费部署在个人电脑或服务器上的实用程序。它的强大之处在于能够翻译任意时长的视频内容。所谓的视频翻译，实际上是指同声传译。虽然这类工具并非近期才问世，市场上已有多款成熟产品，例如

分类标签视频翻译MyHeyGen免费工具

12-02 02:21

视频翻译工具MyHeyGen使用指南

什么是MyHeyGen？MyHeyGen是一款免费部署在个人电脑或服务器上的实用程序，能翻译任意时长的视频内容。它能够实现同声传译，是一款强大的视频翻译工具。市场上已有多款成熟产品虽然市场上已有多款成熟的视频翻译产品，例如heygen和rask的网页版视频翻译工具，以及像veed、有道视频翻译等网页

分类标签视频翻译MyHeyGen实用程序

12-01 22:33

印度在线游戏市场有望达到37.5亿美元规模，职业游戏玩家成新职业

印度在线游戏市场有望达到37.5亿美元规模Volanews2020年全球魔幻大戏还有两个月就要落下帷幕了。在传统魔幻大国印度，活跃新冠病毒病例数量已连续第三天保持在70万以下，治愈率达90%，印度政府也于10月22日发布通知，决定逐步放宽签证和旅行限制，除电子签、旅游签、医疗签之外的所有签证，都开始

分类标签印度在线游戏市场增长

11-30 16:22

CAMIA数据周刊：印尼、印度、泰国和菲律宾应用和游戏下载量TOP20

CAMIA数据周刊：印尼、印度、泰国和菲律宾应用和游戏下载量TOP20CAMIA数据周刊每周定期更新海外最新动态，本期选取了Googleplay商店12月12日印尼、印度、泰国以及菲律宾免费榜TOP40的应用和游戏，对其一周内的下载量进行了统计排序，从而总结出这一周内下载量前20的游戏和应用。印尼移

分类标签 CAMIA数据周刊应用游戏下载量印尼印度泰国菲律宾

11-30 16:21

印度：成为全球重要游戏市场

印度：成为全球重要游戏市场由詹妮弗·劳伦斯和克里斯·帕拉特主演的电影《太空旅客》的官方游戏是印度HeroDigitalEntertainment参与合作开发的。一些人可能会对此感到诧异。实际上，印度每年都在国际市场开发近100款游戏。随着《王国之心2.8》和《盗贼之海》等游戏的推出，印度正快速成为续

分类标签印度游戏市场游戏开发JetSynthesys

11-30 16:20

布达佩斯人工智能联合开放平台正式发布，将提供超过100种多语种能力

布达佩斯人工智能联合开放平台正式发布，将提供超过100种多语种能力当地时间8月24日，2023年世界田径锦标赛的新闻发布中心，布达佩斯人工智能联合开放平台正式发布。该平台由科大讯飞与和布达佩斯技术与经济大学孵化企业SpeechTex合资的企业VerbaLinkEurope承建。发布会上，科大讯飞宣布

分类标签布达佩斯人工智能联合开放平台多语种能力科大讯飞

11-30 16:19

ChatGPT Midjourney 文心一言文心一格 bing新必应 Stable diffusion 稿定设计墨刀AI mastergo Adobe Firefly runway