AI迎来MOSS时刻，已有诈骗团伙用ChatGPT写“剧本”

新知榜官方账号

2023-07-05 01:22:55

产品经理提升个人职业竞争力需要符合大环境的趋势和发展，选择正确的方向和领域，抓住机遇，避免无效或低效的努力。

ChatGPT的大风不仅刮过科技圈，也引起了不法分子的注意，让人担心来自人工智能的网络威胁。目前已经有诈骗团伙利用ChatGPT实施诈骗，关于人工智能的网络安全管理迫在眉睫，关于ChatGPT产品的安全性，目前我们应该知道能什么，又能够做什么？一起来看看这篇文章，或许能找到答案。

短短十天，全球被一波又一波的ChatGPT浪潮“炸晕”了。无论是可支持多模态输入的ChatGPT4.0，内置ChatGPT4.0后可以一键生成PPT的Office365，还是虽然不那么令人满意但也还算能打的文心一言，最终都浓缩为英伟达创始人CEO黄仁勋在3月21日年度技术峰会GTC上连续强调七次的那句话——“我们正处在AI的iPhone时刻”。

然而，当绝大多数人欢呼AIGC（利用人工智能技术生成内容）降低了普通人使用AI的门槛时，担忧接踵而来：AI或将带来新型网络攻击。3月21日，中国产业互联网发展联盟、《中国信息安全》杂志、南方日报、中国网络空间新兴技术创新论坛、腾讯安全、腾讯研究院联合发布的《2023产业互联网安全十大趋势》提出，以ChatGPT为代表的生成式人工智能技术进步，将会引发潜在新型攻击和内容合规等安全风险。

目前，已有安全团队发现，网络攻击者开始使用ChatGPT创建恶意软件、暗网站点和其他实施网络攻击的工具，甚至诈骗团伙也开始用ChatGPT生成“剧本”，进行更有针对性的精准诈骗。

ChatGPT的横空出世，让很多人担忧自己会失业。生成式人工智能技术的发展，让写论文、写代码等原本具有一定门槛的人类创作性工作，变成只需输入的一行文字请求。黄仁勋便认为，程序员将成为第一批失业的职业，ChatGPT让普通人对原本复杂的编码程序唾手可得。同时被拉低的，还有“诈骗的门槛”。腾讯安全策略发展中心总经理吕一平的安全团队观察到，已经有诈骗分子开始利用ChatGPT编写“钓鱼剧本”，这大大提高了骗子实施精准诈骗的效率。

3月初，OpenAI放出ChatGPTAPI，开发者可以将ChatGPT集成到自家应用和服务的门槛上，构建属于自己的AI聊天机器人。但安全专家建议，国内开发者先别急着“冲”，首先要评估这种应用方式是否合规。随着《中华人民共和国网络安全法》《中华人民共和国数据安全法》《个人信息保护法》的颁布，以及《信息安全技术个人信息安全规范》等行业标准的实施，数据安全成为企业构建安全体系的重中之重，尤其是对“出境数据”，国家有明确严格的评估要求，2022年9月1日，国家互联网信息办公室公布《数据出境安全评估办法》正式施行。

作为大规模语言模型，新发布的ChatGPT4.0展现出比上一代版本更强大的输入能力和输出结果，也出现了更多的“涌现”。所谓涌现，是指当大模型的参数规模超过某一个临界值时，只需给模型提供提示，就可以让其自动执行任务，而这种提示既没有经过专门训练，也从未被期望过出现，也即会呈现出强大的“智慧能力”。但在斯坦福大学众多学者联合撰写的文章《OntheOpportunitiesandRisksofFoundationModels（基础模型的机会与风险）》中，“涌现”意味着系统的行为是隐式归纳而不是显式构造的，故基础模型显得更难以理解，并具有难以预料的错误模式。

ChatGPT使生成高质量、高逼真信息的门槛大大降低，而老人、孩子是最容易被高逼真信息困扰或伤害的弱势群体，因此一些需要职业资格认定的领域不应该轻易使用类ChatGPT产品，比如律师、医生等。

本页网址：https://www.xinzhibang.net/article_detail-5578.html

寻求报道，请

关键词

分享至微信：

相关工具

演示文档版的ChatGPT

ChatBA

AI幻灯片生成工具

Tome

AI创作叙事性幻灯片

美图AI PPT

美图秀秀推出的免费在线AI生成PPT设计工具

爱设计PPT

AI快速生成高质量PPT

Gamma App

AI幻灯片演示生成工具

Tome平台：一句话生成完整PPT，人工智能助力制作高质量演示文稿

Tome平台：一句话生成完整PPT，人工智能助力制作高质量演示文稿制作PPT需要花费大量的时间和精力，对于缺乏设计和技术能力的人来说，更是一项艰巨的任务。但现在，有了Tome平台，制作PPT变得轻松简单。Tome是一个人工智能生成式平台，它使用多种大语言模型在后台进行大量查询，以满足用户的演示提示。

分类标签 Tome平台人工智能PPT

12-07 02:16

分享8款AI智能软件，提高工作效率和文章质量

分享8款AI智能软件，提高工作效率和文章质量大家好！我叫阿志，做自媒体已有三年之久也做出了理想的成绩今天我就分享我在用的八款AI智能软件，大部分是免费的哦ChatGPTChatGPT是一款聊天机器人。它不仅可以像人类一样聊天交流，还可以写邮件、写论文、写视频脚本，翻译、敲代码等，能够帮助我们提高工作

分类标签 AI智能软件自媒体工作效率文章质量聊天机器人Al写作助手文本生成图像修图软件AI人声生成工具PPT内容生成工具

12-04 16:56

TomePPT：使用AI生成完整的PPT的神器

TomePPT：使用AI生成完整的PPT的神器在制作PPT的过程中，时间和精力是必不可少的。对于缺乏设计和技术能力的人来说，这可能是一项艰巨的任务。但是，现在有了TomePPT平台，制作PPT变得轻松简单。TomePPT是一个人工智能生成式平台，它使用多种大语言模型在后台进行大量查询，以满足用户的演

分类标签 TomePPT人工智能GPT-4

12-03 10:03

阿志推荐的8款AI智能软件

1. ChatGPTChatGPT是一款聊天机器人，可以与人类进行聊天交流，还可以写邮件、写论文、写视频脚本，翻译、敲代码等，能够帮助我们提高工作效率，解决各种日常问题。2. NotionAiNotion是一款强大的Al写作助手。它能根据输入的关键词，推荐相关的文章素材，可以帮助我们提高文章的质量和

分类标签 AI智能软件ChatGPTNotionAiMidjourneyJasperCopy.aiPhotoRoomResembleAiTome

11-18 10:08

TomePPT：AI神器帮你制作完整的PPT

TomePPT：AI神器帮你制作完整的PPT制作PPT需要花费大量的时间和精力，对于缺乏设计和技术能力的人来说，更是一项艰巨的任务。但现在，有了Tome平台，制作PPT变得轻松简单。TomePPT是一个人工智能生成式平台，它使用多种大语言模型在后台进行大量查询，以满足用户的演示提示。TOME已经通过

分类标签 TomePPT人工智能GPT-4

11-18 10:06

AI将替代的6种工作

AI将替代的6种工作随着科技的不断进步，越来越多的职业被机器所取代，这对一些从事这6种工作的职场人员来说可能会造成一定的困扰和不安。营销文案。越来越多的企业开始使用AI写作软件，例如CopyAI自动化生成营销文案。插画师。AI插画工具Midjourney可以自动化绘制各种样式的插画图案。配音师。Al

分类标签 AI职业机器营销文案插画师配音师

10-30 10:47

进击的产品经理：写出一份逻辑清晰的PPT

前言在现代商业社会中，PPT演讲已经成为了一项必备的技能。然而，很多人在制作PPT时常常陷入到逻辑混乱、无法表达清晰的困境中。本文将从产品经理的角度出发，给大家介绍如何写出一份逻辑清晰的PPT。第一步：明确目的在制作PPT之前，首先要明确演讲的目的。是为了推销产品，还是为了解释某个概念？不同的目的需

分类标签产品经理PPT逻辑清晰

10-20 06:42

VsCode编辑器常用插件及配置

VsCode编辑器常用插件及配置本文介绍VsCode编辑器常用插件及配置，包括Vetur、Vue2Snippets、language-stylus、AutoCloseTag、AutoRenameTag、Bookmarks、BracketPairColorizer、CopyRelativePath、P

分类标签 VsCode编辑器插件配置VeturVue2Snippetslanguage-stylusAutoCloseTagAutoRenameTagBookmarksBracketPairColorizerCopyRelativePathPathIntellisenseDocumentThispsioniqFileHeaderVuePeekJavaScript(ES6)codesnippetsMaterialIconThemeESLintStandardJSBeautify

10-16 02:24

AI将替代的6种工作

分类标签 AI工作营销插画语音合成PPT设计翻译剪辑

10-12 22:58

数字时代的创造力工具推荐

数字时代的创造力工具推荐在当今数字时代，科技不断演进，为我们的生活和工作带来了前所未有的便利。有幸，一些博主已经分享了一些令人兴奋的软件，这些软件能够让我们更加高效、创造力无限、学习更轻松。以下是一些博主推荐的软件，以及每个软件的简短推荐文案：OpenAITranslator 推荐文案：OpenAI

分类标签数字时代创造力工具推荐

10-12 22:56

ChatGPT Midjourney 文心一言文心一格 bing新必应 Stable diffusion 稿定设计墨刀AI mastergo Adobe Firefly runway