AI治理产品能够解决生成式人工智能安全问题

新知榜官方账号

2023-07-10 09:28:31

AI治理产品能够解决生成式人工智能安全问题

近几个月来，以ChatGPT为代表的生成式人工智能狂飙突进，大模型时代已然降临。但大模型其内生及衍生安全威胁也愈演愈烈，数据泄露、生产有害内容、恶意滥用等安全问题层出不穷，如何解决此类问题成了当下需要思考的内容。7月7日，记者在2023全球数字经济大会特色活动之精品主题展现场看到，已有针对性的AI治理产品可以解决上述问题。

清华大学人工智能研究院孵化企业瑞莱智慧RealAI带来的能够防范生成式人工智能恶意滥用的DeepReal2.0和对通用大模型安全性进行测评及优化的人工智能安全平台RealSafe3.0就是其中代表。瑞莱智慧联合创始人、算法科学家萧子豪告诉记者，DeepReal现已正式更名为生成式人工智能内容检测平台，它除了能够检测Deepfake内容，还新增两个功能模块，可以检测Diffusion、LLM这两类新方法生成的数据，支持对图像、视频、音频、文本进行是否伪造的检测。应用场景包括打击网络诈骗和声誉侵害行为、检测网络内容合规性、检测音视频物证真实性等，可对生成式人工智能技术滥用行为进行管控和治理。

此外，人工智能安全平台RealSafe3.0集成了主流及RealAI独有的世界领先安全评测技术，能够提供端到端的模型安全性测评解决方案，且新增了对通用大模型的评测，可解决当前通用大模型安全风险难以审计的痛点问题。“评测只是手段，帮助通用大模型提升其自身安全性才是核心目的。”在萧子豪看来，不能因为对于被技术反噬的担忧就止步不前，创造新技术和控制技术危害应该同步进行，“我们的办法是，从源头上找到症结，再用AI打败AI。”如果将人工智能模型比作“引擎”，数据则是模型的“燃料”。可以说，数据集质量直接影响模型的内生安全。萧子豪表示，RealSafe3.0内部集成了多个自研模型和专家论证高质量数据集，可以帮助用户修复模型中的问题。“通用人工智能的时代必将到来，如何让人工智能扬长避短，如何用人类智慧驾驭人工智能，是从业者的一道长久课题，也是我们一直努力的方向。”萧子豪说。（雷渺鑫）来源：光明网

本页网址：https://www.xinzhibang.net/article_detail-7364.html

寻求报道，请

关键词

分享至微信：

相关工具

AISEO AI Content Detector

AISEO推出的AI内容检测器

StudyCorgi ChatGPT Detector

StudyCorgi推出的帮助学生检测ChatGPT的工具

Smodin AI Content Detector

多语种AI内容检测工具

Writecream AI Content Detector

Writecream推出的AI内容检测工具

Originality.AI

原创度和AI内容检测

CheckforAI

免费在线检测AI内容

AI写作技术的兴起与挑战

AI写作技术的兴起与挑战随着人工智能技术的发展，AI写作技术逐渐成为热门话题。越来越多的人开始使用AI助手来辅助写作，提高效率和质量。但是，我们是否可以完全相信AI写作的结果呢？AI写作的优势AI写作具有快速、准确和高效的特点。它可以帮助人们节省大量时间和精力，在短时间内生成大量高质量的文字内容。同

分类标签 AI写作技术人工智能真实性

11-16 22:32

GLTR和GROVER：如何辨别AI生成的假新闻和假评论？

GLTR和GROVER：如何辨别AI生成的假新闻和假评论？解铃还须系铃人。这句话的意思是谁引起了麻烦，那么就由谁去解决。而如今，这句话用在麻省理工学院的AI查文工具GLTR（巨型语言模拟器）上似乎也同样合适。GLTR是一款由麻省理工学院和哈佛大学IBM沃森人工智能实验室的人工智能文本识别工具。这款工

分类标签 GLTRGROVERAI假新闻假评论文本识别工具

11-11 10:11

异常检测-AI在海量观测数据中发现未知或罕见的天文现象实现异常检测

异常检测-AI在海量观测数据中发现未知或罕见的天文现象实现异常检测天文学一直是科学研究的前沿领域，而AI技术正以前所未有的方式改变着我们对宇宙的认知。AI技术在天文观测中的应用，随着天文观测设备的不断升级和改进，我们现在能够收集到大量的天文数据，然而处理这些庞大的数据集并及时发现，罕见或未知的天文现

分类标签异常检测人工智能天文观测

11-03 12:17

全网通AI营销系统：让人工智能成为网络营销的利器

全网通AI营销系统：让人工智能成为网络营销的利器人工智能（AI）作为当今科技界最大的风口，在过去一年掀起了一股前所未有的热潮，它将会改变每一个行业。随着人工智能技术的越趋成熟，越来越多的企业将人工智能技术应用于营销当中，使得内容和营销的结合更加紧密精准有效。人工智能的出现对每一个企业来说，既是挑战也

分类标签人工智能网络营销全网通AI营销系统

10-24 02:52

未来SEO的发展趋势及其对于企业的影响

一、自然语言处理将成为SEO的重点随着人工智能技术的不断发展，自然语言处理将成为SEO的重点。未来，搜索引擎将更加“聪明”，可以识别口语化的查询，这意味着SEO专家需要更加注重针对自然语言查询的优化。对于企业来说，他们需要改变以往的SEO优化策略，更加注重网站内容的呈现，将网站优化得更好的匹配自然语

分类标签人工智能自然语言处理语义搜索视频搜索图片搜索

10-24 02:50

SEO与AI变现

SEO与AI变现通过人工智能生成的文字、图片和视频，可以实现自动化的发布和变现，是一种非常好的方向。人工智能现在最擅长的就是生产文字、图片和视频。而互联网上自媒体平台非常火爆，通过机器生成的内容可以实现海量的批量发布，从而获取流量。虽然这些内容质量并不是非常高，但是效率却非常高。如果一个人去做一个9

分类标签 SEOAI变现

10-24 02:48

伪原创的三种方法及优化技巧

伪原创的三种方法及优化技巧现在的互联网，可以说竞争无处不在，尤其是SEO优化是一个非常火热的行业，竞争更加激烈。是原创seo的重要组成部分。但是作为一个网站的站长，很难做到原创，所以需要通过伪原创来编辑更新内容。伪原创的方法有很多，常见的有以下三种:标题组合法。组合法就是把上面总结的三种方法或者两种

分类标签伪原创SEO优化文章更新

10-24 02:46

ChatGPT对学术写作的影响及教学应对

ChatGPT对学术写作的影响及教学应对本文探讨了ChatGPT对学术写作的影响及教学应对，并介绍了GPT-4的写作能力和其局限性。同时，文章也提出了教师应如何引导学生在人工智能时代下进行学术写作，以及如何培养学生的写作能力。ChatGPT对学术写作的影响ChatGPT的出现对学术写作产生了巨大的影

分类标签 ChatGPT学术写作人工智能

10-16 20:10

AI正在污染整个互联网，如何应对？

AI正在污染整个互联网，如何应对？随着生成式人工智能的爆发，一个可怕的现象出现：AI正在污染整个互联网。知乎成为生成无脑答案的重灾区，这些内容描述简短、概括性十足，细看逻辑混乱、错误百出。打开今日头条，用ChatGPT生成的虚假新闻，内容耸人听闻，足够博人眼球。AI加持下，虚假、无意义、同质化的内容

分类标签 AI内容垃圾生成式人工智能

10-16 20:08

巴黎政治学院禁用ChatGPT：AI生成内容的伦理和法律问题引发广泛讨论

背景法国顶尖学府之一的巴黎政治学院宣布禁用ChatGPT，对使用该软件的处罚可能会严重到被学校开除，甚至被整个法国高等教育开除。多所美国中学及大学陆续宣布校内禁用ChatGPT，并通过减少课后作业的方式，避免学生利用家庭网络访问ChatGPT作弊。AI生成内容的伦理和法律问题，正在引发社会各界的广泛

分类标签 ChatGPTAI生成内容伦理问题法律问题

10-16 20:04

ChatGPT Midjourney 文心一言文心一格 bing新必应 Stable diffusion 稿定设计墨刀AI mastergo Adobe Firefly runway