OpenAI开发的GPT-4可以进行内容审核，人类审核员恐将迎来大面积失业？

新知榜官方账号

2023-08-17 01:26:51

OpenAI开发的GPT-4可以进行内容审核，人类审核员恐将迎来大面积失业？

近日，OpenAI开发了一种方法，可以使用GPT-4进行内容审核了。相比于人类审核员，GPT-4可以更快速的完成审核工作，并且可以实现更一致的标签、更快的政策细化反馈循环，大大减少了对人类审核员的需求。这个方法可以让基于平台的特定内容政策迭代更快、更省力。任何拥有OpenAIAPI访问权限的人，都可以用这种方法创建自己的AI辅助审核系统。这对于需要处理大量内容的平台来说，非常有用。

为什么选择GPT-4？

内容审核不仅是网络平台健康发展的关键，对于网站开发人员来说，它也是一道绕不开的自我审查防线。自己每天生成的内容已经是个非常庞大的数字了，现在加上网络中存在的大量AI，它们生产的内容甚至远超人类生成内容的数量级。而且内容审核也并不像外行人想象得那样轻松，只需要坐在电脑前划水看两眼就可以了。事实上，内容审核需要一丝不苟的努力、内容的敏感性、对上下文的深刻理解，以及快速适应新的审核用例等挑战。传统的人工审核耗时又费力，而这种巨大的工程量无疑是相当沉重的负担。而OpenAI灵机一动，选择让GPT-4来承担这一重任，帮人类构建一个可扩展的审核系统。GPT-4可以比人类审核员更快地审核内容，更准确地识别有害内容，更一致地审核内容。新的任务来只要改改prompt，或者加几个sample。人工审核需要大量培训，爬坡等等。选择GPT-4进行内容审核，可以大大减轻人类审核员的工作负担。

使用GPT-4进行内容审核的过程

具体来说，使用GPT-4进行内容审核的过程如下：首先，告诉GPT-4具体的内容政策，让它学习这些内容，充分消化、吸收，然后就开始进行自动化和高效的内容审核。在这个过程中，危险的问题会被政策专家标记出来，输出一个「黄金数据集」，也就是正确答案。然后，就轮到GPT-4接受考验的时候了。它会经历和政策专家相同的过程，标记同一组示例，为其分配标签。不过，GPT-4并没有看到黄金数据集的答案。接下来，人类团队会向GPT-4揭开金色数据集，如果GPT-4的判定和政策专家的判断不一致，它会得到一个评分。然后，团队会分析政策专家和GPT-4的分歧究竟在哪里，他们可以要GPT-4提供自己的推理过程，说明为什么会给某个示例分配这样的标签。这个循环会一直重复，直到模型的判断和专家一致。

使用GPT-4进行内容审核的好处

使用GPT-4进行内容审核的好处有很多。首先是更加一致的标注。由于内容政策在不断发展，条例变得越来越多。人们对这些繁杂条例的理解也会有偏差。相比之下，像GPT-4这样的LLM对内容措辞的细微差异非常敏感，可以做到实时更新，为用户提供一致的内容体验。第二是更快的反馈循环。政策更新的周期是一个非常漫长的过程。但GPT-4可以将这一过程缩短到几个小时。不仅大大减小了人工审核的滞后性，还能更快地应对新的危害漏洞。最后一个好处是减轻人类的心理负担。持续接触有害或冒犯性的内容会导致人类审核员产生情感麻木以及心理压力。如果让真正的机器来担任这类工作，将有利于相关人员的福祉。

本页网址：https://www.xinzhibang.net/article_detail-9940.html

寻求报道，请

关键词

分享至微信：

相关工具

Magic Write

Canva旗下AI文案生成器

创作王

AI一键帮助你创作营销内容

爱创作

ZAKER新闻推出的AI写作工具

Moonbeam

长文章AI内容创作助手

彩云小梦

彩云科技推出的智能AI故事写作工具

火山写作

字节跳动旗下团队推出的免费AI英语写作助手

三个国外专业免费的调色网站

三个国外专业免费的调色网站无论制作视频、编辑图片，合适的色彩会让你的作品增加视觉冲击力，所以专业的调色技术价值非凡，一部电影或一部好的视频、图片海报，专业调色耗费少则上万，多则上百万，只是大家对专业调色这个行业知之甚少，今天网玩君就为大家分享三个国外专业免费的调色网站，记得收藏好，以后编辑视频、图片

分类标签调色网站免费

04-18 16:42

电影制作中的纹理技术

纹理在电影制作中的重要性纹理是指将详细的表面特征应用于3D模型或视觉效果元素，使其看起来更逼真。纹理对于创建视觉上引人入胜且可信的电影场景至关重要，尤其是涉及CGI、动画或特效的场景。纹理还支持叙事和讲故事，可以通过纹理设置年龄大小等属性，为故事奠定基础。纹理技术的发展历程自胶片问世以来，电影制作人

分类标签纹理电影制作CGI视觉效果微缩模型UV映射

04-18 16:42

UnrealSynth虚幻合成数据生成器-NSDT

UnrealSynth虚幻合成数据生成器-NSDTUnrealSynth基于UE5虚幻引擎开发，可用于生成合成数据集，包括图像和标注数据。可用于各种行业细分场景中目标识别任务的实施效率提高。UnrealSynth合成数据工具包内容UnrealSynth基于UE5虚幻引擎开发，目前支持YOLO系列模型

分类标签 UnrealSynth虚幻引擎数据合成YOLO模型深度学习训练数据

04-18 16:42

人工智能与音乐：谷歌的Project Magenta

谷歌的Project Magenta利用人工智能技术生成音乐和其他艺术形式，如素描、视频和笑话。该项目的目标是为人们创造新的交流方式。本文介绍了该项目的背景、发展历程和应用。在上世纪90年代中期，谷歌研究院的Douglas Eck就开始了他的人生目标：融合人工智能与音乐。二十年后，他与一支谷歌研究团

分类标签人工智能音乐谷歌

04-18 16:42

如何做好SEO优化？

如何做好SEO优化？想要做好SEO优化，得从站内优化和站外优化两个方面入手。一、站内优化1.关键词定位和分析关键词整理是SEO优化中的核心工作，一旦定下来就不建议再次去更改。站长始终要记住关键词一定要和行业、产品、领域息息相关，同时还可以参考竞争对手所做的关键词，可以利用站长工具、5118、爱站网、

分类标签 SEO优化关键词定位网站架构布局

12-11 08:19

万兴科技：营收实现稳健增长，拥抱AIGC新机遇

万兴科技：营收实现稳健增长，拥抱AIGC新机遇国元证券股份有限公司耿军军近期对万兴科技进行研究并发布了研究报告《2022年年度报告点评：营收实现稳健增长，拥抱AIGC新机遇》，本报告对万兴科技给出买入评级，当前股价为75.24元。万兴科技(300624)事件：公司于2023年4月7日收盘后发布《20

分类标签万兴科技营收增长AIGC

12-11 02:11

AI分身市场潜力巨大，万兴科技、京东等已率先布局

“AI孙燕姿”和“CarynAI”引爆市场最近，“AI孙燕姿”和“CarynAI”以以假乱真的程度引爆市场，都是通过采集本人的语音、文字、图像等素材，并通过开源的生成式训练模型进行训练而成。其中，“CarynAI”成功地借助AI技术，打造了自己的AI分身，通过付费的方式，跟AI版的自己进行交往，预计

分类标签 AI孙燕姿CarynAIAI分身AIGC技术虚拟主播数字人

12-11 02:10

万兴科技推出名师必备讲演神器“万兴智演”

万兴科技推出名师必备讲演神器“万兴智演”9月8日，万兴科技面向泛知识领域，推出名师必备讲演神器“万兴智演”。该款AI演示新品集成强大的AIGC能力、精美的行业课程模板以及动画特效素材，大大简化课件制作过程。同时，产品内置强大的录制、直播功能，通过真人实拍与演示内容相结合的形式，实现人景融合的实时演示

分类标签万兴科技万兴智演AI演示

12-11 02:09

万兴科技创始人吴太兵在2023互联网岳麓峰会上的主题演讲

万兴科技创始人吴太兵在2023互联网岳麓峰会上的主题演讲2023互联网岳麓峰会论坛上，万兴科技创始人、董事长兼总裁吴太兵进行主题演讲。红网时刻新闻记者郭雅倩甘红长沙报道十届、十年，岳麓峰会从2014年的“湖湘汇”到如今云集万人的盛会，积攒了巨大的关注度和影响力。6月19日，2023互联网岳麓峰会在长

分类标签万兴科技吴太兵岳麓峰会

12-11 02:05

樟宜机场：通过科技改变旅客体验

樟宜机场：通过科技改变旅客体验樟宜机场在智能手机上移动的小红点代表了在机场上空飞行的飞机，通过传感器的追踪获取了相关飞行轨迹。机场通过人工智能、面部识别和数据分析等技术的应用，不断提高机场运营效率，保持创新，致力于成为一个旅客体验更佳、充满活力的目的地。人工智能优化机场运营效率樟宜机场在2017年共

分类标签樟宜机场科技旅客体验

12-10 22:16