GPT-4能否成为内容审核新利器？

GPT-4到底有多强？问世以来，代码编写、数据分析、图表生成、执行数学运算、生成视频、分析股票市场……都不在话下，让无数网友感慨：这是要“逆天”了！如今，GPT-4的新功能直逼「内容审核」，可以帮助企业一天完成6个月工作量。01与传统方法相比，GPT-4内容审核的优势众所周知，传统内容审核在现阶段面临多种挑战。需要人工细致的审核、对上下文的深刻理解、快速对新用例的适应，耗时且挑战性较大。传统内容审核的重担落在「审核人员」身上，给人带来巨大的精神压力。为此，OpenAI表示，GPT-4目前正在测试内容审核功能，它被用于制定和完善内容政策、标记内容和制定决策。任何拥有OpenAIAPI访问权限的人都可以创建自己的AI辅助审核系统。一方面，可以执行内容审核任务，加速处理内容审核等繁重任务，提高社交媒体公司的工作效率。另一方面，还能使在线平台能够更快制定新内容审核规则，并完善现有规则。OpenAI官方称：“内容审核过程本身就很缓慢，GPT-4的新功能可以帮助审核过程能从6个月缩短到几个小时。”目前，最新的GPT-4相较于传统的内容审核方法，存在以下优势： 提供一致的判断。由于内容政策不断发展并且十分详细，GPT-4的这项新功能能对措辞的细微差异很敏感，可以立即适应政策更新，为用户提供良好的内容体验。 提高审核的反馈效率。政策更新的周期漫长，GPT-4的这项新功能可以将这一过程缩短至几个小时，从而能够更快地响应新的危害。减轻审核人员精神负担。持续接触有害、令人反感的内容，容易导致审核人员情绪疲惫和心理压力。为此，GPT-4的这项新功能能为相关工作人员思想减负。02如何利用GPT-4进行内容审核？事实上，由AI驱动的审核工具并非什么新鲜事，Meta、YouTube和TikTok 等平台已经利用算法来控制有害和非法内容。 据TheVerge往期报道，2020年时，Meta（前Facebook）就明确表示希望AI在平台上承担更多的审核职责。 其审核原理为：被认为违反公司规则的帖子（包括从垃圾邮件、含仇恨言的内容）会被用户或机器学习过滤器标记。随后，一些明确的案例会自动处理（删除帖子、阻止帐户），而其余案例则进入队列供人工审核员审核。 由此可见， OpenAI的这枪「内容审核」并非首发。据官方消息，这项由GPT-4领衔的内容审核工作，目前涉及多个工作流程。 首先，公司必须创建一个包含有害内容示例的数据集。随后，指示GPT-4用标签标记每条有害内容，并描述其违反审核政策的原因。最后，通过审查模型生成的标签，以此发现问题。就目前的情况而言，GPT-4对于某些缺乏开发自己的内容审核系统资源的小公司，无疑是一个可行的选择。 03历史里程碑or巨大的挑战？当然，GPT-4也并非完美。新功能虽然前景广阔，但仍然存在局限性。 在内部测试中，OpenAI将GPT-4与人类内容审核团队进行了比较。 结果显示，现阶段GPT-4表现优于接受过“轻度训练”的审核人员，但准确性不如“经验丰富、训练有素”的审核人员。值得关注还有——语言模型的判断很容易受到训练期间引入模型的不良偏差的影响。特别是误导性、错误性和攻击性内容（不一定是非法的）的灰色区域给自动化系统带来了巨大的挑战。 与任何AI应用程序一样，结果和输出需要审核人员参与其中来仔细监控、验证和完善。 为此，OpenAI也强调，审核的过程不应该完全自动化。事物发展总是利弊共存，在OpenAI曝光的GPT-4新功能内容审核后，也引发了许多业界人士的积极讨论。 OpenAI的产品政策经理AndreaVallone认为：“在这种情况下，审核人员可以更侧重在对可能有内容违规的极端案例如何做评判，以及怎样完善内容的政策。”此外，他也强调称：“我始终认为，人类始终参与其中是很重要的。”OpenAI安全系统负责人LilianWeng在接受Semafor时表示：“这为如何利用AI造福社会、解决现实世界的问题，向前迈出了非常好的一步。”外媒 Semafor 记者 ReedAlbergotti 坦言：“人类实际上不太擅长内容审核，因为即使人能够记住每条规则，也会不断有内容陷入灰色区域，无法给出明确的答案。GPT-4虽然不是完美的，但避免了人们在工作中整天查看令人不安的内容。”对此，你怎么看？ 参考链接：https://openai.com/blog/using-gpt-4-for-content-moderationhttps://www.theverge.com/2023/8/15/23833406/openai-gpt-4-content-moderation-ai-metahttps://www.semafor.com/article/08/15/2023/can-chatgpt-become-a-content-moderator#room-for-disagreement