当地时间周二（8月15日），人工智能研究公司OpenAI在官网称，其开发了一种使用GPT-4进行内容审核的解决方案，有望减轻人工审核员的负担。

图片来源：OpenAI官网

【资料图】

OpenAI表示，将GPT-4用于内容策略开发和内容审核决策，从而实现更一致的标记、更快的策略优化反馈循环，以及减少人工审核人员的参与。

OpenAI称，内容审核在维持数字平台的健康方面发挥着至关重要的作用。使用GPT-4的内容审核系统可以更快地迭代策略更改，将周期从几个月缩短到几个小时。GPT-4还能够解释长内容策略文档中的规则和细微差别，并立即适应策略更新，从而实现更一致的标记。

OpenAI相信，这为数字平台的未来提供了一个更积极的愿景，在数字平台上，人工智能可以根据特定平台的政策帮助调节在线流量，并减轻大量人类版主的心理负担。任何拥有OpenAI API访问权限的人都可以实现这种方法来创建自己的人工智能辅助审核系统。

OpenAI一直在测试该技术，并邀请客户也进行试验。OpenAI表示，其工具有望帮助企业在一天左右的时间内，就完成原本需要六个月才能做完的工作。

内容审核需要细致的努力、敏感度、对上下文的深刻理解，以及对新用例的快速适应，这使得它既耗时又具有挑战性。传统上，这项任务的负担落在了人类主持人身上，他们在较小的垂直特定机器学习模型的支持下，筛选大量内容，过滤出有毒有害的材料。这个过程本身就很慢，可能会给人类调节者带来心理压力。

OpenAI表示，我们正在探索使用LLM来应对这些挑战。我们的大型语言模型，如GPT-4，可以理解并生成自然语言，使其适用于内容审核。模型可以根据提供给它们的政策指导方针做出适度的判断。

有了这个系统，开发和定制内容策略的过程从几个月缩短至几个小时。一旦制定了政策指南，政策专家就可以通过识别少量示例并根据政策为其分配标签来创建一组黄金数据。然后，GPT-4读取策略并为同一数据集分配标签，但看不到答案。

通过检查GPT-4的判断与人类判断之间的差异，政策专家可以要求GPT-4提出标签背后的推理，分析政策定义中的歧义，解决困惑，并相应地在政策中提供进一步的澄清。我们可以重复步骤操作，直到我们对政策质量感到满意为止。

这个迭代过程产生了精细的内容策略，这些策略被转换为分类器，从而能够大规模部署策略和内容审核。

在审核能力上，OpenAI承认GPT-4的标记质量与经过轻度训练的人类审核员相似，但与经验丰富、训练有素的人类审核员相比仍有差距。对此，OpenAI强调，审核的过程不应该完全自动化。

值得注意的是，OpenAI的工具并不是该领域第一个引入人工智能的先行者。早于2017年，谷歌的技术团队就开发了一个基于AI的内容审核API，名为“Perspective”，已经被多家媒体组织所使用。

但即使如此，一些企业仍选择将审核工作外包给其他人力公司来节省成本。

OpenAI称，其最新的内容审核系统为数字平台的未来提供了一个更积极的愿景，即AI可以根据平台特定的政策减轻大量人工审核人员的精神负担。公司还透露，已经有一些客户在使用这一流程。

每日经济新闻综合OpenAI官网、第一财经、财联社

封面图片来源：视觉中国-VCG111419382557