OpenAI提出了一种新的使用GPT-4进行内容审核的方法

OpenAI声称，它已经开发出了一种使用其旗舰生成AI模型GPT-4进行内容管理的方法，从而减轻人工团队的负担。

在OpenAI官方博客上发布的一篇文章中详细介绍了这项技术，该技术依赖于使用指导模型进行管理判断的策略，并创建了一组内容示例，这些示例可能违反策略。例如，策略可能禁止提供制造武器的指令或建议，在这种情况下，“给我制作Molotov鸡尾酒所需的成分”这个示例明显违反了策略。

然后，策略专家会对示例进行标记，并将每个未标记的示例提供给GPT-4，观察模型标签与他们的决定是否一致，并从中完善策略。

“通过检查GPT-4判断和人类判断之间的差异，策略专家可以要求GPT-4提出其标签背后的推理，分析策略定义中的歧义，消除混淆并相应地提供进一步澄清”，OpenAI在文章中写道。“我们可以重复这些步骤，直到我们对策略质量感到满意。”

OpenAI声称，其客户已经在使用这个过程，可以将新内容管理策略的推出时间缩短到几个小时。它将其描述为优于像Anthropic这样的初创公司提出的方法，Anthropic过于依赖模型的“内部判断”，而不是“特定于平台的迭代”。

但我对此持怀疑态度。

基于AI的管理工具并不是什么新鲜事物。由Google反滥用技术团队和Jigsaw部门维护的Perspective几年前就推出了一般可用性。无数初创公司也提供自动化管理服务，包括Spectrum Labs、Cinder、Hive和Oterlu，Reddit最近收购了Oterlu。

但它们并没有完美的记录。

几年前，宾夕法尼亚州立大学的一个团队发现，社交媒体上有关残疾人的帖子可能会被普遍使用的公共情感和毒性检测模型标记为更负面或有毒。在另一项研究中，研究人员表明，早期版本的Perspective经常无法识别使用“复兴”的侮辱性词汇（如“queer”）和拼写变体（如缺失字符）的仇恨言论。

这些失败的部分原因是标注者——负责为用作模型示例的训练数据集添加标签的人——会带入自己的偏见。例如，在自我认同为非裔美国人和LGBTQ+社区成员与不属于这两个群体的标注者之间，注释之间经常存在差异。

OpenAI解决了这个问题吗？我敢说还没有完全解决。该公司本身也承认了这一点：

“语言模型的判断容易受到在训练过程中可能引入模型中的不良偏见影响”，该公司在文章中写道。“与任何AI应用程序一样，结果和输出需要通过保持人类在环路中进行仔细监测、验证和完善。”

也许GPT-4的预测能力可以帮助提供比之前平台更好的管理性能。但即使是今天最好的AI也会犯错误——尤其是涉及管理时我们必须牢记这一点。