OpenAI 致力于开发新的 AI 图像检测工具

OpenAI 添加了一个新工具来检测图像是否是使用其 DALL-E AI 图像生成器制作的，以及新的水印方法，以更清楚地标记其生成的内容。在一篇博客文章中，OpenAI 宣布它已经开始开发新的出处方法来跟踪内容并证明它是否是 AI 生成的。其中包括一种新的图像检测分类器，它使用人工智能来确定照片是否是人工智能生成的，以及一个防篡改水印，可以用不可见的信号标记音频等内容。

分类器预测图片由 DALL-E 3 创建的可能性。OpenAI 声称，即使图像被裁剪或压缩或饱和度发生变化，分类器也能正常工作。虽然该工具可以检测图像是否是用DALL-E 3制作的，准确率约为98%，但它在确定内容是否来自其他AI模型方面的表现并不好，仅标记了来自其他图像生成器(如Midjourney)的5%到10%的图片。

OpenAI 之前将内容凭据添加到内容来源和权威联盟 (C2PA) 的图像元数据中。内容凭据本质上是水印，其中包含有关图像所有者及其创建方式的信息。OpenAI以及Microsoft和Adobe等公司都是C2PA的成员。本月，OpenAI也加入了C2PA的指导委员会。

这家人工智能公司还开始为语音引擎的剪辑添加水印，语音引擎是其文本转语音平台，目前处于有限预览阶段。

图像分类器和音频水印信号仍在完善中。OpenAI表示，它需要从用户那里获得反馈，以测试其有效性。研究人员和非营利性新闻团体可以通过将图像检测分类器应用于 OpenAI 的研究访问平台来测试它。

OpenAI 多年来一直致力于检测 AI 生成的内容。然而，在 2023 年，它不得不结束一个试图识别 AI 编写文本的程序，因为 AI 文本分类器的准确性一直很低。