OpenAI宣布将在数字内容中加入不可见水印以便可以检测AI生成内容

OpenAI 刚刚发布博客宣布该公司加入 C2PA 内容来源和真实性联盟的指导委员会,与业内其他公司一起合作为数字内容添加认证标准、可以识别数字内容的来源等。

C2PA 由软件公司、相机制造商以及在线平台等共同创建,主要目的就是为数字产品包括图像、视频、音频等添加信息来源,降低伪造内容用于创建谣言的几率。

OpenAI宣布将在数字内容中加入不可见水印以便可以检测AI生成内容

今年早些时候 OpenAI 已经在 DALL-E 3 图像生成模型中接入了 C2PA 相关标准,即生成的图像会标记来自该模型,也就是证明这是由人工智能创作的图像。

OpenAI 称当 Sora 文本生成模型视频广泛推出时也会为 Sora 生成的视频内容添加 C2PA 元数据,可以识别视频来自 Sora 生成而不是真实拍摄等。

值得注意的是 C2PA 标准元数据是可以删除的,一个简单的例子就是对于 DALL-E 3 生成的图像只需要修改图片元数据甚至直接截图就可以抹掉 C2PA 信息,所以 OpenAI 还准备了不可见的水印。

不可见水印俗称盲水印,这种水印肉眼无法识别,但一些特殊的工具对图片进行处理后是可以读取盲水印的,OpenAI 的计划就是在后续实施盲水印,用难以删除的不可见信号标记音频等数字内容。

既然添加盲水印那 OpenAI 也会提供对应的检测工具,OpenAI 已经开发了用于检测 AI 模型生成内容的检测分类器,该分类器从今天开始向一些研究人员提供,该工具主要可以检测 DALL-E 3 生成的图像,准确率为 98%,大约会有不到 0.5% 的非 AI 生成的图像也会被标记为 AI 生成,这个后续 OpenAI 还会继续优化。

软件收集于互联网和粉丝上传,仅限用于学习和研究目的; 不得将上述内容用于商业或者非法用途,否则,一切后果请用户自负。 本站信息来自网络和网友,版权争议与本站无关。您必须在下载后的24个小时之内,从您的电脑中彻底删除上述内容。如果您喜欢该程序,请支持正版软件,购买注册,得到更好的正版服务。 本站如果侵犯你的利益,请务必携带权利证明请发送邮箱到doraera@163.com ,我们会第一时间为您处理。

给TA打赏
共{{data.count}}人
人已打赏
科技资讯

苹果推出新款iPad Pro:采用M4芯片/硬件光线追踪/OLED显示屏/更轻薄

2024-5-8 8:52:49

科技资讯趣站

继OOO短网址生成器后,有开发者推出更迷惑的IlIllIlllI.llIlI.lI生成器

2024-5-14 9:11:37

0 条回复 A文章作者 M管理员
    暂无讨论,说说你的看法吧
个人中心
购物车
优惠劵
今日签到
有新私信 私信列表
搜索