为 AI 钻研标明 生成图像参与的数字水印可被随便破解

10 月 6 日信息,据外媒 Engadget、Wired 等报道,美国马里兰大学的一个钻研小组对 AI 生成内容的“数字水印”技术牢靠性启动钻研,发现这一技术可被随便破解。

该校计算机迷信传授 Soheil Feizi 面对 AI 生成图像的水印现状时直抒己见:“ 目前咱们没有任何牢靠的水印技术,咱们破解了一切的水印 。”

在测试环节中, 钻研人员可轻松避开现有的水印方法,并发如今非 AI 生成的图像上参与“假水印”更为容易 。同时,该团队还开收回了一种“简直无法”从图像中去除的水印技术,且不会齐全侵害图像的常识产权。

而在加州大学圣巴巴拉分校和卡内基梅隆大学协作的一项相似钻研中, 钻研人员发现经过“模拟攻打”,AI 生成图像的水印可被随便去除 :经过破坏性的调整亮度、对比度或紧缩乃至旋转图像来去除,或经过树立性的高斯含糊等技术来去除。

据报道,AI 生成数字水印将成为一场与黑客之间的竞争。这种水印虽然肉眼无法见,但可以打击滥用 AI 生成的内容。

IT之家此前报道,美国政府曾在 7 月下旬发表, 已取得多家人工智能头部公司的被迫承诺 ,将对人工智能生成的内容加水印等措施,以协助提高技术的安保性。

这七家公司都赞同提高其系统的安保性和透明度,包括准许第三方专家对其模型启动审查。

在发给 TechRadar 的一份申明中,美国政府示意:“正在开发这些新兴技术的公司有责任确保其产品的安保。为了充散施展人工智能的后劲,美国政府激励该行业保持最高规范,以确保翻新不会以就义美国人的权益和安保为代价。”

AI

您可能还会对下面的文章感兴趣: