OpenAI 和 Google 联手,要给每一张 AI 图片打上「身份证」
AI 造假已经越来越离谱了,成为了很多人白嫖商品的新工具。一个商家收到了一双鞋子的退款申请,买家说收到的鞋是残次品。商家点开详情图一看,一脸懵逼,这哥们连 AI 生成的水印都忘了裁掉,商家直接回复:是豆包弄的吗?结果对方还振振有词地回复,根本没发现水印的事情。原本正常的消费者维权渠道,正被部分人异化成“白嫖”商品的工具。这不是段子,而且不是一个商家遇到,是一波人,有组织地用 AI 生成「残次品」图片,然后跟商家申请仅退款。河北的张先生刚刚开店卖无花果苗不到12单,就收到“仅退款”申请。好好的果苗从发出到收到才隔了1天,结果对方附上一张叶片全黄的图片。尽管张先生据理力争,但是平台还是在几分钟内就秒批退款。
AI 造假已经越来越离谱了,成为了很多人白嫖商品的新工具。一个商家收到了一双鞋子的退款申请,买家说收到的鞋是残次品。商家点开详情图一看,一脸懵逼,这哥们连 AI 生成的水印都忘了裁掉,商家直接回复:是豆包弄的吗?结果对方还振振有词地回复,根本没发现水印的事情。原本正常的消费者维权渠道,正被部分人异化成“白嫖”商品的工具。这不是段子,而且不是一个商家遇到,是一波人,有组织地用 AI 生成「残次品」图片,然后跟商家申请仅退款。河北的张先生刚刚开店卖无花果苗不到12单,就收到“仅退款”申请。好好的果苗从发出到收到才隔了1天,结果对方附上一张叶片全黄的图片。尽管张先生据理力争,但是平台还是在几分钟内就秒批退款。
去年那还只是豆包的水平。今年 GPT-image-2 出来之后,造假的逼真程度已经完全不在一个量级上了。说实话,我自己看了那么多 AI 图片,自己也生成过那么多,但我没有任何信心,可以确切判断一张图到底是不是 AI 做的。
当一个普通人,打一句话就能生成一张以假乱真的图,而没有任何有效的识别手段的时候,会发生什么?造假成本趋近于零,信任成本就趋近于无穷大。
你想想,找工作可能遇到 AI 生成的假学历,造谣的人配图连 PS 都不用开。所以当这两天 OpenAI 和 Google 这两个老对手决定在 AI 图片内容溯源上联手的时候,我觉得这件事的意义,可能比任何一个新模型、新功能都大。有了这个新能力,只要几秒钟,就能知道一张图是不是 AI 生成的了。
今天我会直接告诉大家,怎么用它鉴别 AI 生成的图片,不过在此之前,我们先来看看 OpenAI 和 Google 具体干了什么。谷歌研发了一套叫做 SynthID 的数字水印技术,专门用来溯源图片,而就在刚刚 OpenAI 把这个技术也引进了自己的体系,上线了一个 AI 图片检测工具,不用注册,不用登录,把图拖进去,几秒钟就出结果。
根据目前的实测,这东西稳定性相当强。AI 生成的图,哪怕发到微信里重新压缩一遍,然后局部截图之后转格式再扔进去,依然能识别出是 AI 做的。甚至从小红书上直接截屏下来的 AI 图片丢进去,一样能识别。
所以这完全不是有以前那种标注“AI 生成”的水印,就是图片角落那个半透明的 LOGO,裁掉就没了。