买家伪造AI发霉榴莲图骗退款，商家千里上门维权，AI鉴伪真的有用吗？

本文来自微信公众号： 小声比比 ，作者：梓泉，责编：美味蟹黄堡

大家好，今天刷到一个视频，直接给我看愣住了。

有个买家花190块买了一颗榴莲，转头就给商家发了张发霉的图片，申请不退货只退款。

商家看完一口咬定这颗榴莲根本不是自己家卖的，气不过直接倒贴五千块路费，亲自找上门去找买家对峙。

（来源：抖音@程大叔 下同）

等老板到现场，还真找出了不对劲的地方，可只剩下空包装袋，早就看不到那颗发霉榴莲的踪影了。

对峙之后才真相大白：榴莲早就被买家吃掉了，那张发霉的图片，居然是买家自己用AI生成伪造的。

再仔细看账单图，连生成AI图的水印都没删掉，实在是太离谱了。

（划到图末有亮点）

这事一出，不禁让人感慨：现在有图都不一定是真相了。

这件事传开之后，网友们议论纷纷，不少人提到反诈APP能识别AI内容

反诈APP真的能准确识别AI生成内容吗？

我好奇打开了反诈APP想亲测一下，进去才发现，AI内容鉴别功能直接放在主页显眼的位置。

上传那张伪造的发霉榴莲图之后，不到五秒就出结果，直接判定是AI生成的假图，看起来还挺像那么回事。

没想到这APP还真有火眼金睛？

我转念又想，万一真图被误判了怎么办？于是我又找了几张真正发霉的水果图片上传测试。

系统几秒就给出了结果：真实拍摄，不是AI生成，两次判断都准确。这结果换谁看了不得吃惊。

不过我换了一张处理过的AI图上传之后，出问题了：系统一直提示上传失败，难道刚增加一点难度就扛不住了？

我反复上传了好几次才成功检测，最终结果依然准确识别出这是AI生成的图片。

（左划查看检测结果）

测到这里，能看出来这个功能对图片的鉴别效果还是不错的

不过现在AI不止能做假图，做假视频也已经做得非常逼真了，这个功能能鉴别AI视频吗？

带着疑问，我做了新的测试

我找了一个把男生AI变成女生的视频，上传到APP里测试，不到五秒就出了结果，准确识别出了是AI生成内容。

（来源：抖音@网痞桃）

我接着测试了两个小时发现，这个AI检测功能大部分时候都挺好用，可只要遇到截图、录屏下来的AI素材，检测效果就大打折扣。

比如我这张截图下来的AI图，它检测了几秒，居然给这个假货盖了合格章，判定成真实内容了。

再比如之前有明星被AI换脸做虚假带货视频，原视频本来就是假的早就全网下架了，我拿录屏下来的版本去检测，APP也没有识别出来这是AI生成内容。

（到底是太逼真测不出来？还是必须上传原图原视频才能检测准确？有没有懂行的朋友来说说这是什么原理）

我查了一下才知道，反诈中心APP的这个AI检测模型，3月份才开始测试，5月18号才正式上线，从上线到我测试的时候才刚刚四天，目前还在持续优化当中，有一点小瑕疵其实也可以理解。

但AI造假泛滥这件事，如果没人好好管的话，普通人的日子迟早会受影响。

首先，AI造假会直接拉高整个社会的信任成本，就像碰瓷的人多了之后，没人再敢随便扶马路上摔倒的老人一样，现在AI假图假视频满天飞，要是被别有用心的人用上，后果不堪设想。

比如人贩子要是用AI图片，都能靠假图给自己洗白自证清白了。

人和人之间的信任一旦崩塌，再想重新建立就太难了。万一哪天我真遇到危险发图求救，结果朋友以为是AI生成的恶作剧，那岂不是要出大事。

其次，普通人有真实诉求，拿出来凭证也会被质疑，对方第一反应不是解决问题，而是嘀咕一句：这不会是AI做的假图吧？本来一分钟就能解决的事，现在要来回申诉折腾好几天，这个亏找谁去说啊？

最后，AI假图假视频，本质上就是骗子骗钱的新工具，直接威胁大家的财产安全

就像现在已经有骗子用AI换脸骗老人，冒充老人的孙子孙女打视频电话哭诉求助，老人一看人对得上，放松警惕之后，一辈子攒的养老钱就直接进了骗子的口袋。

如果不对AI造假加以规范，以后普通人不知道要吃多少亏。骗子靠着AI假图轻轻松松躺着骗钱，老实人只能靠自己的眼睛苦哈哈地分辨真假，说句话没人信，做什么事都得先做一遍AI鉴真，保不齐以后发展下去，不止要验图的真假，连我自己都得证明我是个真人才行。