AI照妖镜一眼判断真伪：网页图像视频都可以鉴定，边播边识别，清华独角兽成果

每一个人都可以拥有“照妖镜”来检验AI造假！

清华独角兽创业公司发布了面向个人的商品级检测工具，能够使AI伪造的图像、音频和视频显示原形。

并且不需要上传材料，可以主动检测网页和视频会议中的内容和人脸真伪，立即提醒。

这个工具是由清华大学朱军教授和学生田天博士共同创造的。（RealAI）打造，名字叫“尊嘟假嘟”，英文名RealBelieve。

随着视频生成模型质量的不断提高，越来越难识别AI造假。因此，该团队基于深度学习技术构建了一套完整的多模态，多角度AIGC检测技术系统。

“尊嘟假嘟”正是在这一技术之上建立起来的，目前已经开始进行内测征集，通过申请后即可感受。

01 吃瓜群众的“AI照妖镜”

AI造假可谓是防不胜防，从背景与人脸的更换，到使用AI模型让人做出指定的表情或动作。

另一方面，犯罪分子利用AI炮制虚假内容，对受害者的个人声誉和舆论产生了巨大的负面影响；

另外，AI造假也被用于诈骗活动，不仅损害了被冒充者的声誉，而且给受骗者带来了巨大的经济损失。

今年年初，一些犯罪分子利用深度伪造制作了一个假视频会议，骗取了一家公司1.8亿元的巨额资金。

除正确引导和增加打击力度外，使用户能更好地判断信息的真实性，也是一种重要的保护方法。

以往的AI造假检测工具主要面向专业人员，而且通常需要将内容提取出来，然后上传到检测平台进行判断。

但是如果只是一个普通的网络视频，让吃瓜的人用这样的流程来辨别真伪，难免会显得有些繁琐。

所以在支持上传检测的同时，“尊嘟假嘟”也可以主动进入视频流，顾客一边吃瓜，系统可以一边判断这瓜到底是“保不保熟”。

举例来说，一旦进入Sora的宣传页面，系统就会对网页中的Demo视频进行提醒，提示访问者这段视频的“AI含量”非常高。

另外，针对AI诈骗日益猖獗的情况，尊嘟假嘟还支持AI生成在视频聊天中的实时监控和保护。

在视频聊天当时不需要截取视频上传，尊嘟假嘟会及时主动向客户发出预警内容，提醒对方人脸上是否有AI生成的风险。

即时风险提示可以帮助用户及时调整聊天话题，快速确定对方的身份，减少不必要的麻烦，让用户在“AI安全保障”中随时随地进行视频聊天。

02 “猫鼠游戏”AI造假和防伪

瑞莱智慧创始人、算法科学家萧子豪透露，针对“尊嘟假嘟”背后的技术原理，该产品背后的检验模型以贝叶斯深度学习技术开发为基础。

该团队建立了一套多模态AIGC检测技术系统，可以探索和建模AI生成线索的多模态、多层次、多角度，衡量真伪差异，并做出不确定的推理决策。

实际上，在欺诈手段和防御手段之间，一直有一个“猫鼠游戏”。

一开始AIGC的内容还是“一见钟情”，然后“进化”了一些之后，还是可以通过常识来判断人眼，比如视频中人物的眨眼频率不合理，部分区域的连接不自然等等。

然而，随着AIGC能力的提升，这些“常识”逐渐被模型所掌握，越来越难以用人眼识别。因此，测试方法也在进化，人们开始研究如何用机器学习进行分析。

例如，通过分析目标内容的信号频谱，或检查图像中的噪声，探索内容中的“AI痕迹”。

然而，这场互相追逐的斗争从未停止。一方面，原因是用来检验AI模型本身就是一个AI，伪造者可以通过对抗训练来避免检验和招聘。

与欺诈相比，识别方法似乎通常滞后。因此，瑞莱智慧在研究检测算法的同时，也会对自己的方法进行防御性攻击，努力让检测走在欺诈的前面。

事实上，早在2018年成立之初，瑞莱智能团队的主要研究目标就是AI生成检测技术，为专业人士推出了DeepRealAI内容检测平台。、RealGuard等相关产品，人脸AI安全防火墙，不断迭代升级。

在整个行业中，人工智能安全问题备受关注，深入学习教父Hinton，以及ChatGPT的发明者，OpenAI前首席科学家Ilya，都在呼吁人们关注人工智能安全。

就在这两天，Ilya刚刚宣布成立一家公司，探索的就是安全超智能。

然而，相比之下，Ilya公司似乎更关注AI的未来，但现在，判断和检查AI造假仍然是一项紧迫的任务。

PS：目前，尊嘟假嘟RealBelieve已经开始征集内部测试。通过申请后，您可以尝试上述功能。感兴趣的读者可以通过评论区的顶部链接注册。

本文来自微信微信官方账号“量子位”（ID:QbitAI），作者：关注前沿技术，授权发布36氪。

本文仅代表作者观点，版权归原创者所有，如需转载请在文中注明来源及作者名字。

免责声明：本文系转载编辑文章，仅作分享之用。如分享内容、图片侵犯到您的版权或非授权发布，请及时与我们联系进行审核处理或删除，您可以发送材料至邮箱：service@tojoy.com