AI交锋！金融科技领域AI欺诈攻防战打响

经济观察报 记者 老盈盈

在AI（人工智能）技术迅猛发展的当下，形形色色的“深度伪造”（Deepfake）随时可能在日常生活中现身，让人防不胜防。

近期，蚂蚁数字科技（下称“蚂蚁数科”）的产品技术人员在优化算法时，发现了不法分子新的欺诈手段。不法分子先设下“钓鱼”陷阱，以银行名义向目标对象发送短信或邮件链接，诱导他们到其网站交易。一旦目标对象不慎点击进入钓鱼网站，提交了姓名、身份证号、电话号码、短信验证码和支付密码，不法分子就犹如拿到“万能钥匙”，马上用这些信息登录目标对象的手机银行。同时，利用目标对象的照片生成高度逼真的AI深度伪造图像或视频，再通过注入式攻击（注入恶意代码）劫持目标对象的手机摄像头，用预录的图像或视频篡改或替代物理摄像头的自拍，绕过活体检测验证，实施欺诈等非法活动。身份验证通过后，不法分子就能转移目标对象的资金，甚至用其信息申请贷款，而目标对象可能还全然不知。

不过，“魔高一尺，道高一丈”。在11月3日至4日的香港金融科技周上，“AI对抗AI”的展位里正进行着一场看不见硝烟的攻防战。在蚂蚁数科展出的宣传片中，多组机械臂在实验室24小时不停运转，模拟身份欺诈攻击，识别图像真伪。一组配备手机摄像头的机械臂不断伸缩、对焦，反复识别眼前的图片；另一组机械臂则精准地举起图片，递到摄像头前。计算机实时记录每次识别结果，将这些数据喂给人工智能算法，让它在一次次实战中快速成长，更好地识别不同AI欺诈的破绽。

这并非科幻电影里的机器人觉醒，而是与非法人工智能的长期攻防拉锯战。当不法分子的攻击升级，金融机构的反击也必须同步提升，二者在攻防博弈中持续循环。

AI深度伪造形式 老盈盈/摄

AI反击AI之策

在蚂蚁数科的展台前，“深度伪造生成”互动模块吸引了众多参观者。只需拍一张自拍，系统瞬间就能生成十几张“孪生照片”，其中只有一两张是真实人像，其余均由AI生成。这些照片只有少数因发型或光线变化等明显破绽能肉眼识别真伪，大部分都极为逼真，难以分辨。

经济观察报记者采访了解到，全球有数百万不法分子投身AI欺诈等非法活动，他们学习能力强，能迅速掌握新技术。而且，此类非法活动回报极高，只需一两名资深技术人员发起攻击，成功盗刷银行账户一次，就可能卷走上百万元甚至更多。

蚂蚁数科的一位产品技术人员对记者表示，注入式攻击是较新的攻击手段，以往多是呈现式攻击，如用照片、视频、普通面具或三维头部面具等伪造物直接对着摄像头呈现，绕过活体检测。以前用图像或视频处理软件修改，如今基本借助更高级的生成工具通过AI生成，表现为换脸、静态图片转视频、改变面部特征、拼接人脸等。

面对升级版攻击，金融科技公司已布下“防御网”。上述产品技术人员称，他们会深入研究不法分子的欺诈手段，模拟其操作逻辑，用专业设备伪造人脸、指纹等样本，开展针对性攻防演练。他们认为，只有精准掌握不法分子的作案套路，才能构建更有效的防御体系。

金融壹账通的一位产品技术人员表示，他们的算法会先分析图像是否由AI工具生成或被篡改，重点查看是否有算法痕迹。AI工具处理图像会留下类似Photoshop、美图秀秀修图后的代码残留。

他们发现，即便AI生成的素材与真人、真实场景高度一致，只要检测到AI工具使用痕迹，就可判定为虚假并拦截。同时，算法还会校验画面背景一致性，若视频背景重复或图像背景与真实场景逻辑不符，也会判定为可疑。

但两位产品技术人员也指出，面对注入式攻击，纯算法无法完全防范，需要从算法、终端、身份网络等多维度防范。比如，除从图像层面识别脸部是否为AI生成或篡改，还需从系统层面事前检测用户手机是否被注入式攻击。

此外，AI欺诈“战场”已从图像延伸到声音。金融壹账通产品技术人员称，正常情况下，人们会选择安静场所进行信息认证，部分银行不认可户外拍摄的自拍照。

该人士还表示，一些不法分子集中在同一办公场所轮流通话，通话中夹杂多人说话、设备运作等杂音，算法能识别这种异常背景音并标记为高风险通话。同时，算法可模拟测谎逻辑，通过语调波动、语速变化判断说话人是否说谎，若有用户历史语音数据，下次通话可实时对比验证身份一致性。

落地场景应用广泛

据技术人员介绍，AI反诈技术可应用于所有需电子身份认证的领域，如银行、保险、证券、政务服务、电商等。它可理解为SaaS（软件即服务）产品，能灵活集成到各类应用程序中，如嵌入手机银行系统，可为其提供全流程反诈监控服务。银行作为资金集中、欺诈多发的行业，是技术落地较多的场景。

近期，香港特区政府从监管层面为银行机构提供模拟AI欺诈攻防测试计划，助力对抗深度伪造诈骗。

10月中旬，香港金融管理局（下称“香港金管局”）公布第二期生成式人工智能沙盒参与者名单，标志着业界从探索AI可能性迈向推动安全可靠的AI应用。

香港金管局称，超过60个建议方案中，27个来自20家银行和14家技术合作伙伴的案例进入第二期沙盒。第二期沙盒计划聚焦加强AI治理，多个案例采用“以AI对抗AI”策略，如运用AI对AI生成内容进行自动化质量检测，为应对深度伪造诈骗风险开发创新防御机制提供试验场。部分参与者将用AI进行模拟攻防测试，巩固系统抵御更精密数码诈骗手法。

蚂蚁数科和金融壹账通均在参与者名单中。产品技术人员称，沙盒是搭建在云端的“虚拟测试环境”，由监管机构主导，邀请银行等机构接入测试，进行案例演示与效果验证。监管机构鼓励银行应用新技术，通过沙盒论证技术真实性与实用性，为行业提供可信案例，展示技术合规性，增强市场对新技术的信心，入选机构还可证明技术获监管认可。

中银香港也在第二期沙盒名单中。其一位个人金融业务人员表示，他们在个人金融领域搭建了AI反诈体系，由内部技术部门研发，核心是将AI反诈模型与传统数据模型深度融合，通过实时监控用户个人交易、动态评估风险，精准判断每笔交易是否存在欺诈隐患。

该业务人员还称，中银香港线上开户有20万港元转账额度限制，暂无法使用投资账户，日常转账不受影响，若想解除限制，储户需到线下分行完成身份信息验证。他们发现，部分诈骗案件中存在不法分子盗取个人信息，伪冒客户致电银行要求解除账户限制的情况。

该人士还表示，中银香港的AI模型训练依托内部历史数据，此前计划与外部公司合作，但因信息安全考虑未能推进。目前，香港金管局正牵头搭建跨银行间的诈骗数据交流平台，会汇总并同步各银行的诈骗数据，银行可通过平台查询获取。

在银行场景之外，AI反欺诈技术已拓展到政府和民生场景，如香港居民常用的“智方便”App。记者了解到，“智方便”是香港特区政府推出的电子身份认证平台，提供身份验证、自动填表、个性化提示及数码签署等核心功能，支持市民通过生物认证登录政府及公私营机构在线服务，服务范围涵盖税务、医疗、教育、交通等民生领域。使用该平台服务前，用户需进行面容或指纹等生物识别及身份证扫描认证，这需要AI防御系统确保是真人操作。

对此，一位汇丰香港对公业务人员表示，他们即将面向中小型企业推出新的企业服务，为香港中小型企业提供量身定制的专项信贷方案和创投债务融资。这项服务接入“智方便”App，通过其生物识别功能验证开户企业主信息真实性。

日常训练提升AI攻防能力

多位银行和金融科技机构人士表示，对于AI模拟应用，他们更注重日常针对性训练与知识学习，以便在遭遇诈骗、洗钱等场景时能快速响应。

中银香港业务人员称，中银香港个人金融业务每日产生数百万条个人金融交易数据，为AI模型提供丰富训练样本。他们会接收各类案件报告，提取不法分子账户及关联账户信息列入黑名单，对再次启用的账户直接管控；同时，受理香港金管局移交的举报线索，将同一类型诈骗行为归类纳入数据库，供AI通过大数据学习诈骗模式与特征。未来，希望AI能依据学习成果对每笔转账同步评估风险，精准识别疑似诈骗交易行为，实现交易冻结或向客户发送风险提醒。

入选香港金管局第二期沙盒计划的金融科技公司Dyna.AI的产品人士表示，日常反诈训练中，他们以打标数据为基础开展模型训练。打标数据是银行内部专家按合规要求，人工分析筛选出可疑交易并上报监管的数据。因数据需严格合规，不能流出银行系统，他们的团队会派技术人员驻场，在银行系统内搭建模型。采集用户人脸等样本数据，需先经用户授权银行，再由银行授权团队在内部开展工作。

该产品人士还称，传统预设规则易出现大量漏报、误报问题，若系统机械执行规则，遇到新欺诈手段未提前添加对应规则，就会漏报、误报。此时，需要技术人员逐一核对数据，确认可疑交易后上报监管。

该人士还表示，训练一方面借助历史打标数据优化现有规则，弥补系统漏洞；另一方面让模型学习数据，剔除常见误报情况，最终输出精准上报数据。原本系统可能无法精准识别规则相关内容，但经过针对性训练，会更聚焦防欺诈场景，识别出未被抓取的不法分子关联信息。

本文仅代表作者观点，版权归原创者所有，如需转载请在文中注明来源及作者名字。

免责声明：本文系转载编辑文章，仅作分享之用。如分享内容、图片侵犯到您的版权或非授权发布，请及时与我们联系进行审核处理或删除，您可以发送材料至邮箱：service@tojoy.com