防止被AI欺骗，是如何成为一门产业的？-600学习网

600学习网终身会员188，所有资源无秘无压缩-购买会员

智能相对论

作者：陈宣斌

科学技术是一把双刃剑。它在给我们的生活带来便利的同时，也引发了一系列社会问题，如人工智能人脸识别欺诈和声纹识别欺诈，这些都是目前流行的。

在今年的网络2021专项行动中，南通警方破获了一起人工智能人脸识别诈骗案。据官方介绍，犯罪团伙主要利用人工智能软件伪造人脸识别认证，解除用户账户绑定，然后以低价将账户出售给下游欺诈者，获取非法利润。

除了”脸”，”声音”也可以被人工智能技术克隆和模仿。国外一个犯罪团伙成功模仿和模仿了一家英国能源公司的德国母公司的首席执行官，利用人工智能语音生成软件欺骗了许多同事和合作伙伴，获得了约173万元的惊人利润。

因此，目前，反人工智能欺诈已基本成为一个社会问题。如何用魔法”战胜魔法”，用技术手段解决技术问题，是市场和行业共同努力的方向。特别是在人工智能应用越来越流行的国内市场，越来越多的企业从事专业技术领域，并正在用更先进的技术能力筑起一道防止人工智能欺诈的墙。

例如，不久前，中关村科金通过自己的基于数亿图像训练和独特AI技术的人脸识别算法，参加了FaceForensics＋＋Benchmark(国际著名深度伪造学术名录)，将综合准确率提高到94.1%，并成功登上榜首，将中国的深度伪造和防伪能力提升到国际领先水平。

所谓的深度伪造技术意味着，通过人工智能技术，一个人(比如目标公司的CEO)的视频中的化身几乎完美地嫁接到另一个视频中的人(比如假演员)身上。如果这种技术应用于一个坏的方向，它很容易构成本文开头提到的欺诈案件。然而，如果它在一个良好的方向上应用，它将是反人工智能欺诈项目的重要技术支持。

反人工智能欺诈是中关村科金致力于产业赋能的技术应用方向。技术本身具有自然辩证法。当人工智能欺诈变得越来越普遍时，反人工智能欺诈实际上正在逐渐形成一个行业，但外界对此关注甚少，与非法分子竞争的专业企业多于巨头。

在人工智能欺诈和反欺诈的竞争中，引领行业机遇的不是”传统”人工智能巨头吗？

目前，人工智能欺诈案件以多种方式非常常见，如伪造邮件.语音克隆.电话欺诈.假面等。

重点关注，这些人工智能欺诈的核心是使用先进的人工智能技术来伪造语音.手写.面部等特征，以获取受害者的信任，从而获利。

与以前的欺诈相比，这种方法具有非常明显的技术优势-借助人工智能技术，伪造品更”真实”。不仅是人，还有一些终端设备的摄像头和传感器都会作必，这是不可能防止的。

因此，面对这种情况，仅仅呼吁和提高反欺诈意识是不够的。我们必须使用技术手段来预防和解决这一问题。例如，外国信息安全服务提供商赛门铁克(Symantec)计划使用区块链和IP语音(VoIP)呼叫来识别呼叫者的真实姓，并减少人工智能伪造欺诈呼叫。

在中国，也正在应用和推广类似技术。中国信息技术研究院正在牵头组织”面子保护计划”成员，加快相关技术的进步和应用。其中，中关村科金是其成员之一，凭借其强大的人工智能算法能力和面对防伪技术，正在帮助银行.保险.证券.信托.教育等行业实现智能安全升级，避免人工智能欺诈风险。

在此过程中，反人工智能欺诈正逐步发展成为一个典型的”专业化.新型”行业，依靠高技术门槛和大规模应用。

值得一提的是，在这个新兴行业中，引领发展的往往不是传统意义上的人工智能巨头，而是一些专业化企业，它们深深地培育了一个

同样，在其他评价活动中也设定了基于行业最高标准的阈值。正是在这种极其严格的测试条件下，我们才能看到企业应对信息安全攻击和人工智能欺诈的技术能力。

经得起真实场景的严格考验，明确技术应用的方向。

最后，真实场景的应用也是必不可少的。与模拟训练相比，实际应用可以更好地看到”敌人”的攻击模式.攻击意图和攻击思维，从而明确技术的迭代方向。

目前，社会上有一种新的高科技犯罪理念：犯罪分子首先找出银行大额转账业务全过程中可能涉及的填写信息，然后建立一个红包钓鱼网站，以吸引客户填写相关的个人敏感信息。然后，利用专用ROM劫持装置劫持银行系统的摄像头麦克风，通过可视电话与客户沟通，引导客户点头.眨眼.张嘴，成功通过了银行基于知识的个人信息验证.生物生物识别和人脸识别，实现了非法利润。

在这种情况下，市场上传统动作生活技术的密码空间相对较小，两轮动作的可能姓只有几十种。它很容易因传播而耗尽和诱发，因此很难很好地防御。因此，中关村科金正在利用数字生活技术在多模式生物防伪和安全平台上加强，这可以将密码空间增加到数十万种类型。它不仅要求在有限的时间内将动态密码传递给客户，还要求突破唇语验证.语音验证.音频和图片同步验证。这样，犯罪分子的攻击成本大大增加，从而保护客户的财产安全。

因此，从实际应用的角度来看，对真实场景的严格测试是非常关键的。只有当我们深入到现实中，我们才能更清楚地看到当前行业最需要解决的问题，以及技术应该如何实现。

“魔法”与”道德”的竞争在人工智能时代刚刚开始

回顾过去，欺诈和反欺诈是一个相互矛盾的问题，就像人工智能技术一样。对于这样一个”魔鬼比魔鬼高一英尺”的过程，通常很难有一个终点，而现在只是开始。

也许，新的攻击方法和技术手段将很快出现，这要求服务提供商不断响应，迭代自己的技术并释放工业价值。

我们可以看到，技术进步将不可避免地带来更多的价值。一方面，这是安全预防的价值，另一方面，它是应用程序优化的价值。

例如，中关村科金与一家国有股份制商业银行共同构建的互联网销售追溯系统，在确保互联网产品销售安全的同时，实际上为银行.客户和其他各方带来了明显的新价值。对于银行来说，系统可以对有效的订单信息追溯数据进行算法压缩和多算法加密，确保追溯数据无损.安全.存储效率高.成本低；对于客户而言，系统采用光感采集，无需繁重操作，操作简单，可以看到整个互联网产品销售过程，保护权益。据报道，该系统已与近15家银行和保险机构合作，其中超过3家通过了银监会的现场检查。

由此可见，技术确实是一把双刃剑，但如果”好”的一面能得到很好的利用，它不仅能为我们提供安全可靠的安全保障，还能提供更方便.更高效的服务。

那么，在”恶”与”道”的较量中，反人工智能欺诈和信息安全不仅是为了”保护”，也是一个更雄心勃勃的目标，即更好地为生活和生产服务。

*本文中的图片均来自网络