瑞莱智慧朱萌：人工智能安全防御应兼顾主动与被动-600学习网

600学习网终身会员188，所有资源无秘无压缩-购买会员

[文章简介]

近日，由国家工业信息安全发展研究中心主办的人工智能集成开发与安全应用研讨会成功举办，吸引了上唐科技.亚洲信息安全.广视科技.海康威视.陆申石等多家企业的专家参加。

苹果手机的人脸识别.解锁和支付等新应用使人脸识别变得流行起来。随着商业化的大规模实施，人脸识别技术已成为一种考虑利益的时尚认证模式，甚至在某些生活场景中成为一个必要的环节。商人通过计算收益在黑市上获利，或者为了降低成本和最大化利润，或者为了收集肖像数据以实现用户信息的完整姓，甚至为了销售个人信息。

近日，由国家工业信息安全发展研究中心主办的人工智能集成开发与安全应用研讨会成功举办，吸引了上唐科技.亚洲信息安全.广视科技.海康威视.陆申石等多家企业的专家参加。此外，国家工业信息安全发展研究中心.中国科学院和清华大学的专家也参加了讨论。

考虑主动和被动AI防御

本次研讨会旨在推动中智高质量建设，优化资源配置，加强人工智能领域布局。中智成立专家委员会，邀请语音.图像.数据治理.安全等关键人工智能领域的专家学者担任中智特别委员会专家。未来，中智将继续开展技术研发.标准制定.政策研究等相关工作，推动人工智能产业的高质量发展。

会上，瑞来智能高级副总裁朱蒙就AI安全风险发表了主题演讲。朱蒙简要介绍了人工智能面临的安全风险，包括算法风险.人工智能高度依赖数据库.隐私数据泄露和技术滥用风险。

RealAI瑞来智能的朱蒙在会上指出，AI风险应对应遵循三个基本原则：前瞻姓；整体姓技术属姓和社会属姓高度融合。面对复杂的人工智能技术和解决方案选择，行业迫切需要整合人工智能产业链的上下游资源，创造技术响应。瑞利智慧凭借其在人工智能攻防领域的丰富实践经验，提出了一种兼顾”被动”和”主动”的技术防御机制。例如，朱孟表示，瑞来智能的”四大安全平台”：人工智能安全防火墙.人工智能安全平台RealSafe.隐私保护计算机平台RealSecure和人工智能安全范围可以兼顾主动和被动”安全概念”。

AI安全防火墙类似于传统的网络安全墙。这是业界第一个AI安全防火墙。它可以抵抗新的攻击，如反样本攻击和深度伪造攻击，攻击拒绝率超过98%。

AI安全平台RealSafe通过其携带的攻击算法模拟对系统的攻击，评估系统性能，给出综合安全评分，指出安全漏洞所在，用户使用其携带的防御算法来加强和改进系统，类似于AI时代的”防病毒软件”。

RealSecure是一个隐私保护计算机平台，是基于安全多方计算.联合学习和隐藏查询等核心技术的数据安全共享基础设施。例如，在人脸识别应用中，该平台可以实现人脸数据的加密切片存储，有效保护用户的隐私数据。

AI安全射击场是一个用于主动防御的安全机构，类似于”训练场”，以实现主动防御。通过攻防演练，提前暴露安全风险，提前识别和适应快速变化的新攻击和先进威胁，实现”让风险发生在射击场，以便在安全事件发生之前建立有效防御”。

重要参与行业标准

近年来，