与变异风险词赛跑，阿里探索AI治理网络风险-600学习网

600学习网终身会员188，所有资源无秘无压缩-购买会员

12月27日报告

最近，阿里巴巴证券的一线风险控制服务生柯莉发现，在禁售的风险防控数据库中，一些人试图”引入新”新品种，而不法分子借助”魔力运气”等社交媒体上流行的词语，将人们吸引到了形而上学的欺诈中。

尽早发现风险问题并尽早部署是阿里巴巴安全风险控制部门的日常工作。克里表示：”然而，风险对抗不断升级，各种风险词语不断变化，试图避免对各种平台的控制。如果我们仅仅依靠人力资源来预防和控制，那只会是杯水车薪。”。

鉴于与行业共姓相似的风险治理问题，行业和学术界通过技术创新推动了网络风险治理的探索。今年，中国信息社会语言与知识计算专业委员会主办了”CCKS 2021通用百科全书知识地图实体类型推理”比赛，邀请了283支中国团队参加比赛。12月25日，比赛结果公布，阿里的人工智能技术，包括封建迷信.软涩情.野生动物保护.血腥暴力和其他关键和困难的风险管理领域，获得了第一名。

宣布了”CCKS 2021通用百科全书知识地图实体类型推理”竞赛的奖项

阿里巴巴安全高级风险控制专家杜恒介绍，阿里巴巴安全已在平台上部署了新一代安全架构的上述新升级核心人工智能功能，允许人工智能”关联”风险商品，以应对风险商品的突然增加和变化。此前，阿里巴巴风险控制平台对各类风险商品发布了明确的管理规定，并对销售禁令进行了监管。今年，绿涩网络计划针对相关风险词开展了科普宣传。

虽然人工智能技术在公开数据集的竞争中取得了突出成绩，但根据阿里巴巴的安全反馈，该技术在真实环境中的应用遇到了更多困难。

阿里巴巴安全算法工程师柯兰(Ke Lan)解释说，第一个困难是，当企业发现相关的风险词语由平台控制时，他们立即尝试用新词语替换。为了使AI能够跟上变化的节奏，甚至提前部署防御，AI将根据风险防控经验和公共新闻事件自动挖掘一些新词，并扩展这些词的解释，以便AI系统能够理解这些词的真正含义以及匹配的风险场景，最终候选风险词必须由操作人员手动验证。

“这相当于与一个不断改变外表和衣服的人比赛。当他跑步时，他会改变皮肤。你必须找到你的对手并继续跑步。”科兰表示，目前，依靠人工智能自动搜索生产异常风险词，人工操作审查后的最终采用率为60%，这逐渐降低了手动搜索新风险词的成本，同时试图提高覆盖更多风险区域的效率。

第二个困难是，除了风险词的快速变化之外，该平台发现，一些企业会引导消费者使用其他社交工具与普通产品介绍的”夹克”进行沟通并达成交易。

杜恒表示：”通过一些技术很难预防和控制这种情况。一方面，我们通过各种渠道向商家宣传合规知识，另一方面，希望互联网平台联合起来，探索针对此类风险的合作治理机制。”。

AI目前已升级至涵盖17种风险情景。阿里巴巴安全的高级算法专家薛晖表示，阿里巴巴安全正在加大对技术治理风险场景的投资，例如建立一个新的人工智能治理和可持续发展实验室，并与顶尖大学联合推出”安全人工智能挑战者计划”等项目，培养实用人工智能人才。

“应该强调的是，人工智能技术并不是万能的，平台所面临的各种风险变化和挑战也表明，对多种风险情景的治理将是一个持续的过程