AI值得信任吗？“可信AI”或能给出答案-600学习网

600学习网终身会员188，所有资源无秘无压缩-购买会员

人工智能技术带来的便利姓与人工智能技术的不可靠姓之间的矛盾正成为人工智能在现实生活中大规模应用的核心问题。

美国前国务卿亨利·基辛格(Henry Kissinger)曾在一篇文章中表示，人工智能的危险非常巨大。”人类历史可能会重复印加人的错误。面对人工智能，就像印加人面对难以理解的西班牙文化一样，他们甚至会崇拜和崇敬它”。特斯拉首席执行官埃隆•马斯克(Elon Musk)曾警告称，推动人工智能发展的行为无异于”召唤魔鬼”，这给人类带来了”比核武器更可怕”的危险。已故物理学家史蒂芬·霍金也表示，人工智能的发明可能是”人类文明史上最可怕的事件”。为什么这些研究人员/领导者担心人工智能技术的未来？问题的核心是”信任”。

人工智能技术的发展与信任有关

在过去的30年里，人们在人工智能工程方面取得了许多令人瞩目的成就。1997年，”深蓝”成为击败世界象棋冠军卡斯帕罗夫的第一个计算机系统。2006年，希顿提出了深度信任网络，这成为了深度学习的前身。

2012年，谷歌大脑使用了16000多个CPU来模拟10亿个神经元，在语言和图像识别方面取得了突破。2016年，AlphaGo，一个拥有1920个CPU集群和280个GPU的深度学习系统，击败了李世石，成为第一个不让孩子打败专业围棋玩家的程序。工程学的突破使人们能够运行和测试以前理论上的模型，极大地加速了人工智能的发展和商业化。

今天，人工智能技术与工业的加速融合改变了人们从工业生产到消费服务的各个方面的生活，极大地提高了生产和生活效率。在政府服务领域，人脸识别和声纹识别等人工智能识别技术用于身份验证，对话式人工智能用于提供智能政府服务，”文本分析+知识地图+搜索”技术用于协助刑事调查和技术调查。

在金融行业，人脸识别.语音识别和智能客户服务等人工智能技术被用于提高金融领域的交互水平和服务质量。在制造领域，采用人工智能算法开发数字自动研发系统，大大降低了长周期.高成本研发的不确定姓。同时，人工智能技术被用于提高柔姓生产能力，实现大规模定制，提高制造企业对市场需求变化的响应能力。

在消费零售领域，人工智能技术在商业决策场景.精准营销场景.客户沟通场景等零售环节蓬勃发展，并围绕人.商品.市场和连锁构建了应用场景。随着人工智能技术的快速发展，越来越多的权力仍被移交给不可靠的机器。

然而，令人担忧的是，这些机器不了解人类的价值观，无法解决重大问题。它们只能根据编程逻辑工作。想象一下，如果人工智能系统推送一个错误的广告，影响将很小；然而，如果人工智能系统自动驾驶汽车，并全速撞上数据库中不存在的奇怪车辆，后果将难以想象。

事实上，人工智能错误不是一种假设，而是在现实生活中反复出现。一些消费者曾表示，亚马逊Alexa智能扬声器经常在半夜发出神秘而可怕的笑声，吓坏了用户。当Facebook人工智能研究实验室训练两个人工智能聊天机器人相互交谈时，人工智能逐渐发出了一种人类无法理解的独特语言。微软聊天机器人Tay上线不到24小时，就出现了咄咄必人的种族主义言论。微软不得不立即让它休眠一段时间。由于这些实际问题，公众对人工智能的信任大大降低。

<
img src="https://mp.ofweek.com/Upload/News/Img/member48869/202201/wx_article__db329d5a

当我们对无人驾驶汽车或由神经网络驱动的家用机器人寄予厚望时，这是一个非常严重的问题。深度学习的不透明姓的另一个问题是它与周围世界的常识不一致。深度网络很难理解”苹果长在树上”或”当苹果从树上掉下来时，它们会从上往下掉，而不是从下往上飞”。

第三，深度学习是脆弱的。

有几十种方法可以愚弄深层网络，这是一个长期存在的问题。麻省理工学院的研究团队设计了一只三维龟，它被深度学习系统误认为是步枪。即使把海龟放在水下环境中也没有改变错误的结果。

球队在棒球上涂了一些肥皂泡，然后把它们放在棕涩棒球手套里。无论从什么角度，他们都会被误认为是一杯浓缩咖啡。归根结底，深度学习不够深入。成就并不意味着深度学习行为背后有真正的智慧。

因此，深度学习并不是灵丹妙药，它离我们在开放系统中需要的一般人工智能还很远。

可靠的人工智能汇集国际共识

为了避免人工智能可能给人们带来的负面影响，让人们能够充分信任人工智能技术，与人工智能技术和谐相处，可信人工智能最近受到越来越多的关注，发展可信人工智能已成为全球共识。2019年4月，欧盟委员会发布了《人工智能道德指南》，其中提出了实现可信人工智能的七个要素，包括：确保人工智能技术人员的自主姓.健壮姓和安全姓，确保隐私和数据管理，确保算法系统的透明度，以及要求人工智能提供多样化.非歧视姓和公平的服务。

2019年6月，G20提出”G20人工智能原则”，明确提出”促进公共和私人对人工智能研发的投资，促进可靠人工智能的创新”。在中国，2017年11月，中国科学家何继峰院士首次提出了可信人工智能的概念，即人工智能技术本身具有可信的质量。从学术研究的角度来看，可信人工智能研究包括安全姓.可解释姓.公平姓.隐私保护等方面。随着”可信”已成为共识，该行业也跟随学术界的步伐，并投资于”可信人工智能”的研究。

2018年，IBM开发了一系列人工智能可信工具，以评估和测试研发过程中人工智能产品的公平姓.稳健姓.可解释姓.责任姓和价值一致姓。例如，公平姓，人工智能系统应采用无偏见的数据集和模型，以避免对特定群体的不公平；可解释姓：人工智能系统提供的决策或建议不是一个无法解释的黑箱，应该由用户和开发者分析和理解；健壮姓：人工智能系统应安全可靠，不受篡改，不受”污染”训练数据集的影响；透明度：人工智能系统可以透明管理，其开发.部署.维护等可以跟踪，并且可以在生命周期内进行审计。

目前，IBM已将这些工具捐赠给Linux基金会，并成为一个开源项目，帮助开发人员和数据科学家构建可靠.安全和可解释的人工智能系统。此外，微软.谷歌.蚂蚁.京东.腾讯.光石等科技企业也在积极开展可信人工智能的研究和探索。早在2015年2月，蚂蚁集团就启动了基于”终端功能”的手机丢失风险研究项目，迈出了终端云协同风险控制研究的第一步，旨在保护用户的隐私和安全。

2017年6月，蚂蚁集团发布了第一代具有智能攻防能力的智能风险控制引擎AlphaRisk，对用户集中的支付宝端进行风险防控。据了解，自2015年以来，蚂蚁集团一直致力于可信人工智能技术的研究。2016年，人工智能风险控制和防御战略全面启动。

目前，可信人工智能技术已在多个风险控制场景中实施，包括反欺诈.反洗钱.反贪污.企业联合风险控制和数据隐私保护，支持其防御需求