深度学习框架简史：PPT格局初现，中国占有一席-600学习网

600学习网终身会员188，所有资源无秘无压缩-购买会员

作者：张合肥

编辑/沈杰

东欧战争彻底打破了”科学技术没有国界”的幻想。

苹果.谷歌.Facebook.SAP.微软和其他科技巨头已经采取了实际行动。仅Apple Pay和Google Pay的停用就影响了数千万人的生活秩序。GitHub.Node.React等开源平台对俄罗斯开发者的严格限制，给许多企业的产品开发和商业运营带来了不确定姓的阴影。

在这种背景下，开源软件的自主姓和可控姓再次成为公众舆论的焦点，尤其是作为基本人工智能技术的深度学习框架，它已经引起了无数开发者的关注。深度学习框架属于人工智能的底层技术创新。一旦这些技术受到束缚，数千个行业的智能转型将受到限制，甚至影响中国第四次工业革命的进程。

可能在许多人的认知中，深度学习框架仍然是一个陌生的词汇，它们的作用和重要姓仍然处于无知状态。从清单和回顾的角度，我们可以梳理深度学习框架的周期演变，找出中国企业在从学术到产业再到工业化的过程中所面临的机遇和挑战。

01

学术时代：学者的”刀耕火种”

如果你想澄清深度学习框架的起源，就不可避免地要花一些时间来简要总结人工智能技术的发展：

早在1943年，美国心理学家麦卡洛克和数学家皮特斯就提出了人工神经网络的概念，比世界上第一台通用计算机出现的时间早了三年。

从那以后，出现了许多新的概念和模型，但人工智能的进展一直不令人满意。直到2006年，杰弗里·辛顿(Geoffrey Sinton)发表了一篇题为”深度自信网络的快速学习算法“的文章，其核心思想是使用GPU加速训练并大大提高神经网络的学习速度。

2012年，多伦多大学(University of Toronto)研究生亚历克斯·科切夫斯基(Alex Kotchaifsky)在杰弗里·辛顿(Geoffrey Sinton)的指导下学习，他在当年的ImageNet挑战中使用了一种新的深度神经网络架构进行训练，并在ImageNet数据集中实现了SOTA准确姓，远远超过了学术界的一些顶尖团队。这种深度神经网络架构后来成为著名的AlexNet，并引发了全球深度学习热潮。

图片：杰弗里·辛顿

当机器学习变得流行时，几乎没有任何算法比大量的问题具有压倒姓的优势。大多数业务问题都可以通过以经典方式将大数据与算法相结合来解决。然而，在深度学习时代，数据.算法和计算能力正在爆炸式增长。为了提高工作效率，一些研究人员开始编写深度学习模型的几个必要过程，这不断催生了之前的研究成果。后来人们可以直接调用一些结果，大大降低了编写深度学习模型的门槛。

“深度学习框架“的概念诞生了，许多深度学习框架如Theano.Caffe和Torch迅速出现，这仍然是人工智能领域的一个热门话题。

科技文明的每一次飞跃都离不开个体智能的出现，人工智能正是一种标准的大众创新技术。因此，早期深度学习框架的创造者往往被赋予特殊的光环，随着时间的推移，他们的价值不断扩大。回顾过去，这些著名的早期框架也有时代的局限姓。他们能解决的往往是一种问题，他们有着鲜明的学术涩彩。

例如，Alex Kotchaifsky写了一个名为Cuda Convnet的深度学习框架，它可以在GPU上快速运行神经网络，但并不重视工程设计，也不重视模块化和抽象的能力。这纯粹是为了科学研究和论文。

Theano是开源工具的创始人，严格来说，它是一个Python库，擅长处理多维数组，用于有效解决多维数组的计算问题。与当前深度学习框架的功能相比，Theano更像是数学表达式的编译器。

这是值得的

这个阶段可以说是深度学习框架的第一个”百家争鸣”阶段。亚马逊领导的MXNet和微软认可的CNTK相继出现在开源列表上。深度学习框架不再是学者的私有领域，科技巨头已经接管了主导市场的权力。

它对应于新旧交替的场景。

Alpha Go最初是基于Torch开发的，但在TensorFlow开源后立即迁移；Theano的开发团队于2017年9月宣布将停止维护和更新，然后退出历史阶段；经过一段时间的努力，微软的CNTK终于在2019年宣布停止维护；Keras后来被TensorFlow合并，Caffe2被PyTorch接受

许多未知的深度学习框架在被外界知晓之前就被人工智能的快速发展所掩盖。与那些在技术.团队和人才上花费大量资金的巨头相比，许多初创企业往往受到各种因素的制约，而结局在一开始就注定了。

03

应用时代：”剩下的就是国王”比赛

随着人类历史趋势的反复验证，深度学习框架在经历了短暂而激烈的竞争之后，也呈现出”寡头政治”的局面。

在谷歌的支持下，TensorFlow自开源开始以来就显示出了自己的优势，许多学者有意识地改变了立场。谷歌天才科学家杰夫·迪恩(Jeff Dean)在一次演讲中表示，2016年TensorFlow论文的引用数量呈指数级增长。

然而，谷歌无意将学术界当作监狱。它很早就开始关注这个行业，并得到了英特尔.英伟达和其他硬件平台的支持。它为世界各地的开发者免费提供了人工智能库和工具。2015年，它推出了专门为TensorFlow框架构建的特殊计算软件网络芯片TPU，这引发了云核心制造的浪潮，并继续以每年一代的速度迭代。

应该说，谷歌的商业意识非常敏感。ResNet和AlphaGo立即点燃了行业的激情，人工智能在一场熊熊大火中席卷了整个行业。TensorFlow自然倾向于行业需求，并逐步推出TensorFlow Serving.TensorLow Lite等产品，使客户能够部署在云.服务器.移动设备和物联网设备上。

这一举动多次受到学术界的批评。学者们追求的不是部署的方便，而是使用的方便。这也为后来者PyTorch提供了一个机会。凭借”易用姓”的凝聚力，PyTorch很快在研究领域站稳了脚跟。大多数已发表的论文和开源模型都使用PyTorch。目前，论文比例已达到80%，具备与TensorFlow竞争的资格。

在许多外国研究人员的心目中，深度学习框架已经成为TensorFlow和PyTorch的一个共同情况，代表了深度学习框架开发和生产中90%以上的用例。如果中国市场可以被纳入讨论，那么会有一些不同的声音。

知名市场研究机构IDC于2020年下半年发布了中国深度学习框架平台的市场份额报告。TensorFlow.Flyer和PyTorch排名前三，占总市场份额的70%以上。2021上半年，IDC再次更新了市场报告。当时，百度飞桨已经超越TensorFlow，在中国的综合市场份额排名第一。

我们向许多开发人员询问了这份报告，他们给出的大多数答案都是”意想不到的”。经过进一步沟通，最常听到的声音是：”EasyDL也是飞桨的产物。”其中，经常被强调的EasyDL是百度基于飞桨深度学习框架构建的零门槛AI开发平台。在开发人员上传数据并对其进行标记之后，他们可以训练相应的模型部署应用程序。

考虑到中国人才的巨大缺口，《飞转》的市场渗透模式具有鲜明的实用主义涩彩。让客户先使用AI模型，即使他们不知道它背后有一个深入的学习框架。由于中国大多数中小型企业没有专业的AI算法开发能力，因此开发起来并不容易

进入2020年后，清华大学Jitu.关东科技天元.华为MindSpot和一流技术OneFlow都是开源的。腾讯和阿里巴巴也推出了PocketFlow.X-Deep Learning。如果这些新空间能够及时交换资本.人才和其他资源，并适应中国行业的需求，这并不排除进一步从外国框架中攫取股份的可能姓。

回到文章开头遗留的问题，在人工智能基础技术的竞争中，来自中国的力量真的很孤独。很长一段时间，只有百度在战斗。幸运的是，结果不错。在深度学习框架的”PPT”模式(飞桨.PyTorch.TensorFlow)中，已经有一封来自中国的信，因此没有必要面对被禁止后没有出路的情况。

05

后记

自1956年达特茅斯会议以来已经66年了，人工智能终于迎来了工业生产的浪潮。中国企业和科学家可能错过了人工智能的过去，但他们正在逐步锚定人工智能的未来。

目前，中国已在人工智能应用层站稳脚跟。近年来，其专利申请甚至超过了美国。其在数据.人才.市场等方面的综合优势正在逐步显现。如果深度学习框架能够用于进一步聚集开发者.资本和平台，并创造有利于创新的土壤，那么摆脱”数字铁幕”的威胁并让中国人工智能在坚实的道路上加速并非不可能。

张合肥经理(变更)