作者 |刘云新
来历 |微软研讨院AI头条（ID:MSRAsia）
【导读】人工智能的蓬勃开展离不开云核算所带来的强壮算力，但是跟着物联网以及硬件的快速开展，边际核算正遭到越来越多的重视。未来，智能边际核算将与智能云核算互为补充，发明一个簇新的智能新国际。本文中，微软亚洲研讨院体系与网络研讨组首席研讨员刘云新将为咱们介绍智能边际核算的开展与最新研讨方向。
智能边际核算的鼓起
近年来，边际核算（Edge Computing）在学术界和工业界都成为了一个热门话题。
事实上，边际核算是相对于云核算（Cloud Computing）而言的。
在云核算中，一切的核算和存储资源都会集在云上，也便是数据中心（Datacenter）里；在终端设备上发作的数据经过网络传输到云上，核算使命和数据处理都在云进步行。而在边际核算中，核算和存储资源被布置到边际上（边际服务器或许终端设备），能够就近对本地的数据进行处理，无需把数据传输到远端的云上，然后防止网络传输带来的推迟。
尽管边际核算成为广受重视的热门话题的时刻并不久，但边际核算的概念并不新。
早在2008年，微软研讨院的 Victor Bahl 博士邀请了学术界和工业界的闻名学者，包含卡内基·梅隆大学的 Mahadev Satyanarayanan 教授、AT&T 实验室的 Ramón Cáceres博士、兰卡斯特大学（Lancaster University, U.K.）的Nigel Davies教授、英特尔研讨院（Intel Research）的 Roy Want 博士等，一同讨论云核算的未来时 [1]，就提出了依据 Cloudlet 的边际核算的概念；
并于次年在 IEEE Pervasive Computing 期刊上宣布了广为人知的名为 “The Case for VM-based Cloudlets in Mobile Computing”的文章 [2]。
尔后，越来越多的研讨人员开端重视边际核算。
值得一提的是，2016年，首届专心于边际核算的学术会议 The First IEEE/ACM Symposium on Edge Computing 在美国华盛顿特区举行 [3]。
现在，边际核算已成为相关尖端学术会议（比方MobiCom）的重要专题之一。
在工业界，2017年微软公司 CEO 萨提亚·纳德拉就将边际核算和云核算并排成为全公司的战略之一。
之后，各大云核算公司和运营商都纷繁推出了自己的边际核算服务；边际核算相关的创业公司更是不断涌现。
在人工智能年代，边际核算不只仅仅仅核算，更是智能+核算，咱们称之为智能边际核算（Intelligent Edge Computing）。
核算形式的轮回：在会集式和散布式之间的摇晃
唯物辩证法指出，事物的开展总是弯曲、循环往复，并在波涛中不断行进的。
核算形式（Computing Paradigm）也不破例。
如图1所示，假如咱们回忆核算形式的开展前史，就会发现一个简略的规则：
核算形式是在会集式核算和散布式核算之间不断摇晃，往复式开展行进的。
图1：核算形式的开展前史
在大型机（Mainframe）年代，核算资源稀缺，许多人同享一台主机，核算是会集式的；到了个人核算（Personal Computing）年代，硬件变得小型化，价格低廉，人们能够具有自己的个人设备，核算成为了散布式的；在云核算年代，经过高速网络，人们能够同享云上的海量的核算和存储资源，核算形式又回到会集式的。
此刻，人工智能蓬勃开展，云上供给的许多智能服务带来了智能云核算。
而跟着边际核算的呈现，核算形式再一次成为散布式的。现在，咱们不只有智能云，还有智能边际。
智能边际核算的呈现当然不只仅是满意表面上的简略规则，背面有其必定性和强壮的驱动力，是核算机软硬件和新运用新需求不断开展的必然结果。
首要，跟着物联网特别是智能物联网（AIoT）的开展，各种新式智能设备不断涌现，发作了海量的数据。比方，监控摄像头现已无处不在（据统计，在伦敦每14个人就有一个监控摄像头 [4]），每天发作许多的视频数据。而每辆自动驾驶轿车每天更是会发作多达5TB的数据。把一切这些数据都传输到云进步行处理是今日的云和网络无法接受的。
其次，新的场景和运用需求对数据在本地进行处理。比方，自动驾驶和工业自动化对数据处理的实时性有很高的要求。数据传输带来的网络推迟往往无法满意实时性的要求，假如网络发作毛病或许带来灾难性结果。
再如，人们对个人隐私越来越重视，而许多数据（视频、图片、音频等）都包含许多的个人隐私。维护个人隐私的最好的办法便是在本地进行数据处理，不把个人数据传到网络上去。
别的，相同重要的是，硬件的快速开展使得智能边际核算成为或许。跟着 AI 算法的日益老练，人们开端规划制作专用的 AI 芯片，特别是专门用于深度学习模型推理的 AI 芯片，这些 AI 芯片不只数据处理才能强壮，并且尺度小、功耗低、价格便宜，能够运用到各种边际设备上，为智能边际核算供给了坚实的硬件根底。
需求指出的是，智能边际核算并不是要替代云核算，而是和云核算互为补充，一同更好地为用户供给服务。云核算和边际核算会不断交融；
智能核算散布在不同的当地，但又彼此连接，协同协作。
智能边际核算中的关键问题研讨
在微软亚洲研讨院，咱们致力于研讨智能边际核算中的关键问题，更好地将 AI 赋能于边际设备（包含终端设备和边际服务器）和运用，进步智能边际核算的体系功能和用户体会。具体来说，现在咱们首要重视以下几个研讨方向：
针对不同设备的模型紧缩和优化。高精度的深度学习模型一般都非常巨大，由数百万乃至以亿计的参数构成。运转这些模型需求消耗许多的核算和内存资源。尽管智能边际设备的处理和存储才能大幅增加，但仍远远比不上云核算设备。因而，怎么把深度学习模型在资源受限的边际设备上运转起来是一个巨大的应战。
传统的模型紧缩和优化（比方剪枝、量化等）首要重视的是在怎么把模型变小的一同尽量少丢失模型精度。但是，边际设备的特点是类型多、差异性大，处理器类型功能和内存巨细千差万别。咱们以为，没有一个一致的模型能够适用于一切的边际设备，而是应该结合硬件的特性，为不同的设备供给最适合的模型，不只考虑模型巨细和精度丢失，更要考虑模型在设备上的履行功能，比方推迟和功耗等。
依据异构硬件资源的体系优化。即便有了一个能够运转的模型，怎么进步模型的运转功率仍是一个值得深入研讨的课题。咱们需求一个高效的模型推理引擎，把体系功能进步到极致。这不只需求软件层面的体系优化，更要有软件和硬件的协同规划，能够充分运用底层硬件的才能。边际设备往往有着各种异构的硬件资源，比方智能手机具有巨细不同的 CPU 核（ARM big.Little）、DSP、GPU、乃至 NPU。
而现有的体系往往只能运用其间一种核算资源（比方 CPU 或许 GPU），还不能充分发挥硬件的功能。咱们的作业致力于研讨怎么充分运用同一设备上的异构硬件资源，深度优化体系功能，大大下降模型履行的推迟和能耗。
隐私维护和模型安全。如前所述，用户隐私数据维护是一个重要的课题。
在边际设备无法运转高精度模型的情况下（比方在低端的监控摄像头上），运用云核算或许边际服务器来履行深度学习模型就不可防止。在这种情况下，咱们就需求研讨怎么运用长途的核算资源的一同还能不走漏用户的隐私数据。
别的，在边际设备上运转模型还带来了一个新的问题——模型的安全。练习一个好的模型需求花费巨大的人力、物力。因而，模型是重要的数字财物。
在云核算形式下，模型的存储和运转都在云上，终端用户无法直接触摸模型数据。而在边际核算中，模型是布置到本地设备上的，歹意用户能够破解终端体系，仿制模型数据。所以，怎么在智能边际核算中维护模型的安全便是一个新的重要研讨课题。
持续学习和协作学习。智能边际核算还带来了新的改进模型的时机。
现在的模型练习和模型运用一般是分裂的。一个模型在事前搜集好的数据集进步行练习，然后被布置到设备进步行运用。但是，模型运用中的数据一般是和练习时的数据集不一样的。比方，每个智能摄像头因为其方位和光线的不同，它们看到的图画内容和特征都不尽相同，然后导致模型精度下降。
咱们以为，模型被布置到设备上今后，应该依据设备上的输入数据进行适配和优化，并且跟着设备处理越来越多的新数据，它应该从中学习到新的常识，持续不断地进步它的模型，这便是持续学习（Continuous Learning）。此外，多个设备还应该把它们学习到的不同的新常识合并到起来，一同协作来改进完和蔼大局的模型，咱们称之为协作学习（Collaborative Learning）。
与首要重视怎么运用多方数据集进行模型练习而不彼此走漏数据的联邦学习（Federated Learning）不同，持续学习和协作学习的重点是怎么在模型布置后重新获取的数据中学习新的常识。
此外，咱们还重视智能边际核算中的各种新场景和新运用，比方视频剖析、VR/AR、自动驾驶、AIoT 等，特别是跟着 5G 的到来，怎么构建更好的智能边际+智能云的体系，为这些场景和运用供给更好的支撑。
在曩昔两年，咱们和国内外的高校严密协作，在这些研讨方向上取得了一系列的发展，也在相关学术会议上宣布了多篇论文。其间，咱们和北京大学和美国普渡大学关于怎么运用缓存技能（Cache）进步卷积神经网络（CNN）履行功率的作业宣布在 MobiCom 2018上 [5]；和哈尔滨工业大学等校园协作的关于怎么运用模型稀少性（Sparsity）加快模型履行的作业宣布在 FPGA 2019和 CVPR 2019上 [6] [7]；和韩国 KAIST 等校园协作的关于怎么运用 SGX 维护用户隐私的作业宣布在 MobiCom 2019上 [8]；和美国纽约大学和清华大学协作的关于协作学习的作业宣布在 SEC 2019上 [9]。
未来展望
智能边际核算之后是什么？核算形式会沿着既有前史道路持续轮回吗？
未来会是怎样的？
咱们无法精确猜测未来，但咱们信任国际必定会变得越来越数字化、智能化，必定会变得愈加夸姣。在微软看来，整个国际正在成为一台巨大的核算机 [10]。不论你是在家里、在办公室、仍是在路上，不论是在工厂、在商场、仍是在各行各业，凭借散布在遍地的强壮核算才能，咱们能够运用人工智能处理由无处不在的传感器收集到的数据，发明出五光十色的作业和日子体会。
未来的核算必定是以用户为中心的，智能环境和设备随时随地感知用户的状况和需求，将用户所需的数据和信息精确推送给用户，为人们供给更好的服务。
来历：沈向洋博士在2018微软人工智能大会上的讲演 [10]
参考文献
[1] V. Bahl, "10 years is an eternity in the tech world, but we are just getting started," 19 10 2018. [Online].
https://tv.co.uk/how-many-cctv-cameras-are-there-in-london/
[5] M. Xu, M. Zhu, Y. Liu, F. X. Lin and X. Liu, "DeepCache: Principled Cache for Mobile Deep Vision," in Proceedings of the 24th Annual International Conference on Mobile Computing and Networking, 2018.
[6] S. Cao, C. Zhang, Z. Yao, W. Xiao, L. Nie, D. Zhan, Y. Liu, M. Wu and L. Zhang, "Efficient and Effective Sparse LSTM on FPGA with Bank-Balanced Sparsity," in Proceedings of 27th ACM/SIGDA International Symposium on Field-Programmable Gate Arrays, 2019.
[7] S. Cao, L. Ma, W. Xiao, C. Zhang, Y. Liu, L. Zhang, L. Nie and Z. Yang, "SeerNet: Predicting Convolutional Neural Network Feature-Map Sparsity through Low-Bit Quantization," in Proceedings of IEEE Computer Society Conference on Computer Vision and Pattern Recognition, 2019.
[8] T. Lee, Z. Lin, S. Pushp, C. Li, Y. Liu, Y. Lee, F. Xu, C. Xu and L. Zhang, "Occlumency: Privacy-preserving Remote Deep-learning Inference Using SGX," in Proceedings of the 25th Annual International Conference on Mobile Computing and Networking, 2019.
[9] Y. Lu, Y. Shu, X. Tan, Y. Liu, M. Zhou, Q. Chen and D. Pei, "Collaborative Learning between Cloud and End Devices: An Empirical Study on Location Prediction," in Proceedings of the Fourth ACM/IEEE Symposium on Edge Computing, 2019.
[10] 沈向洋, "让云核算和人工智能协助每一个人," 2018 微软人工智能大会. [Online].
（*本文为 AI科技大本营转载文章，转载请联络作者）
