边缘计算+人工智能,一起解物联网带来的数据洪流之困

国际金属加工网 2017年12月07日

物联网设备在疯狂增长,预计到2020年全球物联网设备数量将达到204亿,同时,这些设备也在以超乎我们想象的速度产生数据。以智能摄像头为例,随着摄像头的分辨率从1080P转向4K,其一天所采集到的数据量将达到200GB。同样,智能医院、自动驾驶和智能工厂,它们一天所产生的数据将分别超过3TB、4TB和1PB。有人预测,到2020年,一个互联网用户平均每天将产生的数据量大概是1.5GB。由此可见,世界正在面临着汹涌澎湃的数据洪流。

如果将源源不断产生的数据全部传输到云端,云端服务器将面临巨大的存储压力,因此有人提出了边缘计算的解决方案。所谓边缘计算,是一种在物理上靠近数据生成的位置处理数据的方法。在2017边缘计算产业峰会上,英特尔中国区物联网事业部首席技术官张宇博士分享了如何在网络边缘实现智能化,是驾驭数据洪流的关键环节之一,也是物联网未来发展的重要趋势。他表示,“在物联网时代,随着数字化的转型,它需要更敏捷地连接、更有效地数据处理,同时要有更好地数据保护。由于边缘计算能够有效的降低对带宽的要求,能够提供及时的响应,并且对数据的隐私提供保护,因此边缘计算在今后物联网的发展过程中会起到非常重要的作用。”

英特尔中国区物联网事业部首席技术官-张宇博士

边缘计算不会替代云计算,二者会实现互补

既然边缘计算如此重要,这是否意味着它可以替代云计算?张宇强调,“边缘计算不会代替云计算,二者之间会实现互补。因为边缘计算所处理的数据是个局部的数据,并不能形成对于全局的认知。这些认知的形成还需要云计算平台,在后端对各种不同的边缘采集到的数据进行融会贯通。”

他列举了智能交通领域和双十一的例子,智能摄像头通过各种智能方法能够识别出摄像头前经过的各种人,以及对车辆的车型、车的颜色、车款以及车牌的识别,但是并不能了解车的轨迹。如果要形成车辆的完整轨迹,还是需要有云计算平台的支持。双11天猫商城上销售峰值超过25亿/秒,如此大量的计算也需要一个很大的云计算平台在后面支撑。

张宇博士认为,物联网发展可以分成三个阶段:互联、智能、自治。物联网系统发展到自治阶段同样是端到端的一个系统,边缘计算和云计算二者之间会协同工作。

人工智能和负载整合的结合会在边缘计算系统里发生

分析数据洪流你会发现,以前需要处理的数据很多都是结构化数据,通过Excel表格或者简单关系型的数据库就可以对其进行维护和管理。但今后,物联网会带来越来越多的非结构化数据,我们要从非结构化的数据中发现内在的关联,就需要用到人工智能技术。

人工智能的识别率越来越高

在2012年以前,人工智能做图像识别的准确度低于人类。虚线的部分代表人的识别水平,这样一个曲线代表机器识别的错误率。到2012年,AlexNet等一大批新的人工神经网络的出现,使得人工智能的水平上了一个新档次。在人工智能新技术的推动下,机器进行图像识别的水平开始超过人类。

虽然人工智能现在已经取得了非常大的突破,但同样还面临着很多挑战。最大的就是,人工智能在进行处理时,还需要消耗大量的计算资源和存储资源。以百度搜索为例,要完成一次搜索需要完成千亿亿次计算,在推理阶段即使去处理一个非常典型的224×224分辨率的图片,像AlexNet或者是GoogleNet这样一些人工智能网络,处理起来计算量同样是要超过10亿次。如此大量的计算,需要一个很强大的计算芯片支撑,所以说,人工智能的发展实际上对芯片提出了更高的要求。

在芯片研制的过程中,芯片的工艺是决定性因素,英特尔是摩尔定律的创始者,也是摩尔定律的践行者。从22纳米到14纳米,从14纳米到10纳米的过程中,从半导体晶体管的密度变化来看,密度增长速度实际超过2倍,虽然英特尔的工艺迭代时间延长了,但是从更新速率来看,仍然是按照摩尔定律的速度向前发展。摩尔定律还在不断推动半导体工艺的进步,同时为人工智能等新的计算模式提供源源不断的计算力。因此,人工智能的应用对边缘计算提出了更高的要求,对边缘计算设备的演进起到了推动作用。

张宇博士强调,在边缘侧趋向负载整合是物联网演进的一个必然趋势。原来在不同设备上分立的负载会越来越多地通过虚拟化等技术,整合到一个单一的高性能的计算平台上,来实现一个综合的复杂的功能,各个功能子系统既能分享设备提供的计算,存储,网络等资源,同时还能具有一定的独立性,避免彼此的相互影响,从而可以简化系统架构,降低系统总体。同时,负载整合实际上也为边缘计算的实现以及为实施人工智能的应用提供了条件。整合后的设备既是边缘数据的汇聚节点,同时也是边缘控制的中心,这为边缘智能提供了处理所需的数据,同时也提供了控制的入口。因此英特尔认为人工智能和负载整合的结合,会在今后的边缘计算的系统里发生。

利用硬件优势,给用户提供全面合适的解决方案

张宇博士指出,物联网系统一定是一个边缘协同的端到端系统,人工智能会在物联网系统里广泛应用,不仅是在前端,也在后端。物联网中不同的网源所需要的计算力需求不同,再加上人工智能部署,需要不同特性硬件平台以及软硬件协同优化。英特尔提供了端到端的、业界领先的人工智能全栈解决方案,包括:涵盖至强处理器、至强融核处理器、英特尔Nervana神经网络处理器和FPGA、网络以及存储技术等领先而完整的硬件平台,以及多种软件工具及函数库,优化开源框架。值得一提的是,对于边缘计算而言如何平衡功耗和计算力所面临的一大挑战,凭借Movidius领先的单瓦计算能力,英特尔可以为业界提供低功耗、高性能的边缘计算解决方案。对于前端的摄像机来说,对功耗要求严格,使用Movidius这样的低功耗芯片更合适;对于设备偏向于边缘域的连接相机的设备或者服务器服务中心运行算法的,使用FPGA更适合。

目前针对人工智能应用也涌现出AI芯片设计公司,AI芯片未来会是会怎样的发展态势?张宇认为,“现实系统要解决的问题不同,以及在系统里所处的位置不同,对硬件要求、计算要求也不一样,用户要根据不同的要求来选择比较合适的硬件架构。当下的人工智能很多的应用实际是围绕着图象处理,即使像AlphaGo,Alphago下围棋也是把棋盘转变成二维的图像作为输入,然后用神经网络分析得到最终结果,包括权重网络、估值网络等,最后得到下一步棋放在哪个位置赢面最大的结论。但这是不是代表了人工智能的未来?很难说。原因在于以后用人脑或者用机器分析的问题的种类很多,有些可以归结到图像,有些不可以,如果归结到图像可以用卷积来做,如果不能归结到图像是不是有另外一个更有效的架构?随着对处理问题的复杂度越来越高、处理问题的种类越来越多、对问题的认识越来越清晰,可能在今后会找到适于某种特定应用、特定问题的应用架构。”

有了边缘计算和云计算,开发者做设计的时候更关注如何界定边缘计算和云计算?采用哪个更合适?英特尔认为,我们有一个共性的技术需要理解和掌握,就是怎么样使计算架构变得更容易被软件定义。不管是什么样的业务类型都可以更灵活的在云端、在边缘侧,甚至在终端节点上运行。如果没有软件定义的灵活性,我要把工作负载从云端迁移到前端是非常困难的事情,从芯片厂商角度来说我们要做一个这样的考量。

网络优化是人工智能运用于边缘计算的关键

人工智能理论基础尚不完备,这就造成目前很多人工智能很大一部分计算是冗余的,如果想将人工智能用到边缘侧,网络优化是一个关键的技术。英特尔的网络优化思路分三个方面:低比特、剪枝和参数量化。

所谓低比特,在传统的深度学习领域,参数往往是用32比特的单精度浮点来进行表述,但是我们看到,在很多应用场景里,比如在安防领域、机器学习以及机器视觉领域,实际上精度要求没有那么高,英特尔把整个参数的精度在不影响最终的识别率的情况下,从32比特的单精度浮点,转变成16比特的半精,甚至于转变成8比特的整精或者是2比特的整精。随着比特数量不断地降低,存储量和计算量都降低了,这样就可以在原来相对计算能力有限的平台上做更复杂的操作。

剪枝也类似,如果把一个人工智能的网络比喻成一个树枝,这个树的每个不同的分杈,实际上对应的是不同的检测特征。对于不同的应用场景关注的特征不一样,很可能这些处理和检测特征对最终检测是没有效果的。对于没有效果的分支,完全可以剪掉,剪枝能够极大地降低计算。

量化就是参数可以根据它的一些特征做聚类。一类参数可以用相对简单的一些符号或者一些数字来表述,这样能够极大地降低人工智能对于存储的要求。对这样的优化思路,英特尔在不断地发展人工智能技术和硬件配合,形成很好的互动。

壮大生态系统,才能更好地推动发展

边缘计算是一个很大的生态,任何一家公司都无法提供这个产业链里所涉及的上下游所有环节。在这个产业链,英特尔定位自己是一家芯片公司,提供计算、通信、存储所需要的芯片解决方案。张宇表示,“仅凭我们的一己之力不足以实现边缘计算产业的宏大目标,我们需要众多类型的公司和机构来参加,就像各位在ECC边缘计算联盟所看到的,有来自学术机构的参与,有来自政府机构的支持,这样才能齐头并进,才能够真正地让人工智能的潜力全部发挥出来,让人能够凭借人工智能技术做到更多以前我们做不到的事情。”

边缘计算需要芯片,但是光有硬件还不够,还需要软件进行配合。张宇提出,“我们还为用户提供围绕芯片相关的底层软件和中间件元素。利用我们提供的零件能够帮助合作伙伴更好地开发它们的相应产品。”目前英特尔与华为和沈阳自动化研究所已经达成了合作,华为刚发布了基于英特尔处理器的边缘网关产品AR550i,利用这个产品,华为在整个产业链起到ODM、OEM的角色。在本次边缘计算产业联盟峰会上,英特尔联合沈阳自动化研究所展示边缘计算测试床——智能机器人,目的是验证基于深度学习的机器视觉方案在实际系统中的工作效果。

张宇强调,“我们对于垂直行业的认知肯定没有行业合作伙伴那么深,在这方面我们和他们之间是很好的配合作用,我们提供解决方案,他们提供他们的应用方案,大家一起构架满足特定垂直行业要求的整体方案来加速它的落地。英特尔除了可以在边缘计算的节点持续做研发外,还具有云计算的能力以及在网络通信基础设施上的能力,我们可以更宏观、更整体的服务于整个行业的需求。”


网友评论

编辑推荐

相关主题