人工智能在边缘计算中的优势_边沿_架构
在边缘和极度边缘之间,以及在无线电接入网中涌现的层次构造——这统统是如何发生的将是一个有趣的征象。Synopsys的设计软件IP产品营销经理Ron Lowman,最近发布了一份技能简报,供应了一些关于移动打算和AI靠近边缘的动机,以及这些变革如何影响IP选择和系统架构的见地。
无线电接入网络中的层次构造
到目前为止,基本事理已经很好地理解。从数十亿或数万亿的边缘设备中传输zettabytes的数据到云端是不可能的——由于在功率和带宽方面太过昂贵。以是我们开始把打算移到更靠近边缘的地方。这样,本地处理更多的数据,只须要较短的跳跃。Ron引用了Rutgers/Inria在增强现实(AR)运用中利用微软HoloLens的一项研究。它的任务是进行二维码识别、场景分割、定位和绘制舆图。在每种情形下,HoloLens首先连接到边缘做事器。在一个实验中,人工智能功能被转移到云做事器上。在第二个实验中,在边缘做事器上实行这些操作。第一种情形下的总来回延迟为80-100ms或更多。在第二种情形下,只有2-10ms。
这并不奇怪,但个中的含义很主要。云延迟很随意马虎引起AR用户的晕动病。在其他运用中,这可能是一个安全问题。边缘打算的来回延迟问题要小得多。Ron补充说,5G供应的用例可以将延迟降落到1ms以下。使基于边缘的打算没有竞争的情由。对付延迟不敏感的运用程序来说,利用云是可以的(只要你不介意传输过程中的本钱开销和隐私问题。)对付任何实时运用程序,打算和人工智能必须靠近运用程序。
从云到边缘的架构
Ron接着谈到了边缘打算的三种不同架构。他把边缘看作是云以外的任何东西,它利用了来自多个来源的利用模型和架构。最上面的是区域性数据中央,更多的是本地数据中央(可能在工厂或农场),以及聚合/网关。每个都具有自己的性能和功率配置文件。
而区域数据中央是缩小了的云,具有相同的功能,但的容量和功率需求较低。对付本地做事器,他举了一个Chick-Fil-A的例子,他们在快餐店有这样的做事器,来网络和处理数据,以优化当地厨房的运营。
不过快餐店里的聚合器/网关的功能相称有限。在这个架构中,有一些更高层次的步骤;这种层次构造进一步发展,一贯延伸到边缘设备,乃至是电池驱动设备。据理解,在遥控器中,语音激活和触发单词识别是在遥控器内部进行。而且网关可能会做一些更繁重的事情(例如命令识别)。
末了,他谈论了对SoC架构的影响,以及进入做事器SoCs和AI加速器的IP。本人赞许他的不雅观点,即x86向量神经网络扩展可能不会产生太大影响。毕竟,英特尔开拓Nervana(现在是Habana)是有缘故原由的。更普遍的是,AI加速器架构正在爆炸。支持垂直运用,从极限边缘到5G根本举动步伐再到云。AI正在每一种形式的边缘和非边缘打算在探求它的位置。
本文系作者个人观点,不代表本站立场,转载请注明出处!