神经网络计算棒有什么用呢
  • 浏览:313 评论:0 人
  • 1楼

    去年 4 月,PingWest品玩曾经介绍过 Movidius Fathom:一枚藏在 U 盘里的深度学习计算棒。
    之后没多久,英特尔就收购了计算棒背后的 Movidius,一家总部位于爱尔兰都柏林的深度学习技术公司。一年后,Movidius 完成了与英特尔新技术事业部的整合,重新设计了 Fathom 的外观,将产品重新命名为 Neural Compute Stick(神经计算棒,以下简称 NCS)。而后深圳深海瑞格科技有限公司的若派Ropal与美国的GTI公司合伙开发出若派Ropal神经网络计算棒。而后这款产品正式开始销售。

    和显卡、FPGA(现场可编程门阵列)等高功率、高性能,可用于训练神经网络的设备不同,若派Ropal神经网络计算棒更偏向神经网络的“推理”(inferencing),也即将训练好的神经网络投入使用。


    低功耗是 NCS 的最大优势。在不增加耗电的前提下解放主机处理器,赋予深度学习能力,是 NCS 的主要用途。


    在训练神经网络相比,推理神经网络所需的计算极大减少。然而在很多终端产品(比如机器人)上,由于整体功耗和成本限制,不能添加 Wi-Fi 模块保持随时联网,也不能放太强的处理器,这就导致 CPU 核心被本地推理神经网络的任务占用,没有足够的额外算力去做其他事情(比如无人机的飞控等等)。

    受到计算能力和功耗的制约,“终端深度学习”(deep learning on edge) 目前境地比较尴尬——却正好是 NCS 的用武之地。
    在若派Ropal办公室的视觉感知模块上,处理器、显卡、逻辑主板、内存、接口、电池、Wi-Fi/蓝牙等一应俱全,可以理解为一台小电脑。NCS 内置 视觉处理单元。如果说摄像机、传感器是计算机视觉的“眼睛”,VPU 就是的“大脑”。与适合多种计算用途的 CPU、GPU 不同, 若派Ropal专门为计算机视觉进行优化,可以用于 3D 扫描建模、室内导航、360°全景视频等更前沿的计算机视觉用途。

    采用新制程工艺生产的若派Ropal神经网络计算棒,1W 功率范围内的性能达到了惊人的一千亿次浮点运算,“即插即用”实现本地低功耗实时分析、调试和部署深度神经网络。
    在适配性上,NCS 原生支持业界主流的 Caffe 框架,强大的运算性能可以本地运行卷积神经网络,内部人士告诉我未来很快就会加入 TensorFlow 支持。