神经网络学习周期的可视化Graphcore项目的工程师团队在模式识别训练过程中建立了神经网络节点活动及其连接的图表,研究人员
在博客中谈到了这些图表。
上图显示了2016年12月Microsoft Research RESNET-34神经网络的学习和识别的完整周期。 该系统本身是在IPU的基础上进行部署的,IPU是一种创建者所称的智能图形处理器,最早可追溯到2016年中期。 对获得的数据进行着色,以隔离由神经网络执行的各种计算密度。
研究人员获得的所有图像不仅非常复杂,而且与真实的生物物体极为相似。 工程师的目的是清楚地显示神经网络内部正在发生的事情,以及为什么甚至有些科学家也对他们的工作原理感到困惑。
Graphcore构建的图像是Microsoft RESNET神经网络的技术图形。 2015年,RESNET赢得了名为ImageNet的图像识别竞赛。
在训练Graphcore神经网络以进行图像识别的50个循环之后,获得了以下图像:

Graphcore的IPU系统可与Poplar框架一起使用。 该框架使用C ++编写,专注于在神经网络的机器学习过程中使用图形。 库Poplar是一个开源开发,将来可以与TensorFlow和MXNet结合使用,后者几乎可以与IPU Graphcore一起使用。 调试和分析工具集可以使用C ++和Python进行自定义。
GraphU IPU不仅适用于图像识别,还适用于处理大型数据阵列。 例如,开发人员可以在神经网络的控制下提供可视化的IPU处理天体数据的过程的信息:

或者这是使用TensorFlow构建的深度神经网络AlexNet的图像:

AlexNet还是ImageNet的获胜者,但在2012年。 为了进行比较,给出了基于Microsoft Research RESNET的神经网络的结构:

IPU是专门为与神经网络一起使用而开发的,开发人员希望他们的工作成果能够将机器学习引入一个新的阶段。 Graphcore团队注意到IPU网络的效率更高,并且学习速度比竞争对手高。