在MXNet中使用VisualDL

下面我们演示一下如何在MXNet中使用VisualDL，从而可以把MXNet的训练过程以及最后的模型可视化出来。我们将以MXNet用卷积神经网络(CNN, Convolutional Neural Network)来训练MNIST数据集作为例子。

安装MXNet

请按照MXNet的官方网站来安装MXNet，并验证安装成功。

  1. >>> import mxnet as mx
  2. >>> a = mx.nd.ones((2, 3))
  3. >>> b = a * 2 + 1
  4. >>> b.asnumpy()
  5. array([[ 3.,  3.,  3.],
  6.        [ 3.,  3.,  3.]], dtype=float32)

安装VisualDL

VisualDL的安装很简单。请按照VisualDL的官方网站进行安装。具体只需要两步

  1. python setup.py bdist_wheel
  2. pip install --upgrade dist/visualdl-*.whl

开始编写训练MNIST的程序

我们为您提供了一个演示程序 mxnet_demo.py。里面展示了如何下载MNIST数据集以及编写MXNet程序来进行CNN的训练。MXNet的部分借鉴了MXNet官方入门文件为了嵌入VisualDL程序，以便在MXNet训练时进行检测，我们需要声明一个LogWriter实例：

  1. logger = LogWriter(logdir, sync_cycle=30)

logger实例里面包含VisualDL的四个功能模块 Scalar， Image 以及 Histogram。这里我们使用 Scalar 模块：

  1. scalar0 = logger.scalar("scalars/scalar0")

模块的命名可以有 ‘/’, 以便对于复杂模型创建不同的命名空间。

MXNet在fit函数中提供了很多API。我们把自己编写好的回调函数 add_scalar 插入到相应的 API中

  1. lenet_model.fit(train_iter,
  2.                 eval_data=val_iter,
  3.                 optimizer='sgd',
  4.                 optimizer_params={'learning_rate':0.1},
  5.                 eval_metric='acc',
  6.                 # 在此嵌入我们自定义的回调函数
  7.                 batch_end_callback=[add_scalar()],
  8.                 num_epoch=2)

这样就好了。在MXNet的训练过程中，每一个批次（batch）训练完后，都会调用我们的回调函数来对准确率进行记录。如您所料，随着训练的进行，准确率会不断上升直到95%以上。以下是两个epoch训练过后的准确率走向：

在MXNet中使用VisualDL - 图1

用VisualDL展示模型图

VisualDL的一个优点是能可视化深度学习模型，帮助用户更直观的了解模型的构成，都有哪些操作，哪些输入等等。VisualDL的模型图支持原生态的PaddlePaddle格式以及普遍适用的ONNX格式。在这里用户可以使用MXNet训练模型，然后用 ONNX-MXNet 工具将其转换成 ONNX 格式，然后进行可视化。我们这里使用已经从MXNet转换到ONNX的现成模型 Super_Resolution model

VisualDL的使用很简单，在完成安装后只需要把模型文件（protobuf格式）用参数 -m 提供给VisualDL即可。

  1. visualdl --logdir=/workspace -m /workspace/super_resolution_mnist.onnx --port=8888

模型图的效果如下：

在MXNet中使用VisualDL - 图2

生成的完整效果图可以在这里下载。