在 CIFAR10 小型图像数据集上训练一个深度卷积神经网络。

在 25 轮迭代后 验证集准确率达到 75%，在 50 轮后达到 79%。(尽管目前仍然欠拟合)。

  1. from __future__ import print_function
  2. import keras
  3. from keras.datasets import cifar10
  4. from keras.preprocessing.image import ImageDataGenerator
  5. from keras.models import Sequential
  6. from keras.layers import Dense, Dropout, Activation, Flatten
  7. from keras.layers import Conv2D, MaxPooling2D
  8. import os
  10. batch_size = 32
  11. num_classes = 10
  12. epochs = 100
  13. data_augmentation = True
  14. num_predictions = 20
  15. save_dir = os.path.join(os.getcwd(), 'saved_models')
  16. model_name = 'keras_cifar10_trained_model.h5'
  18. # 数据，切分为训练和测试集。
  19. (x_train, y_train), (x_test, y_test) = cifar10.load_data()
  20. print('x_train shape:', x_train.shape)
  21. print(x_train.shape[0], 'train samples')
  22. print(x_test.shape[0], 'test samples')
  24. # 将类向量转换为二进制类矩阵。
  25. y_train = keras.utils.to_categorical(y_train, num_classes)
  26. y_test = keras.utils.to_categorical(y_test, num_classes)
  28. model = Sequential()
  29. model.add(Conv2D(32, (3, 3), padding='same',
  30.                  input_shape=x_train.shape[1:]))
  31. model.add(Activation('relu'))
  32. model.add(Conv2D(32, (3, 3)))
  33. model.add(Activation('relu'))
  34. model.add(MaxPooling2D(pool_size=(2, 2)))
  35. model.add(Dropout(0.25))
  37. model.add(Conv2D(64, (3, 3), padding='same'))
  38. model.add(Activation('relu'))
  39. model.add(Conv2D(64, (3, 3)))
  40. model.add(Activation('relu'))
  41. model.add(MaxPooling2D(pool_size=(2, 2)))
  42. model.add(Dropout(0.25))
  44. model.add(Flatten())
  45. model.add(Dense(512))
  46. model.add(Activation('relu'))
  47. model.add(Dropout(0.5))
  48. model.add(Dense(num_classes))
  49. model.add(Activation('softmax'))
  51. # 初始化 RMSprop 优化器。
  52. opt = keras.optimizers.rmsprop(lr=0.0001, decay=1e-6)
  54. # 利用 RMSprop 来训练模型。
  55. model.compile(loss='categorical_crossentropy',
  56.               optimizer=opt,
  57.               metrics=['accuracy'])
  59. x_train = x_train.astype('float32')
  60. x_test = x_test.astype('float32')
  61. x_train /= 255
  62. x_test /= 255
  64. if not data_augmentation:
  65.     print('Not using data augmentation.')
  66.     model.fit(x_train, y_train,
  67.               batch_size=batch_size,
  68.               epochs=epochs,
  69.               validation_data=(x_test, y_test),
  70.               shuffle=True)
  71. else:
  72.     print('Using real-time data augmentation.')
  73.     # 这一步将进行数据处理和实时数据增益。data augmentation:
  74.     datagen = ImageDataGenerator(
  75.         featurewise_center=False,  # 将整个数据集的均值设为0
  76.         samplewise_center=False,  # 将每个样本的均值设为0
  77.         featurewise_std_normalization=False,  # 将输入除以整个数据集的标准差
  78.         samplewise_std_normalization=False,  # 将输入除以其标准差
  79.         zca_whitening=False,  # 运用 ZCA 白化
  80.         zca_epsilon=1e-06,  # ZCA 白化的 epsilon值
  81.         rotation_range=0,  # 随机旋转图像范围 (角度, 0 to 180)
  82.         # 随机水平移动图像 (总宽度的百分比)
  83.         width_shift_range=0.1,
  84.         # 随机垂直移动图像 (总高度的百分比)
  85.         height_shift_range=0.1,
  86.         shear_range=0.,  # 设置随机裁剪范围
  87.         zoom_range=0.,  # 设置随机放大范围
  88.         channel_shift_range=0.,  # 设置随机通道切换的范围
  89.         # 设置填充输入边界之外的点的模式
  90.         fill_mode='nearest',
  91.         cval=0.,  # 在 fill_mode = "constant" 时使用的值
  92.         horizontal_flip=True,  # 随机水平翻转图像
  93.         vertical_flip=False,  # 随机垂直翻转图像
  94.         # 设置缩放因子 (在其他转换之前使用)
  95.         rescale=None,
  96.         # 设置将应用于每一个输入的函数
  97.         preprocessing_function=None,
  98.         # 图像数据格式，"channels_first" 或 "channels_last" 之一
  99.         data_format=None,
  100.         # 保留用于验证的图像比例（严格在0和1之间）
  101.         validation_split=0.0)
  103.     # 计算特征标准化所需的计算量
  104.     # (如果应用 ZCA 白化，则为 std，mean和主成分).
  105.     datagen.fit(x_train)
  107.     # 利用由 datagen.flow() 生成的批来训练模型
  108.     model.fit_generator(datagen.flow(x_train, y_train,
  109.                                      batch_size=batch_size),
  110.                         epochs=epochs,
  111.                         validation_data=(x_test, y_test),
  112.                         workers=4)
  114. # 保存模型和权重
  115. if not os.path.isdir(save_dir):
  116.     os.makedirs(save_dir)
  117. model_path = os.path.join(save_dir, model_name)
  118. model.save(model_path)
  119. print('Saved trained model at %s ' % model_path)
  121. # 评估训练模型
  122. scores = model.evaluate(x_test, y_test, verbose=1)
  123. print('Test loss:', scores[0])
  124. print('Test accuracy:', scores[1])