编写你自己的 Keras 层

对于简单、无状态的自定义操作，你也许可以通过 layers.core.Lambda 层来实现。但是对于那些包含了可训练权重的自定义层，你应该自己实现这种层。

这是一个 Keras2.0 中，Keras 层的骨架（如果你用的是旧的版本，请更新到新版）。你只需要实现三个方法即可:

  • build(input_shape): 这是你定义权重的地方。这个方法必须设 self.built = True，可以通过调用 super([Layer], self).build() 完成。
  • call(x): 这里是编写层的功能逻辑的地方。你只需要关注传入 call 的第一个参数：输入张量，除非你希望你的层支持masking。
  • compute_output_shape(input_shape): 如果你的层更改了输入张量的形状，你应该在这里定义形状变化的逻辑，这让Keras能够自动推断各层的形状。
  1. from keras import backend as K
  2. from keras.engine.topology import Layer
  4. class MyLayer(Layer):
  6.     def __init__(self, output_dim, **kwargs):
  7.         self.output_dim = output_dim
  8.         super(MyLayer, self).__init__(**kwargs)
  10.     def build(self, input_shape):
  11.         # 为该层创建一个可训练的权重
  12.         self.kernel = self.add_weight(name='kernel', 
  13.                                       shape=(input_shape[1], self.output_dim),
  14.                                       initializer='uniform',
  15.                                       trainable=True)
  16.         super(MyLayer, self).build(input_shape)  # 一定要在最后调用它
  18.     def call(self, x):
  19.         return K.dot(x, self.kernel)
  21.     def compute_output_shape(self, input_shape):
  22.         return (input_shape[0], self.output_dim)

还可以定义具有多个输入张量和多个输出张量的 Keras 层。为此，你应该假设方法 build(input_shape)，call(x) 和 compute_output_shape(input_shape) 的输入输出都是列表。这里是一个例子，与上面那个相似：

  1. from keras import backend as K
  2. from keras.engine.topology import Layer
  4. class MyLayer(Layer):
  6.     def __init__(self, output_dim, **kwargs):
  7.         self.output_dim = output_dim
  8.         super(MyLayer, self).__init__(**kwargs)
  10.     def build(self, input_shape):
  11.         assert isinstance(input_shape, list)
  12.         # 为该层创建一个可训练的权重
  13.         self.kernel = self.add_weight(name='kernel',
  14.                                       shape=(input_shape[0][1], self.output_dim),
  15.                                       initializer='uniform',
  16.                                       trainable=True)
  17.         super(MyLayer, self).build(input_shape)  # 一定要在最后调用它
  19.     def call(self, x):
  20.         assert isinstance(x, list)
  21.         a, b = x
  22.         return [K.dot(a, self.kernel) + b, K.mean(b, axis=-1)]
  24.     def compute_output_shape(self, input_shape):
  25.         assert isinstance(input_shape, list)
  26.         shape_a, shape_b = input_shape
  27.         return [(shape_a[0], self.output_dim), shape_b[:-1]]

已有的 Keras 层就是实现任何层的很好例子。不要犹豫阅读源码！