今回はPoolingレイヤーについて、頭の整理を兼ねて、ざっくり整理してみます。
Pooling層は、画像認識に優れた性能がある「CNN（Convolutional Neural Network）」の構成要素のひとつですね。
Pooling層
一口にPooling層と言っても種類があります。
Neural Network Consoleにも様々な種類のPoolingレイヤーが用意されてます。
でも、頻繁に使うのは「MaxPooling」なので、それに絞って整理します。
リファレンスマニュアルの説明を引用してみます。
MaxPooling
近傍の入力値の最大値を出力します
明快かつ簡潔ですね。
これで理解できる方は、今回、これ以降読む必要はないです。
でも。
これを読んで。
- 近傍ってなんだ？
- それを出力したら、何が良いんだ？
とか思った人は、どうぞ続きを読んでください（笑）
Pooling層って何が目的？
Pooling層の目的は、「特徴をより強調する」ことです。
結局。
機械学習でやりたいことは、「違いを識別できる特徴を抽出する」ことですから。
画像を構成する要素の中で、より強い要素を際立たせるのが有効な対策になりえるだろうというのは、納得感があります。
だからPooling層のすることは、Convolutionで出力されてきた数値の特徴をより際立たせるために、もうひと手間加工するってことです。
MaxPolingの具体例
さて。
その「ひと手間」をやってみます。
例によって、以下のような簡単なデータを使います。
これをConvolutionの出力と考えます。
リファレンスでの「近傍」は、Poolingの入力＝Convolutionの出力のことです。
MaxPoolingのやることは、事前に決めた範囲の中の「最大の数字」だけを出力する。
ただ、それだけです。
その事前に決めた範囲のことを、フィルターとかカーネルと呼びます。
フィルター2×2
今回のサンプルにするフィルター（カーネル）のサイズは、２×２にします。
あと、当然ながら元データよりフィルターは小さいですから、全体をカバーするためには、１か所やったら、位置をずらして、また次をする・・みたいにします。
この位置をずらす大きさのことを、Strids（ストライド）といい、今回はこれも2×２にします。
Poolingの処理は、左上からはじめます。
まず。
２行2列の範囲の中で、一番大きい数字を選んで出力します。
つぎに、右に２列分ずらして、同様に２行2列の中で最も大きい数字だけ出力します。
つぎに、下に２行分ずらして、左側から2行2列の中で最も大きい数字を出力します。
あとは同様に右に2列ずらして同じことをします。
これが、MaxPoolingがやっていることです。
シンプルそのものです。
ConvolutionとPoolingは必ずセットで必要なのか
CNN（Convolutional Neural Network）の場合、基本的にConvolutionとPoolingはセットで使います。
たとえば、こんな感じで。
では、このMaxPoolingがなくなると、どうなるんだろう？
学習の精度は大きく落ちるのか？
などの疑問がわいてきます。
疑問がわいたら、やってみようということで、以下みたいなモデルをくんでやってみました。
MaxPoolingをとっぱらって、Convolutionだけを３つ重ねてます。
かなり、違和感バリバリです。
これでMNISTを学習・評価してみると。
おーー。
97.8%・・。
あまり、良くはありません。
でも、Pooling層がなければ、無茶苦茶になるわけでもない。
こういう微妙な結果になるのは、Pooling層の役割が「特徴をより絞り込む」ことにあるからなんでしょうね。
使ってはいけないケースもありうる
こうやって、何をしているのかわかると、イメージができます。
例えば。
画像を学習させて、細部にいたるまで復元に近い状態にしたい場合とかは、Pooling層を使っちゃダメだろうな・・とか。
だって、細かい特徴を切り落としてしまいますからね。
逆に、大きな括りで分類できればいい・・みたいな用途だと、Pooling層は結構有効にきくだろうなってものわかります。
共通の際立った特徴だけを抽出する役目を果たしてくれるわけですから。
そういうイメージができる、できないって、重要じゃないのかな。
個人的にはそう思うわけです。
ではでは。