プーリングのサイズを大きくするとすぐにダメになるのではと思ったが、そんなことはないらしいのが前回わかった。
それで、プーリングサイズをどんどん大きくし、テスト精度が最も良くなるのはどのあたりかを調べてみた。
グラフの右には、プーリングのサイズ、そのサイズでテスト成功率が最大になったepochとテストの最大精度を示している。
プーリングなし 3 0.6667
プーリング 5×5 6 0.7354
プーリング 6×6 7 0.7412
プーリング 7×7 8 0.7436
プーリング 8×8 6 0.7402
プーリング 10×10 6 0.7307
この実験では、7×7のプーリングで、プーリングなしと比較して7.69%(66.67→74.36)テスト精度が向上した。
プーリングだけでこれだけ向上するということは、プーリングは何らかの形で使うのが良さそうだ。
上のグラフを眺めると、もう1つの変化が見えてくる。
緑がテスト精度であるが、青の学習精度の方に注目してみよう。
プーリングなしだと、10epochあたりで98%に達しているのだが、プーリングサイズを上げると、学習段階での精度の上昇ペースがかなり鈍るようである。