分類AIの進化史⑰EfficientNet

前回は、MITの Song HanらによるProxylessNASを紹介しました。その前には、GoogleのQuoc V. Leらによる強化学習を利用したNeural Architecture Search（NAS）を紹介しました。今回は、再びQuoc V. LeらによるNASを利用したモデルであるEfficientNet(2019)を紹介します。

下図は、EfficientNetの性能を表しています。横軸がパラメータの数、縦軸が正解率（％）です。

論文図１

黒の点は、手作業で設計された構造を持っています。多くは、ImageNetのコンペティションで登場したモデルに基づいています。

青い点は、NAS（ニューラルアーキテクチャサーチ）を利用して設計されたモデルです。

赤い点がEfficientNetのモデル群でB0からB7まであります。B7が一番パラメータ数が多く精度も高いです。パラメータが少ない方が精度は落ちますが処理速度が速くなります。EfficientNetもNASを利用しています。

見て分かる通り、EfficientNetはすべてのパラメータ数において最も高い正解率を出しています。また、人間が手作業でデザインしたモデルの性能の悪さが目立ちます。

以上から分かるように、EfficientNetはその名の通り効率的であり、また優れた性能を発揮するモデルとして登場しました。

では、具体的に、どのようにしてNASがEfficientNetの成功に寄与したのでしょうか。