ML論文まとめ

機械学習関連で読んだ論文をまとめています。

MobileNets: Efficient Convolutional Neural Networks for Mobile Vision Applications

論文

要旨

  • Depthwise Separable Convolutionを用いて、計算量削減やパラメータ数の削減する効率的なCNNアーキテクチャを提案した
  • 効率化は、畳み込み層の分割(Factorization)するDepthwise Separable Convolutionを用いることによって実現する
  • チャンネル数とFeature Mapの解像度を制御する2つのパラメータの導入により、精度とコストのトレードオフを調整することができる

提案手法

  • 通常の畳み込みフィルター(Standard Convolutional Filters)は、空間方向の畳み込み(Depthwise)とチャンネル方向の畳み込み(Pointwise)に分割することができる(分割しても同じような結果を得られることができる)
    • この分割により計算量を1/8から1/9に削減することができる
    • この2つの畳込みを合わせたものをDepthwise Separable Convolutionとよぶ

f:id:xkumiyu:20190515230607p:plain
Standard Convolutional Filtersの分割イメージ

  • MobileNetsでは、Depthwise Separable Convolutionを用いて以下のようなアーキテクチャで定義される

f:id:xkumiyu:20190515231404p:plain
MobileNetsのアーキテクチャ

結果

  • ImageNetのデータセットで学習した結果、70.6%を精度を達成した
    • VGGと比べ計算量が32倍、パラメータ数が27倍も小さいが精度は同程度である

f:id:xkumiyu:20190515231707p:plain
他のCNNモデルとの比較結果