Recommandé
Recommandé
Contenu connexe
Tendances
Tendances (20)
En vedette
En vedette (20)
Similaire à ディープラーニングによるラーメン二郎全店舗識別と生成
Similaire à ディープラーニングによるラーメン二郎全店舗識別と生成 (20)
ディープラーニングによるラーメン二郎全店舗識別と生成
- 2. 本日の発表内容は 趣味で取り組んだ 成果をまとめたものであり にて発表した 「 」 を元に再構成したものです NTT Tech Conference #2 Large Scale Jirou Classification ディープラーニングによるラーメン二郎全店舗識別 2
- 3. 自己紹介 名前： 土井賢治(@knjcode) 所属： NTTコムウェア ビジネスインキュベーション本部 業務： 機械学習(主にディープラーニング) ドローン・IoT関連 3
- 5. 突然ですが 5 . 1
- 18. CNN (畳み込みニューラルネット) 画像認識分野においてはCNNがよく使われる 層の深いCNNの学習を深層学習(Deep Learning)と呼ぶ 出展: http://acsi.hpcc.jp/2016/download/ACSI2016- tutorial2.pdf 8 . 3
- 19. 大規模な学習と精度向上 ILSVRC (ImageNet Large Scale Visual Recognition Challenge) 出展: http://acsi.hpcc.jp/2016/download/ACSI2016- tutorial2.pdf 8 . 4
- 20. ラーメン二郎分類機の作成 DeepLearningフレームワークにMXNetを利用(速い) 各店舗50枚をテスト用に分離 モデル: ResNet-50 学習率(learning rate): 0.01 optimizer: SGD エポック数: 30 9 . 1
- 23. 分類精度評価 Precision Recall F1-score avg / total 0.326 0.166 0.148 実態としては約3割程度の正解率 Precision(適合率): 検出件数にどの程度正解が含まれるか Recall(再現率): 正解をどの程度検出できるか F1-score: PrecisionとRecallの調和平均 9 . 4
- 28. 出展: CS231n: Convolutional Neural Networks for Visual Recognition 10 . 4
- 33. 分類精度評価 Precision Recall F1-score avg / total (scratch) 0.326 0.166 0.148 avg / total (finetune) 0.816 0.725 0.723 ファインチューニングの方がかなり精度が良い Precision(適合率): 検出件数にどの程度正解が含まれるか Recall(再現率): 正解をどの程度検出できるか F1-score: PrecisionとRecallの調和平均 10 . 9
- 37. モデルの選択 どのモデルを選ぶか？ → より表現力があり問題の処理に適したモデルを利用 最近はImageNetで学習済みのモデルが多数共有されている Alexnet, VGG, ResNet, etc どれを選ぶのがよいか、性能は？学習コストは？ 11 . 3
- 39. Optimizerの選択 様々なアルゴリズムが研究されている SGD AdaGrad RMSProp SGDNesterov AdaDelta Adam 一般に扱う問題が異なれば適するOptimizerも異なる 出展: ADAM: A METHOD FOR STOCHASTIC OPTIMIZATION 11 . 5
- 40. Optimizerの違い(イメージ) 出展: Visualizing Optimization Algorithms 11 . 6
- 42. モデルやOptimizerを変えて試す モデル: ImageNetで学習済みのinception-v3 学習率(learning rate): 0.00005 optimizer: NAdam(～30epoch), RMSProp(～60epoch) エポック数: 60 各種データ拡張実施 11 . 8
- 45. 分類精度評価 Precision Recall F1-score avg / total (ResNet-50) 0.816 0.725 0.723 avg / total (inception-v3) 0.880 0.860 0.862 先程のファインチューニングの例に出した ResNet-50の場合と比べさらに識別精度が向上 11 . 11
- 48. 資料冒頭の画像を作成したモデルで識別 三田本店 神田神保町店 環七一之江店 三田本店(99.69%) 目黒店(0.09%) 桜台駅前店(0.07%) 神田神保町店(99.32%) 中山駅前店(0.38%) 松戸駅前店(0.12%) 神田神保町店(61.23%) 新橋店(14.44%) 中山駅前店(13.77%) 正解！ 正解！ 残念 三田本店と神田神保町店はほぼ同じ構図だが見分けられた 11 . 14
- 53. GANとは 学習データと似た性質を持つ出力を生成するネットワーク 2014年にGoodfellowらによって提案 2015年にRadfordらによってCNNを使ったGANである DCGAN(Deep Convolutional GAN)が提案される DCGANで生成した画像 出展: Unsupervised Representation Learning with Deep Convolutional Generative Adversarial Networks 13 . 2
- 55. 画像生成時のモデルへの入力について DCGANは入力をn次元一様乱数からサンプルします の実装では[-1.0, 1.0] の100次 元一様乱数z を入力として使用します 学習が成功すれば、 画像から抽出されたそれぞれの特徴が それぞれの次元に対応して学習されています (例えば、テーブルの色、麺の盛り具合、画角等) zの値を調整した際の出力の変化から 各次元に対応する特徴を推定することもできます carpedm20/DCGAN-tensorflow 13 . 4
- 60. conditional GAN GANの学習時に画像とその画像の ラベルを組み合わせて学習する手法 画像生成時に指定したラベルに応じた 画像を生成することができる 参考: Conditional Generative Adversarial Nets 13 . 9
- 62. 現在、実装中 13 . 11
- 67. 参考深層学習とその画像認識への応用に関する最近の研究動向CS231n: Convolutional Neural Networks for Visual Recognition ADAM: A METHOD FOR STOCHASTIC OPTIMIZATION Visualizing Optimization Algorithms Optimizer : 深層学習における勾配法についてはじめてのGAN できるだけ丁寧にGANとDCGANを理解するChainerで顔イラストの自動生成Generative Adversarial Networks Unsupervised Representation Learning with Deep Convolutional Generative Adversarial Networks Conditional Generative Adversarial Nets carpedm20/DCGAN-tensorflow musyoku/LSGAN 16
- 69. ありがとうございました 18