On-Device Model Personalization with Core ML 3/2019-12-20-llt13

社内のLTイベント「えるLT Vol.13」で発表した資料です

Transcript

1. On-Device Model Personalization Satoshi SAKAO えるLT Vol.13 2019/12/20 (Fri) 1 with Core ML 3
2. 話すひと 2 インフォコム株式会社 品質マネジメント推進室 " ソフトウェアエンジニア JS (ES6) / Node.js / GCP / IoT / iOS (Swift) 猫，自作キーボード Satoshi SAKAO @ottijp
3. On-Device Model Personalization (ODMP) ってなんぞ • WWDC2019で発表されたCore ML 3の機能 • iOSデバイス上でモデルを追加学習し，
 個人に最適化されたモデルにアップデートできる • MLUpdateTask (iOS13+) 3
4. デバイス上でやる利点 4 サーバ不要 オフライン動作 プライバシ
5. 5 https://twitter.com/tim_cook/status/1192122998200754176
6. ODMPの方法 1. アプリビルド前 • アップデート可能なモデルの作成 • with coremltools 2. ランタイム • ユーザデータを元にモデルをアップデート • with MLUpdateTask 6
7. アップデート可能なモデルの作成 • モデルのisUpdatableプロパティ: true • アップデート可能レイヤのisUpdatableプロパティ: true • Lossファンクション追加 • Optimizer追加 • エポック，バッチサイズ，ラーニングレートなどの
 ハイパーパラメータを追加 7
8. 8 https://pypi.org/project/coremltools/
9. アップデート可能なモデルの作成（NNの場合） 9 分類器の全結合レイヤを Updatableに変更する場合 updatable Loss Layer Optimizer Hyper Parameters Training Input Weight Bias Class Labels updatable
10. モデルのアップデート（NNの場合） 10 MLUpdateTaskを使って 猫画像を猫として学習 学習され アップデートされる input “猫” updatable updatable
11. 制約 • サポートしているモデル • k近傍: 分類 • ニューラルネットワーク: 分類，回帰，その他 • ニューラルネットワークの場合のアップデート可能レイヤ • 畳み込みレイヤ • 全結合レイヤ 11
12. 制約 • Lossファンクション • categorical cross-entropy • mean squared error (MSE) • オプティマイザ • SGD (Stochastic Gradient Descent) • Adam 12
13. ここまでやりたい 13 うーん これは◦◦！！ ぼくの猫さん 猫さんA 猫さんB 猫さんC
15. 15 Appendix
16. 便利ツール: Turi Create • not アルゴリズムベース but タスクベース • かんたんにモデルを作れる • 既存モデルを元に転移学習するので学習が早い • https://github.com/apple/turicreate 16
17. 便利ツール: Netron • モデルの中を視覚化してくれる • https://github.com/lutzroeder/Netron 17 CreateMLで作った分類器
18. 参考 • How To Create Updatable Models Using Core ML 3 - Better Programming - Medium
 https://medium.com/better-programming/how-to-create-updatable-models-using-core- ml-3-cc7decd517d5 • Personalizing a Model with On-Device Updates | Apple Developer Documentation
 https://developer.apple.com/documentation/coreml/core_ml_api/ personalizing_a_model_with_on-device_updates • Core ML 3 Create Updatable Models - I OWN CODE
 https://www.iowncode.com/core-ml-3-update-your-model-on-device/ • how to create a updatable coreml model? - Stack Overflow
 https://stackoverflow.com/questions/57176725/how-to-create-a-updatable-coreml- model • How To Create Updatable Models Using Core ML 3 – mc.ai
 https://mc.ai/how-to-create-updatable-models-using-core-ml-3/ 18