高速推論フレームワーク「ailia」 / deeplearning framework "ailia SDK"

2020年2月18日、19日に行われたデジタルイノベーション2020での、株式会社アクセルのセッション　”高速推論フレームワーク「ailia」”　のセッション資料です。

Transcript

1. 株式会社アクセル ⾼速推論フレームワーク「ailia SDK」を利⽤した AIアプリ制作のメリット デジタルイノベーション2020 株式会社アクセル
2. 株式会社アクセル ディープラーニング概要
3. 3 ディープラーニングとは ディープラーニングはニューラルネットワークによる多層の学習・推論を挿す 画像はCNN（Convolutional Neural Network）で扱う ⼊⼒画像に対して畳み込みと平均化を繰り返すことで物体を認識する 重み係数とネットワーク構成を変えることで認識対象や⽤途を切り替えることができる 出展︓VGG in TensorFlow
4. 4 ディープラーニングで何が出来るか︖ 物体検出
5. 5 ディープラーニングで何が出来るか︖ 顔認識 / 性別・感情・表情推定
6. 6 ディープラーニングで何が出来るか︖ 特徴量の⽐較
7. 7 ディープラーニングで何が出来るか︖ 2D画像からの⾻格検出
8. 株式会社アクセル ディープラーニングを利⽤したアプリ開発⼿法と 「ailia SDK」
9. 9 本項のテーマ ディープラーニング機能を組み⼊れた アプリ開発を考えてみる
10. 10 従来のワークフロー（クラウドで学習・推論） Keras Chainer Pytorch TensorFlow 1．クラウドで学習 Keras Chainer Pytorch TensorFlow 2．クラウドで推論 3．デバイスでInput/結果を送受信
11. 11 従来のワークフロー（クラウドで学習・推論） よくある問題点 ・エッジ機器に常時インターネット接続が必須 ・リアルタイム画像認識だと通信容量が膨⼤ ・ネットワークが切れたときの動作の担保 ・サーバーでの推論が⾼コスト
12. 12 従来のワークフロー（クラウドで学習・エッジ側で推論） Keras Chainer Pytorch TensorFlow 1．クラウドで学習 Keras Chainer Pytorch TensorFlow 2．クラウドで推論（精度検証） 4．デバイスで推論を実⾏ 3．エッジ推論アプリの開発 モデルファイルを エクスポート モデルファイル
13. 13 従来のワークフロー（クラウドで学習・エッジ側で推論） よくある問題点 ・アプリ開発向けのDNNフレームワークが無い ・対象機器・構成に制限がある ・AIモデルの変換に失敗する ・AIモデルの容量が⼤きすぎる・資産性が⾼い ・推論実⾏が重い ・実機でしか動作確認できない ・そもそも上⼿く動かない
14. 14 「ailia SDK」とは そこで「ailia SDK」を使ってみる 推論⽤ディープラーニングフレームワーク 「ailia SDK」 https://ailia.jp/ エッジ端末（機器側）でディープラーニング推論を実⾏するミドルウェアです
15. 15 ailia SDKのワークフロー（クラウドで学習・エッジ側で推論） Keras Chainer Pytorch TensorFlow 1．クラウドで学習 Keras Chainer Pytorch TensorFlow 4．デバイスで推論を実⾏ 3．ailia SDKでエッジ推論アプリの開発 Caffemodel/ONNX エクスポート Caffemodel/ONNX モデル 2．クラウドで推論（精度検証）
16. 16 ailia SDKのワークフロー（クラウドで学習・エッジ側で推論） ailia SDKを利⽤すると・・・ ・AIモデルを統⼀フォーマットで管理 ・AIモデルの圧縮・難読化ができる ・ailia SDKのライブラリ”だけ”で実⾏可能 ・あらゆる機器でクロス開発・アプリ配布可能 ・GPUをフル活⽤した⾼速推論処理 ailia SDK を使えば、”余計な” 開発⼯数が⼀気に短縮可能
17. 17 ailia SDK 対応プラットフォーム  「ailia SDK」はあらゆるプラットフォームへライブラリを提供します  完全⾃社開発による継続的な開発・アップデート  あらゆるプラットフォームへライブラリ提供 Windows MacOS Android iOS Linux Embedded System 標準対応 オプション FPGA AI edge chip
18. 18 ailia SDKの使い⽅（1） - Predict API - モデル（重み係数）を読み込んで⼊出⼒形式を取得した後、Predictを実⾏する ことで推論が可能 CONFIDENTIAL
19. 19 ailia SDKの使い⽅（2） - classifier , detector API - 物体識別タスクおよび物体認識タスクにおいて、⾯倒な前処理と後処理を⾃動化 簡単なコードで物体認識が可能 CONFIDENTIAL
20. 20 ailia SDK の⽬指す姿  あらゆるプラットフォームで最速に動く  最少の⼯数で開発が出来る  最も快適・安⼼な開発環境の提供 以上を実現するため、⽇々改善を継続します
21. 株式会社アクセル デモンストレーション ー ailia AI showcase ー
22. 22 ailia AI showcase  ディープラーニングの機能が簡単に確認出来るアプリです
23. 株式会社アクセル デモンストレーション ー 国内963⾞種判定 AIモデル ー
24. 24 ⽇本国内の⾞メーカーと⾞種（全963⾞種）についての判別のAIモデルを作成し ました Image AIモデル ・メーカー名 ・⾞種名 を判別 学習データ量︓ 90万件＋検証⽤データ30万件 開発期間︓ 4〜5ヶ⽉
25. 株式会社アクセル ax株式会社のAI開発サービス紹介
26. 26 ailia SDK ailia MODELS ailia SDKはクロスプラットフォームの⾼速推論 SDKです。Windows、Mac、iOS、Androidで⼀貫 したC++APIを提供し、GPUを使⽤した⾼速な推論 を実現します。今後、OpenCLとOpenVX対応によ り組み込み機器へとサポートを広げていきます。 ailia MODELSはax Inc.およびパートナー企業が提 供する学習済みモデルです。ailia SDKと合わせて 使⽤することができ、AIを使⽤したソリューショ ンをトータルで提供します。今までできなかった AIによる⾼精度な認識を実現します。
27. 27 ailia TRAINER ailia CONSULTING ailia TRAINERはお客様の学習をサポートするサー ビスです。お客様のビッグデータと当社のアルゴリ ズム開発⼒によって、お客様に最適化した学習済み モデルを提供します。学習したモデルはailia SDK で簡単にデプロイ可能です。 ailia CONSULTINGはお客様のAI導⼊をサポートす るサービスです。お客様のニーズのヒアリングから、 最適なアルゴリズム提案まで、トータルでお客様に 提案します。
28. 28 Q&A
29. 29 ご清聴有り難うございました
30. 30 株式会社アクセル 会社概要 ・東証⼀部（ 証券コード︓6730 ） ・本社︓東京都千代⽥区、設⽴︓1996年 ・代表者︓松浦⼀教 ・資本⾦︓1,018百万円 研究開発型ファブレス半導体メーカー グラフィックスLSIを主⼒とするLSI及び応⽤機器の開発･販売 パチンコ・パチスロ機（遊技機器）市場向けが主⼒ 秋葉原UDX 10階
31. 31 パチンコ・パチスロ機市場向け 主要な製品  グラフィックス LSI  LEDドライバ LSI メモリモジュール その他 組み込み機器市場向け  グラフィックス LSI  開発評価基板  ミドルウェア製品 （ゲームアプリ等向け）
32. 32 アクセル グループ紹介 ax株式会社 ( https://axinc.jp ) ・AI に関するコンサルティング・アプリ開発 ・ミドルウェア(AXIP)の販売 ・ailia SDK の開発、販売 ・⼦会社（アクセル孫会社）としてbitcraft社、MotionPortrait社を保有