TechPlay_ISID_小川_公開用_AIテクノロジー部の研究開発と製品開発事例_191213.pdf

COPYRIGHT 2019 INFORMATION SERVICES INTERNATIONAL - DENTSU, LTD. ALL RIGHTS
RESERVED. 0 AIテクノロジー部の研究開発と製品開発事例 ※公開用（株）電通国際情報サービス（通称、ISID）クロスイノベーション本部 AIテクノロジー部小川雄太郎 TechPlay：進化するSIerの最前線！先端技術を活用した事例の紹介【AI編】ISID Meetup #01 2019年12月13日 19:50-20:30@TECH PLAY SHIBUYA

RESERVED. 1 本日の発表内容 01 簡単に自己紹介 02 LightGBMを用いた製造業流体シミュレーション高速化の研究 03 Azure DevOps & MLサービスを利用したMLOps的な製品開発 04 どうして、私はSIer、ISIDで働き続けているのか？

RESERVED. 簡単に自己紹介 Section 01 2

RESERVED. 3 出身：1986年生まれ、兵庫県西宮市出身経歴：明石高専、東京大学工学部、東京大学新領域創成科学研究科修士・博士課程（脳科学の研究）にて博士号（科学）を取得。東京大学先端研ポスドクを経て、現職所属：ISID クロスイノベーション本部・AIテクノロジー部兼職：早稲田大学非常勤講師、日本ディープラーニング協会委員副業：PyTorchのディープラーニング本、深層強化学習本、雑誌連載詳細：https://github.com/YutaroOgawa/about_me 小川雄太郎（おがわゆうたろう）

RESERVED. 4 近著の紹介つくりながら学ぶ! PyTorchによる発展ディープラーニング第1章：画像分類と転移学習(VGG) 第2章：物体検出(SSD) 第3章：セマンティックセグメンテーション(PSPNet) 第4章：姿勢推定(OpenPose) 第5章：GANによる画像生成(DCGAN、Self-Attention GAN) 第6章：GANによる異常検知(AnoGAN、Efficient GAN) 第7章：自然言語処理による感情分析(Transformer) 第8章：自然言語処理による感情分析(BERT) 第9章：動画分類(3DCNN、ECO) https://www.amazon.co.jp/dp/4839970254 https://www.amazon.co.jp/dp/4839965625

RESERVED. 5 AIT部の構成ビジネスデータサイエンス UVP 機械学習アルゴリズムの調査・研究統計解析 ITシステム構築 MLOps 機械学習工学 AI-PoC&本番のPM AI製品開発の企画エンジニアリングデータサイエンティスト（コンサルタント・PM）: ビジネス寄りデータサイエンティスト（エンジニアリング）: ITシステム寄り私はこちら

RESERVED. 6 【顧客案件】深層強化学習の研究開発のコンサルティング【顧客案件】AI活用の模擬プロジェクト演習＋ MLOps実装の実践研修【研究】機械学習を活用した流体シミュレーション高速化 (＊後ほど詳細) 【研究】BERTとinfluenceを用いた自然言語処理における説明性技術の開発【自社ソリューションの開発】自然言語処理系などのソフトウェア開発 (＊後ほど詳細) 【新規事業系】・社内向けに、ディープラーニング協会G検定推進 (※先月・人事部長) ・川崎フロンターレ様とのデータサイエンス・インターンの構築・早稲田大学様との産学協定、研究補助金制度の構築、などなど最近の仕事内容

RESERVED. 7 https://www.isid.co.jp/case/project/2019internship.html https://www.isid.co.jp/news/release/2019/1008.html https://www.waseda.jp/inst/cds/news/1049

RESERVED. 8 私の2019年の仕事内容 https://github.com/YutaroOgawa/about_me にスライドリンク記載機械学習の説明性関連の発表

RESERVED. LightGBMを用いた製造業流体シミュレーション高速化の研究 Section 02 9

RESERVED. 10 流体シミュレーションにおいて、水を粒として扱うMPS法と呼ばれる手法の計算の一部に、機械学習の回帰モデル（LightGBM）を使用し、計算高速化を図る手法を提案 [引用] プロメテック・ソフトウェア株式会社：Particleworks解析事例 https://www.particleworks.com/case_study_ja.html ⇐従来のMPS法の例研究概要

RESERVED. 11 MPS法は流体シミュレーションの一種そのため、以下の物理方程式に従う計算を実施研究概要 = − 1 + 2 + [ナビエ–ストークス方程式] 圧力勾配項速度粘性項重力等の外力項加速度

RESERVED. 12 計算の一部に陰解法があり、並列化のネック。そこをLightGMB回帰に。研究概要従来のMPS法（圧力の計算） +1 = を陰的に解き、+1を求める。巨大な連立一次方程式を解くので、計算の並列化などが困難提案手法 +1 = 回帰モデル粒子、およびその近傍粒子の情報 LightGMBを用いた回帰モデルから陽的に計算計算の並列化による高速化が可能

RESERVED. 13 簡単な動作確認デモ（ダム崩壊問題）研究概要水柱壁

RESERVED. 14 簡単な動作確認デモ（ダム崩壊問題） ※公開用スライドでは動画動かず研究概要 MPS法提案手法

RESERVED. 15 •製造ソリューション事業部より顧客課題（流体シミュレーションの高速化）を相談され、実施した研究 •流体シミュレーションのMPS法の理解、従来手法の実装からはじまり、特許出願と人工知能学会での口頭発表まで実施 https://confit.atlas.jp/guide/event/jsai2019/session/3Q01-04/advanced •現在のState：流体シミュレーション・ソフトの開発会社に対して、本手法の実装による価値共創・クロスイノベーションを提案中研究概要

RESERVED. Azure DevOps & MLサービスを利用したMLOps的な製品開発 Section 03 16

RESERVED. 17 及川さん：ソフトウェア・ファースト https://www.amazon.co.jp/dp/4822289915/ ‘‘ ’’ - SIerが採るべき今後の選択肢 - 1. 業界特有のソリューションに特化 2. サービス比率を下げ、製品販売の比率をあげる SIerは、ユーザー企業のITケイパビリティ向上に伴う、規模の小さなSIサービス案件数低下を見越した戦略立案が求められている。「業界を絞る、製品開発・販売の比率向上」などが重要

RESERVED. 18 マーティ・ケーガン：INSPIRED 熱狂させる製品を生み出すプロダクトマネジメント https://www.amazon.co.jp/dp/4820727508/ ‘‘ ’’ すべての製品開発チームには2つの高いレベルの活動がある。私たちは作るべき製品を発見しなければならないし（製品発見）、その製品を市場に投入しなければならない（市場投入）。製品発見フェイズと市場投入フェイズを経て、新規事業・製品が生まれる

RESERVED. 19 モダンな新規事業・製品開発の流れ part 1 /2 ≒ 製品発見新規事業・製品開発の流れ共感創造問題定義デザイン思考&リーンユーザーテスト（計測）仮説検証（学習）プロトタイプピボット or継続アジャイル・スクラム開発リリースプランニングスプリントプランニングスプリント実行スプリントバックログスプリントレビューインクリメントスプリント振り返りプロダクトバックログ出荷可能インクリメント

RESERVED. 20 モダンな新規事業・製品開発の流れ part 2 /2 ≒ 市場投入新規事業・製品開発の流れ ML+DevOps ➡ MLOps 出荷可能インクリメントリリースデプロイ運用モニタリング改善計画構築テストデータ管理モデル再学習 Dev Ops ML テストリリース

RESERVED. 21 MLOps アジャイル開発・DevOps・MLOpsの実現には「ツール選定」が重要共有されたツール共有された組織文化 Dev 開発 Ops 運用 ML 機械学習データ管理モデル学習再学習デプロイツール選定大切！新規事業・製品開発の流れ：MLOps

RESERVED. 22 AIT部での新規事業・製品開発の流れアジャイル開発、MLOpsを回すにはそのためのITツール選定が重要・製品にAI技術を組み込む以上、機械学習モデルのトレーサビリティ（どのようにして作成されたのか）の実験記録が重要・製品にAI技術を組み込むために、推論の部分を切り出して容易にエンドポイント化できることが重要・機械学習モデルの再学習が自動（半自動）で行えることが望ましい・アジャイル型製品開発プロジェクト（スクラム）の管理と、CI/CDの構築が容易であることが望ましい

RESERVED. 23 自然言語処理ソフトウェアの開発中（プロト実装中） • 自社開発として、自然言語処理ソフトウェアの開発中（といっても、技術検証、プロト実装のフェイズ） • 私が開発リーダーを務め、現在の開発環境・ツールに利用している、 AzureMLサービスとAzure DevOpsを紹介します

RESERVED. 24 自然言語処理ソフトウェアの開発中（プロト実装中）機械学習部分に求められるツールの要件 1. 訓練データを保存できるストレージ 2. モデルの学習結果（訓練データや検証データでの性能、作成日時、作成者など）を保存・管理できる実験管理のプラットフォーム 3. 学習済みモデルを保存できるストレージ 4. 学習済みモデルを使用して推論を実施するエンドポイントを作成できる仕組み

RESERVED. 25 学習済モデルのバージョン管理や、学習データ元など、トレーサビリティを確保した機械学習モデル構築のために、Azure MLサービスを採用ストレージ訓練データやその他データを保存実験訓練結果のログを保存・閲覧計算（VM：仮想マシン）訓練を実施するVMを登録イメージ（Dockerファイル）推論プログラムのイメージを保存展開（コンテナ・インスタンス）推論イメージをAPI化モデル学習済モデル保存・バージョン管理 Azure Machine Learning サービス自然言語処理ソフトウェアの開発中（プロト実装中）

RESERVED. 26 自然言語処理ソフトウェアの開発中（プロト実装中）スクラム型プロジェクトの管理とDevOpsに求められるツールの要件 1. バックログやタスクの内容と進捗を管理できるタスク管理ツール 2. ソースコード管理ツール 3. CI（継続的インテグレーション≒自動テスト）を実施するツール 4. CD（継続的デリバリー≒自動デプロイ）を実施するツール

RESERVED. 27 DevOps。。。以前までは、各種サービスを組み合せる（AIエンジニアにはやや困難）タスク管理ツールソース管理ツール CD：継続的デリバリー CI：継続的インテグレーション自然言語処理ソフトウェアの開発中（プロト実装中）

RESERVED. 28 Azure DevOpsを採用することにタスク管理ツール Boards チケット式タスク管理ソース管理ツール Repos 基本的にGitHubと同じ CI/CDツール Pipelines 継続的インテグレーションとデリバリー Azure DevOps CI/CDツール Pipelines 継続的インテグレーションとデリバリー自然言語処理ソフトウェアの開発中（プロト実装中）

RESERVED. 29 1つ画面で、初めから全部連携して使えるため便利・簡便自然言語処理ソフトウェアの開発中（プロト実装中）

RESERVED. ①プログラムの作成・改変 or 再学習トリガー ②プログラムのアップロード ③ビルドのCI パイプライン開始 ④訓練データを取得 ⑤計算用VM で学習を実施 ⑥訓練ログを保存 ⑦学習済みモデルを保存 ⑧推論用Docker イメージを保存 ⑩推論用のコンテナ・インスタンスをデプロイ ⑨リリースのCD パイプライン開始 Azure DevOps CIパイプラインがAzure MLサービスを使用 AzureでMLOpsの流れ

RESERVED. 31 続いて、開発中の自然言語処理ソフトウェア（技術検証・プロト実装フェイズ）の構成と、実際のAzure DevOpsの活用例を紹介自然言語処理ソフトウェアの開発中（プロト実装中）

RESERVED. 32 開発中の自然言語処理ソフトウェアの構成（実装中）各自のPC バックエンドワーカー .etc ブローカー ③非同期処理 DB AzureMLサービス AzureVM（計算用） ④訓練プログラム Azure BLOB ストレージ ②データセット ⑤データセット ⑥学習済モデルフロントエンド ⑦学習済モデル ①API

RESERVED. 開発中の自然言語処理ソフトウェアの構成（運用時） BLOB ストレージ静的サイトフロントエンド Azure VM Webサーババックエンドワーカー .etc ブローカー Azure Database for PostgreSQL DB AzureMLサービス訓練プログラムデータセット AzureVM（計算用） Azure BLOB データセット学習済モデル学習済モデル非同期処理 API

RESERVED. 34 AIT部での新規事業・製品開発の流れバックエンドはVMではなく、マルチコンテナのWeb Appを使用したかったが、まだプレビュー版でDocker-Composeの機能がフルには使えず。。。

RESERVED. 35 続いて開発における、Azure DevOpsの活用を紹介 ※チケットの名称、コミット・メッセージなどは寛容に、でお願いします。。。開発中の自然言語処理ソフトウェアの構成（実装時）

RESERVED. 開発中の自然言語処理ソフトウェアのスクラム管理スプリントバックログとタスクの管理（Azure DevOpsのBoards）

RESERVED. 開発中の自然言語処理ソフトウェアのスクラム管理 Teamsと連携➡AzureDevOpsのスプリントバックログとタスクを表示

RESERVED. 開発中の自然言語処理ソフトウェアのスクラム管理 Teamsと連携➡チケット起票、プッシュ、プルリクエスト等を自動投稿

RESERVED. 開発中の自然言語処理ソフトウェアのスクラム管理 Teamsと連携➡ AzureDevOpsのダッシュボードも表示でき、即確認可能

RESERVED. 開発中の自然言語処理ソフトウェアのスクラム管理ソースコードの管理

RESERVED. 開発中の自然言語処理ソフトウェアのスクラム管理ソースコードの管理（ブランチのコミットのフローも分かりやすい）

RESERVED. 開発中の自然言語処理ソフトウェアのスクラム管理 CI/CDはDevOpsパイプラインからGUIベースに作れる【CI】・Nuxtの静的ファイルを npmコマンドで作成・その他Deployのパイプラインに送りたいファイルをパッキングし、まとめる ※本当はCIの最初に単体テストを入れる

RESERVED. 開発中の自然言語処理ソフトウェアのスクラム管理 CI/CDはDevOpsパイプラインからGUIベースに作れる【CD】・環境設定ファイル.envなどは別途Azure DevOps内に登録可能。それを別途取得する・フロントエンド用BLOBに Nuxtファイルをアップロード・バックエンドのVMにSSH 接続して、ファイルコピーと Docker-Composeの再起動

RESERVED. 開発中の自然言語処理ソフトウェアのスクラム管理その他便利な機能：DevOpsのプロジェクトをテンプレート・コピー可能。リポジトリに加え、プロダクトバックログやタスクのチケット、CI/CDのパイプライン設定までコピー生成。自社用テンプレートを作ると便利。

RESERVED. 46 以上。このような感じでソフトウェア開発を進めています開発中の自然言語処理ソフトウェア

RESERVED. どうして、私はSIer、ISIDで働き続けているのか？ Section 04 47

RESERVED. 48 私が電通国際情報サービス（ISID）で働き続けている理由 1. 働きやすさ（7時間勤務＋フレックス＋テレワーク） 2. SIerとしての仕事のやりがい 3. 新しい技術や取組みに挑戦できて、自分が成長できる

RESERVED. 49 働きやすさ 5時30分起床 6時00分 7時00分出社移動 7時30分朝飯・仕事用意 15時30分業務 16時30分残業 6時00分起床・朝飯 7時00分 14時00分自宅でテレワーク業務 & テレカン自学自習・書籍執筆など 7時間勤務+フレックス＋テレワーク（私の2日間の例）当然ながら、毎週必ずこのペースというわけではないですが、基本的には非常に柔軟に働きやすい

RESERVED. 50 SIerとしての仕事のやりがいソフトウェア・ファーストな時代。 AIやIT技術を活用し、新たな価値創造や業務効率化を果たしたいが、日本の多くの企業ではまだまだIT能力・人材が足りていない・・・

RESERVED. 51 SIerとしての仕事のやりがい独立行政法人情報処理推進機構（IPA）「IT人材白書2017」

RESERVED. 52 SIerとしての仕事のやりがいそこでSIerとして、いわゆる受託で代わりにシステムを作るのではなく（※私の場合）、ユーザー企業と一緒に「深層強化学習のシステムを研究・開発」したり、「AI実践教育」や「協同プロジェクト」などを実施様々な顧客企業の変革と成長、そして顧客の社員の成長、これらに貢献している充実感が、私がISIDで働く大きなモチベーション

RESERVED. 53 新しい技術・取組みに挑戦できて自分が成長できる ISIDは社員数が単体で1,500名と少ない（一部上場企業や大手のプライムSIerのなかでは少ない部類）。自ら手を挙げ提案すれば、いろいろな取り組み（データサイエンス・インターン創ったり）試したい技術（深層強化学習やMLOps）に挑戦することができる環境であり、とても成長できる ※私自身、入社して2年8カ月。最初は、Javaもオブジェクト指向も、 Webシステムもサーバーも、PythonもGitHubもAzureも知らず、マイクロソフトはofficeソフトの会社と思っていた。そこからの現在。

RESERVED. 54 アナウンス私たちと一緒に働いていただけるコンサルタント、エンジニアも募集中以下サイトをご覧ください。 •AIビジネスプロジェクトマネージャ https://www.isidgroup.com/u/job.phtml?job_code=532 •データサイエンス・ビジネス開発エンジニア https://www.isidgroup.com/u/job.phtml?job_code=430 https://www.isidgroup.com/u/job.phtml?job_category_code=5&company_code=1

RESERVED. 55 以上

RESERVED. 56 CONFIDENTIAL 本文書（添付資料を含む）は、株式会社電通国際情報サービスが著作権その他の権利を有する営業秘密（含サプライヤー等第三者が権利を有するもの）です。当社の許可なく複製し利用すること、また漏洩することは「著作権法」「不正競争防止法」によって禁じられております。本資料内の社名・製品名は各社の登録商標です。

TechPlay_ISID_小川_公開用_AIテクノロジー部の研究開発と製品開発事例_191...

TechPlay_ISID_小川_公開用_AIテクノロジー部の研究開発と製品開発事例_191213.pdf

More Decks by TECH PLAY

Featured

Transcript