Decentralized Federated Learning with Blockchain

非中央集権な連合学習について

Transcript

1. 杉山 禎夫
   ディープラーニングで実現するイノベーション
   非中央集権の連合学習
   

   View Slide

2. 自己紹介
   

   View Slide

3. 本日のお話
   非中央集権の連合学習とは
   連合学習の懸念とは
   連合学習とは
   

   View Slide

4. 自社だけだと足りないので、
   他社と一緒にできないだろうか。
   プライバシー保護の観点から
   容易に移動できません。
   地理的に離れた場所にあります。
   もし、学習に使いたいデータが、、
   

   View Slide

5. 各拠点で学習した結果を
   集めてモデルを更新
   • よさそう
   • 連合学習 といいます
   データを集めて学習
   • 一箇所に集めるの大変
   • プライバシー保護に懸念
   各拠点で個別に学習
   • データを活かせていない
   • 精度に課題
   こんなアプローチがありそうです
   

   View Slide

6. リーダーがモデルを
   用意
   モデルをエッジに配
   布
   エッジで学習
   学習結果をリーダー
   に集約
   リーダーが学習結果
   をマージ
   マージした学習結果
   でモデルを更新
   を繰り返します。
   連合学習とは
   学習結果をリー
   ダーに返却
   リーダーのモデル
   をエッジに配布
   エッジで学習
   エッジで学習
   エッジで学習
   学習結果を
   マージして、
   モデルを更新
   

   View Slide

7. • 学習結果から学習
   データを推測
   • 恣意的なモデルの
   マージ
   • 最終的なモデルは
   リーダーが所持
   • リーダーが
   単一障害点
   連合学習の懸念 中央集権的なリーダーの存在
   学習結果をリー
   ダーに返却
   リーダーのモデル
   をエッジに配布
   エッジで学習
   エッジで学習
   エッジで学習
   学習結果を
   マージして、
   モデルを更新
   

   View Slide

8. 連合学習の懸念
   

   View Slide

9. エッジで学習
   非中央集権の連合学習に必要なもの
   エッジで学習
   エッジで学習
   エッジで学習
   考えられる要件
   • エッジ間を で接続
   • 学習に参加しているエッジの把握
   • マージ担当者の動的な選択
   • 学習状況の記録、共有
   • 最終的なモデルはエッジに
   の特徴
   • データは各システムで保持
   • リーダー不在
   • 改ざんが非常に困難
   • 記録は消せない
   

   View Slide

10. ディープラーニングに使用したいデータが、地理的に離れた場所にある、プライバシー保
    護の観点からデータの共有が困難であるときなどに、連合学習というアプローチがありま
    す。
    一般的な連合学習は、プライバシーの保護などに懸念があります。
    連合学習を非中央集権 とすることで、連合学習の懸念が解消できます。
    非中央集権の連合学習の実現には学習状況の共有方法などクリアすべき課題があります。
    非中央集権の連合学習の課題の解決には、 が有効と考えられています。
    まとめ
    

    View Slide

11. コミュニティ版 無料 と
    エンタープライズ版 があります
    含むすべてのコンポー
    ネントはコンテナで動きます
    や のコードに
    入れるだけで使えます
    宣伝
    エッジで学習
    を使った 非中央集権 の連合学習のソリューションです。
    

    View Slide

12. View Slide