Upgrade to Pro — share decks privately, control downloads, hide ads and more …

Decentralized Federated Learning with Blockchain

Decentralized Federated Learning with Blockchain

非中央集権な連合学習について

Yoshio Sugiyama

July 14, 2022
Tweet

Other Decks in Technology

Transcript

  1. 杉山 禎夫
    ディープラーニングで実現するイノベーション
    非中央集権の連合学習

    View full-size slide

  2. 自己紹介

    View full-size slide

  3. 本日のお話
    非中央集権の連合学習とは
    連合学習の懸念とは
    連合学習とは

    View full-size slide

  4. 自社だけだと足りないので、
    他社と一緒にできないだろうか。
    プライバシー保護の観点から
    容易に移動できません。
    地理的に離れた場所にあります。
    もし、学習に使いたいデータが、、

    View full-size slide

  5. 各拠点で学習した結果を
    集めてモデルを更新
    • よさそう
    • 連合学習 といいます
    データを集めて学習
    • 一箇所に集めるの大変
    • プライバシー保護に懸念
    各拠点で個別に学習
    • データを活かせていない
    • 精度に課題
    こんなアプローチがありそうです

    View full-size slide

  6. リーダーがモデルを
    用意
    モデルをエッジに配

    エッジで学習
    学習結果をリーダー
    に集約
    リーダーが学習結果
    をマージ
    マージした学習結果
    でモデルを更新
    を繰り返します。
    連合学習とは
    学習結果をリー
    ダーに返却
    リーダーのモデル
    をエッジに配布
    エッジで学習
    エッジで学習
    エッジで学習
    学習結果を
    マージして、
    モデルを更新

    View full-size slide

  7. • 学習結果から学習
    データを推測
    • 恣意的なモデルの
    マージ
    • 最終的なモデルは
    リーダーが所持
    • リーダーが
    単一障害点
    連合学習の懸念 中央集権的なリーダーの存在
    学習結果をリー
    ダーに返却
    リーダーのモデル
    をエッジに配布
    エッジで学習
    エッジで学習
    エッジで学習
    学習結果を
    マージして、
    モデルを更新

    View full-size slide

  8. 連合学習の懸念

    View full-size slide

  9. エッジで学習
    非中央集権の連合学習に必要なもの
    エッジで学習
    エッジで学習
    エッジで学習
    考えられる要件
    • エッジ間を で接続
    • 学習に参加しているエッジの把握
    • マージ担当者の動的な選択
    • 学習状況の記録、共有
    • 最終的なモデルはエッジに
    の特徴
    • データは各システムで保持
    • リーダー不在
    • 改ざんが非常に困難
    • 記録は消せない

    View full-size slide

  10. ディープラーニングに使用したいデータが、地理的に離れた場所にある、プライバシー保
    護の観点からデータの共有が困難であるときなどに、連合学習というアプローチがありま
    す。
    一般的な連合学習は、プライバシーの保護などに懸念があります。
    連合学習を非中央集権 とすることで、連合学習の懸念が解消できます。
    非中央集権の連合学習の実現には学習状況の共有方法などクリアすべき課題があります。
    非中央集権の連合学習の課題の解決には、 が有効と考えられています。
    まとめ

    View full-size slide

  11. コミュニティ版 無料 と
    エンタープライズ版 があります
    含むすべてのコンポー
    ネントはコンテナで動きます
    や のコードに
    入れるだけで使えます
    宣伝
    エッジで学習
    を使った 非中央集権 の連合学習のソリューションです。

    View full-size slide