Upgrade to Pro — share decks privately, control downloads, hide ads and more …

ベイジアンネットワークとは / What is Bayesian network ?

Atom
January 24, 2019
370

ベイジアンネットワークとは / What is Bayesian network ?

(1) Stochastic graphical model
(2) What is Bayesian network?
(3) Probability propagation method
(4) Application to natural language processing

Atom

January 24, 2019
Tweet

More Decks by Atom

Transcript

  1. 参考文献・資料 書籍 [1] 小林一郎:人工知能の基礎,サイエンス社(2016) [2] 鈴木譲 他:確率的グラフィカルモデル,共立出版(2016) 資料 [3] 植野真臣:ベイズ的人工知能特論

    http://www.ai.lab.uec.ac.jp/ベイズ的人工知能特論/ [4] 秋葉友良:自然言語処理におけるベイジアンネット, 人工知能学会誌 Vol.17 No.5 (2002) 2
  2. (1) 確率的グラフィカルモデル 狭義:Bayesian Network と Markov Network を指す. 広義:グラフ表現された確率変数間の依存関係を扱う数理モデル しかし,すべての確率モデルに1対1対応のグラフ(パーフェ

    クトマップ:P-map) が存在するわけではない. ベイジアンネットワークはグラフ表現できる確率モデルのみを 扱うことにし,極小 I-map とd分離を導入し,対応を保証する. 4
  3. (1) 確率的グラフィカルモデル 計算量 精度 大 厳密解 厳密解 近似解 小 荒い近似解

    比較的少ない 高精度の近似解 5 ベイジアンネットワーク ボルツマンマシン 深層学習 マルコフ確率場 マルコフネットワーク
  4. ・素朴な確率推論 確率変数が2値しかとらなくても,10変数で1024パターンの 同時確率を推定する必要がある.(指数的に爆発) 6 (2) ベイジアンネットワークとは A B C D

    E F P(A,B,C,D,E,F) 0 0 0 0 0 0 0.02 0 0 0 0 0 1 0.08 0 0 0 0 1 0 0.11 ・ ・ ・ ・ ・ ・ ・ ・ ・ ・ ・ ・ ・ ・ ・ ・ ・ ・ ・ ・ ・ 1 1 1 1 1 1 0.03
  5. ・確率知識は,グラフ構造より次の関係を表している. , , , , = (|, ) ・これにより,確率知識の積で同時確率が計算可能(証明略) ,

    , , , , = , � , � , � � � ・パターンは4+4+4+2+1+1=16(素朴推論では26 = 64) 8 (2) ベイジアンネットワークとは
  6. ・ここで, (+) +,− は原因として与えられる確率で 決まる値であるから正規化定数 とする. ・ − , +

    は−と+が直接的因果関係がないので 条件付き独立となり, − , + = (−|) ∴ = � (−|) � (|+) ・再帰的な処理によって確率が伝播する 13 (3) 確率伝播法(親:1, 子:1) + −