機器學習超入門

介紹Naive Bayes演算法

Transcript

1. 機器學習超入⾨門—Naive Bayes Hai Feng Kao iOS@Taipei 2018/5/15
5. Naive Bayes
6. Naive Bayes
8. Bayes • 反：是反社會⼈人格 • 嘴：會說話 • ⽯石：鐵⽯石⼼心腸 • P(反、嘴、⽯石) • = P(反|嘴、⽯石) *P(嘴、⽯石) • = P(嘴、⽯石|反)*P(反) • = P(嘴|⽯石、反)*P(⽯石|反)*P(反) Naive Bayes • 假設反和嘴是獨立事件 • P(反、嘴、⽯石) • = P(嘴|反)*P(⽯石|反)*P(反) • 我們想知道⼀一個會說話⼜又鐵⽯石⼼心 腸的⼈人是不是反社會⼈人格 • P(反|嘴、⽯石) • = P(嘴|反)*P(⽯石|反)*P(反) / P(嘴、⽯石)
10. Independent Events • P(A, B) = P(A)*P(B)
11. 範例例 • P(⽯石) = P(⽯石|正常⼈人) + P(⽯石|反) • =0.01 * 0.96 + 0.99 * 0.04 • = 0.0492 • P(反|⽯石) • = P(⽯石|反)*P(反) /P(⽯石) • = 0.99 * 0.04 / 0.0492 • = 0.804
12. 範例例 • 把會不會說話加進來來考慮 • P(反|嘴、⽯石) • = P(嘴|反)*P(⽯石|反)*P(反) / P(嘴、⽯石) • = 0.99 * 0.99 * 0.04 / P(嘴、⽯石)
13. 範例例 • 假設有30%的正常⼈人也很會說話 • P(正常⼈人|嘴、⽯石) • = P(嘴|正)*P(⽯石|正)*P(正) / P(嘴、 ⽯石) • = 0.3 * 0.01 * 0.96 / P(嘴、⽯石) • 因為P(正常⼈人|嘴、⽯石) + P(反|嘴、⽯石) = 1.0 • P(嘴、⽯石) = 0.3 * 0.01 * 0.96 + 0.99 * 0.99 * 0.04 = 0.042 • P(反|嘴、⽯石) = 0.99 * 0.99 * 0.04 / 0.042 = 0.91
14. Bayesian Network • 如果變數之間有相關性
15. Bayesian Network • 只要少量量的資料就可以建立模型 • 數字有意義，可以檢查那部分的 數字不對
16. Deep Learning • 需要⼤大量量的訓練資料 • 不知道數字代表什什麼
17. 未解的問題 • 可以結合⼆二種⽅方法，得到⼀一個可 以理理解的模型嗎？