Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
了解朴素贝叶斯
Search
yafei002
January 09, 2017
Technology
1
210
了解朴素贝叶斯
yafei002
January 09, 2017
Tweet
Share
More Decks by yafei002
See All by yafei002
了解人工神经网络
yafei002
1
190
了解K-Means算法
yafei002
1
190
了解KNN算法
yafei002
0
160
了解决策树和C4.5算法
yafei002
1
230
数据可视化之视觉感知与认知
yafei002
1
330
数据可视化之地理信息可视化
yafei002
1
310
数据可视化之层次和网络数据可视化(上)
yafei002
1
320
数据可视化之复杂高维多元数据的可视化(上)
yafei002
1
270
Data Visualization Introduction and History
yafei002
1
300
Other Decks in Technology
See All in Technology
Building a RAG-poweredAI chat appwith Python and VS Code
pamelafox
0
160
Improve Your Development Workflow with Gemini Code Assist
meteatamel
0
130
R3のコードから見る実践LINQ実装最適化・コンカレントプログラミング実例
neuecc
3
2.6k
Cypress or Playwright?
rainerhahnekamp
0
170
いつか使うかも貯金してたらめちゃめちゃ機能が増えてた話
riyaamemiya
0
620
Gradle Build Scanを使ってビルドのことを知ろう potatotips #87
tomorrowkey
2
160
M5と自作基板をくっつけてみた〜M5 Japan Tour 2024 Spring 福冈 (Fukuoka|福岡)〜
keropiyo
0
120
KubeConにproposalを送りたい人へのアドバイス
sat
PRO
3
270
推しは推せるときに推せ! プロダクトにフィードバックしていこう
nakasho
0
460
リテール金融(キャッシュレス・ネット銀行・ネット証券)の競争環境と経済圏
8maki
0
1.6k
IaCジェネレーターとBedrockで詳細設計書を生成してみた
tsukasa_ishimaru
4
890
Além do else! Categorizando Pokemóns com Pattern Matching no JavaScript
wmsbill
0
710
Featured
See All Featured
Being A Developer After 40
akosma
66
580k
Building Adaptive Systems
keathley
32
1.9k
Designing for Performance
lara
601
67k
Designing the Hi-DPI Web
ddemaree
276
33k
Why You Should Never Use an ORM
jnunemaker
PRO
51
8.7k
The Psychology of Web Performance [Beyond Tellerrand 2023]
tammyeverts
14
1.5k
Writing Fast Ruby
sferik
622
60k
Reflections from 52 weeks, 52 projects
jeffersonlam
345
19k
Java REST API Framework Comparison - PWX 2021
mraible
PRO
18
6.9k
Product Roadmaps are Hard
iamctodd
45
9.7k
Embracing the Ebb and Flow
colly
80
4.2k
4 Signs Your Business is Dying
shpigford
176
21k
Transcript
了解朴素贝叶斯(Naive Bayes) yafei002
概念 • 如果X表示属性集,Y表示类变量,且类变量和属性之间的关系不确定,则可以把X和 Y看作随机变量,P(Y|X)这个条件概率称为Y的后验概率,P(Y)称为Y的先验概率 • 贝叶斯公式 P(X)是常数,P(Y)表示每个类的训练记录所占的比例,容易估计,则最终归结为估计 P(X|Y),其中一种方法是使用朴素贝叶斯分类器 ) (
) ( ) | ( ) | ( X P Y P Y X P X Y P
朴素贝叶斯 • 条件独立性 • 设X,Y和Z表示三个随机变量的集合, 若X和Y之间条件独立 P(X,Y|Z)=P(X|Z)*P(Y|Z) • 条件独立假设:假设属性之间相互 独立
其中每个属性集X={X1,X2,…Xd}包含 d个属性 • 意义 • 多维变量的问题被约减为单变量估计 问题 • 单变量分布估计更简单,也被研究的 更透彻,达到同一精度需要的训练规 模更小
估计分类属性的条件概率 P(婚姻状况=单身|Yes)=2/3 估计连续属性的条件概率:假设连续变量服 从某种概率分布,一般用高斯分布 朴素贝叶斯 朴素贝叶斯分类器对每个类Y计算后验概率
朴素贝叶斯 P(No|X)=0.7*P(X|No)/P(X)=0.0016/P(X) P(Yes|X)=0.3*0/P(X)=0 因为P(No|X)> P(Yes|X) 所以记录分类为No
朴素贝叶斯的特点 • 容易构造,不需要复杂的迭代求解框架,因此非常适用于规模巨大的数据集 • 容易解释 • 更重要的是即使不是最好的分类方法,通常也是非常稳健的 • 面对孤立的噪点 •
面对无关属性 • 相关的属性会降低分类器的性能,因为条件独立假设已不成立
参考资料 PANG-NINGTAN, MICHAELSTEINBACH, & VIPINKUMAR. (2011). 数据挖掘导 论:完整版. 人民邮电出版社. 吴信东,
& VipinKumar. (2013). 数据挖掘十大算法. 清华大学出版社.