Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
予測モデル with ベイズの定理 #TechLunch
Search
Livesense Inc.
PRO
April 23, 2014
Technology
0
72
予測モデル with ベイズの定理 #TechLunch
2012/03/21(水) @ Livesense TechLunch
発表者:福田 絵里
Livesense Inc.
PRO
April 23, 2014
Tweet
Share
More Decks by Livesense Inc.
See All by Livesense Inc.
27新卒_Webエンジニア職採用_会社説明資料
livesense
PRO
0
350
株式会社リブセンス・転職会議 採用候補者様向け資料
livesense
PRO
0
21
株式会社リブセンス 会社説明資料(報道関係者様向け)
livesense
PRO
0
1.4k
データ基盤の負債解消のためのリプレイス
livesense
PRO
0
400
26新卒_総合職採用_会社説明資料
livesense
PRO
0
9.1k
株式会社リブセンス会社紹介資料 / Invent the next common.
livesense
PRO
1
28k
26新卒_Webエンジニア職採用_会社説明資料
livesense
PRO
1
12k
中途セールス職_会社説明資料
livesense
PRO
0
250
EM候補者向け転職会議説明資料
livesense
PRO
0
120
Other Decks in Technology
See All in Technology
オフィスビルを監視しよう:フィジカル×デジタルにまたがるSLI/SLO設計と運用の難しさ / Monitoring Office Buildings: The Challenge of Physical-Digital SLI/SLO Design & Operation
bitkey
1
120
SRE不在の開発チームが障害対応と 向き合った100日間 / 100 days dealing with issues without SREs
shin1988
1
410
インフラ寄りSREの生存戦略
sansantech
PRO
7
2.6k
Reach American Airlines®️ Instantly: 19 Calling Methods for Fast Support in the USA
flyamerican
1
180
「クラウドコスト絶対削減」を支える技術—FinOpsを超えた徹底的なクラウドコスト削減の実践論
delta_tech
4
180
DBのスキルで生き残る技術 - AI時代におけるテーブル設計の勘所
soudai
PRO
54
21k
衛星運用をソフトウェアエンジニアに依頼したときにできあがるもの
sankichi92
1
160
ビジネス職が分析も担う事業部制組織でのデータ活用の仕組みづくり / Enabling Data Analytics in Business-Led Divisional Organizations
zaimy
1
220
関数型プログラミングで 「脳がバグる」を乗り越える
manabeai
2
210
改めてAWS WAFを振り返る~業務で使うためのポイント~
masakiokuda
2
300
What’s new in Android development tools
yanzm
0
460
敢えて生成AIを使わないマネジメント業務
kzkmaeda
2
470
Featured
See All Featured
A Tale of Four Properties
chriscoyier
160
23k
YesSQL, Process and Tooling at Scale
rocio
173
14k
Refactoring Trust on Your Teams (GOTO; Chicago 2020)
rmw
34
3.1k
Building a Modern Day E-commerce SEO Strategy
aleyda
42
7.4k
The Cult of Friendly URLs
andyhume
79
6.5k
How to train your dragon (web standard)
notwaldorf
96
6.1k
Reflections from 52 weeks, 52 projects
jeffersonlam
351
20k
The Art of Programming - Codeland 2020
erikaheidi
54
13k
[RailsConf 2023] Rails as a piece of cake
palkan
55
5.7k
Code Reviewing Like a Champion
maltzj
524
40k
GraphQLとの向き合い方2022年版
quramy
49
14k
GraphQLの誤解/rethinking-graphql
sonatard
71
11k
Transcript
予測モデル with ベイズの定理
•スパムメールか?否か? •携帯電話の買い替えが起こるか? •クレジットカードがどれくらい不正利用されるだろうか? •異性は次にどんな行動を取るか? 未来を予測する 予測モデルの 構築・適用
•会話 予測モデルの構築・適用例 付き合いが長いと、 相手の求めているも のが分かってくる 思った通りの行動を しなかった場合は、再学習 蓄積された データ
参照 登録 相手の表情・ 態度・言葉 発言 予測 モデル 「最近◦◦さんのことがよく分かっ てきた」 = 「最近◦◦さんについて予測モデ ルが出来上がってきた」
•Paul Grahamのスパム対策 → ベイジアンフィルタを考案 予測モデルの構築・適用例 学習量が増えると フィルタの分類精 度が上昇 個々の判定を間違えた
場合には、ユーザが正 しい内容に判定しなお し、再学習 数学モデル 数学モデル ( (ベイズ理論 ベイズ理論) ) スパムメール スパムではない メール トレーニング 用データ 参照 登録 元メール 再学習
未来を予測するための確率論 客観的確率論 主観的確率論 対 ・古典的、頻度主義 ・「このサイコロを無限回ふった ときに1の目が出る頻度」 ・(起こって欲しい事柄の数)/(全 ての可能性の事柄の数) =
確率 ・誰が計算しても同じ確率になる ・1980年代、コンピュータの分野 で盛んに ・ベイズ主義、ベイズの定理利用 ・「次にこのサイコロをふったと きに、1の目が出る確率」 ・確信が持てる度合い=確率 ・1990年代に広まり始める ex) モンティ・ホール問題 http://ishi.blog2.fc2.com/blog-entry-182.html 直感で正しいと思える解答 実際の解答 トーマス・ベイズ (1702年 - 1761年)
•もっとも簡単なベイズの技術 ベイズの定理をそのまま素直に適用したアルゴリズム (ナイーブ←「純粋でありのまま」) ベイズの定理の基本 『ナイーブベイズ』 データ アルゴリズム
モデル 出力 (有益な情報) 信頼度 •データの各属性を独立したものとして扱う データ「顧客」の属性の例:年齢、性別、地域、年収
•膨大なデータを実際的な洞察に変える手段を提供 ナイーブベイズの適用例 ネット関連 クリックストリーム分析、コンテンツの自動分類 自然言語処理 文字解析、文法解析 コールセンター 声の抑揚をマネージャへアラート 資源 石油・ガス・鉱物資源の発見、早期採掘
警察・消防 犯罪・火災の原因分析、予測と阻止 流通 最適な棚割りの発見、需要予測 医薬、医療 新薬開発のコストダウン、疾病の早期発見 宇宙工学 金属材料特性の改良、化学燃料の品質管理
•教師付きモデル (Supervised Model) 既に結果の分かっているデータを「教師」として、構築されるモデル •目的指向型モデル 予測することを目的に作られているモデル ナイーブベイズのモデル モデル 出力 (有益な情報)
信頼度 知見の可視化 知見の信頼度や 価値の評価
•予備法 (精度劣るが高速) ・全データのうち一定の割合を、モデル構築に利用 ・残りのデータを、モデル精度のテストに利用 →誤差率を算出 •相互検証法 (予備法よりも精度良い) ・モデル構築用データ、モデル精度テスト用データをすり替えて、 予備法をn回繰り返す →n個の誤差率が得られ、それらを平均した推定誤差を算出
•ブートストラップ (さらに精度良い) ・モデル構築までは、相互検証法と同じ ・ただしモデルテスト時、誤った予測が行われたデータの重みを調整 →予測精度の向上 ナイーブベイズモデルの精度測定
•クリックストリーム Webサイトの訪問者がページを渡り歩いた「軌跡」 •以下の問題の調査・改善に役立つ 使い勝手(ユーザビリティ)が悪いのはどの要素か? Webサイト全体の構成やナビゲーションに問題はないか? サイト運営者の意図通りに訪問者がサイトを使いこなしているか? など •ソリューション Apache Mahout
(Hadoopを利用し並列演算) HadoopディストリビューションのCDH3 (分析の高速化に貢献) TeradataベースのSingularityプロジェクト (ex. eBay) Coremetrics Analytics (トランスコスモス社販売のアクセス解析ツール) SAS, SPSS Extra : クリックストリーム分析
→次回 ナイーブベイズ実践