Nishika_Sleep_Condor_3rd_Solution.pdf

Transcript

1. 睡眠段階の判定 〜”睡眠の深さを判別しよう”〜 ソリューションについて Condor
2. ⽬次 • ⾃⼰紹介 • 解法の流れ • 効果的と考えられる部分 • まとめ
3. ⾃⼰紹介 • 現職 データサイエンティスト IT会社勤務 • 職歴 インフラ機器メーカー→⾃動⾞メーカー→IT会社 • 業務について インフラ機器 機械部品の開発/設計(板⾦や樹脂部品) ⾃動⾞ 不具合品情報のデータ分析、AI,ML活⽤ IT IPと位置情報等の付加情報を組み合わせる仕事
4. ソリューション概要 • 基本はPaper with Codeで最もスコアの良かったCatboostを⽤いた⼿法 “Do Not Sleep on Traditional Machine Learning: Simple and Interpretable Techniques Are Competitive to Deep Learning for Sleep Scoring“ • Gitの環境再現がうまくいってなかったので、コアの処理部分をチュー トリアルの中に移植した • 考えられる特徴量を⾜し引きしながら実装した。 • Catboostの機能で特徴量選定 • 年齢/性別/時間を追加 • モデルは深さ⽅向を変化させたVoting
5. 窓サイズについて • 基本は窓サイズが3つ • 窓の変化によって周波数系に影響があるのでは？→W120追加 -60 -30 0 30 60 W120 W90 W60 W30 追加分
6. 特徴量の作成 窓数→ Functi on E E G Fpz-C z E E G P z-O z E O G E M G features E E G Fpz-C z E E G P z-O z E O G E M G features T em p rectal features Ti m e-dom ai n std, i qr, skew ness, kurtosi s X X X X 16 X X X X 16 X 4 num ber of zero-crossi ngs X X X X 4 X X X X 4 X 1 H j orth m obi l i ty, H j orth com pl exi ty X X X X 8 X X X X 8 X 2 hi guch fractal di m ensi on, petrosi an fractal di m ensi on X X X X 8 X X X X 8 X 2 perm utati on entropy, bi nned entropy X X X X 20 X X X X 20 X 5 Frequency-dom ai n spectral Fouri er stati sti cs X X X X 16 X X X X 16 X 4 bi nned Fouri er entropy X X X X 28 X X X X 28 X 7 A bsol ute spectral pow er i n the 0. 4-30 H z band X X X 3 R el ati ve spectral pow er i n the appl i ed frequency bands X X X 18 fast del ta + theta spectral pow er X X 2 al pha / theta spectral pow er X X 2 del ta / beta spectral pow er X X 2 del ta / si gm a spectral pow er X X 2 del ta / theta spectral pow er X X 2 SU M FEA TU R ES 131 100 25 W 30, 60, 90 バンドパスなし add バンドパスあり W 30, 60, 90 m ei n W 120 3 1 3
7. 特徴量選択と追加 • 不⽤な特徴量も⼊ってそう… • 1448→ざっくり1000程度に減らしたい… Catboostにselect_featuresあり！ • 年齢、性別、時間（hour）を追加 年齢は20歳ごとに階層化(20-39,40-59,60-79,80-99) 時間は何時のデータかを使⽤(etc,21,22,23,0,1…) 性別は0,1
8. select_features 参考：select_features - CatBoost | CatBoost • ⽐較的容易に特徴量を選定可能
9. 性別と年齢と時間 • 性別による影響を考慮 →男⼥によって加齢による影響が⼤きいと判断 脳波に関する論⽂も散⾒ 保健医療科学．2015;64(1) (niph.go.jp) • 年齢 →⾼齢なほど脳波に影響あり ⼩児や⾼齢者の脳波に特徴あり 年齢による脳波の違い - 脳波判読のための基礎★ - Cute.Guides at 九州⼤学 Kyushu University (kyushu-u.ac.jp) • 時間 ⼈間が判定するときに参考にするのでは？と思い追加（完全に主観です。） 経過時間よりも何時かを表した⽅が良さそうなので時間成分のみ特徴量に追加
10. モデル • Catboost (depth=3,5,7) verbose=100, max_depth=3 or 5 or 7 n_estimators=2_100 task_type='GPUʼ Votingを採⽤ • StratifiedGroupKFold n_splits=20,shuffle=True • gkfold.split subject_id Voting Depth=3 Depth=5 Depth=7
11. 全体のフロー 窓関数に よる処理 シフト 結合 特徴量削 減＋年齢 性別時間 付加 学習データ Merge Shift W30 W60 W90 Shift W120 Shift W30 W60 W90 あ り な し EEG EOG EMG 同上 Temp rectal イン プット 学習 結果 結果出⼒ Depth=3 学習データ Depth=5 学習データ Depth=7 学習データ バンドパス
12. 効果が⼤きかった部分 • 特徴量の増加に効果あり。 バンドパスなしのW120の時に 精度向上 • 性別、年齢が効果あり 特に年齢のまとめ⽅で精度に影響 これはテストデータの分布が 特異的なことに影響か。 train test
13. 試してない要素 • 他の学習モデル • ハイパーパラメータの調整 • アンサンブル⼿法変更 • 異なる特徴量の⽣成 信号処理系に良いのがあるのか未調査
14. ありがとうございました。