Slide 5
Slide 5 text
NNは学習設定が多く、学習結果の要因が分析しにくい
特徴選択, アーキテクチャ, Loss, ミニバッチ方法, Optimizer, Epoch数, 学習率, 正則化 etc…
Forumでのアイデア共有があっても、設定の違いにより上手くいかないケースがある
初期値のseedを変更するだけパフォーマンスが大きくかわる
・設定した初期化分布からパラメータの初期値をサンプル
再現性を考慮した評価に基づいたモデル選択が必要
・K-foldや初期値のseed値を変えて複数モデルを構築し、
評価やアンサンブルをすることで安定化
5
NNの評価に課題がある
初期値によって評価が変動し、再現性を担保しにくい
結果的に検証コストが高くなる