Post-hoc EMA - EMAの減衰パラメータの事後最適化
- 通常のEMAの指数減衰ではランダムな初期パラメータの影響が大きす ぎるため、べき関数を用いた重み付けを定式化
- 複数の減衰パラメータのcheckpointを一定間隔で保存しておくこと で、減衰パラメータを事後的に最適化することを提案
- Kaggleとかでも使えそう!
yu4u
July 29, 2024
- 通常のEMAの指数減衰ではランダムな初期パラメータの影響が大きす ぎるため、べき関数を用いた重み付けを定式化
- 複数の減衰パラメータのcheckpointを一定間隔で保存しておくこと で、減衰パラメータを事後的に最適化することを提案
- Kaggleとかでも使えそう!