異常検知パッケージを作ってみたお話 / Create Python package for anomaly detection

https://atnd.org/events/96739?k=0a6c00b5543700d21cc9d38d9f2e56f6

Transcript

1. 異常検知パッケージを作ってみたお話 Netadashi Meetup #6 Jun 29, 2018
2. Yu Ohori (a.k.a. Kon) ML Researcher at NSSOL (2017-) • semi-supervised learning • anomaly detection PyCon JP Staff (2018-) @Y_oHr_N @Y-oHr-N 2
3. 我々は通常と異なる挙動（異常）に関心がある サーバに対する不正アクセス (intrusion detection) クレジットカードの不正利用 (fraud detection) 医療誤診 (medical anomaly detection) 設備故障 (industrial damage detection) 3
4. 4 異常は大きく 3 種類に分けられる Chandola, V., et al., "Anomaly detection: A survey," ACM computing surveys, 41(3), 2009. point anomaly contextual anomaly collective anomaly
5. kenchi is a scikit-learn compatible library for anomaly detection 5 https://github.com/HazureChi/kenchi
6. これからのお話 異常検知パッケージ kenchi について 開発時に利用した サービスについて 6
7. 7 https://github.com/scikit-learn-contrib/project-template 利用サービス一覧 Travis CI Coveralls Read the Docs AppVeyor Code Climate Anaconda Cloud binder GitHub PyPI build push, pull request upload hook
8. GitHub ソースコードをホスティングするサービス • Issue, Label, MileStone で進捗管理 • Redmine? JIRA? 知らない子ですね 8
9. Travis CI Linux, macOS に対応した CI サービス push, pull request 時に hook で起動 • テストに失敗すると通知 • Coveralls を起動 9
10. AppVeyor Windows に対応した CI サービス push, pull request 時に hook で起動 • テスト，ビルドに失敗すると通知 10
11. Coveralls テストカバレッジを計測するサービス（16 言語対応） • 最近は Codecov が優勢？ push, pull request 時に Travis CI から起動 11
12. Code Climate ソースコードの品質を検査するサービス（8 言語対応） • テストカバレッジを計測可能 • PEP8, Radon プラグインの追加を推奨 push, pull request 時に hook で起動 12
13. Read the Docs Sphinx ドキュメントをホスティングするサービス push, pull request 時に hook で起動 • ドキュメントのビルドを実行 13
14. PyPI Python パッケージを管理するサービス $ python setup.py sdist bdist_wheel $ twine upload dist/* $ pip install <package> 14 https://packaging.python.org/tutorials/packaging-projects/
15. Anaconda Cloud Python パッケージや環境の諸々を管理するサービス $ conda skelton pypi <package> $ conda build <package> $ anaconda login $ anaconda upload \ > ~/miniconda/conda-bld/<platform>/kenchi-<version>-<pyversion>.tar.bz2 $ conda install -c <channel> <package> 15 https://conda.io/docs/user-guide/tutorials/build-pkgs-skeleton.html
16. binder Git リポジトリから Jupyter サーバを構築するサービス https://mybinder.org/v2/gh/<org-name>/<repo-name>/<branch|tag|hash-name>?filepath=<path-to-file> • Project Jupyter が 2016 年にリリース • 誰でも，いつでも，どこでも，環境を再現可能 • 内部で repo2docker を利用 16 Freeman J., and Osheroff, A., "Toward publishing reproducible computation with binder," eLife, 2016.