実は簡単!? AIを攻撃してみよう

Transcript

1. 実は簡単!? AIを攻撃してみよう KOTOKAZE
2. この違いは？というお話です 出典: https://arxiv.org/pdf/1707.07397.pdf 亀を ジグソーパズル と分類している
3. そもそもAIって？ 学習 推論 認識 記憶 の４つをコンピュータ上で行うもの
4. AI の分類 人工知能 機械学習 (ML) 深層学習 (DL) ML • 要設定 DL • 自動チューニング
5. 機械学習 (ML) の分類 機械学習 教師あり • 分類 • 回帰 教師なし 強化学習
6. 教師あり学習 分類 学習データ 判定したいもの 回帰 今後の 課金額 予測 年齢 性別 過去の 課金額 ログイン 日数 平均 ログイン 時間 ラベリング済み画像 出典: http://www.cs.toronto.edu/~kriz/cifar.html
7. 教師なし学習: データの自動分類 0 0.5 1 1.5 2 2.5 3 3.5 0 0.5 1 1.5 2 2.5 3
8. 強化学習 環境 エージェント ① 状態 ② 行動 ③ 報酬
9. モデルへの攻撃の余地 学習データの 収集・作成 モデルの学習 推論 学習データ汚染 学習モデル汚染 クエリ
10. 画像分類器 (CNN) の学習の仕組み 出典: https://pytorch.org/tutorials/beginner/blitz/neural_networks_tutorial.html 猫: 98.3% 熊: 0.14% 猫の確率が上がるよう ウェイトを調整
11. 敵対的サンプル (Adversarial Examples) 出典: http://www.iro.umontreal.ca/~memisevr/dlss2015/goodfellow_adv.pdf
12. AEs 攻撃の仕組み 出典: https://pytorch.org/tutorials/beginner/blitz/neural_networks_tutorial.html 猫: 5.14% 熊: 99.2% 上から重ねる 摂動を調整 学習済みなので ウェイトは不変