そこにAIはあるか？

Security.any #10 愛（AI）したセキュリティLT 登壇スライドです。
https://security-any.connpass.com/event/387490/

Transcript

1. そこにAIはあるか？ 2026/05/21 Security.any #10 愛（AI）したセキュリティLT RYO
2. RYO • セキュリティエンジニア（～３月） ◦ AWS・脆弱性管理・リスクアセスメント・脅威モデリング・OIDC/OAuth・CTF • セキュリティコンサルタント（４月～） ◦ AWS・テスト戦略・Agile・AI • 二児の父 👦 👧 L Security Engiineer Security Consultant 2
3. AIの登場によりこんな経験はありませんか？ 3 実装できましたー
4. AIの登場によりこんな経験はありませんか？ 4 実装できましたー この判定ロジックは必要なの？ これは何のパラメータ？
5. AIの登場によりこんな経験はありませんか？ 5 実装できましたー この判定ロジックは必要なの？ これは何のパラメータ？ AIが書いたのでわかんないすねー
6. AIの登場によりこんな経験はありませんか？ 6 実装できましたー この判定ロジックは必要なの？ これは何のパラメータ？ AIが書いたのでわかんないすねー AIが書いたからわからない
7. AIを利用するシーンは拡大している • コーディング以外でもAIが利用される場面は増えてき た • 設計 • 脆弱性診断 • ログ分析 …etc • 一見すると従来よりも品質が爆上がりしそうな気がし ないでもない... 👀 7
8. AIが作ったものは常に正しいのか？ • AIが生成した成果物は結構イイ感じに見える • うまく動きそうな気がするコード • 見栄えが整っていて網羅されていそうな表 • 言っていることは正しそうな解説 • しかし、正しいかどうかは 人 が判断しなければなら ない • AIはあくまでツールの1つでしかない 8
9. AIがあるように見えて、ない • もしAIが生成した成果物を人が正しいかどうか検証 するプロセスを省いたら...？（もしくは、検証できない としたら...？） • その成果物は価値がない（かもしれない） • 脆弱性が潜んでいるかもしれない💣 9
10. AIでありがちな実装 10
11. セキュリティ対策が実装されない • XSS・CSRF・SQLインジェクションなどの対策が抜け落ちて しまう • URLさえ知っていれば認証なしで誰でも機密情報を閲覧 可能なサイトになっている 11
12. AIが非推奨な機能を提案する • 生成AIの学習データが常に最新＆ベストプラクティスと は限らない • 非推奨の技術を提案された結果、採用されてしまう 12
13. 保守できない • AIが生成したコードは動作するが、人が読めない（意図 がわからない）場合が多い • 後日、改修しようとしても人もAIですらコードの意図が読 み取れず、余計に時間がかかる 13
14. 入力チェックが甘い • 例外的な入力・データ不整合に対する処理が入っていな い • 例）金額を入力すべきところに文字列を入れると... • エラーになればマシ、誤ったデータが登録されてしまう場 合もある 14
15. AIを正しく使うことが大切 • AIを正しく活用してこそ価値が生まれる • AIの成果物を検証できない時点で既に何か間違っている • では、正しく使う上での心構えは...❓ 15
16. AIとの向き合い方 16
17. AIに丸投げしない • AI は「判断」ではなく「判断材料の整理」が得意 • なので、AIに自分の仕事を丸投げしない • AIはあくまで人間の業務をサポートするツールの1つとして使う 17
18. AIに丸投げしない • 昨今、AIのおかげでコーディングスキルがなくてもWeb サービスを作ったと話題に... • これは半分正しく半分間違っていると個人的には思う • そのサービスが安全かテストしたか？ 18
19. AIを過信しない • 作る過程でAIの答えを鵜吞みにしない • AIが書いてくれるから • AIが設定してくれるから • AIが教えてくれるから • AIが守ってくれるから 　　　　　　　→ これらはすべて 19 幻想
20. AIを過信しない • 主体はあくまで人 • AIが書いてくれるから → 人がAIに書かせる • AIが設定してくれるから → 人がAIに設定させる • AIが教えてくれるから → 人がAIからヒントをもらう • AIが守ってくれるから → 人がAIに守らせる 20
21. AIを元に正解を探し出す • AIが出した答えが正しいか判断できなければ、そこに 価値はない • AIが出した答えを人が正しいと判断できて、初めて価 値が生まれる 21
22. まとめ • AIを使って何か生成するとき、ぜひ自分に問いかけ てみてください • そこにAIはあるか？ • 責任の所在はいつも人 22
23. FIN ご清聴ありがとうございました 23
24. www.PresentationGO.com The free PowerPoint and Google Slides template library Designed with by