OpenAI_Daybreak_Blueゲットして_vibe脆弱性診断を始めた.pdf

1. OpenAI Daybreak Blueゲットして、 vibe脆弱性診断を始めた Niten Nashiki
2. vibe脆弱性診断 前書き - 情報漏えいで会社が吹き飛ぶ夢を年に3回見る - 経験があっても、自分のシステムに残る穴は気になる - LLMと診断ツールの組み合わせを試したい - 通常GPTはアクセス確認で止まり、OpenAI Daybreak Blue申請へ 2
3. vibe脆弱性診断 前書き - Shannonで13件のアプリの指摘候補 - Azureの設定とデプロイ先も確認 3
4. vibe脆弱性診断 Shannonは、何をしてくれるのか - https://github.com/KeygraphHQ/shannon - Webアプリ・API向けのAIペネトレーションテスター - ソースコードと稼働アプリを調査 - 通常モードでは、攻撃の成立を証拠付きで報告 4
5. vibe脆弱性診断 Shannonは、何をしてくれるのか - ソース・ブラウザ・HTTPで分野別に調査 - 候補の引き継ぎから実証・レポートまで - 実行状態を保存し、中断した続きから再開 5
6. vibe脆弱性診断 診断を始める前に、OpenAI側で止まった - OpenAiCyberAccessError - ChatGPTサブスクのOAuth経由で接続 - ログイン成功後、cyber accessの確認で停止 - 事前確認でも、攻撃の実証に近い依頼 6
7. vibe脆弱性診断 Daybreak BlueとRedを知る - Daybreak：承認された利用者向けのアクセス - Blue：防御目的の調査で拒否を減らす - Red：高度な研究・実証向けに別途承認 7
8. vibe脆弱性診断 Daybreak BlueとRedを知る - レッドは攻撃者視点、ブルーは防御・検知・復旧 - 通常モデルでもレビューや修正はできる - 当時の個人向け申請経路はBlueのみ 8
9. vibe脆弱性診断 daybreakを試すために、物理キーを注文した - YubiKeyの2本セットを注文 - 商品68ドル＋送料10ドル＝78ドル - 今回の購入費：約12,800円 9
10. vibe脆弱性診断 daybreakを試すために、物理キーを注文した - Macに挿し、OpenAIの設定画面で登録 - 「タップ」はキー本体に指を触れること - 2つ目のログイン方法・復旧手段・本人確認 10
11. vibe脆弱性診断 daybreakを試すために、物理キーを注文した - 承認後、Daybreakを有効にできるように - ShannonのOAuthも再ログイン - モデル接続とcyber accessの確認が成功 11
12. vibe脆弱性診断 Blueを取れば、どのモデルでも 同じというわけではない - モデルとアクセス区分の 組み合わせで変わる 12
13. vibe脆弱性診断 Blueを取れば、どのモデルでも 同じというわけではない - 今回使ったのは、Blue対象のGPT-6 Sol - GPT-6.1 Sol／Astraの拒否低減にはRed承認 13
14. vibe脆弱性診断 昔作ったアプリを、 壊しても戻せる状態で用意する - 対象は、昔自分が趣味で作ったWebアプリ - アプリはMac上でローカル起動 - Shannon側は公式のDocker workerを使用 14
15. vibe脆弱性診断 最初の診断では、攻撃実証を無効にした - Shannon 3.4.0／exploit: "false" - 画面・API・コードを分析するプロファイル - DB初期化・ユーザー管理・有料呼び出しは対象外 15
16. vibe脆弱性診断 ローカルで再現した2つの問題 - 一般メンバーが、管理者向けのユーザー作成・削除を実行できた - 入力エラー時に、受け取った本文全体がログに残った 16
17. vibe脆弱性診断 MCPアプリの構成 MCPクライアント HTTPS・APIキー Azure Container Apps Supergateway 標準入力・標準出力 Fetch MCP HTTPS 外部のWebページ 17
18. vibe脆弱性診断 インフラの設定も確認してもらった azで確認した項目 記録に残った状態 アプリとリビジョン Running / Healthy デプロイしたイメージ アプリ参照とACRのdigestが一致 イメージ取得の権限 専用IDに対象ACRのAcrPull アプリの入口 HTTPS、送信元IPの許可設定 APIキー Secretをファイルとしてマウント スケール・ログ レプリカ設定と実ログを確認 18
19. vibe脆弱性診断 デプロイ済みアプリへのテスト 5クラスを解析し、範囲内で可能なテストを実行 5クラス 調べること パラメータを変える Injection 意図しない処理の実行 max̲length: 0 XSS ブラウザーでのスクリプト実行 start̲index: -1 認証 APIキーなどの確認の回避 timeout̲ms: 99 認可 許可外の操作・データへのアクセス SSRF 意図しない取得先へのアクセス raw: "yes" 境界値と型の違いを試行 認証・SSRFは実証工程も実行。 19
20. vibe脆弱性診断 まとめ - YubiKeyと本人確認を経て、Shannonの診断を実行 - ローカルで13件の指摘候補から2件を限定して再現 - Azureの設定と、デプロイ済みアプリも確認できた - できた範囲を設定・通信・ログから説明できる - 年に3回の悪夢が減ったらいいなと思います 20