これ１kumamoto_ai_guideline.pdf

Transcript

1. 令和8年 熊本地震 被災時のAI利用ガイドライン 生成AI・チャットボットを、発災直後の現場でどう使うか AGI福岡 ライトニングトーク（5分） 2026年7月29日 浅野環（あさのたまき） 株式会社セキュリティパートナー 代表 security-partner.net サプライチェーンセキュリティが、最近の関心事
2. 現状：発災から数時間 2026年7月28日 16時27分頃発生／気象庁・NHK報道より M7.1 震度7 震度6強 推定マグニチュード 宇城市・氷川町で観測 熊本市南区・八代市など 被害・影響の状況 ▪ 多数の負傷者、複数の安否不明者（NHK報道） ▪ 商業施設で爆発が発生、従業員の安否確認が続く ▪ JR九州が全列車の運行を見合わせるなど交通網が遮断 ▪ トヨタ・ホンダの九州工場が稼働停止 — 半導体サプライチェーンにも影響 ▪ 有明・八代海に津波注意報、停電・通信障害も発生 情報は速報段階のもので、今後変動します。出典：NHKニュース、Yahoo!天気・災害、tenki.jp（2026/7/28時点） AGI福岡 ライトニングトーク｜株式会社セキュリティパートナー
3. なぜ、いまガイドラインが必要か 便利さの裏で、発災直後ならではのリスクが顕在化する 1 2 3 デマ・誤情報の拡散 個人情報の漏洩 AIへの過信 生成AIの要約や画像が 未検証のまま拡散される 安否確認・避難先などの 機微情報が外部に流出する 生命に関わる判断まで AI任せにしてしまう 本ガイドラインは、九州の防災・情報セキュリティ支援の実務知見をもとにまとめたものです。 現時点の速報・実務知見に基づく試案。今後の状況に応じて更新します。 AGI福岡 ライトニングトーク｜株式会社セキュリティパートナー
4. 基本原則 誰が使う場合にも共通する、4つの土台 1 一次情報で必ず裏取り 2 気象庁・自治体・消防など公式発表と照合してから 行動する 3 個人情報は最小限に 位置情報・家族構成など機微情報の入力は慎重に判 断する 人間の最終判断を必須に 救助要請など生命に関わる判断はAI任せにしない （Human-in-the-loop） 4 通信途絶を前提に設計 オフライン動作や防災無線・SMSとの併用を用意し ておく 市民・被災者、開発者・提供者、自治体・支援団体向け 注意事項は次ページから 基本原則 — 被災時のAI利用ガイドライン AGI福岡 ライトニングトーク｜株式会社セキュリティパートナー
5. 市民・被災者向け 自分と家族の安全を守るために 避難生活の中で生成AI・チャットボットに触れるすべての人へ ✓ Do — 心がけたいこと ▪ 公式アカウント・防災アプリの情報を優先する ✕ Don't — 避けたいこと ▪ 緊急の救助要請をAIチャットボットだけに頼らない（110 ／119へ） AIの回答は『参考情報』として扱い、鵜呑みにしない 不審なAI生成画像・動画は、共有する前に一呼吸置いて確 認する 市民・被災者向け — 被災時のAI利用ガイドライン 家族構成・避難先など機微な情報を安易にAIへ入力しない 未確認のAI要約情報をそのままSNSで拡散しない AGI福岡 ライトニングトーク｜株式会社セキュリティパートナー
6. 開発者・提供者向け 支援ツールを作る・提供する人へ 善意の早さが、誤情報の速さにもなり得ることを踏まえて設計する ✓ Do — 心がけたいこと ▪ 出典・信頼度と『AIによる生成／要約である旨』を明示 する 誤情報の報告・訂正フローをあらかじめ用意しておく ✕ Don't — 避けたいこと ▪ 未検証のままAIが自動発信する仕組みにしない 必要以上に個人情報を収集・保持しない 単一の情報源・単一モデルにすべてを依存させない 自治体・防災機関と平時から連携し、情報の正確性を担保 する 開発者・提供者向け — 被災時のAI利用ガイドライン AGI福岡 ライトニングトーク｜株式会社セキュリティパートナー
7. 自治体・支援団体向け 組織としてAIを取り入れる際に AIは意思決定を『支援』するもの。最終責任は人間が持つ ✓ Do — 心がけたいこと ▪ AIの提案は意思決定支援として位置づけ、最終判断は人 間が行う 個人情報保護法・条例に沿った運用ルールを事前に整備す る ✕ Don't — 避けたいこと ▪ AIの出力を無検証のまま『公式発表』として扱わない BCP全体を単一のAI依存で設計しない（代替手段を必ず用意 する） 平時からAIツールの訓練・シミュレーションを実施してお く 自治体・支援団体向け — 被災時のAI利用ガイドライン AGI福岡 ライトニングトーク｜株式会社セキュリティパートナー
8. まとめ：5つのチェックリスト 1 その情報、一次情報（気象庁・自治体・消防）で裏取りしたか 2 生命に関わる判断を、AIだけに委ねていないか 3 入力しようとしている情報は、他人に見られても大丈夫な内容か 4 通信が途絶えても機能する手段を、別に用意しているか 5 この仕組みを、平時から訓練・検証できているか 株式会社セキュリティパートナー asano@security-partner.net | security-partner.net