（論文読み） 不特定多数の人工知能エージェントによる自由行動の安全化に関 する研究 機能共鳴分析手法（FRAM）を用いた東京駅コンコースの安全性評価 1

目次 1. 序論 2. 従来の安全解析手法の問題点と新しい安全解析手法 3. FRAM分析 4. シミュレーション 5. 対象システムの安全化に関する考察 6. 結論 2

想定読者 安全工学の研究者・実務者 ▶ 人工知能・ロボット工学の専門家 ▶ 複雑系システムの設計者 ▶ 公共施設の安全管理者 ▶ 交通システムの設計者・運用者 ▶ 3

用語まとめ FRAM (Functional Resonance Analysis Method): 機能共鳴分析手法。システムの機能間の関係を網羅的にモデリングする 手法。 ▶ FTA (Fault Tree Analysis): フォールトツリー解析。システムの故障や事故の原因を論理的に分析する手法。 ▶ FMEA (Failure Mode and Effects Analysis): 故障モード影響解析。システムの潜在的な故障モードとその影響を分析する手 法。 ▶ STAMP (Systems-Theoretic Accident Model and Processes): システム理論的事故モデルとプロセス。システム全体の相互 作用に着目した安全解析手法。 ▶ MinimumDistance: シミュレーションにおける歩行者間の最小許容距離。 ▶ Safety2: レジリエンス・エンジニアリングにおける新しい安全の概念。成功要因に着目する。 ▶ Safety2.0: 人と機械の協調を重視する新しい安全の概念。 ▶ 4

第1章 序論 研究背景 ▶ IoTや人工知能の導入により、システムの安全性評価に新たな課題が顕在化 - 従来の安全性評価手法（FTA、FMEA）は、ソフトウェアの「仕様誤り」の多様性に対応できず限界がある - マルチエージェントシステムのモデル化や安全性評価には、システムの複雑性や予測困難性という課題がある - 自然界の自由行動（東京駅コンコース等）が長年高い安全性を維持している事例に着目 - 5

第1章 序論（続き） 研究目的 ▶ 不特定多数の人工知能エージェントによる自由行動の安全化を目指す - 東京駅のコンコースを研究対象とし、FRAMを用いてシステムの成功要因とリスク要因を識別 - シミュレーションによってモデルの妥当性を検証し、次世代システムの安全につながる知見を得る - 研究概要 ▶ 従来の安全解析手法の問題点を概観し、新しい安全性分析評価手法の必要性を明確化 - FRAMによる東京駅コンコースのモデリングと分析を行い、システムの特徴を抽出 - モデルから生成したシミュレータを用いて検証と分析を実施 - 対象システムの安全化に関する考察と、次世代安全理論との関連性を検討 - 研究結果のまとめと今後の課題の提示 - 6

第2章 従来の安全解析手法の問題点と新しい安全解析手法 従来の安全解析手法 ▶ ドミノ・モデル - ハインリッヒによって提唱された事故の発生メカニズムを階層構造で捉える考え方 - 社会的欠陥から災害までの5つの要素の連鎖として事故を説明 - FTAはこの考え方を解析手法化したもの - FTAの限界 - ソフトウェアは「故障」しないという特性があり、ハードウェアとは異なる性質を持つ - ソフトウェアの安全性解析には適していない - 7

第2章 従来の安全解析手法の問題点と新しい安全解析手法（続き） 新しい安全解析手法 ▶ STAMPモデル - レブソンによって提唱された、事故をコンポーネント間のインタラクションの問題として捉える考え方 - ControllerとControlled Processの関係性に着目 - ソフトウェア起因の事故分析が可能 - FRAMモデル - ホルナゲルによって提唱された、事故は失敗からだけでなく、成功からも発生するとの考え方 - 機能間の関係を網羅的にモデリングする手法 - 6つの側面（入力、出力、前提条件、資源、制御、時間）で機能を定義 - 8

第2章 従来の安全解析手法の問題点と新しい安全解析手法（続き） 事故モデルの変遷 ▶ コンポーネントの故障に着目 → 安全を保証する仕組みの不全に注目 → 機能間の共鳴に着目 - 失敗原因から成功原因への拡張 - モデル化手法の発展と安全工学の拡張の密接な関係 - 9

第3章 FRAM分析 FRAMの特徴 ▶ 予測不可能な振る舞いが支配的な状況でもシンプルなアプローチが可能 - 機能間の関係を網羅的にモデリング - バックグラウンド機能に到達するまでモデリングを継続し、解析範囲を事後的に決定 - FRAMモデルの作成 ▶ 「歩く」機能を中心に、6つの側面（出力、前提条件、入力、資源、時間、制御）を定義 - 出力：一歩（Stride） - 前提条件：目的地の存在 - 入力：最適Path情報 - 資源：FreeSpace（安全エリア） - 時間：TimeToCollision（衝突までの時間） - 制御：相対位置・速度・加速度 - 関連する機能（FindPath、FindFreeSpace等）を追加し、ネットワークを構築 - 10

第3章 FRAM分析（続き） FRAMモデルの分析 ▶ 機能ブロックの配置を調整し、階層構造（戦略層、戦術層、監視層、制御層）を可視化 - STAMPモデルとのハイブリッド分析により、ボトムアップ構造を明確化 - 上位層から下位層への一方的な情報提供 - 制御層への多くの入力の集中 - 成功要因の分析 ▶ ボトムアップな戦術の自動的更新 - 環境変動に即座に対応する柔軟な戦術形成 - 統一行動ではないが集団を安全にする戦術の維持 - 安定的な戦略（ゴール）の提供 - 行き先案内板による不変かつ空間的に安定したゴール表示 - 11

第3章 FRAM分析（続き） リスク要因の分析 ▶ ゴールの提供が滞ると、歩行停止によりパニックに至る可能性 - 局所的な渋滞が新規流入者によって広範囲な渋滞に発展する危険性 - 分析結果のまとめ ▶ 東京駅の安全は、利用者の自律的な戦術形成と協調によって実現されている - 交通整理やルールによる制約は不要であり、むしろ自由度を維持することが重要 - 12

第4章 シミュレーション シミュレータの作成 ▶ FRAMモデルから機能間の関係をプログラム化 - 設定可能なパラメータ：歩行者数、初期位置、目的地、FreeSpace評価閾値（MinimumDistance） - 出力：各歩行者の行動、停止回数、ゴール到達時間 - シミュレーション実行結果の傾向分析 ▶ MinimumDistanceの値により、システムの振る舞いが大きく変化 - MinimumDistance=1：最も安全かつ効率的、現実の東京駅に近い状況 - MinimumDistance=2：人数増加に伴い急激に性能低下 - MinimumDistance=3：少人数でも運用困難 - 利己的な行動（ギリギリのすり抜け）が全体の安全性向上に寄与 - 13

第4章 シミュレーション（続き） シミュレーション実行結果の統計分析 ▶ 安全性（停止回数）と経済性（ゴール到達時間）の強い相関関係 - MinimumDistance=1の場合、人数増加に対する耐性が高い - システムの状態遷移と相転移現象の類似性 - 流体の相転移に類似した不連続な性質の変化 - 鳥の群れの相転移研究との関連性 - 分析結果のまとめ ▶ 東京駅コンコースは先天的安全性を有している - 利己的な行動が結果的にシステム全体の安全性を向上させる - 安全性と経済性が両立する特殊な系の特性を持つ - 14

第5章 対象システムの安全化に関する考察 Safety2（レジリエンス・エンジニアリング）との関連 ▶ 成功要因に着目する安全理論 - 東京駅の分析結果はSafety2の考え方と合致 - ボトムアップな戦術形成 - 自己組織化による安全化 - Safety2.0（本質安全・協調安全）との関連 ▶ 人と機械の協調を重視 - 東京駅の安全性は協調安全の一例 - 自律分散型システムにおける協調 - 安全性、信頼性、保全性の融合 - 15

第5章 対象システムの安全化に関する考察（続き） 将来展望 ▶ 不特定多数の人工知能エージェントによる自由行動の安全化への応用 - ビットコインシステムとの類似性 - 利己的な行動が全体の安全性を高める仕組み - 今後の課題 ▶ 人工知能の安全性を検証するクライテリアと手法の開発 - 非決定論的動作原理を持つシステムの評価方法の確立 - MinimumDistance=1を実現できる高度な認識能力、制御能力の実現 - 16

第6章 結論 FRAMによる東京駅コンコースの安全性分析結果 ▶ ボトムアップな戦術形成と安定的な戦略提供が成功要因 - ゴール提供の停滞がリスク要因 - 交通整理や歩行区分設置は不要、むしろ自由度維持が重要 - シミュレーションによる検証結果 ▶ 安全性と経済性の強い相関関係 - 先天的安全性（本質安全性）の存在 - MinimumDistance=1の設定が最も効率的かつ安全 - 17

第6章 結論（続き） 新しい安全理論との関連性 ▶ Safety2およびSafety2.0との高い親和性 - 成功要因への着目と協調安全の実現 - 研究の意義 ▶ マルチエージェントシステムの安全性分析手法の確立 - FRAMの安全性分析ツールとしての可能性の提示 - STAMPとFRAMのハイブリッド分析手法の提案 - 今後の展望 ▶ 人工知能の安全性評価への応用 - 安全と経済発展の両立による新しいパラダイムの創出 - 相転移理論との融合による新しい安全理論の可能性 - 18

まとめ 東京駅コンコースの安全性は、利用者の自律的な戦術形成と協調によって実現されている ▶ FRAMを用いた分析により、ボトムアップな戦術形成と安定的な戦略提供が成功要因であることを特定 ▶ シミュレーションにより、安全性と経済性の強い相関関係を確認 ▶ 本研究は、マルチエージェントシステムの安全性分析手法の確立に貢献 ▶ 今後、人工知能の安全性評価やより広範な複雑系システムの安全性分析への応用が期待される ▶ 19