Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
FRAM - 複雑な社会技術システムの理解と分析
Search
ymgc
October 03, 2024
Science
1
17
FRAM - 複雑な社会技術システムの理解と分析
ymgc
October 03, 2024
Tweet
Share
More Decks by ymgc
See All by ymgc
Machines of Loving Grace - AIはどのように世界をより良く変えるか -
__ymgc__
1
32
ファシリテーションの技術
__ymgc__
2
25
(論文読み)BigCodeBench: 多様な関数呼び出しと複雑な指示を用いたコード生成のベンチマーキング
__ymgc__
1
25
(論文読み)Very Large-Scale Multi-Agent Simulation in AgentScope
__ymgc__
1
19
7 POWERS
__ymgc__
1
22
自己組織化系のベイズ力学
__ymgc__
1
24
エムラン・メイヤー 『腸と脳』
__ymgc__
1
20
(論文読み)不特定多数の人工知能エージェントによる自由行動の安全化に関する研究
__ymgc__
1
25
群論入門:集合と対称性の数学
__ymgc__
0
20
Other Decks in Science
See All in Science
創薬における機械学習技術について
kanojikajino
12
3.4k
Coqで選択公理を形式化してみた
soukouki
0
180
解説!データ基盤の進化を後押しする手順とタイミング
shomaekawa
1
330
機械学習による確率推定とカリブレーション/probabilistic-calibration-on-classification-model
ktgrstsh
2
220
Analysis-Ready Cloud-Optimized Data for your community and the entire world with Pangeo-Forge
jbusecke
0
100
拡散モデルの概要 −§2. スコアベースモデルについて−
nearme_tech
PRO
0
510
Machine Learning for Materials (Lecture 3)
aronwalsh
0
990
マテリアルズ・インフォマティクスの先端で起きていること / What's Happening at the Cutting Edge of Materials Informatics
snhryt
1
130
The Incredible Machine: Developer Productivity and the Impact of AI
tomzimmermann
0
380
General Parasitology
uni_of_nomi
0
120
Machine Learning for Materials (Lecture 6)
aronwalsh
0
510
インフラだけではない MLOps の話 @事例でわかるMLOps 機械学習の成果をスケールさせる処方箋 発売記念
icoxfog417
2
530
Featured
See All Featured
Producing Creativity
orderedlist
PRO
341
39k
Build your cross-platform service in a week with App Engine
jlugia
229
18k
Fireside Chat
paigeccino
32
3k
Art, The Web, and Tiny UX
lynnandtonic
297
20k
GraphQLの誤解/rethinking-graphql
sonatard
67
10k
StorybookのUI Testing Handbookを読んだ
zakiyama
26
5.2k
Raft: Consensus for Rubyists
vanstee
136
6.6k
Fight the Zombie Pattern Library - RWD Summit 2016
marcelosomers
231
17k
Rebuilding a faster, lazier Slack
samanthasiow
79
8.6k
Refactoring Trust on Your Teams (GOTO; Chicago 2020)
rmw
31
2.7k
The Success of Rails: Ensuring Growth for the Next 100 Years
eileencodes
43
6.6k
Building Adaptive Systems
keathley
38
2.2k
Transcript
Functional Resonance Analysis Method (FRAM) 複雑な社会技術システムの理解と分析 1
目次 1. 何かが起こる仕組みを理解する 2. FRAMの4つの基本原則 3. FRAMの最初のステップ 4. FRAMモデルの完成と使用方法 5.
まとめ 2
想定読者 安全工学の専門家 ▶ リスク管理者 ▶ システム設計者 ▶ 組織管理者 ▶ 人間工学研究者
▶ 3
用語 FRAM: Functional Resonance Analysis Method ▶ FMV: FRAM Model
Visualiser ▶ ETTO: Efficiency-Thoroughness Trade-Off ▶ HRO: High Reliability Organization ▶ 機能共鳴: 複数の機能の変動が組み合わさって生じる予期せぬ結果 ▶ レジリエンス: システムが外乱や変動に適応し、機能を維持する能力 ▶ 社会技術システム: 技術的要素と社会的要素が相互作用する複雑なシステム ▶ 創発性: システム全体が個々の要素の単純な和以上の性質を示すこと ▶ 4
まとめ FRAMは複雑な社会技術システムの分析に適した手法 ▶ 4つの基本原則:成功と失敗の等価性、おおよその調整、創発性、機能共鳴 ▶ システムの機能と潜在的カップリングを特定し、パフォーマンス変動を理解 ▶ 日常的な作業調整から事故が創発する可能性を考慮 ▶ 監視と制御を通じて、システムのレジリエンスを向上させる
▶ 5
1. 何かが起こる仕組みを理解する 6
単純なシステムと複雑なシステムの違い 単純なシステム ▶ 因果関係で説明可能(例:アンティキティラ装置) - リスクは部品の故障から特定可能 - 線形的な原因-結果の関係 - 複雑な社会技術システム
▶ 創発的で非線形(例:金融システム、医療システム) - 部品の相互作用が予測困難 - 結果が不均衡に大きくなる可能性(バタフライ効果) - 7
安全分析の変遷 1. 単純線形モデル (ドミノモデル) 事故は一連の出来事の連鎖(ハインリッヒの法則) - 原因を特定し、連鎖を断ち切ることで防止可能 - 限界:複雑なシステムでは単純すぎる -
8
安全分析の変遷(続き) 2. 複合線形モデル (スイスチーズモデル) 事故は活性化エラーと潜在条件の組み合 わせ - 多層防護の概念を導入(深層防護) - 限界:静的モデルで動的な相互作用を捉
えきれない - 9
安全分析の変遷(続き) 3. 機能非線形モデル (FRAM) 事故は日常的なパフォーマンス調整から創発 - システムの機能と潜在的カップリングを特定 - パフォーマンス変動の理解が重要 -
特徴:動的な相互作用を考慮し、成功と失敗を同等に扱う - 10
11
社会技術システムの特性 創発的で予測困難 ▶ システムが複雑すぎて詳細な理解が困難(例:航空管制システム) - 変化が速く、完全な記述が不可能(例:IT システムの進化) - ブラックスワン現象:予測不可能な重大事象の発生 -
管理可能性と結合度で分類可能 ▶ 管理可能性: システムの振る舞いの予測しやすさ - 結合度: システム要素間の相互依存性の強さ - 例:原子力発電所(管理困難・強結合)vs 郵便システム(管理可能・緩結合) - 12
2. FRAMの4つの基本原則 13
1. 成功と失敗の等価性 成功と失敗は同じ根源から生じる ▶ 日常的な作業調整が両方の源 - 例:航空管制官の略語使用(効率向上と誤解のリスク) - レジリエンスは調整能力の強化 ▶
失敗回避よりも、適応能力の向上が重要 - 例:高信頼性組織(HRO)の実践 - 14
2. おおよその調整 パフォーマンスの変動は避けられない ▶ リソースの制約により完璧な実行は不可能 - 例:医療現場での時間制約下の意思決定 - 効率性と徹底性のトレードオフ(ETTOの原則) ▶
効率を追求すると徹底性が犠牲に - 徹底性を追求すると時間が不足 - 例:航空機整備における時間圧力と安全チェック - 15
3. 創発性 結果は個々の要素ではなく、相互作用から生じる ▶ システムの振る舞いは要素の単純な和ではない - 例:金融市場のクラッシュ - 小さな世界問題、栄養カスケードなどの例 ▶
予期せぬ結果が生じる複雑なシステムの実例 - 小さな世界問題:社会ネットワークの意外な連結性 - 栄養カスケード:生態系での予期せぬ連鎖反応 - 16
4. 機能共鳴 パフォーマンスの変動が組み合わさり、検出可能な信号として現れる ▶ 個々の変動は小さくても、組み合わさると大きな影響 - 例:タコマナローズ橋の崩壊(風と橋の振動の共鳴) - 予測可能だが、ランダムではない ▶
人間の行動パターンや社会的影響から予測可能 - 例:交通渋滞の発生メカニズム - 17
3. FRAMの最初のステップ 18
FRAM分析の手順 1. モデリングの目的を定義し、分析対象を記述 例:航空機の離陸手順、医療事故の分析、新技術導入の影響評価 - 2. FMVを使用して本質的な機能を特定・記述 例: 「離陸許可を得る」機能の入力、出力、前提条件などを記述 -
3. 典型的/潜在的な変動を特徴付け 例:管制官の負荷変動、気象条件の変化、機器の性能変動 - 19
FRAM分析の手順(続き) 4. モデルの具体化を通じて機能共鳴を探索 例:複数の遅延が重なった場合のシステム全体への影響 - 5. パフォーマンス変動の監視・管理方法を提案 例:リアルタイムモニタリングシステムの導入、トレーニングプログラムの改善 - 20
機能の特定と記述 目標と手段の関係 ▶ 目標:達成すべき状態 - 手段:目標達成のための活動や機能 - 例:目標「安全な離陸」 、手段「滑走路の確認」 「エンジン出力の調整」
- 機能の6つの側面 ▶ i. 入力:機能を活性化する信号や情報 - ii. 出力:機能の結果や生成物 - iii. 前提条件:機能実行前に満たすべき条件 - iv. 資源:機能実行に必要な要素 - v. 制御:機能を監督または規制するもの - vi. 時間:機能の時間的側面 - 21
22
前景機能と背景機能 前景機能 ▶ 直接的に活動に関連し、大きく変動する可能性 - 例:パイロットの操縦、管制官の指示 - 背景機能 ▶ 一般的な条件を指し、変動が緩やか
- 例:航空規制、組織の安全文化 - 23
データ収集方法 文書分析 (作業想定) ▶ 方針、戦略、ガイドライン、指示、チェックリストの確認 - 例:航空会社の運航マニュアル、病院の安全プロトコル - インタビュー (実際の作業)
▶ オープンで肯定的な質問を用いた現場でのインタビュー - 日常的な実践や暗黙知の収集 - 例: 「通常とは異なる状況にどう対応しますか?」 「作業をより効率的に行うためのコツは?」 - 24
4. FRAMモデルの完成と使用方法 25
機能の変動性 内因性変動 (技術、人間、組織の特性) ▶ 技術: 内部構造の複雑さ、劣化 - 例:ソフトウェアのバグ、機械部品の摩耗 - 人間:
生理的・心理的要因 - 例:疲労、ストレス、認知バイアス - 組織: コミュニケーション効率、組織文化 - 例:部門間の情報共有の不足、安全文化の欠如 - 26
機能の変動性(続き) 外因性変動 (環境、社会、組織の影響) ▶ 技術: メンテナンス、使用条件 - 例:極端な気象条件下での機器操作 - 人間:
社会的圧力、組織の期待 - 例:生産性向上の要求、同僚からのプレッシャー - 組織: 運用環境、規制、ビジネス環境 - 例:新規制の導入、市場競争の激化 - 27
28
29
30
31
出力変動性の記述 タイミング (早すぎる、適時、遅すぎる、なし) ▶ 各機能タイプ(技術、人間、組織)ごとの発生可能性 - 例:技術機能の「遅すぎる」出力はソフトウェア遅延が原因の可能性 - 精度 (不正確、正確、許容可能)
▶ 各機能タイプごとの特徴的な出力精度 - 例:人間機能の出力は「許容可能」が最も一般的 - 32
上流-下流カップリング 上流機能の出力変動が下流機能に与える影響を分析 ▶ 入力、前提条件、資源、制御、時間の各側面への影響 - 例:遅延した入力が下流機能の開始時間に与える影響 - カップリングマトリックスを用いた系統的分析 ▶ 各機能間の相互依存関係を可視化
- 潜在的な問題領域の特定に有効 - 33
監視と制御 バリアシステムの種類と効果 ▶ i. 物理的バリア:直接的に行動を防止(例:フェンス、ロック) - ii. 象徴的バリア:解釈を必要とする(例:警告標識、アラーム) - iii.
無形バリア:物理的に存在しない(例:規則、法律) - iv. 機能的バリア:前提条件やインターロックを通じて作用 - パフォーマンス変動の管理方法 ▶ 監視すべき機能の特定 - 例:クリティカルパス上の機能、高変動性の機能 - 変動性の影響を軽減する方策の検討 - 例:冗長性の導入、トレーニングの強化、コミュニケーション改善 - 34
まとめ FRAMは複雑な社会技術システムの分析に適した手法 ▶ 4つの基本原則:成功と失敗の等価性、おおよその調整、創発性、機能共鳴 ▶ システムの機能と潜在的カップリングを特定し、パフォーマンス変動を理解 ▶ 日常的な作業調整から事故が創発する可能性を考慮 ▶ 監視と制御を通じて、システムのレジリエンスを向上させる
▶ 35