Dose Machine Make Mistakes? -How to Realize Safety and Relief-

Introduction of coding theory especially error detection and error correction technology
How do these technology protect safety?
Safety and relief

Transcript

1. 機械も間違える？ー安全と安心を守る仕組みー 23 May. 2021 Takenori Baba 2021年5月度 テクノロジーカフェ 1.機械が間違えるとは？ 第四次産業革命とよばれ今やコンピュータ（計算機）による制御やデジタ ル通信が当たり前になってきている． １．人間が計算機の特性や処理系を誤って設定する （事例） 関数電卓 ６ ÷ ２（１ ＋ ２） → １ or ９ どちらが正しいわけでなく人間の決めたルールに従って処理している →その処理系に対する理解を持っていないと誤った結果を得ることに ２．人間が間違えていないのに計算機が誤った答えを返す →発生する （熱雑音の影響，通信のずれや衝突，ノイズ等） 機械が間違えたことを認識するためには？ 最も単純な方法として… ＜２重化＞ ２つのコンピュータで同じ処理をして答えを比較する． →答が違う場合，どちらかのコンピュータが間違えたことがわかるが，正 しい答えはわからない． ＜３重化＞３つのコンピュータで同じ処理をし答えを多数決する →アポロ宇宙船航行コンピュータで採用 例 100回に1回計算を間違えるコンピュータでこの方式を 採用すると 間違える確率は 10000回に3回程度 まで抑えることができる． 2..通信により実現する安全のしくみ コンピュータ同士だけでなくコンピュータの内部も情報のやりとり（＝通 信）が行われており，通信路上で誤りが起きることが多い． →通信上に対策を講じればいいのではないか？ ＊（デジタル通信の）誤り（エラー）：”0”と”1”が入れ替わること 誤り検出技術 パリティ検査符号 目的 機械やシステムを制御するコンピュータに注目し，その誤計算を防ぐ仕組みを 「通信技術」に注目して解説する．また「安全」について理解を深め，「安心」に 注目して科学技術リテラシーの重要性を考える． 4.まとめ • 今やコンピュータ技術はなくてはならないものとして生活に密着し ており，その安全を支える数学の力を体験いただいた． • 「安全」というのは「安心」という主観に左右される側面がある．そ のためには正しく科学的に物事を知る「科学技術リテラシー」が 私たちひとりひとりに求められ，過度な安全追求がもたらすデメ リットも知る必要がある • 「安全第一（Safety First）」の提唱者であるU.S.Steel 社長 Elbert Garyは安全を優先させることこそが生産性や利潤につながると 実証した．安全技術が社会に対してどのような価値を提供してい けるか考えていきたい 多重化のデメリット ・コストアップ ・システムが複雑になり故障しやすくなる →もっと効率的に間違い（誤り）を認識する方法はないだろうか？ 平成 29 年版 情報通信白書 第 1 部 ハッシュ値 パスワードの仕組みでも利用される．サービス提供者は直接パス ワードを保管する必要がなく，漏洩しても元のパスワードを推測す るのは困難となる ２重化に比べると43%の通信量を削減できる 誤り訂正技術 再送による通信の遅れが許されないような環境や，記憶媒体のよう な正しいデータを再送できない環境では傷ついたデータを自己再生 する誤り訂正技術が用いられる 誤り訂正技術の事例 QRコード 1994年にデンソーの開発部門（現デンソーウェー ブ）が開発．リード・ソロモン符号を用い最大約 30%の誤り訂正能力を持っている 安全通信 危険側故障率MTTFd = 260,000年 (Data IntegrityClass I3 IEC60870−5−1) システム全体のPleやSIL３では1142〜1.1万年に一度の確率 →通信部分にはもっと高い信頼性が求められる 多くの誤り検出，誤り訂正技術でコンピュータの安全は守られている 人間が計算機の（特性）や（処理系）を誤って設定する対策 V&V (Verification and Validation:検証と妥当性確認）モデルなどを 用い，ものを作る組織や手法，管理方法まで踏み込んで管理してい く．この考え方は安全のみならずセキュリティの分野でも重視されて いる． またサプライチェーンの一部でも安全を担保できなければユーザの 安全は担保できないことから信頼の鎖が大事 専門家で各社と利害のない公的な第三者が安全をチェックする第 三者認証という仕組みが用いられることも多い． 3. 「安全」と「安心」について考える 安全（Safety）の定義；freedom from unacceptable risk [ISO/IEC Guide 51:1999, definition 3.1] 日本語訳：「受容できないリスクがないこと」 →“誰が”受容するのか？（主観）←この部分が「安心」なのでは？ （”安心“のISO・IECにおける定義は存在しない） 受け入れられるリスクも人によって変わってくる． →「安全」「安心」の主体はひとりひとりの私たち 東日本大震災から考える 1000年に一度の津波を私たちは経験したことで，「1000年に一度の 危険側故障確率は本当は危険なのでは？」という意識が広がった． しかし一方で過度の安全への偏重は ・コストアップ ・技術の普及速度が下がる ・新しい技術を試すハードルが高くなる ・それにより実運用による新しい知見や経験値が得られにくくなる． というデメリットもあることを認識しなければならない． （安全技術者はこの不均衡を埋めるのがミッションだと考えます） 最も単純な安全通信の方法 1 ．受信したデータにエラーがあることに気づく （誤り検出） 2．再度送るよう要求する（通信プロトコル）