TMI夏学期講義⾦曜2限 知識社会マネジメント Innovation management in the knowledge society 5⽉20⽇ 第6回 Society5.0は⼈間中⼼な社会となれるか 佐々木一 Hajime Sasaki Ph.D. 准教授 東京大学 未来ビジョン研究センター 次世代知能科学研究センター(AI Center) 大学院工学系研究科技術経営戦略学専攻 地域未来社会連携研究機構

「⾼貴な嘘」の過去 「お⺟さんは⾷べないの︖」 ♪〜 「お、お腹がいっぱいだからいらないのよ..」 ⾼貴な嘘︓事実に反する虚偽の記述である嘘であ りながらも、そのように⾔う⽬的が道徳的であり ⼀概に否定できない⾏動。

♪〜 「⾼貴な嘘」の未来 「お、お腹がいっぱいだからいらないのよ..」 「お⺟さんは⾷べないの︖」 「いいえ、あなたは空腹であ り栄養の補給を必要としてい ます。温かい⾷事を摂ること をおすすめします︕︕」 体表⾯温度…チェック 発汗…チェック 唾液腺…チェック 活動レベル…チェック シグナルオールレッド

嘘をつくことができない世界 “生物として人間が一定の刺激に対して反応し てしまう”という「状態」の問題に置き換わる。 室温…チェック 発汗…チェック ⿃肌..チェック 「適温を送⾵します」 過去 未来 「（本当はちょっと寒いけど） これでいいや」 ブルブル “どのように意思して行動を選択するか” という自律的「行為」の問題ではなく、 「（本当はちょっと寒いけど） 僕は暑がり（嘘）だから 16度に設定しよう」 ⾃分の状態（いま暑がっているか/寒がっているか）の情報 を、⼈間の意図的な⾏為として積極的に伝達することなく、 センサーが⼀定の状態を情報としてくみ取ることができるよ うな対象として存在。 本当は寒いのに⿃肌を⽴てないということはできない。 本当は寒いのに設定温度下げることはできるが

αΠόʔۭؒͱϑΟδΧϧۭؒΛ༥߹ͤͨࣾ͞ձ ܦࡁൃలͱࣾձత՝୊ͷղܾΛཱ྆͢Δࣾձ ਓؒத৺ͷࣾձ

No content

Source: Prepared by the author based on material from the Japan Business Federation (Keidanren) “Japan’s initiatives — Society 5.0”; Y. Harayama, “Society 5.0: Aiming for a New Humancentered Society”, Hitachi Review, vol. 66, no. 6, 2017, pp. 556–557 Society1.0 Society2.0 Society3.0 Society4.0

情報化社会とモノからの開放(Society4.0) 情報化社会︓化体させることなく （モノを経由することなく）情報と いう無体物の⽣産・流通し効率化さ せることができた。 モノの依存から解き放つことによる ⾼速・フラットな情報空間の実現 例） • ⾳楽配信︓メジャーレーベルとインディーズの 壁がなくなり、分散化した主体による多品種少 量⽣産への市場変化。 • 電⼦書籍︓⼤⼿出版社によるベストセラーから 私家版（同⼈誌）までamazonでフラットに recommend。 かつて、情報を流通させるためには、 情報を物理的な存在として物質に固定（モ ノに化体）させ、複製・運搬するというコ ストが必要。 新聞、書籍、⾳楽媒体（CD，レコード） 「情報の化体したモノの⽣産・流通を本体 とする産業」に過ぎない。

結節点としての⼈間（による問題） モノの効率化としての⼯業化社会(Society3.0)と情報の効率化としての情報化社会 （Society4.0)は融合していなかった。 →モノと情報の間の結節点としての「⼈間」が不可⽋。同時にその結節点に由来する問題。 従来の情報の⼊⼝（物質から情報の獲得） 従来の情報の出⼝（情報から物質の制御） 例）POSレジ︓ 前提︓店員が客の「属性」を判断してレジのキーを押すことで、顧客の 属性と商品の動きの関係を初めてデータとして抽出。 →店員の故意や過失によるミスの存在は必然。 例）カーナビ︓ 前提︓アドバイスに従うかどうかを決めるのはドライバー（⼈間）。 従わない、従えない可能性の存在。 （急にアドバイスされても従うのがよいか判断できない、外のことに気 を取られていた、新しく提⽰されたルートは通ったことがないからなん となくやだ）⾊んな理由で従わない、従えない。 フィジカルの世界とサイバーの世界の間に存在する摩擦（⼈間による） ⼤屋雄裕(2021) Society 5.0と⼈格なき統治, 総務省 学術雑誌『情報通信政策研究』 第５巻第１号

Society5.0で実現する⼈格なき統治 Society5.0の情報の⼊⼝（物質から情報の獲得） Society5.0の情報の出⼝（情報から物質の制御） ⼈間による意図的な⾏為→センサーによる状態への把握 （例︓IoT） 情報をもとにして機械（モノ）が制御され物理的な動作 （例︓⾃動制御、⾃動運転） ⼀連の過程において （⼈間の意図的な⾏為に 依存することなく） 社会規模での最適化、効 率化のために処理実⾏。 意識的な⾏為（設定温度を変える）は有害とさえなる。 （快適な室温を実現し、冷やしすぎを予防し、社会全体におけるエネルギー消費 の効率化を阻害するので。）→最適な社会のために、個⼈の⾃由は犠牲に。 同時に、⼈間は観測や監視の客体であり、⾃ら決断し⾏為する 主体でなくなる。 • 環境保護と経済発展の両⽴ • SDGsの達成 • ⼈流物流を減らしつつ社会的な利便性の享受 • with/afterコロナでは、⼈との接触を（当事者の意に反しても）制限し社会機能 を維持することのできるレジリエントな社会システムの構築。 ⼤屋雄裕(2021) Society 5.0と⼈格なき統治, 総務省 学術雑誌『情報通信政策研究』 第５巻第１号

不幸になるための権利を剥奪される世界 参考）パターナリズム問題︓相⼿の利益を実現するための⼲渉がどこまで どの程度許されるか。 • 例）国家の個⼈に対する知的・倫理的優越性の前提の下に、国家の個⼈に対する強制/⼲渉/操縦（マニ ピュレーション）を要請する。 • 従来のパターナリズム批判︓「⼲渉する側の判断が優越しているという証拠がない。⽗権主義的であ る」←AI後の社会における⼲渉者は⾃動化された統治システムであり、AIそのものであり、また⽇々向 上している。従ってこの批判はもはや成り⽴たない。 ラーメンを⾷べたいが、 物理的にボタンが押せない 問︓個⼈を幸福にするために介⼊し、彼の⾃由を制約してはいけないのか ⼤屋雄裕(2021) Society 5.0と⼈格なき統治, 総務省 学術雑誌『情報通信政策研究』 第５巻第１号

•「⼈の属性を対象とし、⾏為や状態の相関性に関する分 析をもとにして将来の選好や⾏為を予想しようとする営 み」はどこに課題があるのか。 •つまり、⼈間の⾏為の介在しない統治システムにおいて、 ⼈々が属性の束としてのみ把握されることの課題。 •“（主体的に判断し、⾃律的に⾏動し、場合によっては 社会的に最適であるとか当の本⼈にとっても最適である ような⾏動をとらないような存在である）個⼈というも のが⾒失われる危険性があるので問題なのだ」” •本当にそれは問題なの︖だとすればなぜ︖ ⼤屋雄裕(2021) Society 5.0と⼈格なき統治, 総務省 学術雑誌『情報通信政策研究』 第５巻第１号

嘘と不服従 法に反する⾏為は、ただちに悪であり、禁⽌され、 その可能性⾃体を奪われることが望ましいか。 法に反するが当事者がその正当性を確信し、世論 を喚起する等の⽬的でなされるそのような⾏為 （市⺠的不服従（civil disobedience））の可能性は 失われることはないか。 ときには事実と異なる建前を守るために ⾃らの利益を犠牲にすることが正しい⾏ 為であり、⼈間の尊厳と結び付いた⾼貴 な⾏ないになり得る センサー技術により収集された情報に依 拠する快適な社会においてそれが不可能 になることを、どう評価するべきか。 ⼤屋雄裕(2021) Society 5.0と⼈格なき統治, 総務省 学術雑誌『情報通信政策研究』 第５巻第１号

交通違反者暴露台

規律訓練の実現（みんなルール（法）を守ってよ︕） •そもそも刑事法の⽬的は規律訓練の実現。 •法治国原理が期待しているのは”制裁を予告することによっ て市⺠の側で⾃主的な⾏動変容が実現すること” •⼀⽅ですべての犯罪が発⾒/摘発できるわけではないので、 ⼗分な抑⽌⼒が⽣じるレベルの厳しい制裁を社会として予定 する必要がある。（+⾯倒な⼿続き） •Society5.0による完全に執⾏可能な制裁システムなら、 極めて軽微な制裁にすることができる。 実際に交通違反者暴露台は • 罰⾦⾃体は数100円程度と軽微。 • 事実上の制裁はさらしものになって辱めを受けたこと。 • これでもちゃんとルールが守られつつある。 →早く軽く回す規律訓練のサイクルの実現（⽇本でいうところのアジャイルガバ ナンス） ⼤屋雄裕(2021) Society 5.0と⼈格なき統治, 総務省 学術雑誌『情報通信政策研究』 第５巻第１号

形式的にはルールに反するが結果的には正当化されるで あろう⾏為はどう評価されるか。

⼈間というデバイスの両義性 •「法(droit)=正義(jus-ce)ではない」byジャック・デリダ •「ルールとしての法はそれぞれの事例の個別性を踏まえ ることができず、常に正義から⼀定の乖離を抱えざるを 得ない。」 法というシステム︓ ・規律性と具体的正当性の両⾯を意識し、調整する原理を組み込んできた。 ・執⾏の当事者による⼿加減を許してきた。 （情状酌量など個別事情の考慮） 例）軽犯罪法による禁⽌に対する制裁がすべて忠実に執⾏されていない等。 法というシステムは、⾃⼰決定的な個⼈が介在しその判断がさまざまな影響を及ぼすこと を期待している。 ⼈間の不完全性は、進化や創造の契機にもなるという両義性。 ⼤屋雄裕(2021) Society 5.0と⼈格なき統治, 総務省 学術雑誌『情報通信政策研究』 第５巻第１号

Society 5.0 が⾒せる夢に対する我々の態度 「不完全性を個々の⼈格による 創発的な判断によって補おう」 「⼈間は完全なシステム を設計し得るのだ」 執⾏過程に⼈間が介在しないからこそ、 設計過程において⼈間的な価値を意図的に 留意しなければならない。 αΠόʔۭؒͱϑΟδΧϧۭؒΛ༥߹ͤͨࣾ͞ձ ܦࡁൃలͱࣾձత՝୊ͷղܾΛཱ྆͢Δࣾձ ਓؒத৺ͷࣾձ

人間中心の社会（ Society 5.0 ） 環境の変化や制度の設計に対して自律性を持つ人間 自分にとっての効用がなにかを考えること。 それが人と違ってもよいと思えること。 それを実現できる社会。 Society5.0というと、ドローンやAI, IoTをはじめとした技術的 側面ばかり前面に出がちですが、それらは一側面。 中心は技術ではなく，あくまでも「人」

αΠόʔۭؒͱϑΟδΧϧۭؒΛ༥߹ͤͨࣾ͞ձ ܦࡁൃలͱࣾձత՝୊ͷղܾΛཱ྆͢Δࣾձ ਓؒத৺ͷࣾձ

望ましい未来は 誰にとって望ましいのか 誰が決めるのか

Future cone

ヒトの認知バイアス １．利⽤可能性ヒューリスティクス（availability heuristics） （（直前に）起きたことへの強い（強すぎる）関⼼、マ スメディアやインターネットによって歪められる認知） ２．⾃分から時間的及び距離的（社会的/物理的）に遠い 出来事への無関⼼（social discounting, psychic numbing） •より強いシステム１で対抗 •〜アート（やSF）の可能性

ヒトの認知バイアス １．利⽤可能性ヒューリスティクス（availability heuristics） （（直前に）起きたことへの強い（強すぎる）関⼼、マ スメディアやインターネットによって歪められる認知） ２．⾃分から時間的及び距離的（社会的/物理的）に遠い 出来事への無関⼼（social discounting, psychic numbing） •より強いシステム１で対抗 •〜アート（やSF）の可能性

再発防⽌の落とし⽳ •⼤きな事件や事故が発⽣すると「再発防⽌」 の名のもとに⼤きな予算がつけられ、組織 や法律が新設。 •「再発する」可能性 は⾮常に⼩さいにもかかわらず，「再発防⽌」が ⼤義名分に なり，客観的に⾒ると費⽤対効果の悪い対策に莫⼤な予算がつぎ込まれる。 •私たちの思考の根本的⽋陥 •しかし本当に未然防⽌されたら、未然防⽌されたことに誰も気づかない。 •マンホールの蓋問題。（蓋がズレていたマンホールに落ちた⼈を助けるのはヒーロに なれるが、マンホールの蓋をそっと直しても感謝されない。（ワクチン、マスク） •社会としては誰かが落ちる前に蓋をする⽅が望ましいはず。 •この⾮対称性が世の中の対応を「起こったこと」に偏らせている。 •起きていないことにどう対処すべきか。

専⾨家も「起きたこと」に影響を受けすぎる (Kishimoto, 2019)

起こらなかったことの例 •4月にはJR東日本の山手線の神田・秋葉原駅間で架線支柱が倒壊しているのが見つかった。 付近の電車を一斉に止める措置がとられたために脱線や衝突は1件も発生しなかった。 •箱根山や桜島では恐れられた大きな噴火は起こらず、11月には噴火警戒レベルが引き下げら れた。 •5月20日に韓国で最初の感染が確認されたMERS（中東呼吸器症候群）は6月に入り感染が 拡大し、韓国で死者が10人を超えたにもかかわらず、日本国内では感染は起こらなかった。 •2014年夏に約70年ぶりに東京を中心に国内感染が確認されたデング熱は、2015年にさ らなる流行も恐れられていたものの実際は1例も見つからなかった。 きちんと対策がとられたから起こらなかったこともあれば、たまたま起こらなかったこともある。 「起こったこと」に対応するだけでは、同じ種類のリスクは減らせても、次に起こる別の事故や事件を防ぐ ことはできない。 事前対策がうまくいって「起こらなかったこと」は誰にも気づかれない。 岸本充⽣ 政策ビジョン研究センター コラム 2015年のリスク︓「起こったこと」と「起こらなかったこと」

「起こらなかったこと」にもスポットライトを •「起こらなかったこと」に対して、「起こったこと」以 上にスポットライトを当てられるような⽅法はないか。 •例えば、あらかじめ今年起きるかもしれないことのリストを 作っておき、年末にそれらが実際に起きたかどうかの事後 チェックしてみる。 •発⽣する確率と起きた際の影響の⼤きさをそれぞれ五段階予 想。 •国レベルで実施すると「ナショナルリスクアセスメント」と なるし、企業レベルでも、個⼈レベルでも、ファミリーレベ ルでも実践可能。

identifiable victim effect（特定できる被害者効果）のバイ アスは減らせるか。 実験 • 介⼊1. 特定の弱者に必要以上に寄付が集まり すぎていることを教える • 介⼊2. 特定の弱者の情報に加えて、統計的情 報を加える 介⼊3. 最初に計算問題を解かせる 仮説 ・寄付は同情によって増幅されるので、直観による意思決定思考（システム１）が⽀配的である ・特定の弱者は同情・寄付を集めやすい ・統計的弱者（アフリカには100万⼈の恵まれない⼦供がいる等）には同情・寄付が集まりにくい ・論理的な意思決定思考（システム２）を刺激することで特定の弱者への同情が減り、寄付⾦額も減 るのではないか︖ 結果 いずれの介⼊も • 特定被害者への寄付を減らす効果はあった • 全体の寄附⾦額を上昇させる効果はなかった。 特定のところに寄付⾦が集中しすぎて、本当に援助が必要な⼈々のところ に⼗分な寄付がいってないのではないか︖（バイアス） 例）1987年にジェシカちゃんという18ヵ⽉の幼児が幅20cm、地下7mの井⼾ に落ちて2⽇後に救助され、このとき70万ドル以上の寄付が集まった Small et al. (2007) Sympathy and callousness: The impact of deliberative thought on donations to identifiable and statistical victims Organizational Behavior and Human Decision Processes, 102, 143-153

ヒトの認知バイアス １．利⽤可能性ヒューリスティクス（availability heuristics） （（直前に）起きたことへの強い（強すぎる）関⼼、マ スメディアやインターネットによって歪められる認知） •まずは問題に気づいてもらうことが必要 ２．⾃分から時間的及び距離的（社会的/物理的）に遠い 出来事への無関⼼（social discounting, psychic numbing） •より強いシステム１で対抗 •〜アート（やSF）の可能性

•「・・・でも、予防にために何かをして高 く評価されることはあまりない。 •本に書かれることもない貢献をした人 たちの犠牲のうえに、歴史の本に名を 遺した人たちを、私たちは崇め奉る。 •私たち人間は軽薄だ。 •でも、それだけじゃない（軽薄なのは、 ある程度直せる）。私たちはとても不公 平な種族なのである。」 （ナシーム・ニコラス・タレブ著『ブラック・スワン（上）』ダイヤモンド社p.14）

ヒトの認知バイアス ■利⽤可能性ヒューリスティクス（availability heuris-cs） （（直前に）起きたことへの強い（強すぎる）関⼼、マ スメディアやインターネットによって歪められる認知） •まずは問題に気づいてもらうことが必要 ２．⾃分から時間的及び距離的（社会的/物理的）に遠い 出来事への無関⼼（social discoun-ng, psychic numbing） •強いシステム１（本能・直感・潜在意識）の活⽤ •アート（やSF）の可能性

テクノロジーの発達は、いま、私たちの生活のさまざまな側 面に大きな影響を与えようとしています。近い将来、人間は 多くの判断をAIに任せるようになり、AIが人類の知能を超 え、私たちの社会や生活に急激な変化をもたらす「シンギュ ラリティ」が到来すると言われています。また、ブロック チェーン技術は、社会システムに新たな信用と価値を作り 出し、多様なバイオ技術は、食や医学、そして環境に多大な 影響を与えることになるでしょう。私たち人間が身体機能 を拡張させ、いま以上に長寿を享受する時代もそう遠くな い話なのかもしれません。 そうした急激な変化がもたらす未来は決して明るいものだ けではないかもしれませんが、私たちは、少なくとも20- 30年後の未来のヴィジョンについて考えることが必要な のではないでしょうか。それは同時に、豊かさとは何か、人 間とは何か、生命とは何かという根源的な問いにもつなが るのです。 アート・デザインの可能性

“Science”︓我々の世界を説明・ 予測することで、“Engineering” で活⽤可能な知識を⽣み出す “Engineering”︓課題解決に科学 的知識を活⽤することで実⽤性 を⽣み出す “Art”︓我々の⾏動変容を批評す ることで新たな認識を世界に⽣ み出す “Design”︓実⽤性（Utility）を最 ⼤化することで我々の⾏動変容 を⽣み出す 創造性におけるクエン酸回路

スペキュラティブデザイン（次回前だし） 問題解決型のように 「未来はこうあるべきだ」と提唱す るのではなく 「未来はこうもありえるのではない か︖」 という憶測(speculate)の提⽰。 現代の⼈類が直⾯する課題の多くは解決不能で、これらを克服する ためには、私たちの価値観、信念、考え⽅を変えるという⽅法があ る。 問題をあえて解決せず、思索するきっかけを与える「問い」を⽣み 出す。 科学と関わり︓ 科学の発展によって、起きるかもしれない世界を表現し、それを科 学者に戻すことで、研究の⽅向性を考えなおすきっかけを与える。 スプツニ⼦︕のRCA （英国王⽴芸術学院）時代の教官） ↓

スペキュラティブデザインの位置づけ “望ましいといっても、誰にとって、誰の判断で決ま るのだろうか 一部の産業界や政府によって決められてしまって いないだろうか 架空の未来を作れると仮定するならば、デザインは 人々が消費者市民として積極的に未来づくりに参 加するのを手助けできないだろうか。”

今までのあたりまえを疑う「態度」 •「世界的な⼈⼝過多と⾷糧問題がある中で、そもそもこ れ以上⼈間は必要なのか︖」 •「⼈が⼈以外の⽣命を⽣むことはできるのか︖」 •「これから⽣まれる⼦どもは幸せなのか︖（破壊されゆ く地球環境でも︖）」 •「同性間で⼦どもを産むことはできないのか︖」 •「常識や社会通念で必要と思われていることは本当に正 しいか︖」 未来へ「問い」を提⽰し常識を揺さぶる態度

ふつう理解されているところのデザイン スペキュラティブデザイン

•I wanna deliver a dolphin. •(Im)possible baby •Human X Shark •Shared-baby •Alt-bias Gun

スペキュラティブデザインの位置づけ

AIやロボットの発展に伴い、働かなくても良い人が将来的に現 れると言われています。また経済成長のみを追い求める資本主 義に疑問を感じ、シェアリングエコノミーなど次の産業・社会構 造を模索する人が増えてきている様に思います。 その中で、例えば納税や労働以外に「生き様のデータ」を提供す ることで社会に貢献し、社会保障や金銭的対価を受けるという 選択肢があっても良いのではないでしょうか。そのような仕組 みを提供して行く前に、まずは社会として新しい価値観に対し てどう対応するかを確かめる必要があるため、Exographを企 画しています。 遠野宏季⽒ （株式会社Plasma代表取締役）

知識社会マネジメント2022⽤ 講義関連共有フォルダ h$ps://bit.ly/37rqoPB ゲスト講師 ⻑⾕川愛 さん アーティスト。バイオアートやスペキュラティブ・デ ザイン、デザイン・フィクション等の⼿法によって、 ⽣物学的課題や科学技術の進歩をモチーフに、現代社 会に潜む諸問題を掘り出す作品を発表している。 宿題 下記動画（1H程度）を視聴してください。 • https://www.youtube.com/watch?v=QbyX1ShomjE • 5/26（⽊）23:55JSTまで 10:10より待機室open 10:20より順次⼊室⼿続き していきます。 良い週末をJ 佐々⽊⼀ sasaki@ifi.u-tokyo.ac.jp 次回は5/27(⾦) 10:25- です。