意識の再定義 AI時代における新たな視点 https://qiita.com/ymgc3/items/850b613f0f22258980df#意識という情報生命体にとっての エンターテイメントとは何か 1

想定読者 AI技術や認知科学に興味がある人 意識や自己の概念について深く考えたい人 エンターテイメントの社会的役割に関心がある人 未来の技術が人間の認識に与える影響を探求したい人 2

はじめに 本資料は意識の再定義に関する議論をまとめたもの 意識は情報処理によって生成され、複数の目的関数を最適化することで構成されるとい う仮説を説明 エンターテイメントの役割や人間の外部を統合した自己の存在についても考察 3

内容は以下の動画をベースにしています。 【 CEDEC2021】 VR・ AI時代の新しい現実（リアル） 4

AI時代における現実の再定義 現実とバーチャルの境界が分からなくなっている時代 例 :昨今の実写映画と CGアニメは，映像の見せ方こそ異なるものの，製作に使われてい る CGなどの技術はほぼ同じである これは押井 守監督が 20年くらい前に予想していたこと 5

共通体験もバーチャルに 旧来からの物語の定番のひとつ “学園もの ” 多くの人に「学校に通った」という共通体験があるから受け入れられやすい 新たな定番の追加 「ソード・アート・オンライン」のように、ゲーム世界 (バーチャル )を舞台とする 物語が大きなブームになった事例 転生もの 6

共通体験もバーチャルに バーチャル世界を舞台にした物語が流行するのは，今やゲームの世界のようなバーチャ ル世界を共通体験に持つ人がそれなりに多くなっていることを示している また「恋人は漫画やアニメなどのキャラクターで良い」という人たちも増加している 「人間が ”情報に ”恋することができるという証明」 7

人間 = 情報処理をする主体として捉える 8

情報処理をする主体 現実だろうがバーチャルだろうが「人間は情報を処理する何か」と考える 生物としての人間の肉体と，情報生命体としての人間の精神を別のものとして理解する 肉体と精神の二元論というより，情報生命体としての精神を本体と考えるべき 9

10

計算可能性 これまでのコンピュータプログラムの延長線上で，人間の意識や精神のようなものを説 明する妥当なモデルが存在しなかった ディープラーニングが登場したあとの AIには，そうした妥当なモデルを作る材料がすで にそろっているのではないか 11

情報生命体として人間を再定義 情報生命体の基本単位として「意識」を採用 意識が情報を処理のもっともシンプルなモデルは「情報が外界から意識に来る」という もの 大前提として，もし情報処理システムである意識が “自分 ”という概念を認識している と， その “自分 ”は "外部から来る情報の中にある "ということになる 言い替えれば「意識とは、意識の外部にある情報の一部を “自分 ”として認識する存 在」である 12

意識の性質を整理 13

意識の性質を整理 この仮定をもとに意識の性質を整理する 意識は、 “自分 ”とは別の存在である 人間はおそらく、自分の肉体が “自分 ”だと考えている しかし人間の意識は脳の中にあり，その中でもおそらく前頭葉と海馬を中心とする 部分にある。したがって意識は， “自分 ”とは違うところに存在している 14

意識の性質を整理 つまり、意識は物理的存在とは独立して存在しうる 例えば意識のシミュレーションをするケースでは，肉体から遠く離れたコンピュー タで演算することも可能 意識は，物理的にも “自分 ”とは別の存在である 15

意識の性質を整理 “自分 ”の範囲を，生物としての肉体に物理的に固定して紐付ける情報処理は，意外と難 しいはず 外部の情報から “自分 ”とは何なのかと認識するために，意識はかなり複雑な情報処 理をしている 16

肉体と意識の物理的位置 人間は “自分 ”と自分の肉体とをうまく一致できていない 例えば多くの人にとって、自分の手足を切り落とすことはそうそうできることではない が髪の毛や爪の先であれば簡単に切ることができる 人間の意識は、自分の髪の毛や爪の先はあまり “自分 ”だと捉えていないから 17

意識と自意識 18

“自分 ”とは何なのか 自分とは「外部からの情報を何らかの形で加工したもの」 意識が複数の目的関数をそれぞれ最適化し続ける複数のニューラルネットワークで構成 されているとすると、その目的関数の集合が大事にしているものとして、創発的に生ま れる概念が “自分 ”である 19

“自分 ”とは何なのか すなわち “自分 ”とは、目的関数の集合にほかならない “自分 ”を意識することについて「目的関数の集合から生成される目的関数が存在してお り，さらに別の目的関数から利用されていること それであれば自意識を持つ AIは作れるのではないか 20

モデル例：囲碁プログラム 目的関数の集合から “自分 ”を生成する簡単なモデル「囲碁プログラム」 囲碁プログラムは、 2つの目的関数を組み合わせたものが多い 今の石の配置は有利なのか不利なのかを判断する「局面の評価関数」 自分がどの手を打ったら良いかを判断する「着手候補の評価関数」 その 2つの目的関数が大事にしているものとして創発的に生まれる概念は，陣地の大きさ を示す “地 ”ということになる。 したがって、囲碁プログラムにとっての “自分 ”とは “地 ”であると解釈できる 21

意識と自分の正体 目的関数の集合のなかにはおそらく “自分っぽさ ”という目的関数もあり、それが “自分 ”と いうものの正体ではないか そして人間は，おそらく膨大な数の目的関数の集合を持っていると考えられるので、そ のぶん “自分 ”が生成される過程も複雑になっていると予想できる また “自分 ”が目的関数の集合だとすると、統一された “自分 ”という簡単なモデルが存在し ているように思えるのは、たまたまであり錯覚 22

意識と自分の正体 複数の目的関数がすべて矛盾しないことは考えられない “自分 ”とはそもそも矛盾した存在であることが自然である “自分 ”という簡単なモデルは基本的に存在せず、あったら良いな、というのが実態 23

実装可能性 “自分 ”という概念を応用すれば， AIに「愛」 「笑い」 「倫理」 「プライド」 「社会」を持た せることも可能ではないか 24

意識という情報生命体にとってのエンターテイメントとは 何か？ 25

エンターテイメントには 2つの社会的役割 26

「教育装置」としての役割 典型的なものが「ビルディングスロマン」 （教養小説） 主人公が冒険を通じて精神的に成長していく過程が描かれているといった小説のこ と 小説を読むことによって「自分とはなにか」 「社会でどう生きていくか」を教養とし て学んでいく つまり、情報生命体にとっては「社会で生きていくために役立つ目的関数をコピー するための学習データを提供するもの」 27

「痛んだ目的関数の修復」 現代の激しい競争社会の中では勝者は一握りに過ぎず，多くの情報生命体が敗者となる 敗者となった情報生命体に，自身の現在の状況や未来の予想を表す情報をデータとして 入力すると，多くの目的関数が低い自己評価をするだろう そうした「自己評価をする目的関数を上書きする学習データ」を提供するのが、エンタ ーテイメントコンテンツ 28

エンターテイメントの意義 ヒットするコンテンツは，痛んでいる目的関数を上手に書き替えているもの 「引き籠もりだからこそモテる」 「努力しないで成功する」 「優柔不断な主人公が， 可愛い女の子から『優しい』と褒められる」 現実ではまずあり得ない設定をうまくエンターテイメントとして機能させたコンテ ンツ 目的関数をメタに書き替える学習データと解釈可能で，自己評価を上げることに貢献し ている マーケティング視点，新しいヒットコンテンツを生み出す参考になるのではないか 29

人間の外部を統合した自己 人間の意識が自分の肉体外からの情報も “自分 ”として情報処理しているケースがたくさ んある その 1つがゲームである 多くの人はゲームをプレイしているとき，自分の肉体と切り離された情報である操作し ているキャラクターを “自分 ”と認識している それら肉体外の “自分 ”の多くはあまり操作できないが， IT技術の進歩により操作可能な対 象は増えていく “自分 ”が自分の肉体以外のところに存在するという価値観が今後広がっていく その広がりを先導するのが，ゲームなどのエンターテイメント “自分 ”という概念の応用で，ゲーム実況者の AI化やコミュニティのマネジメント，倫理 観や愛を持つ AIの作成が可能になるのではないか 30

意識の再定義 31

Appendix 定義をもとに概念モデルを考えてみる 32

33

脳神経系 -> 目的関数の集合 /肉体的反応 : 脳神経系は複雑な情報処理を行い、目的関数の集合 （意識や感情など）を生成するか、または直接肉体的反応を引き起こす 目的関数 : 生存、愛、社会性などのさまざまな目的関数があり、これらは人間の行動や意識に 影響を与える 自意識 : 自意識は目的関数の集合から生まれる。目的関数の集合の計算矛盾を繰り込んで処理 する 情動 : 感情は肉体的反応から生じ、自意識や目的関数に影響を与える エピソード記憶 : 経験はエピソード記憶として保存され、後に再呼出しを可能とする ストーリー : 目的関数の集合の計算矛盾を解決するために生成される ナラティブストーリー : 個人のストーリーは外部記憶として保存され、他者に伝えられること で他者の目的関数に影響を与える 分人 : 自意識は目的関数の集合の要請によって分人を生成する。目的関数の集合の最適化の複 雑性に対する対策を提供する 34