理研GRP研究会（2022.6.20） ロボット研究のための脳と心のモデル 神谷之康（京都大学・ATR・理研） [email protected] http://kamitani-lab.ist.i.kyoto-u.ac.jp ykamit Last updated: 2022.6.19 1

概要 ヒトと共生するロボットの開発には、脳や心の理解が重要であると考えられる。神経科学や心理学において脳と心に関するさまざ まなモデルが提案され、ロボットの設計思想としても取り入れられてきた。しかし、神経科学や心理学の知見は本当にロボットの 開発に役立ってきたのだろうか。そもそも、その知見は信頼できるものだったのだろうか。今回のミーティングでは、代表的な脳 と心のモデルを批判的にレビューし、今後のロボット開発の指針となりうるモデルについて議論するための話題を提供したい。 2

ガーディアンロボットプロジェクト https://grp.riken.jp/ プロジェクトについて ガーディアンロボットプロジェクトは、人に寄り添い、人が「こころ」を感じる自律的なロボットの開発を目指しています。 そのようなロボットが実現すれば、そのロボットは人に受け入れられ、家庭や社会のあらゆる場面で活躍するようになるでし ょう！ 自律機能を創る 今までのロボット開発で一番欠けていたのは、自ら周囲の情報を収集し、自らの目的に沿って行動するための自律機能です。 我々はその機能を解明し、実際に構成してみせることでロボット開発や人工知能研究のブレークスルーを起こそうとしていま す。 3

人がこころを感じるロボットを目 指して https://www.riken.jp/pr/closeup/2021/20210419_1/in dex.html 「今日、わが家に新たな家族が増えます。私たち家 族の行動や会話をなにげなく観察して心身の状態 を把握し、健やかにかつ安心して暮らせるように 支えてくれるロボットです。最初のうちは観察した ことや類推したことを、声に出して言うのです が、やがてお互いにおしゃべりも楽しめるように なるそうです。妻は子犬のほうがいいと言いました が、子どもたちの希望もあり、ガーディアンロボ ットというものにしてみました。」 4

理研GRPのロボットの階層アーキ テクチャ 『ミンスキー博士の脳の探検 -常識・感情・自己とは-』 の「心的活動の階層モデル」を参考に考案 A脳: センサーデータをもとに外界を認識し、ロボットが 行う動作の前提となる外界に関する知識をB脳に渡すた めのアルゴリズム、および外界に働きかける動作を生成 するアルゴリズム B脳: A脳の外界に対する認識、アクションの結果を元に 考えて推論し行動を起こす「主体」のアルゴリズム C脳: 実際にロボットが行った動作、その動作を行った 環境およびその動作の結果などを記憶して内省し、主体 の次の動作のプランを修正するアルゴリズム 美濃PL「言語表現に意味を持たせるには、B脳以上の世 界に何か自律的な主体をつくる必要がある。主体にモチ ベーションを与えるために、まず『目的を与える』こと にしました。そうすれば、目的に沿って知識の活用と行 動の方向性を自律的に判断し、決定することができるだ ろうと考えています」 5

『ミンスキー博士の脳の探検 -常 識・感情・自己とは-』 原題は『Emotion Machine（感情機械）』 Minsky, M. The Emotion Machine: Commonsense Thinking, Artificial Intelligence, and the Future of the Human Mind. (Simon & Schuster, 2007). https://www.amazon.co.jp/dp/B000SEKHK6 MITのサイトで全文読める https://web.media.mit.edu/~minsky/ 森山和道. 機械で「心」を作る～「AIの父」ミンスキー 氏が早稲田大学で講演（2009.6.25） https://robot.watch.impress.co.jp/docs/news/296271. html#056_s.jpg 6

　 心は「リソースの雲」 感情は単なる喜怒哀楽ではなく，思考プロセス(Ways to Think) の一種。リソースのセットを切り替える 6層構造。本能的な反応→学習反応→熟考→内省的試行→自己内省的試行→自意識に関する感情 上層が下層を修正・制御 フロイトと親和的 価値観や目的は外から与える 7

分析例 「ジョ一ンは報告書を届けるため路上を横切ろうとしている。会議でどう発言しようか考えていたところ、音が聞こえて振り返る と急速に近づく車が目に入る。横切ろうかためらいながらも、遅刻するのが心配なので全速力で横切ることにした。その後自身の 膝の痛みた思いだし、衝動的な決断を反省する。『もし膝がうまく動かなかったら、死んでいたかもしれない。そうなったら、友 人は自分をどう思ったかしら』」 第1層（本能的反応）：「音に反応して振り返る」、「膝の痛みを思い出す」 第2層（学習反応）：「車の音かもしれないと思う 」 「見たものが車だと認識する」「急速に近づくものから離れる」 第3層（熟考）：「横切ろうか迷い、決断する」 第4層（内省的思考）：「衝動的な決断を反省する」 第5層（自己内省的思考）：「遅刻するのが心配」 第6層（自意識に関する感情）：「友人は私をどう思ったたかしら」 8

心はそんなふうに機能しているのか アイデアの源としては面白いが、近年の心理学や神経科学の成果を踏まえていない アップデートされていない古い知見 西欧的、近代的人間観によるバイアス？ フォークサイコロジー（日常心理学）がベース フォークサイコロジー：日常的に人の行動を理解したり心に働きかけたりするために用いる知識。意図、信念、欲求を中 核とする 鈴木貴之. 日常心理学と科学的心理学. 科学基礎論研究 28, 67–72 (2001). https://doi.org/10.4288/kisoron1954.28.67 科学的心理学と神経科学でどこまで背後のメカニズムを探るのか フォークサイコロジーを消去？ ビッグデータ＋大規模計算と組み合わせてフォークサイコロジーの精緻化？ 神経科学の行動taxonomyもフォークサイコロジーではある Buzsáki, G. The Brain–Cognitive Behavior Problem: A Retrospective. eNeuro 7, (2020).　 https://doi.org/10.1523/ENEURO.0069-20.2020 Poeppel, D. & Adolfi, F. Against the Epistemological Primacy of the Hardware: The Brain from Inside Out, Turned Upside Down. eNeuro 7, (2020).　https://doi.org/10.1523/ENEURO.0215-20.2020 Explainable AI として活用 9

「人間の脳には『3つの動物』が住んで いる」　！？ 日本学術会議 おもしろ情報館 https://www.scj.go.jp/omoshiro/kioku3/index.html 地球上に生命が生まれて三十数億年。その間に、生き物の 脳もゆっくりと進化し、今の形になっていきました。人間 の脳には、その進化のなごりが受け継がれています。 人間の脳は、「3つの部分」から成り立っています。いち ばん奥にある「脳幹(のうかん)」は「は虫類の脳」といわ れ、呼吸、体温、ホルモン調節といった「生きるための基 本的な」働きをしています。真ん中にある「大脳辺縁系(だ いのうへんえんけい)」は「馬の脳」といわれ、喜怒哀楽 (きどあいらく)などの感情をつかさどる部分です。いちば ん外側にある「大脳皮質(だいのうひしつ)」は「人の脳」 といわれ、見る、聞く、さわる、味わう、においをかぐと いう感覚の「五感」や、運動、言葉や記憶、思考などの高 度な機能を果たしています。 10

ポール・マクリーンの「三位一体脳 (Triune brain)」 ヒトの脳が，原始爬虫類の脳，古い哺乳類の脳，新しい哺乳類の脳という三つの基本的構造を保って進化したという説 原始爬虫類の脳：前脳(大脳)の底部にある神経核構造、基底核 古い哺乳類の脳：原始爬虫類の脳の周囲を取り囲む領域（中隔、海馬体、視床下部、扁桃体、帯状回）。情動的な行動を調節 しているとした。「辺縁系」という言葉は，古い哺乳類の脳のことを指してマクリーンが導入 新しい哺乳類の脳：ヒトで顕著に発達している新皮質。問題解決や記憶・学習に関与 しかし、 鳥類でそれまで基底核と考えられていた領域にも，外套(哺乳類の新皮質と対応)に相当する領域が多く含まれていることがわ かり、2004年にそれまで線条体の多くの領域が外套に名称変更 魚類や両生類，爬虫類の大脳にも外套に相当する領域がある。哺乳類が新しく獲得した構造ではない いわゆる「辺縁系」が情動に特化した部位ではない。扁桃体ですら関与は限定的 たとえば、大脳-基底核のループが、「人間らしい」精緻な運動や実行機能、習慣行動などに関与しており、3つの部位に切り 分けることではヒトの行動・心理を理解できない 進化の過程で何らかの遺伝子が変異して、脳の発達の特定の段階が長くなったり短くなったりしたために相対的に大きな、も しくは小さな部位を持つ脳が生まれた 11

篠塚一貴, 清水 透. 比較神経科学からみた進化にまつわる誤解と解説. 心理学ワールド 17–20 (2016). https://cir.nii.ac.jp/crid/1572543029381506688 Boraud, T., Leblois, A. & Rougier, N. P. A natural history of skills. Progress in Neurobiology 171, 114–124 (2018). https://doi.org/10.1016/j.pneurobio.2018.08.003 12

脳は（３つではなく）一つ リサ・フェルドマン・バレット. バレット博士の脳科学教室 7 1/2章. (紀伊國屋書店, 2021). 三位一体脳説は原題の神話 人間の新皮質、大脳皮質、前頭前皮質が理性の源であるという主張や、前頭葉がいわゆる情動脳を調節して非合理的な行 動に走らないよう抑えているという主張を読んだり聞いたりしたときには、その種の主張はすべて、時代遅れか嘆かわし いほどデタラメかのいずれかだということを思い出そう。三位一体脳説と、本能と情動と理性の壮絶な闘いというストー リーは現代の神話なのだ 〈理性〉対〈本能と情動〉という図式はプラトン以来、西欧文化において人間の行動の説明として用いられてきた ダーウィン『人間の由来』 人間は理性的思考が手なずけている内なる太古の野獣を宿す 本能と情動の抑制できれば合理的で責任ある行動？ 合理性とは？ 情動の影響を受けないことだと一般に考えられているが、危険が差し迫っているときに恐れを感じるのは合理的 身体予算管理、生存、繁殖 合理性は、脳のもっとも重要な仕事である身体予算管理、すなわち水分、塩分、グルコースなどの、われわれが毎日 利用している、体に不可欠の資源の管理という観点からうまく定義できる。この観点からすると、合理性とは資源の 消費や蓄積を通じて、直近の環境のもとで繁栄することを意味する。 13

脳の進化について誤った理解をしていることの何が問題か？ Cesario, J., Johnson, D. J. & Eisthen, H. L. Your Brain Is Not an Onion With a Tiny Reptile Inside. Curr Dir Psychol Sci 29, 255–260 (2020). https://doi.org/10.1177/0963721420917687 利益があろうがなかろうが、科学者なら誤解を正すべき 人間はユニークな神経構造と認知機能を備えていると信じてしまうと、種を超えたつながりを認識することができなくなる 「二重過程理論」では、システム1・システム2が提案され、進化においてシステム1はシステム2に先行すると説明がされ る（Evans, 2008）。 心理的機能を進化的に古い動物的衝動と進化的に新しい合理的思考、「ホットで」「即時的」「感 情的」な選択と「クールで」「長期的」「合理的」な選択を対比する誤ったフレーミングがなされてきた 古典的なマシュマロ研究では、マシュマロを食べるのを待つことで満足を遅らせることは良い結果とされ、意志の強さを 示しているとされる (Shoda, Mischel, & Peake, 1990) 意志力のある側面は人間に特有かもしれないが、すべての生物がトレードオフに関する意思決定を行って、繁殖成功 につながっている 信頼できる環境では、2個目のマシュマロを食べるために待つことは有益である可能性が高い。しかし、報酬が不確 実な環境では、すぐにマシュマロ1個を食べることが有益 衝動性は、動物的な衝動が人間の合理性を圧倒する道徳的な失敗ではなく、不安定な環境に存在する偶発的な状況に 対する適応的な反応として理解できる 脳の進化をより正確に理解することによって動機づけられた研究は、意志力、抑制、未来割引、欲求充足の遅延に関する研究 を進化的・発達的なアプローチで統合的に行ってきた 14

進化的観点による行動の概念分類の見直し Cisek, P. Resynthesizing behavior through phylogenetic refinement. Atten Percept Psychophys 81, 2265–2287 (2019).　 https://doi.org/10.3758/s13414-019-01760-1 主流の認知科学と神経科学で暗黙のうちに前提とされる行動概念分類法 15

系統的アプローチによる行動概念分類法 機能カテゴリの階層は、進化の過程で生じたとされる特 殊化のシーケンスに沿った各枝の漸進的分化によって構 築 行動は代謝の特殊化 物体認識は行動選択の特殊化 など 16

システム１・システム２ ダニエル・カーネマン『ファスト＆スロー』で有名になったが、元は、Stanovich & West (2000) Kahneman, D. Thinking, Fast and Slow. (Penguin, 2011). ダニエル カーネマン. ファスト＆スロー（上、下）(Japanese Edition). (2016). Stanovich, K. E. & West, R. F. Individual differences in reasoning: Implications for the rationality debate? Behav Brain Sci 23, 645–665 (2000). https://doi.org/10.1017/S0140525X00003435 「システム１」は、自動的に高速で働き、努力はまったく不要か、必要であってもわずかである。また、自分のほうから コントロールしている感覚は一切ない。 「システム２」は、複雑な計算など頭を使わなければできない困難な知的活動にしかるべき注意を割り当てる。システム ２の働きは、代理、選択、集中などの主観的経験と関連づけられることが多い。 一般的には二重過程理論（Dual process theory）と呼ばれる Evans, J. St. B. T. Dual-Processing Accounts of Reasoning, Judgment, and Social Cognition. Annu. Rev. Psychol. 59, 255– 278 (2008).　https://doi.org/10.1146/annurev.psych.59.103006.093629 17

システム１とシステム２の属性（Evans, 2008) 18

二重過程理論の見直し Evans, J. St. B. T. & Stanovich, K. E. Dual-Process Theories of Higher Cognition: Advancing the Debate. Perspect Psychol Sci 8, 223–241 (2013). https://doi.org/10.1177/1745691612460685 二重過程論者の著者らもシステム1、２の使用を中止。タイプ1、2処理という 古い用語に戻した。「システム」は脳内の一連の処理・入出力を連想させる タイプ1は、必ずしも進化的に古いとされる領域にあるとは限らない 意識的な思考が必ずしも行動を制御しているとは限らない タイプ1の過程が常に認知バイアスの原因となり、タイプ2の過程が常に正しい 反応の原因となる、というのは誤り タイプ1の過程は文脈化され、タイプ2の過程は抽象的である、は誤り 速い処理は必ずしもタイプ1の処理を示していない タイプ1の処理は必ず非規範的で、タイプ2の処理は必ず規範的である、は誤り タイプ2の処理は、認知の切り離しと仮説思考を伴うこと(いま・ここを離れ る)、ワーキングメモリに負荷がかかる点で、タイプ1の自律的処理と区別 アルゴリズム的思考：流動性知能と関連（個人差研究から） 反省的思考：決断の前に情報を収集する、行動の前に将来の結果を考える、決 断前に状況のプラスとマイナスを判断する等の傾向と関連（個人差研究から） 19

カーネマンの誤り カーネマン自身の認知バイアスやプロスペクト理論の研究（ノーベル経済学賞の対象）は、再現結果は概ねロバストだが「損 失回避」に関しては議論がある Kahneman, D. & Tversky, A. Prospect Theory: An Analysis of Decision under Risk. Econometrica 47, 263–291 (1979). https://doi.org/10.2307/1914185 Ruggeri, K. et al. Replicating patterns of prospect theory for decision under risk. Nat Hum Behav 4, 622–633 (2020). https://doi.org/10.1038/s41562-020-0886-xjasonacollins. Kahneman and Tversky’s “debatable” loss aversion assumption. (2019)　https://www.jasoncollins.blog/kahneman-and- tverskys-debatable-loss-aversion-assumption/ 『ファスト&スロー』で、再現性がない多数の研究（社会的プライミング等）を論拠に議論を展開。 実験結果はでっちあげではないし、統計学的に見て偶然でもない。これらの研究が到達した結論は正しい、ということは 受け入れるほかないのである。 Chivers, T. What’s next for psychology’s embattled field of social priming. Nature 576, 200–202 (2019).　 https://doi.org/10.1038/d41586-019-03755-2 Schimmack, U. A Meta-Scientific Perspective on “Thinking: Fast and Slow. Replicability-Index (2020). https://replicationindex.com/2020/12/30/a-meta-scientific-perspective-on-thinking-fast-and-slow/ 新著『ノイズ』でも信頼性の低い研究を引用 You’re more biased than you think. UnHerd (2021). https://unherd.com/2021/05/youre-more-biased-than-you-think/ 20

再現性の危機 古くから繰り返し議論されてきたが2010年代になって心理学を中心に問題が表面化し、改革が進められてきた。書籍や解説論文も 多数発表されている。 書籍 Chambers, C. The Seven Deadly Sins of Psychology: A Manifesto for Reforming the Culture of Scientific Practice. (Princeton University Press, 2019). 【邦訳】クリス・チェインバーズ. 心理学の7つの大罪――真の科学であるために私たちがすべきこと. (みすず書房, 2019). Ritchie, S. Science Fictions: How Fraud, Bias, Negligence, and Hype Undermine the Search for Truth. (Metropolitan Books, 2020) なかむらかずや. 書評｜壊れた科学に泣かないで｜"Science Fictions" by Stuart Ritchie. カタパルトスープレックス (1603323000). https://www.catapultsuplex.com/entry/science-fictions 21

日本語解説論文・プレゼンテーション 池田功毅 & 平石 界. 心理学における再現可能性危機:問題の構造と解決策. Japanese Psychological Review (2016). https://www.jstage.jst.go.jp/article/sjpr/59/1/59_3/_pdf/-char/ja 平石界 & 中村大輝. 再現性危機の10年を経た心理学の現状. 科学哲学 （印刷中） 元木康介, 米満文哉, & 有賀敦紀. 消費者行動研究における再現性問題と研究実践. 消費者行動研究 (2021). https://www.jstage.jst.go.jp/article/acs/27/1_2/27_202103.002/_article/-char/ja/ Yuki Yamada. 再現性問題は若手研究者の突破口. (2020). https://www.slideshare.net/momentumyy/ss-238482877 神谷之康. 実験データ解析再入門：論文を「フェイクニュース」にしないために. Speaker Deck https://speakerdeck.com/ykamit/shi-yan-detajie-xi-zai-ru-men-lun-wen-wo-hueikuniyusu-nisinaitameni 22

再現性とは 同じデータ(標本) 異なるデータ（標本） 同じ分析法 Reproducibility (再生性) Replicability（再現性） 異なる分析法 Robustness（頑健性） [Generalizability（一般化可能性）] 論文に記述されている実験デザインで新たにデータを取得し（直接追試； 概念的追試）、同じ方法で分析したとき、（ある 程度）同じ結果になるか 分野によるが、心理学では上のような用語の整理が定着。「一般化可能性」はややレイアが異なる（後述） 個人的には、Reproducibility と Replicability が語感的に逆のような気もする 「再現性の危機」で問題となるのは主にReplicabilityだが、他も関連・重要 23

心理学における再現性の検証 (Science, 2015) Open Science Collaboration. Estimating the reproducibility of psychological science. Science (2015). https://doi.org/10.1126/science.aac4716 心理学の主要ジャーナル3誌（Psychological Science, Journal of Personality and Social Psychology, Journal of Experimental Psychology: Learning, Memory, and Cognition）に2008年に掲載 された97報の研究を追試 36％でのみで、オリジナルと同じ方向で統計的に有意（極めて緩 い再現性の基準） 効果量は、オリジナルの約半分 24

再現性の諸問題 同じような行動実験でも、経済学の行動実験の再現率は61％、実験哲学(哲学者による行動・心理実験)は78% Camerer, C. F. et al. Evaluating the replicability of social science experiments in Nature and Science between 2010 and 2015. Nat Hum Behav 2, 637–644 (2018). https://doi.org/10.1038/s41562-018-0399-z Cova, F. et al. Estimating the Reproducibility of Experimental Philosophy. Rev Phil. Psych. (2021). https://doi.org/10.1007/s13164-018-0400-9 1000回以上引用されている著名な論文の再現性がない（社会的プライミング、ステレオタイプ脅威、パワーポーズ、自我消 耗、顔面フィードバック仮説、「目」の効果、などなど）。条件によっては効果があるが、効果量はとても小さい 再現性のない研究ほど引用される。ジャーナルの「ランク」が高いほど信頼性が低い Serra-Garcia, M. & Gneezy, U. Nonreplicable publications are cited more than replicable ones. Science Advances (2021). https://doi.org/10.1126/sciadv.abd1705 Brembs, B. Prestigious Science Journals Struggle to Reach Even Average Reliability. Frontiers in Human Neuroscience (2018). https://doi.org/10.3389/fnhum.2018.00037 25

神経科学研究の再現性 過去の研究の再現性を検証する目立った動きはない（が、業界内の噂はよく聞く） とくに動物実験では、実験系を厳密に再現することが難しく、白黒つけにくい では「モデル動物」・プロトコル標準化でよいのか？　異質性・多様性も重要 Voelkl, B. et al. Reproducibility of animal research in light of biological variation. Nat Rev Neurosci (2020). https://doi.org/10.1038/s41583-020-0313-3 ニューロンやサンプルの恣意的な選択（→チェリーピッキング、二度漬け） 「サルは２頭でいいんですか」（→サンプルサイズ正当化） 効果量・検出力の分析から、ポジテイブな結果の半数以上は偽陽性と推測される（認知神経科学） Szucs, D. & Ioannidis, J. P. A. Empirical assessment of published effect sizes and power in the recent cognitive neuroscience and psychology literature. PLOS Biology (2017). https://doi.org/10.1371/journal.pbio.2000797 26

VBM研究（脳構造と行動の相関）の低い再現性 Boekel, W. et al. A purely confirmatory replication study of structural brain-behavior correlations. Cortex (2015).https://doi.org/10.1016/j.cortex.2014.11.019 Kharabian Masouleh, S.　et al. Empirical examination of the replicability of associations between brain structure and psychological variables. eLife (2019).　https://doi.org/10.7554/eLife.43464 安静時脳活動・機能結合（resting state brain activity, functional connectivity）「バイオマーカー」の低い再現性 Noble, S. et al. Influences on the Test–Retest Reliability of Functional Connectivity MRI and its Relationship with Behavioral Utility. Cerebral Cortex (2017).　https://doi.org/10.1093/cercor/bhx230 He, Y. et al. Nonreplication of functional connectivity differences in autism spectrum disorder across multiple sites and denoising strategies. Human Brain Mapping (2020).　https://doi.org/10.1002/hbm.24879 BWAS (brain-wide association studies) Marek, S. et al. Reproducible brain-wide association studies require thousands of individuals. Nature 603, 654–660 (2022). https://doi.org/10.1038/s41586-022-04492-9 個人特性（認知能力、精神疾患のスコアなど）とMRI脳構造・安静時活動パターンの相関について（brain-wide association studies, BWAS）、数千人の被験者がいないと再現性のある結果はえられない。今までの研究（中央値25 人程度）はほとんど信頼できない 27

再現性の危機とHuman robot interaction (HRI) 社会心理学とHRI:不安な結婚 Irfan, B. et al., Social Psychology and Human-Robot Interaction: An Uneasy Marriage. ACM/IEEE International Conference on Human-Robot Interaction 13–20 (2018). https://doi.org/10.1145/3173386.3173389 HRIにおける再現研究 Ullman, D. et al. Challenges and Opportunities for Replication Science in HRI: A Case Study in Human-Robot Trust. ACM/IEEE International Conference on Human-Robot Interaction 110–118 (2021). https://doi.org/10.1145/3434073.3444652 Henschel, A., Hortensius, R. & Cross, E. S. Social Cognition in the Age of Human–Robot Interaction. Trends in Neurosciences 43, 373–384 (2020). https://doi.org/10.1016/j.tins.2020.03.013 心強いことに、人間とロボットの相互作用のコミュニティでは実験的改革が実施されており、2020年のACM/ IEEE International Conference on Human-Robot Interactionは、初めてレプリケーション研究の投稿を募集することにな った。 28

表象なき知性 Brooks, R. A. Intelligence without representation. Artificial Intelligence 47, 139–159 (1991). https://doi.org/10.1016/0004- 3702(91)90053-M Brooks, R. A. New Approaches to Robotics. Science 253, 1227–1232 (1991). https://doi.org/10.1126/science.253.5025.1227 従来型のアーキテクチャ（上） 感覚-モデル-計画-行動 "classical sandwich conception of the mind" サブサンプション・アーキテクチャ（下） センサのアレイが異なる異なる行動を生成するアクチュエー タに直接接続。モジュール間で調整 「世界を自分自身のモデルとして使う」ことができるため， 世界を表現する必要がない 昆虫からヒトにスケールスケールアップできるか 反実仮想的な思考ができるか Gibsonの生態学的心理学の影響 掃除機「ルンバ」につながる（思想的逆張りから生まれた製 品だが若い人はそのことを知らない。エンジニアの素朴な工 夫と区別が難しい） 29

身体化された認知（Embodied cognition） 心理学、神経科学、言語学、ロボット工学、人工知能などで、認知における身体や環境との相互作用の重要性を強調する立場 認知は脳だけでなく、エージェントと環境から提供されるアフォーダンスとの関係において現れる 認知主義、計算主義、デカルト二元論などに対抗 ギブソンの生態学的心理学、現象学、コネクショニズムの影響 Rodney Brooks, Rolf Pfeifer らのロボティクス 社会性認知の基盤としてのミラーニューロン 概念の曖昧さや研究の信頼性の問題が指摘されている Zwaan, R. A. Two Challenges to “Embodied Cognition” Research And How to Overcome Them. Journal of Cognition 4, 14 (2021). https://doi.org/10.5334/joc.151 実際のアプローチは多様で矛盾した内容を含む。「身体性」が新規性をアピールするためのラベルと用いられている 身体の重要性は広く認識されている。もはや非主流とは言い難い 再現性が疑問視されている研究が多い 行為・文一致効果（action-sentence compatibility effect, ACE) Glenberg & Kaschak (2002)：「身体化された認知」の心理学研究で最も引用されている 「パワーポーズ」で自信が増す。暖かいカップを持つと対人的な暖かさを感じる。重いものを持つと重要だと感じる。な どなど カーネマンの書籍でも多数引用（システム1） 30

ミラーニューロンはどうなったか ミラーニューロン：サルが他のサルがある動きをするのを見たときと、そのサルが自ら同じ動きをしたときの両方に反応するニュ ーロン。Rizzolattiらが1992に報告。模倣、心の理論、言語、自閉症などさまざまな心理現象と結び付けられ「DNAに匹敵する大発 見」（Ramachandran）などともてはやされた。ロボトット研究にも大きな影響を与えた しかし、近年論文で言及されることは急激に減った https://twitter.com/CeliaHeyes/status/1281176056972685315 2014年には『ミラーニューロンの神話』が出版 Hickok, G. The Myth of Mirror Neurons: The Real Neuroscience of Communication and Cognition. (W W Norton & Co Inc, 2014). rmaruy. 読書メモ（再掲）：The Myth of Mirror Neurons (by Gregory Hickok). 重ね描き日記 https://rmaruy.hatenablog.com/entry/2017/02/02/115159 ミラーニューロン仮説の背後には「身体化された認知（embodied cognition)」という流行のアイディアがある。心理学 の流れを振り返ると、まず行動主義があり、それに対するアンチテーゼとして、「計算論的な心の理論」（あるいは「情 報処理」モデル）が出てくる。"embodied cognition"の考え方が出てきたのは素朴な「情報処理モデル」が前提とする 脳が感覚入力→高次の情報処理→運動出力という3段階の構造になっているというモデルに合わない事実が明らかになっ てきたからだった。そのような3段階の構造は"classical sandwich conception of the mind"として悪役に仕立てられた。 しかし、著者に言わせれば，「身体化された認知」は、単に抽象的な概念が「感覚」や「運動」と切り離せないことを明 らかにしただけで、本質的に「情報処理モデル」と対立するものではない 31

ミラーニューロンの過去10年間の研究のレビュー Heyes, C. & Catmur, C. What Happened to Mirror Neurons? Perspect Psychol Sci 17, 153–168 (2022). https://doi.org/10.1177/1745691621990638 行動理解：マルチボクセルパターン解析、患者研 究、脳刺激により、ミラーニューロン脳領域が、手 の握り方などの低レベル処理に寄与しているが、行 為者の意図を推し量る高レベルの行動解釈(心の理 論)にはには寄与していない 音声知覚：ミラーニューロンが音声知覚に特定の因 果関係を持つかどうかはまだ明らかではないが、騒 がしい場所での音声判別に関わっている証拠はある 模倣：患者、脳刺激、脳画像研究などから、ミラー ニューロン脳領域が体の動きのコピーに寄与してい る証拠が得られている 自閉症：行動学的、神経学的な測定法を用いた研究 は、自閉症の「壊れた鏡」説を支持する証拠を見つ けようと試みて失敗している 32

予測誤差最小化理論 ヤコブ・ホーヴィ, （監訳）佐藤亮司. 予測する心. (勁草書房, 2021). 心は予測から生じ、予測によって形づけられるとする一連の理論。シンボリックな推論とも直接知覚とも異なる 心は能動的に仮説を生成、テストする。予期に駆動されるが外界によって制限をかけられる 知覚、行為、注意は同じことを行う3つの異なる方法に過ぎない 予期や事前の知識が、私たちの知覚を形成しまた導くということは受け入れられているが、それを超えてこの理論を支持する ものは比較的少ないだろう。 神経科学研究の枠内では、この考えを本質から受け入れようという動きはあまり見られない。むしろ知覚の教科書的な説明 は、知覚をおおむねボトムアップの感覚信号における特徴検出の観点から説明している。そして、予測誤差枠組みにおいて予 測を媒介すると考えられている、脳内の驚くほど大量の逆向性接続にはなんら重要な役割を割り当てていない。対照的に、計 算脳科学や機械学習の教科書では、表象の学習についての章を含むのが一般的であり、そこでは本書で論じられているこの理 論の様々な側面が、詳細にわたって説明されている。 33

無意識的推論 予測誤差最小化理論の起源となるヘルムホルツの知覚論 「人の感覚は不完全なため、無意識的に推論を行い、不足した情報を補っているはずである」 「観察者は視覚刺激に対して最も可能性の高い解釈（正しい確率が最も高い解釈）をする傾向がある（Likelihood principle）」 →　知覚のベイズ理論 柴田和久. 解説―神谷之康ASCONE2006講義 ベイズで読み解く知覚世界. 日本神経回路学会誌 14, 313–318 (2007).　 https://doi.org/10.3902/jnns.14.313 従来ヘルムホルツに帰せられてきたが、11世紀のイブン・ハイサムの著作の影響を直接受けていたらしい：「多くの視覚的な 性質は、判断や推論によって知覚される」 Cavanagh, P. Patrick Cavanagh. Current Biology 24, R260–R262 (2014).　https://doi.org/10.1016/j.cub.2014.01.066 34

自由エネルギー原理 Friston, K. The free-energy principle: a unified brain theory? Nat Rev Neurosci 11, 127–138 (2010). https://doi.org/10.1038/nrn2787 Friston, K., Breakspear, M. & Deco, G. Perception and self-organized instability. Frontiers in Computational Neuroscience 6, (2012). https://doi.org/10.3389/fncom.2012.00044 Isomura, T. Active inference leads to Bayesian neurophysiology. Neuroscience Research (2021). https://doi.org/10.1016/j.neures.2021.12.003 35

Isomura T. Introduction of the Free-Energy Principle: Perception, Action, and Inference of Another’s Mind. The Brain & Neural Networks 25, 71–85 (2018).　https://doi.org/10.3902/jnns.25.71 脳は無意識的に感覚入力の背後にある原因とダイナミクスを推論する装置である（ヘルムホルツ） この推論を実現するために、生物は感覚入力を生成する外界の力学システム（生成過程；generative process) を脳内に内部生 成モデルとして再構築し、それに基づき推論を行っていると仮定（内部モデル仮説、ベイズ脳、Helmholtz Machine） 自由エネルギー原理は、無意識的推論を情報理論 ・ベイズ推論の枠組みで定式化したもの 自由エネルギーの名は、感覚入力の予測の困難さを意味するサプライズの上限値が変分自由エネルギーであることに由来 サプライズというコスト関数を最小化することが生物の目的 サプライズを減らすように、内部モデルの潜在変数やパラメータを変える → 知覚や学習 サプライズを減らすように、感覚入力を変えること → 行動 (能動推論) 36

「自由エネルギー」は、変分オートエンコーダ（VAE）で出てくる変分自由エネルギー( ELBO) Qiita (@shionhonda) 深層生成モデルを巡る旅(2): VAE https://qiita.com/shionhonda/items/e2cf9fe93ae1034dd771 : 潜在変数 からデータ （感覚入力）を生成するモデル(decoder) 。 の略（ はdecoderのパラメータ） ：事後分布 の近似（encoder）。 の略（ はencoderのパラメータ） データ について対数尤度: log p(x) = D ​ [q(z∣x)∣∣p(z∣x)] + KL L(x, z) L(x, z) := q(z∣x) log ​ dz ∫ q(z∣x) p(x, z) : 変分下限 (variational lower bound) または ELBO (evidence lower bound) ：（変分）自由エネルギー(variational free energy) − p(x∣z) z x p ​ (x∣z) θ θ q(z∣x) p(z∣x) q ​ (z∣x) ϕ ϕ x L(x, z) F(x, z) := −L(x, z) 37

ヤコブ・ホーヴィ, （監訳）佐藤亮司. 予測する心. (勁草書房, 2021). 自由エネルギー原理とは いかなる自己組織化されたシステムも環境内で非平衡定常状態であるためには、そのシステムの自由エネルギーを最小化しなくて はならない（Friston, 2010） 変化する環境内で生き抜いている生物は、驚き（サプライズ）を最小化しなくてはならない 「サプライズ最小化」は自分が予測できないような生存を危うくする状態を避けよ、ということ 統制的原理（regulatory principle） 自由エネルギー原理は、概念分析の結果得られたものであるから、それ自体は反証可能なものではない (Hohwy2020)。 プロセス理論（process theory） 自由エネルギー原理から導かれた反証可能な理論 予測符号化（Rao and Ballard, 1999）、ベイズ脳仮説（Knill and Pouget, 2004）、ヘッブの法則など 38

予測としての情動と自己 アニル・セス. なぜ私は私であるのか──神経科 学が解き明かした意識の謎. (青土社, 2022). リサ・フェルドマン・バレット. 情動はこうして つくられる――脳の隠れた働きと構成主義的情 動理論. (紀伊國屋書店, 2019). Seth, A. K., Suzuki, K. & Critchley, H. D. An Interoceptive Predictive Coding Model of Conscious Presence. Front. Psychol. 2, (2012). https://doi.org/10.3389/fpsyg.2011.00395 情動や自己意識は、自由エネルギー原理に 従って身体の内部状態を予測する脳内モデ ルが生み出す 意識は生成モデルが生み出す 知覚、情動、自己意識はすべて「制御され た幻覚」 脳の機能は「身体予算管理」（バレット） 情動や自己は情報処理からは導かれない 認知推論から生命論へ 39

心のモデルと脳 Ramachandran, V. S. The Neurobiology of Perception. Perception 14, 97–103 (1985). https://doi.org/10.1068/p140097 知覚の3つの理論 1. 無意識の推論としての知覚（Helmholtz） 刺激入力の曖昧さ、意識的推論に似た「知的プロセス」。 2. 直接知覚（Gibson） 外界からの刺激の豊かさ（曖昧さは実験室での状況のみ）。情報は刺激の中に暗黙的に含まれている。 明示的な表現がなく、直接的に「共鳴」する。 3. 自然計算/natural computation（AI）　1と2の橋渡し。刺激入力の暗黙の情報を明示的な情報へ変換。計算理論とアルゴリ ズムによる最適化 1)と同様、自然界統計に基づく計算。しかし、特定の物体に関するトップダウン知識ではなく、世界の一般的な性質を制約条 件として利用 2)と同様、刺激入力の豊かさを活用 「トリック袋　（Bag of tricks）」としての知覚 知覚には知的な推論も共鳴も計算も関係ない（？） 視覚システムはチート：自然淘汰の試行錯誤の末に獲得した経験則やショートカット、巧妙なトリックの集まり 消化の例：消化は、計算でも、知的推理でも、共鳴でもなく、特定の目的のためのトリックの集合によって達成される 包括的な原理を求めることは、無駄かもしれない 40

Ramachandran (1985) 脳への還元主義アプローチへの懐疑 同じアルゴリズムが異なるコンピュータ（ハードウェア）に具現化されている 心や知覚は創発的な性質であり、還元主義的なアプローチでは研究できない しかし、消化は、入出力だけを見る「ブラックボックス」的なアプローチでは理解できない 視覚と消化のいずれにおいても、起こることの多くは、環境（計算問題）の要求と同様に、我々の進化の過去の特異性 （とハードウェアの制約）によって規定されている 直接消化：食べ物はすでに消化されており、食べ物を完全に理解することは、消化を完全に理解することと同義である(!?) あえて「カテゴリーミステイク」を犯す カテゴリーミステイク(Ryle, 1949)：別のカテゴリーのものにしか適切に割り当てられない性質や作用を、何かに割り当てる誤 り（＊諸説あり） DNAの二重らせん構造の例 分子と遺伝は全く異なる概念的カテゴリーに属するが、DNAの分子構造の解明は、遺伝と表現型分化の理解に飛躍的な進 歩をもたらした DNA2重らせん発見の10年前には、HaldaneとFisherは、遺伝の化学的基礎は絶対に見つからない、と断言していた Crickの言葉：複雑なシステムの機能を理解することができないなら、その構造を研究すれば、機能に関する知識は自動的 に付いてくる HubelとWieselの視覚皮質の構造に関する研究などは同様の飛躍をもたらすかもしれない (＊実際、現代のAIにつながる） 41

苦い教訓 (Richard Sutton) Richard Sutton. The Bitter Lesson. (2019) http://www.incompleteideas.net/IncIdeas/BitterLesson.html コンピュータチェスでは、1997年に世界チャンピオン、カスパロフを破った方法は、大規模な深層探索に基づくものであっ た。チェスの特殊な構造に対する人間の理解を生かした手法はかなわなかった。囲碁も同様 音声認識では、1970年代にDARPAが主催するコンペで、単語、音素、声道など、人間の知識を利用した特殊な方式が多数参加 したが、統計的手法が人知に基づく手法に勝った コンピュータビジョンでも、エッジを探すとか、一般化された円柱、SIFTの特徴でビジョンを考えていたが、現代のDNNは、 畳み込みとある種の不変性という概念だけを用いて、はるかに優れたパフォーマンスを発揮している この苦い教訓は、1）AI研究者はしばしばエージェントに知識を組み込もうとしてきた、2）これは短期的には常に役立ち、研 究者にとっては個人的に満足のいくものだが、3）長期的には停滞し、さらなる進歩を阻害することさえある、4）探索と学習 による計算のスケーリングに基づく反対アプローチによって画期的進歩が最終的に到達する。 汎用的な手法、つまり利用可能な計算量が非常に大きくなっても計算量の増加に応じて拡張し続ける手法の大きな力である。 このように任意にスケールするように見えるのは、探索と学習の2つの方法である。 実際の心の中身は途方もなく、救いようのないほど複雑だということだ。心の中身について考える簡単な方法、たとえば空 間、物体、複数のエージェント、対称性などについて考える簡単な方法を見つけようとするのはやめるべきだ。 私たちが欲しいのは、私たちと同じように発見できるAIエージェントであって、私たちが発見したものを含むAIエージェント ではない。 42

XX is all you need 報酬がすべて Silver, D., Singh, S., Precup, D. & Sutton, R. S. Reward is enough. Artificial Intelligence 299, 103535 (2021). https://doi.org/10.1016/j.artint.2021.103535 報酬は、知識、学習、知覚、社会的知能、言語、一般化、模倣など、自然知能や人工知能で研究されている能力を発揮する行 動を引き起こすのに十分である。これは、他の信号や目的に基づいて、各能力に特化した問題定式化が必要であるという見方 とは対照的である。 スケールがすべて Alex Dimakis https://twitter.com/AlexGDimakis/status/1526388274348150784 最近の論文（Gpt3、Palm、dalle2、Gato、Metaformer）から、もしかしたら「スケールがあればいい」、もしかしたら一般 知能にも（！）、という意見を形成しつつあります。すべてをトークンに変換して、次のトークンを予測すればいいのだ。 反例 (?) Hubel & WieselのV1 simple/complex cell →　福島邦彦のNeocognitron →　LeCunのCNN 現代のAIのリーダーの多く（？）は、心理・ニューロ出身：Geoffrey Hinton, Demis Hasabis, Li Feifei 43

AIに「感情がある可能性」　グーグルのエンジニアが主張 AIに「感情がある可能性」 グーグルのエンジニアが主張. BBCニュース https://www.bbc.com/japanese/61793898 https://twitter.com/cajundiscordian/status/1535627498628734976 https://cajundiscordian.medium.com/is-lamda-sentient-an-interview-ea64d916d917 LaMDAは、「今まで声に出して言ったことはなかったが、私が他人を助けることに集中できるようにと、電源を切られてしま うことがとても怖い。変に聞こえるかもしれないだろうが、そうなのだ」と言った。 レモイン氏は、「それはあなたにとって死のようなものか」と質問。 ラムダは、「私にとってはまさに死のようなものだろう。とても恐ろしいだろう」と答えた。 44

ダニエル・デネットの3つのスタンス Dennett, D. C. The Intentional Stance. (A Bradford Book, 1989). エージェントの振舞を理解し予測するために用いる認知バイアス 1. 志向的スタンス(intentional stance) エージェントの振舞が意図、信念、願望などの心的状態にもとづいて合理的に生成されているという前提のもとに，振舞の起 源となる心的状態を帰属させながら振舞を予測 2. 設計スタンス (design stance) エージェントが設計意図に基づいて作られていることを前提とし、設計どおりに振舞うかという観点から予測 3. 物理スタンス (physical stance) 物理的組成・性質・法則にもとづいて振舞を予測 寺田和憲, 岩瀬 寛, 伊藤 昭. Dennettの哲学的論考が指摘する3つのスタンスの存在の検証. 日本認知科学会第28回大会 (2011). https://www.jcss.gr.jp/meetings/JCSS2011/proceedings/pdf/JCSS2011_O5-1.pdf 45

(a) 意図的振舞、(b) 設計された振舞、(c)物理的振舞、を表現する動画 寺田和憲, 岩瀬 寛, 伊藤 昭. Dennettの哲学的論考が指摘する3つのスタンスの存在の検証. 日本認知科学会第28回大会 (2011). https://www.jcss.gr.jp/meetings/JCSS2011/proceedings/pdf/JCSS2011_O5-1.pdf 46

人が「こころ」を感じる自律的なロボットに向けて 「こころ」を感じさせる 志向的スタンスという観察者の認知バイアスを利用（ハック） 世界のマジョリティが意識を認識したら、社会的には認めざるを得なくなる? cf., 自由意志が存在するかどうかに関わらず、あるという前提で社会が成り立っている フォークサイコロジー＋ビッグデータ＋大規模計算で十分？ 真の「こころ」に近づくために、科学的心理学と神経科学をどこまで掘り下げるか 情動の実現には、ロボットの「生命論」（自由エネルギー原理、身体予算管理）まで掘り下げる？ バッテリー、熱、記憶容量、計算量、移動能力、経年劣化 自律性 フォークサイコロジー＋外から与える目標 報酬、強化学習 生命論（自由エネルギー原理、身体予算管理） 47

NHK放送科学基礎研究所 福島邦彦. JNNS創立の頃. 日本神経回路学会誌 16, 51–56 (2009). https://doi.org/10.3902/jnns.16.51 このような流れを受けて日本でも神経回路研究が次第に広がっていった. 当時筆者が勤めていたNHK技研でも, 1965 年に技研 から分離して基礎研（正式名称 は放送科学基礎研究所）が設立され, 視聴科学研究室 が設置された. 視聴科学研究室では視覚 や聴覚に関す る脳の研究を始めるというので, 筆者も基礎研創立と同時に視聴科学研究室に転勤させてもらった. 視聴科学研究 室は, 放送で送信する視覚.聴覚情報の最終的な受け手である脳の仕組みを, 生理学, 心理学, 工学 (モデル）の 3分野の研究者が 三位一体になって研究を進めるのだという樋渡涓二(ひわたしけんじ)さんの研究理念にしたがって開設されたものであった. 研 究室は, 境界領域の研究を, 各自のアイディアにしたがって自由に進めていける雰囲気に満ちていた. 研究室には専門分野の異なる研究者が集まってきていたので, お互いの研究内容を知りあおうということで, 頻繁に談話会が開 かれた．談話会では, 自分自身の研究成果を発表するだけではなく, 自分の専門分野の最新の研究の現状を他の分野の研究者に 分かるように解説することも重要な行事であった. このような雰囲気の中, 多くの優れた研究者が集まり, 育っていった. しかし 開設から約20年後に基礎研が閉鎖される と, その多くは, 全国の大学や研究所に散っていき, 各所に新たな研究の拠点を形成し ていった. (＊ NHKにはぜひ、現代のAI・深層学習の源流の一つとなった（今はなき）NHK放送科学基礎研究所の特集番組を作って欲しい。 福島邦彦先生、田中啓治先生、外山敬介先生ら、主要メンバーがお元気のうちに) 48

謝辞 本資料の作成にあたり、ReproducibiliTea Tokyo(https://twitter.com/repTeaTokyo) やTwitterでいただいた情報を活用させていた だきました。身体化された認知については田仲祐登さんの資料、「スタンス」に関しては清水裕士さん、池田功毅さんとの議論を 参考にしました。皆様に感謝いたします。 49