『ミンスキー博士の脳の探検 -常 識・感情・自己とは-』 原題は『Emotion Machine（感情機械）』 Minsky, M. The Emotion Machine: Commonsense Thinking, Artificial Intelligence, and the Future of the Human Mind. (Simon & Schuster, 2007).
心はそんなふうに機能しているのか アイデアの源としては面白いが、近年の心理学や神経科学の成果を踏まえていない アップデートされていない古い知見 西欧的、近代的人間観によるバイアス？ フォークサイコロジー（日常心理学）がベース フォークサイコロジー：日常的に人の行動を理解したり心に働きかけたりするために用いる知識。意図、信念、欲求を中 核とする 鈴木貴之. 日常心理学と科学的心理学. 科学基礎論研究 28, 67–72 (2001). https://doi.org/10.4288/kisoron1954.28.67 科学的心理学と神経科学でどこまで背後のメカニズムを探るのか フォークサイコロジーを消去？ ビッグデータ＋大規模計算と組み合わせてフォークサイコロジーの精緻化？ 神経科学の行動taxonomyもフォークサイコロジーではある Buzsáki, G. The Brain–Cognitive Behavior Problem: A Retrospective. eNeuro 7, (2020). https://doi.org/10.1523/ENEURO.0069-20.2020 Poeppel, D. & Adolfi, F. Against the Epistemological Primacy of the Hardware: The Brain from Inside Out, Turned Upside Down. eNeuro 7, (2020). https://doi.org/10.1523/ENEURO.0215-20.2020 Explainable AI として活用 9
Boraud, T., Leblois, A. & Rougier, N. P. A natural history of skills. Progress in Neurobiology 171, 114–124 (2018). https://doi.org/10.1016/j.pneurobio.2018.08.003 12
脳の進化について誤った理解をしていることの何が問題か？ Cesario, J., Johnson, D. J. & Eisthen, H. L. Your Brain Is Not an Onion With a Tiny Reptile Inside. Curr Dir Psychol Sci 29, 255–260 (2020). https://doi.org/10.1177/0963721420917687 利益があろうがなかろうが、科学者なら誤解を正すべき 人間はユニークな神経構造と認知機能を備えていると信じてしまうと、種を超えたつながりを認識することができなくなる 「二重過程理論」では、システム1・システム2が提案され、進化においてシステム1はシステム2に先行すると説明がされ る（Evans, 2008）。 心理的機能を進化的に古い動物的衝動と進化的に新しい合理的思考、「ホットで」「即時的」「感 情的」な選択と「クールで」「長期的」「合理的」な選択を対比する誤ったフレーミングがなされてきた 古典的なマシュマロ研究では、マシュマロを食べるのを待つことで満足を遅らせることは良い結果とされ、意志の強さを 示しているとされる (Shoda, Mischel, & Peake, 1990) 意志力のある側面は人間に特有かもしれないが、すべての生物がトレードオフに関する意思決定を行って、繁殖成功 につながっている 信頼できる環境では、2個目のマシュマロを食べるために待つことは有益である可能性が高い。しかし、報酬が不確 実な環境では、すぐにマシュマロ1個を食べることが有益 衝動性は、動物的な衝動が人間の合理性を圧倒する道徳的な失敗ではなく、不安定な環境に存在する偶発的な状況に 対する適応的な反応として理解できる 脳の進化をより正確に理解することによって動機づけられた研究は、意志力、抑制、未来割引、欲求充足の遅延に関する研究 を進化的・発達的なアプローチで統合的に行ってきた 14
Stanovich, K. E. & West, R. F. Individual differences in reasoning: Implications for the rationality debate? Behav Brain Sci 23, 645–665 (2000). https://doi.org/10.1017/S0140525X00003435 「システム１」は、自動的に高速で働き、努力はまったく不要か、必要であってもわずかである。また、自分のほうから コントロールしている感覚は一切ない。
「システム２」は、複雑な計算など頭を使わなければできない困難な知的活動にしかるべき注意を割り当てる。システム ２の働きは、代理、選択、集中などの主観的経験と関連づけられることが多い。 一般的には二重過程理論（Dual process theory）と呼ばれる
Evans, J. St. B. T. Dual-Processing Accounts of Reasoning, Judgment, and Social Cognition. Annu. Rev. Psychol. 59, 255– 278 (2008). https://doi.org/10.1146/annurev.psych.59.103006.093629 17
二重過程理論の見直し Evans, J. St. B. T. & Stanovich, K. E. Dual-Process Theories of Higher Cognition: Advancing the Debate. Perspect Psychol Sci 8, 223–241 (2013). https://doi.org/10.1177/1745691612460685 二重過程論者の著者らもシステム1、２の使用を中止。タイプ1、2処理という 古い用語に戻した。「システム」は脳内の一連の処理・入出力を連想させる タイプ1は、必ずしも進化的に古いとされる領域にあるとは限らない 意識的な思考が必ずしも行動を制御しているとは限らない タイプ1の過程が常に認知バイアスの原因となり、タイプ2の過程が常に正しい 反応の原因となる、というのは誤り タイプ1の過程は文脈化され、タイプ2の過程は抽象的である、は誤り 速い処理は必ずしもタイプ1の処理を示していない タイプ1の処理は必ず非規範的で、タイプ2の処理は必ず規範的である、は誤り タイプ2の処理は、認知の切り離しと仮説思考を伴うこと(いま・ここを離れ る)、ワーキングメモリに負荷がかかる点で、タイプ1の自律的処理と区別 アルゴリズム的思考：流動性知能と関連（個人差研究から） 反省的思考：決断の前に情報を収集する、行動の前に将来の結果を考える、決 断前に状況のプラスとマイナスを判断する等の傾向と関連（個人差研究から） 19
Kahneman, D. & Tversky, A. Prospect Theory: An Analysis of Decision under Risk. Econometrica 47, 263–291 (1979). https://doi.org/10.2307/1914185
Ruggeri, K. et al. Replicating patterns of prospect theory for decision under risk. Nat Hum Behav 4, 622–633 (2020). https://doi.org/10.1038/s41562-020-0886-xjasonacollins.
Kahneman and Tversky’s “debatable” loss aversion assumption. (2019) https://www.jasoncollins.blog/kahneman-and- tverskys-debatable-loss-aversion-assumption/ 『ファスト&スロー』で、再現性がない多数の研究（社会的プライミング等）を論拠に議論を展開。 実験結果はでっちあげではないし、統計学的に見て偶然でもない。これらの研究が到達した結論は正しい、ということは 受け入れるほかないのである。 Chivers, T. What’s next for psychology’s embattled field of social priming. Nature 576, 200–202 (2019). https://doi.org/10.1038/d41586-019-03755-2
Schimmack, U. A Meta-Scientific Perspective on “Thinking: Fast and Slow. Replicability-Index (2020). https://replicationindex.com/2020/12/30/a-meta-scientific-perspective-on-thinking-fast-and-slow/ 新著『ノイズ』でも信頼性の低い研究を引用
You’re more biased than you think. UnHerd (2021). https://unherd.com/2021/05/youre-more-biased-than-you-think/ 20
再現性の危機 古くから繰り返し議論されてきたが2010年代になって心理学を中心に問題が表面化し、改革が進められてきた。書籍や解説論文も 多数発表されている。 書籍 Chambers, C. The Seven Deadly Sins of Psychology: A Manifesto for Reforming the Culture of Scientific Practice. (Princeton University Press, 2019). 【邦訳】クリス・チェインバーズ. 心理学の7つの大罪――真の科学であるために私たちがすべきこと. (みすず書房, 2019). Ritchie, S. Science Fictions: How Fraud, Bias, Negligence, and Hype Undermine the Search for Truth. (Metropolitan Books, 2020) なかむらかずや. 書評｜壊れた科学に泣かないで｜"Science Fictions" by Stuart Ritchie. カタパルトスープレックス (1603323000). https://www.catapultsuplex.com/entry/science-fictions 21
心理学における再現性の検証 (Science, 2015) Open Science Collaboration. Estimating the reproducibility of psychological science. Science (2015). https://doi.org/10.1126/science.aac4716 心理学の主要ジャーナル3誌（Psychological Science, Journal of Personality and Social Psychology, Journal of Experimental Psychology: Learning, Memory, and Cognition）に2008年に掲載 された97報の研究を追試 36％でのみで、オリジナルと同じ方向で統計的に有意（極めて緩 い再現性の基準） 効果量は、オリジナルの約半分 24
再現性の諸問題 同じような行動実験でも、経済学の行動実験の再現率は61％、実験哲学(哲学者による行動・心理実験)は78% Camerer, C. F. et al. Evaluating the replicability of social science experiments in Nature and Science between 2010 and 2015. Nat Hum Behav 2, 637–644 (2018). https://doi.org/10.1038/s41562-018-0399-z Cova, F. et al. Estimating the Reproducibility of Experimental Philosophy. Rev Phil. Psych. (2021). https://doi.org/10.1007/s13164-018-0400-9 1000回以上引用されている著名な論文の再現性がない（社会的プライミング、ステレオタイプ脅威、パワーポーズ、自我消 耗、顔面フィードバック仮説、「目」の効果、などなど）。条件によっては効果があるが、効果量はとても小さい 再現性のない研究ほど引用される。ジャーナルの「ランク」が高いほど信頼性が低い Serra-Garcia, M. & Gneezy, U. Nonreplicable publications are cited more than replicable ones. Science Advances (2021). https://doi.org/10.1126/sciadv.abd1705 Brembs, B. Prestigious Science Journals Struggle to Reach Even Average Reliability. Frontiers in Human Neuroscience (2018). https://doi.org/10.3389/fnhum.2018.00037 25
神経科学研究の再現性 過去の研究の再現性を検証する目立った動きはない（が、業界内の噂はよく聞く） とくに動物実験では、実験系を厳密に再現することが難しく、白黒つけにくい では「モデル動物」・プロトコル標準化でよいのか？ 異質性・多様性も重要 Voelkl, B. et al. Reproducibility of animal research in light of biological variation. Nat Rev Neurosci (2020). https://doi.org/10.1038/s41583-020-0313-3 ニューロンやサンプルの恣意的な選択（→チェリーピッキング、二度漬け） 「サルは２頭でいいんですか」（→サンプルサイズ正当化） 効果量・検出力の分析から、ポジテイブな結果の半数以上は偽陽性と推測される（認知神経科学） Szucs, D. & Ioannidis, J. P. A. Empirical assessment of published effect sizes and power in the recent cognitive neuroscience and psychology literature. PLOS Biology (2017). https://doi.org/10.1371/journal.pbio.2000797 26
VBM研究（脳構造と行動の相関）の低い再現性 Boekel, W. et al. A purely confirmatory replication study of structural brain-behavior correlations. Cortex (2015).https://doi.org/10.1016/j.cortex.2014.11.019 Kharabian Masouleh, S. et al. Empirical examination of the replicability of associations between brain structure and psychological variables. eLife (2019). https://doi.org/10.7554/eLife.43464 安静時脳活動・機能結合（resting state brain activity, functional connectivity）「バイオマーカー」の低い再現性 Noble, S. et al. Influences on the Test–Retest Reliability of Functional Connectivity MRI and its Relationship with Behavioral Utility. Cerebral Cortex (2017). https://doi.org/10.1093/cercor/bhx230 He, Y. et al. Nonreplication of functional connectivity differences in autism spectrum disorder across multiple sites and denoising strategies. Human Brain Mapping (2020). https://doi.org/10.1002/hbm.24879 BWAS (brain-wide association studies) Marek, S. et al. Reproducible brain-wide association studies require thousands of individuals. Nature 603, 654–660 (2022). https://doi.org/10.1038/s41586-022-04492-9 個人特性（認知能力、精神疾患のスコアなど）とMRI脳構造・安静時活動パターンの相関について（brain-wide association studies, BWAS）、数千人の被験者がいないと再現性のある結果はえられない。今までの研究（中央値25 人程度）はほとんど信頼できない 27
Irfan, B. et al., Social Psychology and Human-Robot Interaction: An Uneasy Marriage. ACM/IEEE International Conference on Human-Robot Interaction 13–20 (2018). https://doi.org/10.1145/3173386.3173389 HRIにおける再現研究 Ullman, D. et al. Challenges and Opportunities for Replication Science in HRI: A Case Study in Human-Robot Trust. ACM/IEEE International Conference on Human-Robot Interaction 110–118 (2021). https://doi.org/10.1145/3434073.3444652 Henschel, A., Hortensius, R. & Cross, E. S. Social Cognition in the Age of Human–Robot Interaction. Trends in Neurosciences 43, 373–384 (2020). https://doi.org/10.1016/j.tins.2020.03.013 心強いことに、人間とロボットの相互作用のコミュニティでは実験的改革が実施されており、2020年のACM/ IEEE International Conference on Human-Robot Interactionは、初めてレプリケーション研究の投稿を募集することにな った。 28
Zwaan, R. A. Two Challenges to “Embodied Cognition” Research And How to Overcome Them. Journal of Cognition 4, 14 (2021). https://doi.org/10.5334/joc.151 実際のアプローチは多様で矛盾した内容を含む。「身体性」が新規性をアピールするためのラベルと用いられている 身体の重要性は広く認識されている。もはや非主流とは言い難い 再現性が疑問視されている研究が多い 行為・文一致効果（action-sentence compatibility effect, ACE) Glenberg & Kaschak (2002)：「身体化された認知」の心理学研究で最も引用されている 「パワーポーズ」で自信が増す。暖かいカップを持つと対人的な暖かさを感じる。重いものを持つと重要だと感じる。な どなど カーネマンの書籍でも多数引用（システム1） 30
Hickok, G. The Myth of Mirror Neurons: The Real Neuroscience of Communication and Cognition. (W W Norton & Co Inc, 2014). rmaruy. 読書メモ（再掲）：The Myth of Mirror Neurons (by Gregory Hickok). 重ね描き日記 https://rmaruy.hatenablog.com/entry/2017/02/02/115159 ミラーニューロン仮説の背後には「身体化された認知（embodied cognition)」という流行のアイディアがある。心理学 の流れを振り返ると、まず行動主義があり、それに対するアンチテーゼとして、「計算論的な心の理論」（あるいは「情 報処理」モデル）が出てくる。"embodied cognition"の考え方が出てきたのは素朴な「情報処理モデル」が前提とする 脳が感覚入力→高次の情報処理→運動出力という3段階の構造になっているというモデルに合わない事実が明らかになっ てきたからだった。そのような3段階の構造は"classical sandwich conception of the mind"として悪役に仕立てられた。 しかし、著者に言わせれば，「身体化された認知」は、単に抽象的な概念が「感覚」や「運動」と切り離せないことを明 らかにしただけで、本質的に「情報処理モデル」と対立するものではない 31
自由エネルギー原理 Friston, K. The free-energy principle: a unified brain theory? Nat Rev Neurosci 11, 127–138 (2010). https://doi.org/10.1038/nrn2787
Friston, K., Breakspear, M. & Deco, G. Perception and self-organized instability. Frontiers in Computational Neuroscience 6, (2012). https://doi.org/10.3389/fncom.2012.00044
Isomura, T. Active inference leads to Bayesian neurophysiology. Neuroscience Research (2021). https://doi.org/10.1016/j.neures.2021.12.003 35
Seth, A. K., Suzuki, K. & Critchley, H. D. An Interoceptive Predictive Coding Model of Conscious Presence. Front. Psychol. 2, (2012). https://doi.org/10.3389/fpsyg.2011.00395 情動や自己意識は、自由エネルギー原理に 従って身体の内部状態を予測する脳内モデ ルが生み出す 意識は生成モデルが生み出す 知覚、情動、自己意識はすべて「制御され た幻覚」 脳の機能は「身体予算管理」（バレット） 情動や自己は情報処理からは導かれない 認知推論から生命論へ 39
XX is all you need 報酬がすべて Silver, D., Singh, S., Precup, D. & Sutton, R. S. Reward is enough. Artificial Intelligence 299, 103535 (2021). https://doi.org/10.1016/j.artint.2021.103535 報酬は、知識、学習、知覚、社会的知能、言語、一般化、模倣など、自然知能や人工知能で研究されている能力を発揮する行 動を引き起こすのに十分である。これは、他の信号や目的に基づいて、各能力に特化した問題定式化が必要であるという見方 とは対照的である。 スケールがすべて Alex Dimakis https://twitter.com/AlexGDimakis/status/1526388274348150784 最近の論文（Gpt3、Palm、dalle2、Gato、Metaformer）から、もしかしたら「スケールがあればいい」、もしかしたら一般 知能にも（！）、という意見を形成しつつあります。すべてをトークンに変換して、次のトークンを予測すればいいのだ。 反例 (?) Hubel & WieselのV1 simple/complex cell → 福島邦彦のNeocognitron → LeCunのCNN 現代のAIのリーダーの多く（？）は、心理・ニューロ出身：Geoffrey Hinton, Demis Hasabis, Li Feifei 43
ykamit
genomethica
enakai00
konakalab
lcolladotor
kayceesrk
vaulot
mitsuharu
arumakan
keichi
naokiuc
ymas0315
rasmusluckow
marcelosomers
iamctodd
tanoku
kevinliebholz
chriscoyier
yeseniaperezcruz
carmenintech
hatefulcrawdad
addyosmani
maggiecrowley
sferik