科学コミュニケーターによる、非研究者のための 記号創発システム論 / CPC 解題

2026年8月25日のCPC Student Workshopで行った話題提供の資料です。

Transcript

1.  話題提供 科学コミュニケーターによる、非研究者のための 記号創発システム論 / CPC 解題 CPC Student Workshop 2026.8.25 丸山隆一（@rmaruy） 20260825 丸山資料 1
2. 丸山隆一 MARUYAMA Ryuichi 2010-2012 東京工業大学 総合理工学研究科 修士（工学） 2012-2020 森北出版株式会社 書籍編集者 2020-2024 科学技術振興機構 研究開発戦略センター フェロー • 主著レポート：『拡張する研究開発エコシステム』（2023.03）など • 共著レポート：『次世代AIモデルの研究開発』（2024.03）など 2024.4 独立 • 一般社団法人AIアライメントネットワーク事務局立ち上げ • 個人レポート『「AGIリスク」の議論にどう向き合えばいいのか（2024.09）』 2025.04- AIスタートアップ 広報チーム所属ライター （メタ）サイエンス・コミュニケーター 共著書『現代社会を生きるための AI×哲学』 （谷口忠大・鈴木貴之・丸山隆一） 京都大学統合型複合科目「人工知能と人間社会」（2026.04~）指定教科書 20260825 丸山資料 2
3. 20260825 丸山資料 3
4. 今日のお話のスタンス • 非研究者のための記号創発システム論（SEST）/CPC入門です。 • SEST、CPCの“気持ち”を共有するのが目的です。 • 谷口さん監修のnoteがもとですが、発表者の解釈を多分に含みます。 • 後半では、皆さんを交えて議論できればと思います。 20260825 丸山資料 4
5. 記号創発システム論の展開 General AI Timeline 2022.11月： 2015年12月OpenAIX設 2012.09 AlexNet がImageNetコン 2014.06 GAN提案 ペで圧勝。 2010 立 2017年6月：論文 Attention is All You Need 2015 2010.3 谷口『コミュニケー 2014.6 谷口『記号創発 ションするロボットは創れ ロボティクス 知能のメ るか』 カニズム入門』 2020 2019.5 Symbol Emergence as an Interpersonal Multimodal Categorization 2020.6 『心を知る ための人工知能』 2020年12月 DeepMind, AlphaFold 2 2022 ChatGPT一般公開 2023年 3月：OpenAIがGPT-4 2023 2024 2023.3 NLP2023 緊急パネル： ChatGPTで自然言語 処理は終わるのか？ 2024.7 Collective predictive coding hypothesis: symbol emergence as decentralized Bayesian inference 2025 2025.3 CPC Spring Camp 2024.12 アウト リーチチーム始動 2024.9 『記号創発システム論』 記号創発システム論の展開 20260825 丸山資料 5
6. 概要 記号創発システム論（SEST）は、 1. 記号創発問題（SEP）を、 2. 記号創発システム（SES）というモデル枠組みのもと、 3. ベイズ的な確率モデルと構成論で解こうとする学理 4. とりわけ、CPC仮説という理論的回答を提示する 5. そもそもなぜ、今これを考えたいのか（生成AI時代のCPCの意義） 20260825 丸山資料 6
7. 0. 生成AI時代の記号創発システム論 / CPC 20260825 丸山資料 7
8. 大規模言語モデルが示したこと LLMベースのAIの成功は、言語そのものがもつ、人間の知識や思考を再現する力を改めて明らかにした。 ◦◦してください わかりました mov aud txttxt txt AI 大規模なデータを 学習する仕組み 言葉を「理解」するかのような 大規模言語モデル 20260825 丸山資料 膨大な言語データ ＋ • 深層ニューラルネットワーク • Transformerアーキテクチャ • • テキストデータ 音声、動画なども 8
9. では、言語の力はどこから来るのか？ AIが学習する 言語データの源は …人間の言語活動 abc#! mov aud 意味をめぐる謎 林檎 xyz$? ＝🍎 言葉の意味はどう決まる？ txt txt txt ? ? 子どもはどうやって 言葉の意味を学ぶ？ 人間が使う記号には 意味がある 20260825 丸山資料 意味はなぜ伝わる？ 9
10. さらに、AIはそれ自身が言語活動に参加する AIは「すでに意味があるデータ」を使うだけでなく、新しい意味を生み出す。 mov aud txt txt 言語データで txt AIが学習 AI AIが言語活動 に参加 AI AI 20260825 丸山資料 10
11. 生成AI時代の「もう半分」の学問 生成AI時代の「もう半分」 生成AI時代の「半分」 ＝ ＝ 生成AIをつくる 意味の出自とAIの意味への影響を考える txt txttxt mov img データ提供 言葉（記号）の意味はどう決まる？ 人はどう言葉を学ぶ？ … 学習 AI 影響 AIが言語活動に加わると社会はどう 変わる？ 記号創発システム論：これらの問いに学際融合的にアプローチ 20260825 丸山資料 11
12. 概要 記号創発システム論（SEST）は、 生成AI時代の「もう半分」を扱う学理であり、 1. 記号創発問題（SEP）を、 2. 記号創発システム（SES）というモデル枠組みのもと、 3. ベイズ的な確率モデルと構成論で解こうとする学理 4. とりわけ、CPC仮説という理論的回答を提示する 丸山資料 ➡ 記号創発問題とは何か？ 20260825 12
13. 1. 記号創発問題とは何か？ 20260825 丸山資料 13
14. 記号とは？ 誰かにとって、何かの意味を持つもの。 意味が分からない記号を見たときに、その存在を意識する。 010010110… #define x 20260825 丸山資料 14
15. 記号接地問題（Harnad 1990） 記号的AIは「記号」の「意味」を扱っていると言えるか？ コンピュータに組み込まれた「記号」 “果物” “リンゴ” 記号的AI AI “甘い” “赤い” 「記号」を使って推論できても、 現実とつながっていない！ ↓ 記号接地問題 現実世界 20260825 丸山資料 Harnad（1990） 15
16. しかし、人間の記号はコンピュータの「記号」と違う コンピュータ（記号的AI）の記号 人間の記号 プログラマによって与えられる 他者との相互作用のなかで獲得される 定義された役割を果たす 意味は文脈に依存する 一度決めたら変わらない 意味は刻々変化／新しくつくられる 010010110… #define x symbolic AI 20260825 丸山資料 16
17. 記号接地問題から記号創発問題へ 記号接地問題 記号創発問題 人間がコンピュータに与えた「記号」をど 人間（＋ AI・ロボット）は う現実世界とつなげるか？ どう集団的に記号を作り出し、 個として記号を使えるようになるのか？ プロセスとしての記号 静的な「記号」 PeirceのSemiosis “リンゴ” AI サイン 対象 “リンゴ” 解釈項 20260825 丸山資料 17
18. 個人のレベルの記号創発問題 認知的な閉じの中から、物理的世界や他者との相互作用を通して、どのように記号を使えるようになるのか？ 内的表象 林檎 エージェントの 頭の中（＝内的表象）は 外からアクセスできない 「認知的な閉じ」 20260825 丸山資料 ǽpl エージェント apple サイン （認知・行動の主体） 感覚情報 行動 （色、味、音…） （触る、食べる…） 18
19. 内的表象＝内部表現 internal representation 神経表象も内部表現も、経験によって獲得＝「表現学習」する。 20260825 丸山資料 脳の神経表象 ニューラルネットの内部表現 特定の脳活動が 特定のニューロン群が 運動/知覚/空間 etc.を表現 画像の特徴を表現 19
20. 社会のレベルの記号創発問題 個人間の相互作用により、外的表象としての記号システムはどのように作り出され、維持されているのか？ 外的表象：External representation “果物” 創発的な 記号システム “リンゴ” “会社” “勤労” “テレワーク” “義務” “出勤” 制約 組織化 ミクロ・マクロループ →創発的な構造 マルチエージェント が作る社会 記号を介した相互作用 20260825 丸山資料 20
21. 記号創発システム（SES） 環境（物理的世界） マルチエージェントが作る社会 記号システムがなす全体。 創発的な “果物” 記号システム “勤労” “リンゴ” “会社” “テレワーク” “義務” “出勤” 外的表象として 制約 組織化 記号が創発する 社会システム 記号創発 マルチエージェントが 作る社会 システム 内的表象を 環境との 記号を介した 表現学習する 身体的な 相互作用 認知システム 相互作用 知覚 行動 環境 （物理的世界） 丸山資料 － 21 － 20260825
22. 3. SESの数理：確率的生成モデル（PGM）による記述 probabilistic generative model 20260825 丸山資料 22
23. 個体レベルの表現学習：教師なし学習 問題設定：認知的な閉じのなかから、いかに表現学習を行うか？ マルチモーダルな感覚情報から 内的表象を表現学習する ＝star fruits？ ‘atemoya’ ‘star fruits’ 言語も一つの感覚情報として得られる この例ではカテゴリーの学習 ➡「教師なし学習」の問題設定 SESTではこのプロセスを確率的生成モデル（PGM）で記述する 20260825 丸山資料 23
24. PGM超入門1：観測できる値の裏に「確率分布」を想定する 「私たちが観測するのは、ある確率分布から抽出された確率変数である」とみなす。 何かを知るということは、主観的な確率分布を調整することである。 確率分布 P(x) cf. ヨシタケシンスケ『りんごかもしれない』 リンゴっぽく見えても、そうとは限らない PGMのP=probabilistic 観測変数 x 20260825 丸山資料 24
25. PGM超入門2：観測変数と潜在変数 観察できる確率変数（観測変数x ）の背後に、潜在変数（latent variable、z）があると想定する。 同時確率分布 P(x,z) = P(x|z)P(z)を「生成モデル」と呼ぶ。 atemoya star fruits 確率分布 P(z) 潜在変数 z 条件付き確率 P(x|z) zi P(x|zi) … zj P(x|zj) PGMのG=generative 観測変数 x 20260825 丸山資料 25
26. PGM超入門3：生成モデルを逆にたどって推論する 観測されたxからP(x,z)を推論する。このプロセスをベイズ推論という。 確率分布 P(z) 潜在変数 z 条件付き確率 P(x|z) 生成の過程 推論の過程 確率的に 生成モデル ｚが決まり P(x|z)P(z)を 推論する zj zi P(x|zi) … P(x|zj) x z に応じて 観測変数 x 確率的に x が決まる 20260825 丸山資料 z 観測された グラフ表現 xをもとに 26
27. 確率的生成モデルの複雑化 確率的生成モデルはさまざまに拡張できる。 （1）観測変数を複数に （2）時間変化を入れる （3）潜在変数を階層化する ⇩ ⇩ ⇩ マルチモーダルな表現学習 時間的な状態推定と予測 階層的な表現学習 z zt zt+ m 1 z x y w xt xt+1 x 20260825 丸山資料 27
28. ベイズ推論としての内的表象の表現学習 生成モデルにより、新しい言葉の学習は、観測変数w, xからの生成モデルの学習とみることができる エージェント 内的表象としての z 生成モデル P(x,w,z) x w ＝star fruits 脳の可塑性を活用し 知覚（・行動） 観測から内的表象を学習 世界 x w 観測変数 P(x,w,z)の近似があれば、 P(w|x)として ‘star fruits’ 20260825 丸山資料 ‘atemoya’ クロスモーダル推論が可能 28
29. 3. PGMで、予測・能動推論する知能を記述する 20260825 丸山資料 29
30. 生成モデルは予測に使える 私たちは生成モデルによって世界を予測し、観測後に修正する 【食べる前】 【観測】 x z x 20260825 【食べた後】 ＝辛い！！ z x 辛くない 辛い 食べる前は z = ピーマン 生成モデルにおける の確率が高い x→zの推論 ⇩ ⇩ 生成モデルにより z = 青唐辛子 辛くないと予測 の確率が上げる 丸山資料 30
31. 生成モデルを表現学習で更新する 私たちは潜在変数の空間で新しい表現を学習し、生成モデルが更新される。 脳は予測誤差（prediction error）を最小化することで知覚の問題を解く＝予測符号化（predictive coding） 【食べる前】 【観測】 x z x z 【食べた後】 ＝辛い！！ z ？ x 自身の持つ z の潜在空間 z の潜在空間にワサビが出現 の中に「ワサビ」はない ⇩ z この内部表現を使って 次回から予測が可能に 20260825 丸山資料 31
32. AI・ロボットの「世界モデル」 AI・ロボットでも、エージェントが世界を予測し行動するための生成モデル＝「世界モデル」が研究される。 行動 at- at 1 状態 zt zt+ xt xt+ 1 潜在空間での表現 観測 世界モデルの潜在空間にて 1 世界モデルの例 効果的な強化学習も （例：Ha & Schmidhuber 2018） 20260825 丸山資料 32
33. 能動推論と自由エネルギー原理 知覚・学習・行動を、一つ推論として統一的に捉える理論。 F 知覚・行動・学習が起こる方向を、 （汎）関数Fが決めている エージェント z 生成モデル p (x, z) x 知覚・学習・行動のパラメータ • 知覚 予測 行動 モデルの事後分布p (z|x) に近づける • 世界 知覚（認知）：推測モデル q (z) を生成 x 学習：生成モデルpのパラメータを調整 して生成モデル自身を更新 • これらがいずれも 自由エネルギーF を下げる 行動：高いp (x)が得られるように自身の 視点や世界を変える。 ※ごく単純化した説明。 20260825 丸山資料 能動推論（active learning) 33
34. 予測するエージェントという知能観への収束 神経科学 ベイズ推論 AI・ロボティクス 認知科学 ベイズ脳仮説 予測符号化 変分ベイズ法（VAEなど） 自由エネルギー原理 強化学習 深層生成モデル 世界モデル 共通する知能観 知的なエージェントは、よりよく世界を予測できるように 表現学習でつくられる生成モデルをもち、 生成モデルに基づく（変分）推論をしながら知覚・行動する 20260825 丸山資料 34
35. 4. 集合的予測符号化（CPC）へ 20260825 丸山資料 35
36. 生成モデルは個人「だけ」ではつくられない 経験によって学習した内的表象を使って、心は次に起こることを予測している。 経験によって学習された 内的表象としての生成モデル P(x, y, z) 「ワサビ」という概念は z z x zの潜在空間 y 集団的に作られたもの z：概念 …ワサビ x：味 …辛い y：見た目… 予測 20260825 丸山資料 36
37. 生成モデルのトップダウン＆ボトムアップな構築 私たちが獲得する内的表象は、集団が作ってきた記号システムの制約を強く受けている。 記号システム 記号システムからのトップダウンの制約 ? （潜在変数zのpriorとして） z エージェント z zの潜在空間 x 知覚 予測 行動 y 世界との身体的相互作用による ボトムアップな学習 x 世界 これをどう捉えるか？ 20260825 丸山資料 ➡ y 2020年代前半の記号創発システム論の大きな展開 37
38. 2体のロボットによる名づけゲーム 同じものを見て、それを表すサインを提案しあう。「一文字だけで会話する2体のロボット」。 同じものを見て、 二人の世界で それを表すサインを提案しあう 記号システムが創発 d a b c c 対象 サイン c c d … Hagiwara et al. 2019の設定に関する、本記筆者の解釈による単純化した図解 20260825 丸山資料 38
39. MH名づけゲームの生成モデルの等価性 物理的につながっていない2体のやりとりが、全体の生成モデルのベイズ推論と同等になる。 （A）2セットの目を持つ単一ロボット （B）コミュニケートする2つのロボット w zA xA w w z zB ＝ xB 生成モデル p (x, z, w) z A x … B x B A … ロボットAの ロボットBの 生成モデル 生成モデル ベイズ推論の アルゴリズムとして 数学的に等価 2つロボットが脳をつないで「単一エージェント」とな 潜在変数wをサンプリングして発話し、MHルールにそってサイン り、二つのカメラの情報を統合して行うwの表現学習 を採用／棄却する2つのロボットによる共同的なｗの表現学習 Hagiwara et al. 2019に関する、本記筆者の解釈による図解 20260825 丸山資料 39
40. 集合的予測符号化のイメージ MH名づけゲームを敷衍して得られる、人間集団という「超エージェント」が、 集合的に生成モデルを学習しているという描像。 w 集合的な生成モデル 集合的な表現学習として、記 z 1 z 2 z 3 z K 号システムwが得られる x 1 x 2 x 3 x K 超エージェント 各エージェントの 知覚・行動 世界 20260825 丸山資料 x1 x2 x3 xK 40
41. 予測符号化と集合的予測符号化 記号システムが人間を経由して、外的表象の表現学習を行っている。 予測符号化 / 能動推論 集合的予測符号化 / 集合的能動推論 w エージェント 記号システム z A z x x A 感覚器官 視覚 B B センサー 聴覚 としての個人 世界 世界 個人として予測 20260825 集団として予測 個人が経験により学習した 記号システムが人間を通して表現学習した 内的表象を用いて世界を予測 外的表象を用いて世界を予測 丸山資料 41
42. 問いと答えの対応 集合的予測符号化は、記号創発問題に対する一つの解答であるとみなすことができる。 問い：記号創発問題 答え（の候補）：集合的予測符号化 Q. 外的表象としての 記号システムはどう創発？ Q. 各人はどう内的表象を学習し A. 集合的な表現学習として 意味のある記号を運用できる？ 記号システムが創発 w z 1 z 2 z 3 z K 制約 組織化 x A. 各人が分散的に 1 x 2 x 3 x K ベイズ推論に関与 環境との 身体的な 相互作用 記号を介した 相互作用 知覚 行動 x1 20260825 丸山資料 x2 x3 xK 42
43. 4. SEST/CPCのこれから 20260825 丸山資料 43
44. まとめ 記号創発システム論（SEST）は、 生成AI時代の「もう半分」を扱う学理であり、 1. 記号創発問題（SEP）を、 2. 記号創発システム（SES）というモデル枠組みのもと、 3. ベイズ的な確率モデルと構成論で解こうとする学理 4. とりわけ、CPC仮説という理論的回答を提示する 20260825 丸山資料 44
45. 記号創発システム論の多面性 1.「意味」をめぐる人文学を引き継ぐ ピアジェ理論 記号創発システム論 記号学・記号論 ネオサイバネティクス プラグマティズム 基礎情報学 5. AI共生社会を捉える世界観としての 記号創発システム論 時間・記憶の哲学 文化心理学 記号創発 etc... システム論 2. AI・ロボティクスへのアプローチ AIアライメント マルチエージェントシステム としての記号創発システム論 認知発達ロボティクス 自然言語処理 機械学習 生成AI時代の知能観 etc... 大規模言語モデル 4. 社会現象を捉える 理論枠組み 深層学習 etc... としての記号創発システム論 世界モデル 文化進化 言語進化 予測符号化 メタサイエンス 3. 認知科学のフレームワーク 好奇心 としての記号創発システム論 20260825 神経科学 言語教育 生物学 言語習得 丸山資料 エナクティビズム 現象学 意識 科学哲学 倫理学 法学 経済学 etc... 情動 etc... 45
46. SEST / CPC の今後の展開への期待 ※丸山による個人的なまとめです 1. Fundamental CPC：理論の深化 2. Empirical CPC：経験科学としての実証 • 集合的自由エネルギーの理論的深化 • 社会現象や認知現象への説明力のテスト • コードブックの創発の数理 • ロボティクスや認知実験による構成論的研究の • 経済活動なども取り込む統合モデル • etc. 3. Applied CPC： 各ドメインへの応用 • • • • ロボット、AI、Multi agent system設計 • メタサイエンスへの含意（CPC-MS） • 教育・アート • 「AI時代の理解」への含意（丸山の関心） etc. 価格メカニズム、 コミュニケーションのメカニズムデザイン AIとの共生：Symbiotic Alignment 20260825 丸山資料 深化 • etc. 4. Connecting CPC：諸分野との（再）接続 • • • • • • • パース記号論 生命記号論） 社会学 ネオサイバネティクス 環世界論 文化心理学 科学哲学、etc. 46
47. 【AIと生きる時代の〈理解〉考】 第3回：理解の作業モデルをつくる 20260825 丸山資料 47