生成AI時代のインタラクションサイエンス（招待講演）/interaction-science

第1部 生成AIはインタラクションをどこまで変えたか
第2部 LLMが得意になった流暢なインタラクション
第3部 流暢さだけでは信頼できるインタラクションにならない
第4部 教えられた手続きを実行する能力
第5部 LLMにも意識的処理に似た機構があるか
第6部 研究構想
第7部 インタラクションサイエンスへのお誘い

Transcript

1. 電子情報通信学会 クラウドネットワークロボット研究会 招待講演 生成AI時代の インタラクションサイエンス 流暢に応答するAIから、教えられた手続きを守るAIへ 岡 夏樹 宮崎産業経営大学 経営学部 エコノデータサイエンス学科 2026年8月4日
2. OUTLINE 話の流れ 1 第1部 生成AIはインタラクションをどこまで変えたか 2 第2部 3 第3部 流暢さだけでは信頼できるインタラクションにならない 4 第4部 教えられた手続きを実行する能力 5 第5部 LLMにも意識的処理に似た機構があるか 6 第6部 研究構想 7 第7部 インタラクションサイエンスへのお誘い LLMが得意になった流暢なインタラクション
3. 第1部 生成AIはインタラクションを どこまで変えたか
4. PART 1 生成AIは対話を「解いた」のか 以前は難しかったこと 現在 • 曖昧な質問への応答 大規模言語モデル(LLM)は、これ らを驚くほど自然に行う。 • 相手に合わせた言い換え • 文脈を踏まえた自然な返答 • 共感的・社会的な応答 流暢さ・共感性・文脈適応は、も はや「難問」ではなくなった。 • 暗黙的な意図の推定 しかし ── 自然に話せることは、信頼できる共同作業ができることを意味す るのか。
5. PART 1 今日の中心的な問い ── LLMはどの層を獲得したのか LLMが得意になったもの LLMが依然として苦手なもの • 流暢な対話 • 明示的な状態管理 • 手続きの逐次実行 • 長時間にわたる規則遵守 • 例外処理 • 誤り検出と復帰 • 暗黙的な文脈理解 • 社会的・語用論的な調整 • 相手に合わせた応答 中心仮説：LLMは、大量の経験から、多数の局所的・暗黙的パターンを組み 合わせる能力を獲得 → 自然で統一的に見える振る舞い しかし、明示的な状態を保持し、同一の規則を長期間反復するのは苦手
6. PART 1 ここでいう「意識的処理」── 扱うのは機能的な区別 「LLMに主観的経験としての意識があるか」を直接論じるものではない。 流暢な暗黙的処理 制御された明示的処理 ターンテイキング 手順の逐次実行 丁寧さ・共感 状態の保持 語用論的調整 条件分岐 相手への適応 規則の適用 省略の補完 エラー検出 社会的常識 停止条件の判定 Global Workspace Theory 意識的にアクセス可能な情 報は、報告、推論、行為制 御など、複数の処理で利用 可能になると考える。 出典：Baars, 1988; Dehaene & Changeux, 2011 注意：実際のインタラク ションは、この二つを行 き来する。
7. 第2部 LLMが得意になった 流暢なインタラクション
8. PART 2 人間のインタラクションは明示的規則だけでは説明できない 例：同じ形式でも意味が変わる 意味を左右する要因 • 「それ、いいですね」 • 話者の認識 • 「そうなんですね」 • 聞き手の認識 • 「もう帰るんですね」 • 共有知識 • 「これはあなたのですよ」 • 感情 • 対人関係 問い：インタラクションの意味は、文の中だけに存在するのか。
9. PART 2 私たちの研究：主観情報入力型BERTによる発話の意味理解 研究の目的 大規模言語モデルの内部状態の分析を通して、終助詞「よ／ね」の意味理解 の仕組みを構成論の立場で明らかにする 基本的な考え方 ── 発話の意味は、次の関係によって構成される 言語表現 出典：萬處ほか，2024 話者の認識 聞き手の認識 対象に対する 感覚・心的情報
10. 何を見ている かは不定 必ずリンゴを 見ている リンゴ だよ 前時刻 リンゴ だね 前時刻 次の時刻では 必ずリンゴを 見る 次の時刻で何 を見ているか は不定 ? ? 現時刻 現時刻 出典：萬處ほか，2024
11. 出典：萬處ほか，2024
12. 大規模言語モデ ルの内部状態の 分析結果 まず、「よ／ね」トー クンが持つ情報が「リ ンゴ」トークンに伝わ り、その伝わった情報 により、[MASK]をリン ゴで埋めるかどうかが 決まる 出典：萬處ほか，2024
13. PART 2 主観情報入力型BERTで見えたこと 内部表現の分析→終助詞は自己注意をメタ制御 1 終助詞から内容語へ情報が伝わる 2 内容語から予測対象への情報流が 調整される 発話全体の意味が構成される 3 自己注意だけでなく、残差接続やFeedForward Networkも、注意の連鎖と発話 意味の形成に関与した。 出典：萬處ほか，2024 示唆：インタラクションの意味 は、語の意味の単純な足し算で はない LLMは、明示的な語用論規則 を与えられなくても、自然な語 用論的振る舞いを生成できる。 ただし、外から観察される統一 的な能力が、内部でも統一的な 表現やアルゴリズムによって実 現されているとは限らない。
14. PART 2 LLMは「自然に振る舞う」能力を獲得した LLMが可能にしたもの HRI・HAIへの影響 • 相手の立場に合わせた説明 • 感情を考慮した応答 • 曖昧な発話の補完 • 会話履歴に基づく返答 • ペルソナや役割に合わせた対話 • 対話ロボット • 教育エージェント • 接客ロボット • 高齢者支援 • 社会的コンパニオン LLMは複数のTheory of Mind課題で、人間に匹敵、あるいは 一部では人間を上回る成績（Strachan et al., 2024）。 LLMを利用したHRI研究は急増している一方、評価方法はま だ探索的（Wang et al., 2026）。 しかし ── 人間らしい発話と、人間らしい認知制御は同じではない。
15. PART 2 静的な理解と動的なインタラクションは違う 静的な課題 動的なインタラクション • 文章を読む • 相手の状態を更新し続ける • 過去の発話と現在の行動を整合さ せる • 割込みに対応する • 訂正を将来の行動に反映する • 長時間にわたり規則を守る • 登場人物の信念を答える • 適切な返答を一回生成する LLMのToM能力は、入力の些細な変更や無関係な情報に対して十分な不変性を持たないことがある（Verma et al., 2024）。 問い：「相手の状態を説明できること」と「相手の状態を追跡し続けること 」は同じか。
16. PART 2→3 正答したことは、アルゴリズムを使ったことを意味するか 226 − 68 = 158 外から見た解釈 内部機構研究が示す別の可能性 ・LLMが引き算を実行した ・数値を内部で操作した ・算術アルゴリズムを持っている ・オペランドの範囲 ・結果の範囲 ・剰余パターン ・数字の末尾 ・複数の局所的手掛かり 正答は、頑健で再利用可能なアルゴリズムの存在を直接には証明しない。 出典：Nikankin et al., 2025
17. PART 2→3 算術を解く “bag of heuristics” 答えが 150〜180 オペランドの 範囲 158 差の末尾が 8 剰余 パターン 複数の局所的規則が、正解トークンのlogitを共同で押し上げる。 短い分布内課題での成功は、長期的な手続き実行の保証ではない。 注：対象は主に単一トークン範囲の短い二項算術。出典：Nikankin et al., 2025
18. PART 2→3 “bag of heuristics”の可視化 出典： Nikankin et al., 2025
19. PART 2→3 能力の外見と、能力を生み出す機構を区別する 外から観察される振る舞い 内部に存在するとは限らないもの 算術問題に正答する 統一的な算術アルゴリズム 自然な応答をする 一貫した対話状態モデル 相手の信念を答える 持続的な相手状態の追跡 一度、安全な判断をする 安全規則の長期的維持 最終結果が正しい 合法な中間状態遷移 流暢さや正答率は重要。しかし、それだけでは長期的な共同作業能力を評価できない。
20. 第3部 局所的に適切な応答と 長期的に整合した軌道
21. PART 3 カフェ配膳ロボットの例 状況 問題 • Aさんはコーヒーを注文 • Bさんは紅茶を注文 • Bさんは一時的に席を離れる • Aさん「それもこちらに置いてく ださい」 • 「それ」は何を指すのか 流暢なLLMの応答： 「承知しました。こちらに置きま す。」 • Bさんの飲み物をAさんに渡して よいのか • 注文者の同意はあるのか • 後でBさんが戻ったときどう説明 するのか 各ターンで最もそれらしい行動を選ぶことと、対話軌道全体を管理することは異なる。 中心的な対比：「その場で自然な次の行動」 と 「履歴と規則に整合する次の行動」
22. PART 3 同じ問題は高齢者服薬支援では安全問題になる 利用者：「もう飲んだような気もするけれど、よく覚えていません。」 流暢だが危険な応答 安全な応答 「念のため、もう一度飲みましょ う。」 「服用済みか確認できないため、 追加ではお渡ししません。記録ま たは介護者に確認しましょう。」 自然さ、親切さ、共感性が高くても、内部状態と安全規則が誤っていれば危 険
23. PART 3 服薬支援に必要な内部状態 服薬状態 本人の状態 支援段階 • unknown • awake • reminder • not taken • asleep • confirmation • taken • absent • guidance • uncertain • confused • escalation • refused • unwell • completed 必要な処理： 現在状態 ＋ 新しい観測 次の発話・行動 ＋ 更新状態 手続き的インタラクション： 内部状態ₜ ＋→観測ₜ → 行動ₜ ＋ 内部状態ₜ₊₁
24. PART 3 服薬支援を状態遷移として表す 服薬時刻 ↓ 服用済みか尋ねる ├─「飲んだ」 → 記録確認 ├─「飲んでいない」 → 薬を案内 ├─ 曖昧 → 再確認 └─ 応答なし → 本人状態を確認 さらに必要な分岐 • 服薬記録と発話が矛盾 • 本人が追加服薬を希望 • 介護者から別の指示 • 会話途中で中断 • 体調不良／服薬拒否／既服用 の可能性 問い：LLMは、この状態を失わずに、何十ターン、何百ターンと処理できる か。
25. PART 3 LLMが起こし得る手続き上の失敗 • 曖昧な状態を勝手に確定する • 過去の発話を忘れる • 古い状態と新しい状態を混同する • 禁止条件を途中で失う • 相手への迎合を安全規則より優先 する • 同じ行動を重複して実行する • 停止すべきところで対話を継続す る • 一度訂正された後、元の状態に戻 る 各応答を単独で見ると自然でも、長い軌道全体を見ると破綻する。 長期的なagent課題では、最終成功だけを報酬にすると、途中の誤った行動や冗長な行動が見逃される（Zhang et al., 2025; Yuan et al., 2026）。
26. PART 3 自然な対話から、信頼できる共同作業へ 従来の問い これからの問い ロボットは人間らしく対話できる か。 何ステップ先まで、状態と規則を 維持して共同作業できるか。 評価すべきもの 発話の自然さ タスク成功率 手続き忠実性 状態整合性 割込みからの復帰 安全規則の持続 不確実時の確認行動 LLM-HRI研究では、単一ターンの応答だけでなく、人間中心の効果、継続的な整合性、自律性の評価が課題（Wang et al., 2026）。
27. 第4部 教えられた手続きを 実行する能力
28. PART 4 推論型モデル(LRM)の現状：より難しい問題が解けるようになってきているが、 厳密な論理推論は実行していない • • LRMは、回答前に思考連鎖(Chain of Thought, • CoT)を生成することで高いベンチマークスコアを 記録。しかし、数学やコーディングのベンチマーク は学習データ汚染の懸念。→パズル環境で分析：問 題の複雑さが閾値を超えると正解率が急落。解決手 順をプロンプトで明示的に与えても性能は改善せず。 →厳密なアルゴリズムの実行能力が必要。 (Shojaee et al., 2025) • LLMの数学的推論能力を評価するデータセット GSM-Symbolicを新たに開発し、評価。論理的推論 を実行しているのではなく、訓練データに存在する 推論パターンを再現（確率的なパターンマッチン グ）。←数値を変更すると性能が大幅に低下；問題 に含まれる条件数が増えると性能が指数関数的に低 下。→形式的な論理推論を実行できるシステムが必 要。(Mirzadeh et al., 2025) CoTは内部計算を正確には反映していない LRMが最終的な回答の前に展開する思考ドラフト (Thinking Draft)がモデルの内部計算を正確に反映し ているか（忠実度: Faithfulness）を測定。思考ドラ フトの結論と最終的な回答が一致しないケースを頻 繁に確認。最終的な回答を生成する段階で独自の追 加推論。強化学習(RLVR)により忠実度が低下する傾 向。(Xiong et al., 2025) DeepSeek R1のCoTの忠実度を検証→説明可能性に 疑義。提示されたヒントが正解を促す有益なもの だった場合は、CoT内で報告することは稀だが、回 答の再確認を大幅に省略（ヒントに基づく判断であ ることが隠される）。不正解に導く有害なヒントは CoT内で言及され、ヒントに従うために論理を調整 （事後的な正当化）。(Cornish & Rogers, 2025)
29. PART 4 人工論理推論コーパスによる推論能力向上 人工論理推論コーパスの設計指針 報告された効果 • 高品質な推論サンプルを用意して、追 加学習 • ルールベースで多段階の演繹推論を生 成 • 未知の内容（「ぴよぴよ」「ぽよぽ よ」）でも論理関係を適用 • 前提不足なら結論を導かない • 多様な規則・推論ステップ・言語表現 • LLaMA 3.1への追加学習 • 論理推論で性能向上 • 数学・コーディング・自然言語推論 (NLI)などにも一定の転移 • 設計指針を除くと性能低下 明示的な規則適用能力の一部は、人工的に設計された学習経験によって形 成できる可能性がある。 出典：森下他, 2025
30. PART 4 人間は手続きを教えることができる 人間社会で共有される手続き 筆算 構文解析 実験手順 医療手順 安全確認 ロボット操作 儀礼や慣習 人間の特徴：手続きを単なる説明と してではなく、「この順序で行うべ きもの」として受け取り、再実行で きる。 教育システムの重要な機能 手続きを言語で伝える／お手本を示 す／誤りを訂正する／忠実な実行を 訓練する 問い：LLMの失敗は、手続きを学習できないからなのか。 それとも、通常の学習データに良質な手続き例が不足しているからなのか。
31. PART 4 LLMに規則を教えることは可能か 1 Transformerの構造上、安定した規則実行が難しい 2 学習データに厳密な推論過程が少ない 3 最終トークン予測だけでは中間状態を学びにくい 4 短い規則適用は学べても、長い実行へ一般化しない 能力不足と、学習経験不足を区別する必要がある。
32. PART 4 規則を学ぶことと、規則を運用し続けること これまで主に扱われてきた課題 長期インタラクション 与えられた前提 変化し続ける外界 静的な問題 動的な観測 数段の推論 数十〜数百ステップ 一回の問題完結 中断と再開 証明・反証・保留 発話・行動・状態更新 問題内の整合性 時間をまたぐ整合性 規則を適用できることは重要な前進である。 次の課題は、その規則を動的環境で持続的に運用できるかである。
33. PART 4 代表的な手続き課題 1：多桁加算 筆算の局所規則：数字A ＋ 数字B ＋ 桁上がり → 出力桁 ＋ 次の桁上がり 人間の実行 LLMに生じ得る失敗 • 現在の桁を見る • 桁を飛ばす • 桁上がりを保持する • 桁上がりを失う • 結果を書く • 位置をずらす • 次の桁へ移る • 停止条件を判断する • 途中で終了する 短い算術への正答と、多桁筆算アルゴリズムの逐次実行は別の能力である。 Transformerのアルゴリズム課題では、訓練時より長い入力への一般化が困難（Fan et al., 2024; Huang et al., 2025）
34. PART 4 代表的な手続き課題 2：文脈自由文法による構文解析 与えられるもの 求められるもの • 文脈自由文法 • 文法性の判定 • 入力文 • 状態の逐次更新 • 構文解析アルゴリズム • すべての構文解析木の生成 • 曖昧性の処理 重要な区別：自然な文らしいかを推測する課題ではない。 与えられた形式体系の規則に従い、状態を更新し続ける課題である。
35. PART 4 手続き課題 3：HRI状態遷移 ── 服薬支援も同じ構造 多桁加算 明示的な構文解析 服薬支援 現在の桁 入力位置 現在の対話段階 桁上がり stack / chart 服薬状態 次の桁へ shift / reduce 次の確認へ 最上位桁で終了 文を受理 支援完了 桁を飛ばす tokenを飛ばす 確認を飛ばす carryを失う stackを失う 既服用情報を失う 共通構造： 現在状態 ＋ 観測 → 次の操作 ＋ 次状態
36. PART 4 なぜ問題が長くなると失敗するのか 各ステップの成功確率を 1−ε とすると 全 T ステップを成功する確率 ＝ (1−ε)ᵀ 約90% 約37% 約0.7% 10ステップ 100ステップ 500ステップ 1ステップの正答率が99%でも、長さと ともに成功率は急落する。 さらにLLMでは、誤りが独立とは限 らない 一度誤った状態へ移ると、その 誤った状態に整合する生成を続 ける。 本質：次トークンの精度だけで なく、誤軌道からの検出・停止 ・復帰が必要である。 長さ一般化には、反復計算、状態追跡、位置表現などの構造が影響する（Fan et al., 2024; Huang et al., 2025）
37. 第5部 LLMにも意識的処理に 似た機構があるか
38. PART 5 人間のGlobal Workspace 人の認知の最も顕著な特徴：意識的にアクセスできる思考＋無意識的な処理 Global Workspace Theory ── 意識的にアクセス可能な内容は • 声に出して（言葉で）表現できる（報告可能） • いろいろな専門的処理で活用される • 意図的な推論（思考の連鎖）や作業記憶で利用される • 容量が限定され、脳内の処理の一部だけが選択的にアクセスされる 出典：Baars, 1988; Dehaene & Changeux, 2011 ただし： • Global Workspace Theoryは、人間の意識に関する唯一の理論ではない • 機能的概念である；主観的経験を説明するものではない
39. PART 5 LLM内部のGlobal Workspace グローバルワークスペースを維持することが計算上有用であるなら LLMも関連する機能的特性を有するかも 最近の研究の示唆 ── LLM内部に、 注意 • 口頭報告可能 • 指示により活性化・保持できる • 推論途中の内容を表現する • 複数の下流計算に利用できる • 全内部表現の一部だけを占める • 著者らは、LLMが人間と同じ 主観的意識を持つとは主張し ていない。 ―というworkspace-likeな表現空間が存 在する可能性が示された。 出典：Gurnee et al., 2026 • 人間の脳で想定される再帰的 なbroadcastと、Transformer の深さ方向の情報伝播には重 要な違いがある。
40. PART 5 黒板があることと、書記がいることは別 Global Workspace ＝ 黒板には… しかし必要なのは（書記の仕事） • 現在の目標 • 中間結果 • 正しい情報を書く／古い情報を消 す • 注意すべき情報 • 状態を混同しない • 次に行うこと • 同じ規則を繰り返す • 終了条件を守る／誤りを検出する 中心的な問い：LLMに共有黒板があるとしても、 規則を黒板に書けることと、その黒板を長時間正確に更新し続けることは別である。 その黒板を正確に更新し続けるcontrollerは存在するのか。
41. 第6部 研究構想
42. PART 6 研究構想：教えられた手続きを守るLLM 研究課題：構造化された手続きコーパスによる学習と、軌道全体を検証す強 化学習を組み合わせれば、LLMは、問題が長くなっても、指定された手続き を忠実に実行できるようになるか 代表タスク HRI状態遷移課題の例 • 多桁加算 • 明示的な構文解析 • 高齢者服薬支援／カフェ配膳／案 内 • HRIを模した状態遷移課題 • 対話中断後のタスク復帰 • 安全規則を含む共同作業 正解を自動判定できる報酬を用いるRLVRは、数学やコーディングなどの推論能力を本質的に拡張する（Wen et al., 2026）
43. PART 6 何を正解とするか 一般的な評価 最終結果が正しい 中心概念： Outcome correctness Procedural fidelity State continuity を分離する。 本研究で評価したいもの 1 最終結果が正しい 2 各状態遷移が合法である 3 指定された手続きを使っている 4 禁止された操作を行っていない 5 長さが増えてもステップ精度が低下しない 6 誤状態から復帰できる／時間を通して状態が 整合する 途中の各行為を記号的・アルゴリズム的oracleで検証し、密なprocess rewardを与える方法を提案（Yuan et al., 2026） 推論プロセスそのもの（プランニング、探索、内省といったメタ推論行動）に対する報酬を導入（Zhang et al., 2026）
44. PART 6 推論能力向上についての4つの仮説 仮説A：学習データ不足 仮説B：ヒューリスティック選択 良質で多様な規則適用例が不足。 人工手続きコーパスで能力が形成される。 局所的手掛かりの選択確率が改善。 短い分布内課題では強いが、長さ一般化は限定 的。 仮説C：内部状態機械形成 仮説D：外部制御必要 現在状態と遷移規則が安定表現される。 未知の長さや他課題へ転移する。 LLM内部だけでは長期安定性が不足。 外部記憶・verifier・rollbackが必要。 性能が上がったことと、どの機構が形成されたかは別問題である。 RLVRの効果は、成功率が高い既存の推論パターンを優先的に選択するよう学習することによる（Chen et al., 2025）
45. PART 6 人間も確率的なのではないか 問い：LLMの弱さは、確率的次トークン予測だからなのか。 人間も… それでも人間社会が作ったもの • 知覚を誤る／記憶を誤る • 紙への記録／チェックリスト • 疲労する／注意が逸れる • 復唱／ダブルチェック • 手続きを間違える • 権限管理／停止規則／エラー訂正 示唆：人間の特徴は、無誤謬であることではなく、誤りを抑制する手続きを 作り、教え、共有し、運用できることではないか。
46. PART 6 どのような推論を目指すのか • 素早く答を出したい／正確に推論 したい • 結論を出したい／後付け説明した い どのような方法で実現するか • モデルを大きくする • 学習データを多くする • 強化学習 • 自動で報酬が作れる • 途中の推論プロセスでも報酬 • 推論用の高品質データを準備 • 記録・チェック・訂正
47. PART 6 Overimitationから考える 古典的実験（Horner & Whiten, 2005） 可能な解釈 ── 人間は行為を 不透明な箱：人間の子どもとチンパンジ ーの双方が、実演された操作を模倣した • 目的達成のための手段 透明な箱： • チンパンジーは因果的に不要な操作を 省略 • 社会的な規範 • 人間の子どもは不要な操作も比較的忠 実に模倣 ―として学習できる。 • 再現すべき手続き • 「このように行うもの」 問い：教えられた手続きへの忠実性は、 人間の文化的学習を支える基本能力なのではないか。
48. Fig. 3 a Subject inserts tool into the top irrelevant hole of the opaque apparatus, b subject inserts tool into front relevant hole of the clear apparatus to retrieve the food reward 出典： Horner & Whiten, 2005
49. PART 6 LLMはOverimitationするか 表面的には LLMは例示された、 しかし区別が必要 1 表面的な系列模倣 • 不要だと説明できる か 2 因果関係が分から ないための模倣 • 不要と理解した上で 実行するか 指示への忠実性 • 「最短で行え」で省 略するか • 書式 • 順番 • 冗長な説明 • 不要な操作 ―を模倣することが ある。 実験可能な問い 3 4 規範としての手続 き理解 • 「忠実に再現せよ」 で実行するか • 手続き違反をした他 者を訂正するか
50. 第7部 インタラクションサイエンス へのお誘い
51. PART 7 これから評価すべきインタラクション能力 従来重視されてきたもの 今後さらに必要なもの • 自然さ • 状態の持続的整合性／手続き忠実 性 • 親しみやすさ • 満足度 • 長時間の規則遵守／割込みからの 復帰 • 社会的存在感 • 不確実性の保持／適切な確認行動 • 有用性 • 安全規則の優先／誤りの自己検出 提案：インタラクションを一回の応答ではなく、状態遷移の長い軌道として 評価する。 LLM-HRI研究の方法や評価尺度は、現状では研究間のばらつきが大きい（Wang et al., 2026）
52. PART 7 共同研究として考えたい三つの方向 認知科学 HRI・HAI 機械学習 • 人間の手続き忠実性 は何によって支えら れるか • 長期的な状態整合性 をどう評価するか • RLで手続き忠実性 を学習できるか • 人間の割込みや訂正 をどう取り入れるか • 内部状態機械は形成 されるか • 安全規則と社会的配 慮の競合をどう扱う か • 外部記憶やverifier はどこまで必要か • ワーキングメモリか ／メタ認知か • 規範学習か／模倣能 力か
53. PART 7 まとめ 1 LLMは、大規模学習から、流暢で語用論的に適切なインタラクションを広く 獲得した。 2 外から見える自然さや正答は、内部に統一的なアルゴリズムや持続的状態モ デルが存在することを保証しない。 3 人工的に設計された推論データによって、規則適用能力を向上させられる可 能性も示されている。 4 次の課題は、学習した規則を、変化する相手と環境の中で、長時間持続的に 運用できるかである。 インタラクションを、一回の応答ではなく、状態遷移の長い軌道として評価する
54. 最後の問い 私たちは、流暢に応答するエージェントを作ってきた。 また、規則を教えることも少しずつ可能になりつつある。 次に問うべきことは ── 教えられた規則を、変化する相手と環境の中で、 状態を失わず、誤りを検出しながら、 長く運用できるエージェントとは何か。
55. DISCUSSION 質疑 ── 議論したいこと Q 人間はどの程度、手続きを正確に実行できるのか Q HRIで最も重要な状態管理課題は何か Q 人が持つ手続きを正確に実行する能力を、LLMに持たせる／LLMに実 行させる部分と、外部システムに任せる部分に分ける―どちらが正解？ Q 強化学習によって一般的な手続き実行能力は形成されるか
56. REFERENCES 参考文献（1）：インタラクション・HRI • 萬處修平・岡夏樹・松島茜・深田智・吉村優子・川原功司・田中一晶（2024）．主観情報入力型BERTによる発話の意 味理解：自己注意の連鎖に注目した内部表現の分析．『認知科学』，31(1), 205–224. https://doi.org/10.11225/cs.2023.082 • Strachan, J. W. A., Albergo, D., Borghini, G., Pansardi, O., Scaliti, E., Gupta, S., Saxena, K., Rufo, A., Panzeri, S., Manzi, G., Graziano, M. S. A., & Becchio, C. (2024). Testing theory of mind in large language models and humans. Nature Human Behaviour, 8, 1285–1295. https://doi.org/10.1038/s41562-024-01882-z • Verma, M., Bhambri, S., & Kambhampati, S. (2024). Theory of mind abilities of large language models in human– robot interaction: An illusion? arXiv preprint arXiv:2401.05302. • Wang, Y., Xu, Y., Nikolova, A., Wang, Y., Wang, J., Wang, C., & Tong, X. (2026). How do we research human–robot interaction in the age of large language models? A systematic review. Proceedings of the ACM/IEEE International Conference on Human–Robot Interaction. https://doi.org/10.1145/3772318.3790920
57. REFERENCES 参考文献（2）：意識的アクセス・Global Workspace • Baars, B. J. (1988). A Cognitive Theory of Consciousness. Cambridge University Press. • Dehaene, S., & Changeux, J.-P. (2011). Experimental and theoretical approaches to conscious processing. Neuron, 70(2), 200–227. https://doi.org/10.1016/j.neuron.2011.03.018 • Gurnee, W., Sofroniew, N., Pearce, A., Piotrowski, M., Kauvar, I., Chen, R., Soligo, A., Bogdan, P., Ong, E., Wang, R., Thompson, T. B., Abrahams, D., Kantamneni, S., Ameisen, E., Batson, J., & Lindsey, J. (2026). Verbalizable representations form a global workspace in language models. Transformer Circuits Thread.
58. REFERENCES 参考文献（3）：手続き実行・RL・模倣 • Chen, X., Li, T., & Zou, D. (2025). On the mechanism of reasoning pattern selection in reinforcement learning for language models. arXiv preprint arXiv:2506.04695. • Fan, Y., Du, Y., Ramchandran, K., & Lee, K. (2024). Looped transformers for length generalization. The Twelfth International Conference on Learning Representations. • Horner, V., & Whiten, A. (2005). Causal knowledge and imitation/emulation switching in chimpanzees (Pan troglodytes) and children (Homo sapiens). Animal Cognition, 8(3), 164–181. https://doi.org/10.1007/s10071-0040239-6 • Huang, Y., Cheng, X., & Liang, Y. (2025). Transformers provably learn chain-of-thought reasoning with length generalization. International Conference on Learning Representations. • Wen, X., Liu, Z., Zheng, S., Xu, Z., Ye, S., Wu, Z., Liang, X., Wang, Y., Li, J., Miao, Z., Bian, J., & Yang, M. (2025). Reinforcement learning with verifiable rewards implicitly incentivizes correct reasoning in base LLMs. arXiv preprint arXiv:2506.14245. • Yuan, H., Xu, Z., Wang, H., Yi, X., Gao, J., Zhang, X.-P., Wang, Y., Yu, C., & Wu, Y. (2026). Verifiable process rewards for agentic reasoning. arXiv preprint arXiv:2605.10325. • Zhang, Z., Chen, Z., Li, M., Tu, Z., & Li, X. (2025). RLVMR: Reinforcement learning with verifiable meta-reasoning rewards for robust long-horizon agents. arXiv preprint arXiv:2507.22844.
59. REFERENCES 参考文献（4）：人工データ・内部機構 論理規則を教えられる可能性 • 森下睦・渡邊大起・田村晃裕・二宮崇・新保仁（2025）．大規模言語モデルの論理推論能力向上に向けた人工データに よる追加論理学習．自然言語処理，32(2), 520–550. https://doi.org/10.5715/jnlp.32.520 正答とアルゴリズム実行の非同一性 Nikankin, Y., Reusch, A., Mueller, A., & Belinkov, Y. (2025). Arithmetic without algorithms: Language models solve math with a bag of heuristics. International Conference on Learning Representations.
60. REFERENCES 参考文献（5）：推論型モデル(LRM)の現状 厳密な論理推論は実行していない • Parshin Shojaee and Iman Mirzadeh and Keivan Alizadeh and Maxwell Horton and Samy Bengio and Mehrdad Farajtabar, The Illusion of Thinking: Understanding the Strengths and Limitations of Reasoning Models via the Lens of Problem Complexity, https://arxiv.org/abs/2506.06941, 2025. • Iman Mirzadeh and Keivan Alizadeh and Hooman Shahrokhi and Oncel Tuzel and Samy Bengio and Mehrdad Farajtabar, GSM-Symbolic: Understanding the Limitations of Mathematical Reasoning in Large Language Models, https://arxiv.org/abs/2410.05229, 2024. CoTは内部計算を正確には反映していない • Zidi Xiong and Shan Chen and Zhenting Qi and Himabindu Lakkaraju, Measuring the Faithfulness of Thinking Drafts in Large Reasoning Models, https://arxiv.org/abs/2505.13774, 2025. • Chrisanna Cornish and Anna Rogers. 2025. Examining the Faithfulness of Deepseek R1’s Chain-of-Thought Reasoning. In Proceedings of the 1st Workshop on Confabulation, Hallucinations and Overgeneration in Multilingual and Practical Settings (CHOMPS 2025), pages 11–19, Mumbai, India. Association for Computational Linguistics.