LaMDAの哲学的考察

Googleが開発した「LaMDA」について哲学的考察を行います。
これは講演資料です。

Transcript

1. What’s LaMDA ? _on_Philosophy 三宅 陽一郎 @miyayou y.m.4160@gmail.com 立教大学 人工知能科学研究科 特任教授
2. • 137B parameters ～137000000000 • 事前学習 1.56T 個(ワード) （public dialog data and web text） ・40000 annotated dialog turns https://arxiv.org/abs/2201.08239
3. Groundedness Safety Quality LAMDA の指標 賢明さ（sensibleness） ：発言の納得性 以前言ったことと矛盾していない 特異性（specificity） ：コンテキストに合っているか？ 面白さ（interestingness) ：クラウドワーカーによる判定 危険な発言をした割合を測る どれだけ事実（らしい）ことを言えるか。 クラウドワーカーでデータを取って判定
4. 評価 • 有用性（helpfulness） • 役割性（role consistency）
5. 言語モデル • デコーダーオンリーのとトランスフォーマー 言語モデル（decoder-only Transformer [92] language model） • 64 レイヤー • 1024 TPU-v3 chips で 57.7 日計算 • 256K トークン/バッチ
6. Fine Tuning の実行時の仕組み • The toolset (TS): 検索システム（みたいなもの）。文字列を入 れると、文字列が出る。 • LaMBDA Research: TSにクエリーを投げる
8. ここがポイント： ユーザーの質問から発展したリサーチクエリーを立てる
10. 結論（所感） • 言語モデル、学習方法はとてもシンプル （でも、規模はとても大きい） • 人間の会話のツボを押さえようとしている。 （コンセプトの勝利？ →それを設計に落とすだけの設計力） • 機械が意識を持つはナンセンス （人間が思うのは勝手）
11. 知能感受性
12. 知能感受性 知能感受性の ３つのメインファクター ①自分の意図の強さ ②自分の生存の危険度 ③人間との類似性 自分の意図の強さ 自分の生存の危険度 知能感受性は状況により高まったり低かったりする。 相手の人間との類似度
13. 知能感受性 （M、S、H） 自分の意図の強さ 自分の生存の危険度 相手の人間との類似度 知能感受性の ３つのメインファクター ①自分の意図の強さ （W） = 自分が何かを強くしようとすればするほど、 それを阻害するものに知能を感じる。 ②自分の生存の危険度 （S） = 生存の危険度が増すとそれを脅かす者へ敏感になる。 ③人間との類似性 （H） = 人は自分と似ている（外面、内面）者に 自分と同じレベルの知能を想定する癖がある。 （擬人化が有効な理由） （相手が最初からAIだとわかっていると知性を感じないリ理由）
14. 知能感受性 生存の危険度（S） 知能感受性 自分の意図の強さ（W）
15. 知能感受性 • 知能感受性 ＝ プレイヤーの敵への鋭敏性 • 敵知能の高さ ＝ 客観的な知能の性能 プレイヤーが敵に感じる知性 ＝ （知能感受性） ｘ （敵知能の高さ）
16. 知能感受性 • 知能感受性 ＝ プレイヤーの敵への鋭敏性 • 敵知能の高さ ＝ 客観的な知能の性能 プレイヤーが敵に感じる知性 ＝ （知能感受性） ｘ （敵知能の高さ） ユーザーに知的リアリズムを与える
17. 自分の身体 キャラクターの身体 言語 言語 五感 キャラク ターの 五感 キャラクター知能 知能
18. それぞれの体験が持つ 複合的リアリティ 物語が与える 経験のリアリティ 感覚的リアリティ 力学、体勢感覚、重さ、視覚、聴覚、触覚 剣を振る、街を歩く、アイテムを拾う、敵と戦う 仲間を助ける、ダンジョンに潜る、レベルアップ ゲームの リアリティ
19. それぞれの体験が持つ 複合的リアリティ 物語が与える 経験のリアリティ 感覚的リアリティ 力学、体勢感覚、重さ、視覚、聴覚、触覚 剣を振る、街を歩く、アイテムを拾う、敵と戦う 仲間を助ける、ダンジョンに潜る、レベルアップ デジタルアバターの リアリティ 言語的リアリティ 仲間と話す、街人と話す、敵と話す
20. 言語的リアリティ • おそらく西洋は東洋より言語的リアリティが強い • はじめに言葉ありき • 言葉の上にさまざまなものが成り立っている
21. 「わかり合うとは何か？」
22. AI 受け入れる AI コア 世界
23. AI 受け入れる AI コア 世界 人工知能が愛する＝他者と深く調和する
24. AI 受け入れる AI コア 世界 人工知能が愛する＝他者と深く調和する 人間の側もうまくダンスしなければならない
25. AI 受け入れる AI コア 世界
26. AI 受け入れる AI コア 世界
27. AI 受け入れる 世界 人工知能が愛する＝他者と深く調和する 人間の側もうまくダンスしなければならない AI コア
28. AI 受け入れる AI コア 世界 人工知能が愛する＝他者と深く調和する 人間の側もうまくダンスしなければならない 自分自身の 存在を変化 させる 調和的な流れを作る
29. 愛する 自分自身の存在を変化させる 調和的な流れを作る 存在的 行動的
30. 存在の混沌 生態による分節化 言語による分節化 世界
31. 存在の混沌 生態による分節化 言語による分節化 世界 創造のプロセス ＝存在の意味分節
32. 存在の混沌 生態による分節化 ＝環世界による分節化 言語による分節化 世界 創造のプロセス ＝存在の意味分節
33. 存在の混沌 生態による分節化 言語による分節化 世界 創造のプロセス ＝存在の意味分節 文化世界 環世界 （対世界）
34. 唯識論 世界は識から成り立つとする理論。 眼識 耳識 鼻識 舌識 身識 意識 阿頼耶識 （一切種子識） 末那識 感覚 （五識） 思考 自我執着心 根本心 表層心 深層心 言葉なしで対象を直接 に把握する。それぞれ 固有の対象を持つ。 五識と共に働いて感覚を 鮮明にする。五識の後に 言葉を用いて対象を概念的 に把握する 常に阿頼耶識を対象として 「我」と執する。 眼識ないし末那識を生じる。 身体を生じて生理的に維持している。 自然をつくり出し、それを維持し続けている。 一切を生じる種子を有する。 （横山紘一 「唯識の思想」、講談社学術文庫、P.60 ）
35. 唯識論 世界は識から成り立つとする理論。 眼識 耳識 鼻識 舌識 身識 意識 阿頼耶識 （一切種子識） 末那識 感覚 （五識） 思考 自我執着心 根本心 表層心 深層心 言葉なしで対象を直接 に把握する。それぞれ 固有の対象を持つ。 五識と共に働いて感覚を 鮮明にする。五識の後に 言葉を用いて対象を概念的 に把握する 常に阿頼耶識を対象として 「我」と執する。 眼識ないし末那識を生じる。 身体を生じて生理的に維持している。 自然をつくり出し、それを維持し続けている。 一切を生じる種子を有する。 （横山紘一 「唯識の思想」、講談社学術文庫、P.60 ） 阿頼耶識から生まれた ものが、人間にさまざま なものを見せる。 ＝煩悩
36. 唯識論 世界は識から成り立つとする理論。 眼識 耳識 鼻識 舌識 身識 意識 阿頼耶識 （一切種子識） 末那識 感覚 （五識） 思考 自我執着心 根本心 表層心 深層心 言葉なしで対象を直接 に把握する。それぞれ 固有の対象を持つ。 五識と共に働いて感覚を 鮮明にする。五識の後に 言葉を用いて対象を概念的 に把握する 常に阿頼耶識を対象として 「我」と執する。 眼識ないし末那識を生じる。 身体を生じて生理的に維持している。 自然をつくり出し、それを維持し続けている。 一切を生じる種子を有する。 （横山紘一 「唯識の思想」、講談社学術文庫、P.60 ） この阿頼耶識から認識が立ち上がるプロセスを実装 できないか？ それは現象学の志向性に通じる。
37. 世界 身体 知能 フレーム その時々で身体が捉える世界 フレームを作る力 意識 身体と知能の境界面 世界と身体の境界面 環世界による接続 世界に根を張る力
38. 世界 身体 部分知能 意識 世界に根を張る力 自我 人工知能 人工知性 人工精神 人工生物 身体と知能の境界面 世界と身体の境界面 知能
39. 人工知能の精神発達と 全能感からの撤退
40. 自分 もし他者がなかったら、 世界＝自分自身 志向性を交換しあうことで、 他者と自己に目覚める
41. 自分 他者がその世界に侵入する 志向性 間主観性の世界 自己 他者 決して合一化できないもの お互いの自己を脅かす 自分の世界の亀裂 としての他者
42. 人工知能を精神的発達過程として作る 自己と他者をわけない世界
43. 人工知能を発達過程として作る 知能は最初、生まれた時には、自分と世界の境界があいまいで、 全能感を持っている。また全知も持っている。
44. 人工知能を発達過程として作る そこに他者が現れることによって、 世界に亀裂が入る＝全能感を持った世界から撤退する
45. 人工知能を発達過程として作る 他者によって自分の存在を獲得する ＝ 他者と自分の境界を得る ＝ 他者によって自分を形成する
46. 人工知能を発達過程として作る 他者に触れる ＝自分の身体を感じる ＝ 自分を形成する
47. 自己と他者は共創して作られる
48. 内側 から 外側 から 知能 世界・対象の更新 他者（この場合は人工知能） の視線によって 他我（me）を形成する ＝外側から規定される自己 自分の視線を獲得する ＝内側から構築する自我（I） me I 世界への出発点として の自分（I） 世界の集約点としての 自分（me） 創発的内省性 （emergent reflectivity） ミード 自我（Ｉ）と他我（me）