LaMDAの哲学的考察

by miyayou

Slide 1

Slide 1 text

What’s LaMDA ? _on_Philosophy 三宅陽一郎 @miyayou [email protected] 立教大学人工知能科学研究科特任教授

Slide 2

Slide 2 text

• 137B parameters ～137000000000 • 事前学習 1.56T 個(ワード) （public dialog data and web text）・40000 annotated dialog turns https://arxiv.org/abs/2201.08239

Slide 3

Slide 3 text

Groundedness Safety Quality LAMDA の指標賢明さ（sensibleness）：発言の納得性以前言ったことと矛盾していない特異性（specificity）：コンテキストに合っているか？面白さ（interestingness) ：クラウドワーカーによる判定危険な発言をした割合を測るどれだけ事実（らしい）ことを言えるか。クラウドワーカーでデータを取って判定

Slide 4

Slide 4 text

評価 • 有用性（helpfulness） • 役割性（role consistency）

Slide 5

Slide 5 text

言語モデル • デコーダーオンリーのとトランスフォーマー言語モデル（decoder-only Transformer [92] language model） • 64 レイヤー • 1024 TPU-v3 chips で 57.7 日計算 • 256K トークン/バッチ

Slide 6

Slide 6 text

Fine Tuning の実行時の仕組み • The toolset (TS): 検索システム（みたいなもの）。文字列を入れると、文字列が出る。 • LaMBDA Research: TSにクエリーを投げる

Slide 7

Slide 7 text

No content

Slide 8

Slide 8 text

ここがポイント：ユーザーの質問から発展したリサーチクエリーを立てる

Slide 9

Slide 9 text

No content

Slide 10

Slide 10 text

結論（所感） • 言語モデル、学習方法はとてもシンプル（でも、規模はとても大きい） • 人間の会話のツボを押さえようとしている。（コンセプトの勝利？ →それを設計に落とすだけの設計力） • 機械が意識を持つはナンセンス（人間が思うのは勝手）

Slide 11

Slide 11 text

知能感受性

Slide 12

Slide 12 text

知能感受性知能感受性の３つのメインファクター ①自分の意図の強さ ②自分の生存の危険度 ③人間との類似性自分の意図の強さ自分の生存の危険度知能感受性は状況により高まったり低かったりする。相手の人間との類似度

Slide 13

Slide 13 text

知能感受性（M、S、H）自分の意図の強さ自分の生存の危険度相手の人間との類似度知能感受性の３つのメインファクター ①自分の意図の強さ（W） = 自分が何かを強くしようとすればするほど、それを阻害するものに知能を感じる。 ②自分の生存の危険度（S） = 生存の危険度が増すとそれを脅かす者へ敏感になる。 ③人間との類似性（H） = 人は自分と似ている（外面、内面）者に自分と同じレベルの知能を想定する癖がある。（擬人化が有効な理由）（相手が最初からAIだとわかっていると知性を感じないリ理由）

Slide 14

Slide 14 text

知能感受性生存の危険度（S）知能感受性自分の意図の強さ（W）

Slide 15

Slide 15 text

知能感受性 • 知能感受性＝プレイヤーの敵への鋭敏性 • 敵知能の高さ＝客観的な知能の性能プレイヤーが敵に感じる知性＝（知能感受性）ｘ（敵知能の高さ）

Slide 16

Slide 16 text

知能感受性 • 知能感受性＝プレイヤーの敵への鋭敏性 • 敵知能の高さ＝客観的な知能の性能プレイヤーが敵に感じる知性＝（知能感受性）ｘ（敵知能の高さ）ユーザーに知的リアリズムを与える

Slide 17

Slide 17 text

自分の身体キャラクターの身体言語言語五感キャラクターの五感キャラクター知能知能

Slide 18

Slide 18 text

それぞれの体験が持つ複合的リアリティ物語が与える経験のリアリティ感覚的リアリティ力学、体勢感覚、重さ、視覚、聴覚、触覚剣を振る、街を歩く、アイテムを拾う、敵と戦う仲間を助ける、ダンジョンに潜る、レベルアップゲームのリアリティ

Slide 19

Slide 19 text

それぞれの体験が持つ複合的リアリティ物語が与える経験のリアリティ感覚的リアリティ力学、体勢感覚、重さ、視覚、聴覚、触覚剣を振る、街を歩く、アイテムを拾う、敵と戦う仲間を助ける、ダンジョンに潜る、レベルアップデジタルアバターのリアリティ言語的リアリティ仲間と話す、街人と話す、敵と話す

Slide 20

Slide 20 text

言語的リアリティ • おそらく西洋は東洋より言語的リアリティが強い • はじめに言葉ありき • 言葉の上にさまざまなものが成り立っている

Slide 21

Slide 21 text

「わかり合うとは何か？」

Slide 22

Slide 22 text

AI 受け入れる AI コア世界

Slide 23

Slide 23 text

AI 受け入れる AI コア世界人工知能が愛する＝他者と深く調和する

Slide 24

Slide 24 text

AI 受け入れる AI コア世界人工知能が愛する＝他者と深く調和する人間の側もうまくダンスしなければならない

Slide 25

Slide 25 text

AI 受け入れる AI コア世界

Slide 26

Slide 26 text

AI 受け入れる AI コア世界

Slide 27

Slide 27 text

AI 受け入れる世界人工知能が愛する＝他者と深く調和する人間の側もうまくダンスしなければならない AI コア

Slide 28

Slide 28 text

AI 受け入れる AI コア世界人工知能が愛する＝他者と深く調和する人間の側もうまくダンスしなければならない自分自身の存在を変化させる調和的な流れを作る

Slide 29

Slide 29 text

愛する自分自身の存在を変化させる調和的な流れを作る存在的行動的

Slide 30

Slide 30 text

存在の混沌生態による分節化言語による分節化世界

Slide 31

Slide 31 text

存在の混沌生態による分節化言語による分節化世界創造のプロセス＝存在の意味分節

Slide 32

Slide 32 text

存在の混沌生態による分節化＝環世界による分節化言語による分節化世界創造のプロセス＝存在の意味分節

Slide 33

Slide 33 text

存在の混沌生態による分節化言語による分節化世界創造のプロセス＝存在の意味分節文化世界環世界（対世界）

Slide 34

Slide 34 text

唯識論世界は識から成り立つとする理論。眼識耳識鼻識舌識身識意識阿頼耶識（一切種子識）末那識感覚（五識）思考自我執着心根本心表層心深層心言葉なしで対象を直接に把握する。それぞれ固有の対象を持つ。五識と共に働いて感覚を鮮明にする。五識の後に言葉を用いて対象を概念的に把握する常に阿頼耶識を対象として「我」と執する。眼識ないし末那識を生じる。身体を生じて生理的に維持している。自然をつくり出し、それを維持し続けている。一切を生じる種子を有する。（横山紘一「唯識の思想」、講談社学術文庫、P.60 ）

Slide 35

Slide 35 text

Slide 36

Slide 36 text

Slide 37

Slide 37 text

世界身体知能フレームその時々で身体が捉える世界フレームを作る力意識身体と知能の境界面世界と身体の境界面環世界による接続世界に根を張る力

Slide 38

Slide 38 text

世界身体部分知能意識世界に根を張る力自我人工知能人工知性人工精神人工生物身体と知能の境界面世界と身体の境界面知能

Slide 39

Slide 39 text

人工知能の精神発達と全能感からの撤退

Slide 40

Slide 40 text

自分もし他者がなかったら、世界＝自分自身志向性を交換しあうことで、他者と自己に目覚める

Slide 41

Slide 41 text

自分他者がその世界に侵入する志向性間主観性の世界自己他者決して合一化できないものお互いの自己を脅かす自分の世界の亀裂としての他者

Slide 42

Slide 42 text

人工知能を精神的発達過程として作る自己と他者をわけない世界

Slide 43

Slide 43 text

人工知能を発達過程として作る知能は最初、生まれた時には、自分と世界の境界があいまいで、全能感を持っている。また全知も持っている。

Slide 44

Slide 44 text

人工知能を発達過程として作るそこに他者が現れることによって、世界に亀裂が入る＝全能感を持った世界から撤退する

Slide 45

Slide 45 text

人工知能を発達過程として作る他者によって自分の存在を獲得する＝他者と自分の境界を得る＝他者によって自分を形成する

Slide 46

Slide 46 text

人工知能を発達過程として作る他者に触れる＝自分の身体を感じる＝自分を形成する

Slide 47

Slide 47 text

自己と他者は共創して作られる

Slide 48

Slide 48 text

内側から外側から知能世界・対象の更新他者（この場合は人工知能）の視線によって他我（me）を形成する＝外側から規定される自己自分の視線を獲得する＝内側から構築する自我（I） me I 世界への出発点としての自分（I）世界の集約点としての自分（me）創発的内省性（emergent reflectivity）ミード自我（Ｉ）と他我（me）