コンピュータ分析から見た主語

2025年9月13日　神奈川大学大学院人舞楽研究科シンポジウム
主語を究めるー通言語学的視点からー
於　神奈川大学みなとみらいキャンパス

Transcript

1. 神奈川大学大学院人文学研究科シンポジウム 主語を究めるー通言語学的視点からー 2025年・9月13日・近藤泰弘（青山学院大学） コンピュータ分析から見た主語 1
2. まず、コンピュータによる主語研究の方法につい て、従来の手法を紹介する。 コンピュータによる主語分析 のいろいろ 2
3. コーパスの検索を行い、KWI Cコンコーダンサ （Key Word I n Cont extの形式に索引を作るア プリ）によって、文脈付きの索引を作って、その 文脈から研究を行う。1980年代からある。 KWICによる分析 3
4. (例）国立国語研究所の「中納 言」システムによって、 「現代 日本語書き言葉均衡コーパス」 （BCCWJ）を検索 4
5. ーボードで、文字を入力 する際、 違う文 字 が 出てきてしまいます、例えば半角英語のｍ している。母は、常盤御前である。平 清盛 が 勢力をとみに拡大するのに不満を抱いた義朝 後文脈 前文脈 キー 1960年にIBMのルーン(Luhn, H.)が考案した手法 KWIC 5
6. 自動的に統語解析を行うアプリケーション（KNP、 Gi NZAなど）を使って統語ツリーを描かせる コンピュータによる統語分析 統語データベース。代表的なものとしては、 「日 本語Uni versal Dependenci es」や「かいのき ツリーバンク」 （吉本啓・アラステア・バトラー） 等がある。 6
7. Universal Dependencies 淺原他「Universal Dependenci es 日本語コーパス」 （ 『自然言語処理』26_3） 7
8. CCG（Combinatory Categorial Grammar） 組み合わせ 範疇文法 意味合成と合わせて、関数によって行うことによって、統語構造と意味とを統合的に扱う ことができる。 （谷中瞳『ことばの意味を計算するしくみ』 （講談社）など参照） 8
9. BERTやGPT( LLM・生成AI ）などのトランスフォーマー （transf ormer）型の深層学習による仕組みは、言語分析に 用いることができる。 トランスフォーマー (transformer)による分析 9
10. 機械学習 深層学習 transformer 入力でモデルを訓練して、正しい出力を得るシステム 10
11. 機械学習（迷惑メールフィルタ） （モデルの事前学習・訓練） ーーーーーー＞（モデル）−＞ 正常・迷惑の二値判断 正常メール 迷惑メール　 　　＊教師データ 11
12. 機械学習（迷惑メールフィルタ） （モデルによる推論） ーーーー＞ （学習済みモデル） 　ーーー＞　正常メール 実際のメール 　　　　　　　　 ＝＝＝＞　迷惑メール (判定する能力） 12
13. 機械学習（迷惑メールフィルタ） （モデルによる推論） ーーーー＞ （学習済みモデル） 　ーーー＞　正常メール 実際のメール 　　　　　　　　 ＝＝＝＞　迷惑メール (判定する能力） 13
14. トランスフォーマー（生成AI) （事前学習） 　　　　　　次を予測するように訓練 ーーーーーーーー＞ （モデル）ーー＞ 来た 私は神奈川県に 14
15. トランスフォーマー（生成AI) （モデルによる推論） ーーーーー＞（訓練済みモデル）ーー＞ 来た 私は東京都に 迷惑メールフィルタが全ての迷惑メールを知らなくても対応できるように、すべ ての言語を学習させなくても、大半の文は生成可能になる 15
16. 埋め込みベクトル（重み）の更新 入力層 　中間層(数十層） 　出力層 16
17. トランスフォーマー（生成AI）の内部構造 ある層　　セルフアテンション 　次の層 17
18. セルフアテンション（自己注意機構） 層と層の間にセルフアテンション（自己注意機構）が はさまれており、その層を繰り返し適用していくこと で、徐々に詳しく統語・意味解析をおこなっていく。 その結果、層の中にある数値（埋め込みベクトル＝多 次元の数値・重み）が詳しくなる。 18
19. セルフアテンション（自己注意機構） 19
20. （補足）マルチヘッドアテンション 20
21. トランスフォーマーと言語学 層の中にある数値（埋め込みベクトル）＝＝＝意味論 と統語論と語用論すべての情報 セルフアテンション ＝＝＝ 共起関係・統語論の操作 （依存関係の調査） （文法そのものではないが、係受 け・依存などを明らかにできる） 21
22. トランスフォーマーと言語学 埋め込みベクトルとアテンション を観察することで、トランスフォ ーマーがどのように言語を理解しているかを探ることが可能。 生成AIは、人間とは異なった言語生成をしている可能性もあるが、 いずれにしても、 言語理解・生成のひとつのモデルを知ることは重 要で、それは人間の脳内言語モデルとのなんらかの共通性もあるか もしれない。 22
23. 埋め込みベクトルによる主語分析 23
24. ２次元化した文ベクトルの構造を見る 名詞文（吾輩は 猫である） 形容詞文（私 はとても猫が 大好きです） 動詞文（あなた はバナナを食べ ています） 24
25. 文学作品の文ベクトルの解析 夏目漱石の「坊っちゃん」の例だと、X軸は、 「１人称かかそうでないか」で区別されているようにみえ る。 （近藤泰弘・ 『計量国語学』34・4、2024） 25
26. 文学作品の文ベクトルの解析 X-axis Max (Rank 1): 本当に人間ほどあてにならないものはない X-axis Max (Rank 2): 議論のいい人が善人とはきまらない X-axis Max (Rank 3): いくら人間が卑怯だって、こんなに卑怯に出来るものじゃない X-axis Max (Rank 4): あんまり喜んでもいないでしょういえ、お世辞じゃない X-axis Max (Rank 5): 面白くもない ーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーー X-axis Min (Rank 1): 山嵐の踵を踏んであとからすぐ現場へ馳けつけた X-axis Min (Rank 2): その晩母が山城屋に詫びに行ったついでに袷の片袖も取り返して来た X-axis Min (Rank 3): 控所へ帰って来たら、山嵐がどうだいと聞いた X-axis Min (Rank 4): お婆さん、東京へ行って奥さんを連れてくるんだと答えて勘定を済まして、すぐ汽 車へ乗って浜へ来て港屋へ着くと、山嵐は二階で寝ていた X-axis Min (Rank 5): 山嵐はおい君どこに宿ってるか、山城屋か、うん、今に行って相談すると云い残し て白墨を持って教場へ出て行った 「坊っちゃん」（人称ぽいが、人称だけでは分析しにくい部分がある） 26
27. 文学作品の文ベクトルの解析 「走れメロス」のX軸の解析（主観・客観ともやや違う） X-axis Max (Rank 1): メロスは腕に唸りをつけてセリヌンティウスの頬を殴った X-axis Max (Rank 2): メロスは激怒した X-axis Max (Rank 3): メロスは、王の前に引き出された X-axis Max (Rank 4): メロスは、ざんぶと流れに飛び込み、百匹の大蛇のようにのた打ち荒れ狂う浪を 相手に、必死の闘争を開始した X-axis Max (Rank 5): メロスは口惜しく、地団駄踏んだ ーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーー X-axis Min (Rank 1): 私は、信じられている X-axis Min (Rank 2): 君だけは私を信じてくれるにちがい無い X-axis Min (Rank 3): どうでも、いいのだ X-axis Min (Rank 4): ああ、待っているだろう X-axis Min (Rank 5): おまえに言いたいのは、それだけだ 27
28. 文ベクトルの第１次元の対立に は、 感情形容詞 が関係する エゴフォリシティegophoricityが 関係あるのでは？ 28
29. エゴフォリシティegophoricityの概念の 適用 １ 人 称 者 が 「 特 権 的 な ア ク セ ス （ p r i v i l ege d a cce s s ） 」 を 有 す る 情 報 を 文 法 的 に 区 別 して、 異 な る 言 語 形 式 で 標 示 す る 。 エ ゴ フ ォ リ ッ ク 形 式 （ ego p h o r i c fo r m ） 非 エ ゴ フ ォ リ ッ ク 形 式 （ n o n - ego p h o r i c fo r m ） あ る い は 、 ア ロ フ ォ リ ッ ク 形 式 （ a l l o p h o r i c fo r m ） 29
30. 日本語のエゴフォリシティegophoricity Tournadre, Nicolas; LaPolla, Randy J. (2014). “Towards a new approach to evidentiality”. Linguistics of the Tibeto - Burman Area 37 (2): 240–263. ,2014 （感情形容詞） 定延利之「日本語の体験とエゴフォリシティ」 中日理論言語学研究会シンポジウムレジュメ・ 2024年9月21日（体験発話・体験表現） 渡 辺 実 「 わ が こ と ・ ひと ご と 」 の 観 点 と 文 法 論 」 （ 『 国 語 学 』 1 6 5 集 ・ 1 9 9 1 年 6 月 ） （ 「 ず い ぶ ん 」 、 そ の 他 ） 30
31. 日本語のエゴフォリシティegophoricity 人称 　　　　文 １ 　　　私はうれしい。 ２　　×あなたはうれしい。 〇あなたはうれしいですか？ ３　　×彼はうれしい。 cf. なお、 「こっちはうれしいよね。 」のような1・2人称融合の 「コ」は1人称扱いなのは注意。１，２，３というより、コ・ ソ・ア、が適切だが、詳しくは別に論じる。 egophoric form 31
32. 日本語のエゴフォリシティegophoricity 人称 　　　　文 １ 　　　×私はずいぶん元気だ。 　　　　　　　　 cf. 私はずいぶん元気に見えますか？ ２　　　 　あなたはずいぶん元気だね。 ３　　　　彼はずいぶん元気だ。 allophoric form 「ずいぶん」は、渡辺実の「ひとごと性」の素性を持つ（渡辺論文） 32
33. 以上の観点から見ると、先の文ベクトルの第１ 次元の対立を次のように考えるのがよい。 アロセントリック（allocentric）な文 エゴセントリック（egocentric ） な文 認知科学で、アロセントリック（外部空間の座標）とエゴセントリック（自己中 心の座標）という用語がある。脳心理学や、ロボット工学でも用いられるもので ある。一番典型的なものは、カーナビゲーションの画面である。この概念を文法 に転用する。 33
34. ノースアップ 　　　　　　　　　　　　　　　　　　　　ヘディングアップ アロセントリックallocentric 外部座標　　　　　　　　エゴセントリックegocentric　内部座標 34
35. エゴセントリックとアロセントリック の分類による主語の観察 エゴセントリックな文では、典型的主語が出現しにくい どうでも、いいのだ。 （走れメロス） ああ、待っているだろう。 （走れメロス） 面白くもない。 （坊ちゃん） 本当に人間ほどあてにならないものはない。 （坊ちゃん） 又、犯罪に因る処罰の場合を除いては、その意に反する苦 役に服させられない。 （日本国憲法） 最後に、よく温めてから、いただきます。 （三上章の料理文） 35
36. エゴセントリックとアロセントリック の分類による主語の観察 アロセントリックな文では、主題が出現しやすい。 メロスは腕に唸りをつけてセリヌンティウスの頬を殴った。 メロスは激怒した。 山嵐はおい君どこに宿ってるか、山城屋か、うん、今に行っ て相談すると云い残して白墨を持って教場へ出て行った（坊 ちゃん） 36
37. セルフアテンション（ヒートマップ） 縦軸=Quer y （注目元） 横軸=Key（注目 先） 色が明るいほど 注目度が高い。 12層×12ヘッド 37
38. セルフアテンション（ヘッドの多様性） 38
39. セルフアテンション(6層・第２ヘッド） 太郎が本を三冊買った 太郎は本を三冊買った 39
40. セルフアテンション(6層・11層） 40
41. セルフアテンション(6層・11層） 「は」は、浅い層では、前の名詞と強 く結びつくが、深い層では、文末との 関係が深くなる。 「が」は全体的に述語側と強く結びつ く。 41
42. セルフアテンションと文型 " A DJ " : [ " 山 が 高 い 。 " , " 空 が 青 い 。 " , " 部 屋 は 寒 い 。 " , " 海 は 広 い 。 " ] , " V E R B " : [ " 犬 が 走 る 。 " , " 彼 は 笑 っ た 。 " , " 花 子 は 歩 く 。 " , " 太 郎 が 読 む 。 " ] , " S U K I " : [ " 本 が 好 き だ。 " , " 彼 は 音 楽 が 好 き。 " , " 私 は 寿 司 が 大 好 き。 " , " 数 学 が 苦 手 だ。 " ] , " CO P " : [ " 鯨 は 哺 乳 類 だ。 " , " こ れ は 本 で す。 " , " 彼 は 医 者 だ っ た 。 " , " 今 日 は 休 日 であ る 。 " ] （形容詞文、動詞文、対象語文、名詞文） 42
43. セルフアテンションと文型 ペア内訳のマクロ分離度： ('ADJ', 'VERB'): 1.867 ('ADJ', 'SUKI'): 1.751 ('ADJ', 'COP'): 2.415 ('VERB', 'SUKI'): 1.506 ('VERB', 'COP'): 2.458 ('SUKI', 'COP'): 2.334 43
44. セルフアテンションと文型 4文型の中で最もアテンション分布が近いのは、動 詞文と対象語文である。 名詞文と、他の3文型とは大きく異なった分布を持 つ。 形容詞文は、最も近いのは対象語文、次が動詞文、 次が名詞文となる。 44
45. 日本語の主語を考えるにあたっては、その環境が、 エゴセントリックかアロセントリックかは非常に大 きな要素となる 主語と主題とでは、トランスフォーマーの内部でも 扱いは大きく異なる 同じ主語でも、文型によってアテンションは大きく 異なる 主語・主題を、統一的に発話主体の観点から考え直 すべき 今日のまとめ 45
46. 連絡先 yhkondo@cl.aoyama.ac.jp 46