Slide 1

Slide 1 text

Modeling Relational Data with Graph Convolutional Networks Yuko Ishizak 2018/8/21

Slide 2

Slide 2 text

グラフとは ノードとノードを繋ぐエッジで構成されるデータ構造。 何かと何かの関係性を表すのに使われる。 Knowledge Graph Social Graph 分子構造 ➡︎ グラフを畳み込みネットワークで扱いたい! 論文:Modeling Relational Data with Graph Convolutional Networks https://arxiv.org/pdf/1703.06103.pdf

Slide 3

Slide 3 text

グラフの特徴 画像のような × で表すことができるデータとは違い、あるデータに対して隣接するデータの数が 固定ではない。また、向きと関係性が存在する場合もある。通常のCNNでは対応できない。 普通のCNNで扱えるデータ ➡ グラフ構造 ➡ :グラフ自体 :各ノード :リレーションタイプ :各エッジ(有方向) Modeling

Slide 4

Slide 4 text

やりたいこと 1. Link prediction 不完全なグラフに対して、エッジを予測する。 2. Entity Classification sub obj sub obj relation v1 v4 v3 v2 v5 人 動 物 動 物 人 人

Slide 5

Slide 5 text

hidden layer + 1層 ℎ0 +1 ℎ1 +1 − 1層 層 ℎ0 −1 ℎ1 −1 ℎ0 ℎ1 活性関数(ReLU) で繋がっているℎ に隣接するノードのインデックスj 正規化定数 自分へのループ (()は各層の次元) () = 11 ⋯ 1 ⋮ ⋱ ⋮ 1 ⋯ () (+1) 1. basis-representation 基底ベクトルVの線型結合 2. block-diagonal- representation ブロック対角行列 → 重みの共有 → スパース性

Slide 6

Slide 6 text

hidden layer 赤ノードの演算 1. 赤ノードに隣接するrelation1のin方向のノード の層に伝播されたデータを1− で線型結合 2. 赤ノードに隣接するrelation1のout方向のノード の層から伝播されたデータを1− で線型結合 3. relation N まで1.2.を繰り返す 4. 自分自身へのループがある場合は、それも加える 5. 活性関数に入れる

Slide 7

Slide 7 text

input layer / output layer 1. Entity Classification • inputはone-hotベクトル • outputにsoftmaxを使う • クロスエントロピー誤差で評価 ノードの集合

Slide 8

Slide 8 text

input layer / output layer 2. Link prediction (s,r,o)に対してスコアを付ける評価関数を以下のように定義する。 , sub obj relation subノードの 出力の転置 objノードの出力 対角行列 エッジ ネガティブデータ ポジネガデータ (, , )を出力として、クロスエントロピー誤差で評価する

Slide 9

Slide 9 text

精度 1. Entity Classification 2. Link prediction ➡︎ 精度はあまり既存の方法と変わらな い データセットの種類 データセットの種類 評価方法別

Slide 10

Slide 10 text

考察 精度は既存のものより突出して良いわけではないが、グラフをより直感的にシンプルに畳 み込みネットワークに対応することができる手法。 隣接するノード間で畳み込んで流が、さらに先のノードも・・・など応用の仕方が色々あ りそう。