BERTで文章関連度算出して戯れてみる

BERTで文章関連度算出して戯れてみる河津正和

河津正和株式会社博報堂アイ・スタジオ所属 • 主にバックエンド領域のテクニカルディレクター • 新規事業開発的なお仕事をしてます • コンテナ技術とか機械学習とか電子工作にも興味あり Twitter：@kawazu255_ Qiita：kawazu255
note：kawazu255

以前作ったもの • メロディ・伴奏・ドラムのmidi音源を自動生成し続けるプログラム • ぼっちでも音楽セッションしたかった • StayHome先駆けプロダクト

BERTとは？ • Googleが発表した自然言語処理モデルで、2019年からは検索エンジンにも使用されている • 文脈理解の精度が評価 • 様々な自然言語処理タスクにファインチューニングする前の、ベースモデルとしても使用できる •
BERT日本語学習済みモデル->https://yoheikikuta.github.io/bert-japanese/

気になるなあと思いつつもよくわからなかった ->実際に触りつつ、どんなことができるか試したい

試したこと • 文章同士の関連度合いを出してみる • 参考にさせていただいた記事：BERT（Keras BERT）を使用した文章ベクトル作成 https://qiita.com/jjking/items/a9fe907f992ccaefbd2a

文章の特徴量を出す(768次元ベクトル) ... 「今日は月が綺麗ですね」

比較したい2つの文章のベクトルを出した後、コサイン類似度を用いてそれぞれの関連度合いを出してみる

CASE1:厚生労働省のサイト文言 • 文章1：「国内で報告された新型コロナウイルス感染症の感染者に係る報告を基にした追跡調査の結果、感染者間の関連が認められた集団（クラスター）を地図上に表示したものです。」 • 文章2：「クラスターは、現時点で、同一の場において、５人以上の感染者の接触歴等が明らかとなっていることを目安として記載しています。家族等への二次感染等を載せていません。また、家族間の感染も載せていません。」 •
コサイン類似度：0.24

CASE2:厚生労働省のサイト文言+吾輩は猫である • 文章1：「国内で報告された新型コロナウイルス感染症の感染者に係る報告を基にした追跡調査の結果、感染者間の関連が認められた集団（クラスター）を地図上に表示したものです。」 • 文章2：「吾輩は猫である。名前はまだない。どこで生れたか頓（とん）と見当がつかぬ。何でも薄暗いじめじめした所でニャーニャー泣いていた事だけは記憶している。吾輩はここで始めて人間というものを見た。」 •

せっかくなので色々試してみましょう

CASE3:ふなっしー&くまもんTwitter • 文章1：「みんなー今日も一日お疲れ様なっしー♪ヾ(。゜▽゜)ノはふーん♪ ぱふぇー♪夏になったら旅行行きたいなっしー♪明日もみんな良いこと有りますように梨汁ブシャー:＊もやぱふぇ」 • 文章2：「なんだか眠くなってきた・・・モン・・・おやくま〜☆」 • コサイン類似度：0.21

CASE4:西野カナ&あいみょん歌詞 • 文章1：「会いたくて会いたくて震える君想うほど遠く感じてもう一度聞かせて嘘でもあの日のように"好きだよ"って… 」 • 文章2：「麦わら帽子の君が揺れたマリーゴールドに似てるあれはまだ空が青い夏のこと懐かしいと笑えたあの日の恋」 •

CASE5:西野カナの歌詞(曲違い) • 文章1：「会いたくて会いたくて震える君想うほど遠く感じてもう一度聞かせて嘘でもあの日のように"好きだよ"って… 」 • 文章2：「これからもどうぞよろしくねこんな私だけど笑って許してねずっと大切にしてね永久保証の私だから」 •

CASE6:西野カナ&マキシマムザホルモン歌詞 • 文章1：「会いたくて会いたくて震える君想うほど遠く感じてもう一度聞かせて嘘でもあの日のように"好きだよ"って… 」 • 文章2：「ブッイキス!!てめーらブッイキス!!I wanna ブッイキス!!てめーら
ブッイキス!!ブッイキス!!貴様らブッイキス!!貴様らブッイキス!!貴様らブッイキス!!」 • コサイン類似度：0.36

CASE7:ミルクボーイ&アンジャッシュネタ • 文章1：「いきなりですけどね　うちのオカンがね　好きな朝ごはんがあるらしいんやけど　あっ　そーなんや　その名前をちょっと忘れたらしくてね　朝ごはんの名前忘れてもうて　どうなってんねそれ　でまあ色々聞くんやけどな　全然分からへんねんな　分からへんの？　いや　ほな俺がね　おかんの好きな朝ごはん　ちょっと一緒に考えてあげるから　どんな特徴ゆうてたかってのを教えてみてよ　あのー甘くてカリカリしてて　で　牛乳とかかけて食べるやつやって言うねんな　おー　コーンフレークやないかい　その特徴はもう完全にコーンフレークやがな　コーンフレークなぁ
」

CASE7:ミルクボーイ&アンジャッシュネタ • 文章2：「お巡りさん、遅いな…。通報して何分経ってると思ってるんだよ。早く来ないとのぞき魔、どっかに逃げちゃうよ。まだ犯人のやつ絶対あの女子寮の近くにいるはずなんだよな。はい、今のぞきの通報を受けた現場に到着しました。明らかな不審者発見。尋問します。あの、ちょっとすいません。お巡りさん。この辺りでのぞきがあったって通報受けたんだけど。それ、僕です。君か！君なんだね。はい。さっきまであそこの女子寮の風呂をずっとのぞいてました。何、堂々と言ってるんだよ。状況、分かってる？私、警官だよ。はい。早く逮捕してくださいよ！なんなんだ君！新しいタイ
プだな。君さ、なんでこんなことしちゃったの？」 • コサイン類似度：0.15

やってみて思ったこと • 肌感的にはそこそこの傾向は見て取れる • ただあくまで傾向にすぎない。どの閾値から先が「関連度が高い」となるのかはルールなし。データによりけり • ここで出してる関連度については、「絶対値」的な判断よりも「相対値」的に判断した方が良いかも •
書き方・表現の仕方からどのくらい影響を受けているのかを探る必要はありそう • 特定の文章に特化させるならば、ファインチューニングが必要かも • 学習モデルの読み込みが重くてアプリケーション化するには要検討 • 浮気はいけないこと

オンライン会議支援サービス　　　　　　　　　　開発中！ ←サービス紹介ページです(事前登録できます)

BERTで文章関連度算出して戯れてみる

BERTで文章関連度算出して戯れてみる

Kawazu

More Decks by Kawazu

Other Decks in Programming

Featured

Transcript