2024/12/11 AWS事業本部 コンサルティング部 トクヤマシュン Amazon Bedrock Knowledge BasesがGraphRAGに対応！！ ‧‧‧それってつまりどういうコト！？ をチョット深堀ってみる

⾃⼰紹介 トクヤマシュン ● 所属：AWS事業本部 コンサルティング部 ● 役割：AWSソリューションアーキテクト ● 最近良かったこと：re:Play最前でWeezerを観た ● 副業 ○ 兵庫県明石市でカレー屋をやっています ■ CURRY HOUSE Babbulkund (カレーハウス バブルクンド） ■ 土曜日のみ営業 ■ @babbulkund 　 @babbulkund

本題

Amazon Bedrock Knowledge Basesが GraphRAGを使えるようになりました！（現在Preview)

なんか凄そうだけど‧‧‧ それってつまりどういうコト！？ チョット深ぼってみよう！

6 ● RAGについて ○ RAGってどんな技術？ ○ Amazon Bedrock Knowledge Basesとは？ ○ RAGが得意なこと、苦⼿なこと ● GraphRAGについて ○ GraphRAGってどんな技術？ ○ GraphRAGの仕組みをチョット深堀り ○ Amazon Bedrock Knowledge Bases でGraphRAGが使えるとは？ ● まとめ アジェンダ

RAGについて

8 RAGってどんな技術？ 出典：AWS Black Belt Online Seminar Amazon Bedrock Series #01 Amazon Bedrock Overview

9 Amazon Bedrock Knowledge Basesとは？ 出典：AWS Black Belt Online Seminar Amazon Bedrock Series #01 Amazon Bedrock Overview

10 RAGが苦⼿なこと ● RAGでは関連情報はベクトルDBに保存される ● 関連情報を取得するためのベクトル検索では、 質問⽂と意味が近い⽂章を探して抽出している ● 類似した⽂章を検索するだけなので、 ⽂章全体に関する抽象的な質問への回答や ⽂脈を理解した回答は難しい場合がある ベクトル検索イメージ例 ①θ<②θなので、質問⽂には①が近い →①は検索結果として取得できるが、  回答に必要な②の情報を取得できない場合あり

Graph RAGについて

12 GraphRAGってどんな技術？ ● 2024年4⽉にMicrosoftが公開した技術 ● 関連情報の保存にグラフDBを利⽤する ○ 単語同⼠の関係が保存される ● 問い合わせ⽂に関連のある⽂章を検索する ことができるため、 RAGと⽐べてより⽂脈を意識した検索が可能 ● 従来のRAGに⽐べ、⽣成AIから正しい回答を 引き出すことができる可能性がある 「Aさんの孫は？」 という質問に対して、 「①Aさんの⼦はBさん」、 「②Bさんの⼦はCさん」という 関連情報を取得できる グラフDBイメージ例

13 GraphRAGの仕組みをチョット深堀り 出典：From Local to Global: A Graph RAG Approach to Query-Focused Summarization ⽂章をチャンクとい う単位に分割 LLMを使って グラフノード/エッジ を識別‧抽出 LLMを使って 抽出結果を要約し、 説明⽂を作成 要約を基にグラフ構築、グループ化 グラフ全体の構造と 意味を表現するため グループ化情報を 階層的に要約 階層的な要約情報や ノード/エッジ情報から 検索‧回答 階層的な要約情報や ノード/エッジ情報から 検索‧回答

14 Amazon Bedrock Knowledge Bases でGraphRAGが使えるとは？ ● GraphRAGの構築がAmazon Bedrock Knowledge Bases で簡単にできるように！ ○ コンソールから構築した場合はグラフDBとして Amazon Neptune Analyticsが作成される ■ Amazon Neptune Analyticsとは？ ● ⾼速で信頼性の⾼いグラフデータ分析のためのサービス ● グラフとともに保存されているベクトルに対して類似性検索が可能

15 参考：やってみた ● コンソール上からの構築例は 右の下記ブログをご参照ください ● 数ポチでGraphRAGが構築可能です！ ● 現在プレビュー版です ● Amazon Neptune Analyticsが 構築されるので、 検証の際は削除忘れに注意！ 出典：【新機能】Amazon Bedrock Knowledge Bases でGraphRAGをサポートするようになりました（ Preview） https://dev.classmethod.jp/articles/knowledge-bases-graphrag/

まとめ

17 まとめ ● GraphRAGの構築がAmazon Bedrock Knowledge Bases で 簡単にできるようになりました ● RAGを⽤いた回答精度にお困りの際は、GraphRAGを使えば改善する...かも！？ ○ 現在プレビュー版なので注意