Architecture for Gen-AI products

Transcript

1. Architecture for Gen-AI products 2025.06.04
2. Agenda 企業のニーズ 生成AIの導入事例やよくあるニーズについて 一般的な構成 生成AIを導入する上でのアーキテクチャーについて 生成AIを導入する上での課題 既存のシステムに統合する際の課題について ナレッジベースの実験 Vector DB等のナレッジベースの作成について
3. 企業のニーズ ドキュメント作成 毎年・毎プロジェクト作成するドキュ メント類。事業計画書、設計書 etc... 社内ドキュメントへのアクセス 社内に散らばったデータ・設計書・手 順書へのアクセス。 ルーチンワークの効率化 コールセンター、議事録作成、請求書 処理 etc...
4. 例：事業計画書の作成 課題 毎年、新規で事業計画書を作成する必要がある。一方 で、ジョブローテションなどで、人が入れ替わる、ルー チンワークを手書きで作成するなど非効率。 対策 やり取りや過去の資料をクラウド上に保存。 RAGで類似資料を抽出する。抽出されたデー タを元に、新たな事業計画書を作成。 text text DB
5. 一般的な構成 Chatbot を構成する場合の基本構成 参考:https://aws-samples.github.io/generative-ai-use-cases/en/ABOUT.html
6. ナレッジベースの実験 Text Image Row data Open AI -0.0068779895, -0.021694018, 0.009127511, 0.0015438498, Embeddings Vector DB (SingleStore) Result -0.0068779895, -0.021694018, 0.009127511, 0.0015438498, Open AI Search Query Embeddings
7. いろんなRAG Native RAG ベクトル検索（埋め込み による類似文検索） 類似度 Graph RAG 知識グラフ探索 関連性 Agent RAG 「検索→思考→判断→生 成」する構造を持った新 しいアプローチ 自律的な意思決定
8. RAGの課題とGraphRAGの登場 課題g — 文書内の関係性や構造を理解できない（すべてが単なるテキストとして処理されるh — 長文の中から必要な部分だけを抽出するのが困U — 推論や論理的なつながりを扱いにくい 解決策： ベクトル検索に加えて、知識グラフを生成・活用することで、 文脈理解・精度・説明可能性を大幅に向上させる手法。 参考：https://neo4j.com/blog/genai/graphrag-manifesto/
9. ReAct ReAct（Reason + Act） とは、大規模言語モデル（LLM） をより賢く使うため のフレームワークで、「推論（Reasoning）」と「行動（Acting）」を交互に繰 り返すことで、モデルに問題解決能力を与えるアプローチ 参考：https://research.google/blog/react-synergizing-reasoning-and-acting-in-language-models/
10. 生成AIを導入する上での課題 開発 vs 既存サービス そもそもスクラッチで開発する理 由はあるのか？既存サービス導入 で解決できる場合もある。 セキュリティ 企業内部データのれキュリティー レベル、情報漏洩など考慮すべき ことがある。 既存環境との統合 長年運用されてきたシステム、 データとの統合が課題。 コスト I/Oのトークン数に応じて課金され る場合、従業員数が多いと莫大な 金額になりかねない。
11. Summary 構成・技術選定で精度が変わる。 データベースの仕組みを知ることは大切！！
12. Reference ú™ AWS Generative AI Use Cases (GenUñ ´ 出典: AWS Samples. (n.d.). Generative AI Use Cases (GenU).× ´ Retrieved from https://aws-samples.github.io/generative-ai-use-cases/en/ABOUT.htmŒ P™ The GraphRAG Manifesto: Adding Knowledge to GenAÛ ´ 出典: Neo4j. (n.d.). The GraphRAG Manifesto: Adding Knowledge to GenAI.× ´ Retrieved from https://neo4j.com/blog/genai/graphrag-manifestv 4™ Agentic Retrieval-Augmented Generation: A Survey on Agentic RAø ´ 出典: Singh, A., Ehtesham, A., Kumar, S., & Khoei, T. T. (2025). Agentic Retrieval-Augmented Generation:× ´ Retrievec from https://arxiv.org/abs/2501.0913 C™ Intro to Knowledge Graphs | GraphRAø ´ 出典: GraphRAG. (n.d.). Intro to Knowledge Graphs.× ´ Retrieved from https://graphrag.com/concepts/intro-to-knowledge-graphsw ș Foundational Large Language Models & Text Generation | Kaggl¤ ´ 出典: Kaggle. (n.d.). Foundational Large Language Models & Text Generation.× ´ Retrieved from https://www.kaggle.com/whitepaper-foundational-llm-and-text-generatioç „™ ReAct: Synergizing Reasoning and Acting in Language Model ´ 出典: Google Research(2022) .ReAct: Synergizing Reasoning and Acting in Language Model ´ Retrieved from https://research.google/blog/react-synergizing-reasoning-and-acting-in-language-models/
13. FIN