Langchainの世界

LangChainの世界

LangChainとは・大規模言語モデル（LLM）を利用したアプリケーション開発のためのフレームワーク・Robust Intelligenceのハリソン・チェイスによって2022 年10月にオープンソースプロジェクトとしてスタート・今年の1月にv0.1をリリース。スター数は82k(4月現在)

LangChainを使うメリット・LLMを利用したアプリ開発の各フローを抽象化することで、言語モデルやツールの入れ替えが容易になる・LCEL(Langchain Expression Language)による宣言的な記述が可能・AIオーケストレーションツールとしてAzure Open AIや
AWSの各種マネージドサービスとの連携も可能・最新のLLMにも素早く対応するので、LLMアプリ開発の動向を追うためのコミュニティとして有効

AIオーケストレーションとは・AIモデルと複数のサービス・ツールを統合することで、より複雑なAIアプリケーションを構築するプロセスを指す・ビジネスロジックを担う部分・独自の情報ソースに基づいた情報検索(RAG)や、LLMにタスク処理のフローや使用するツールを動的に判断させる Reasoning & Acting(ReAct)といった手法を組み合わせて処理の流れを調整する

RAGとは・Retrieval-Augmented Generation(検索拡張生成) ・LLMが知らない情報をベクターストアやWebから検索し、その結果を元に回答を生成・社内文書の検索システムや、独自ナレッジに基づいたチャットボット等に応用が可能

ReActとは・Google Researchが発表した『ReAct: Synergizing Reasoning and Acting in Language Models』という論文が元ネタ
・言語モデルにおける推論と行動の相乗効果(協同？) ・推論によって、モデルは「何をすべきか」「何を調べるべきか」といった行動の計画を立てる（Reason to Act）・計画に基づいて実際に行動を起こすことで、モデルは環境から新しい情報を得る（Act to Reason）・得られた情報を推論に反映させ、より的確な行動計画を立てる

アプリサーバーまたはオーケストレーターは、情報の取得と LLM の間のハンドオフを調整する統合コードです。 1 つのオプションは、LangChain を使用してワークフローを調整することです。 LangChain は Azure
AI Search と統合されるため、Azure AI Search を取得コンポーネントとしてワークフローに簡単に含めることができます。出典: https://learn.microsoft.com/ja-jp/azure/search/retrieval-augmented-generation-overview

LangChain を使用すると、言語モデルの応答を絞り込む情報を変換、保存、検索、取得するための多数のツールを備えた RAG システムの設計が可能になります。開発者は、単語を埋め込んで情報のセマンティック表現を作成し、ローカルまたはクラウドベクトルデータベースに保存できます。 Amazon Bedrock、Amazon Kendra、Amazon
SageMaker JumpStart、LangChain、および LLM を使用すると、企業データに基づいて高精度の生成系人工知能 (生成系 AI) アプリケーションを構築できます。 LangChain は、これらのコンポーネントをつなぐインターフェースです。出典：https://aws.amazon.com/jp/what-is/langchain/

LangChainの構成・langchain-core: LCELとベースとなるモジュール群・langchain-community: サードパーティのサービスを取り込むための統合モジュール。 langchain-openai、 langchain-anthropicを含むパートナーパッケージ。
・langchain: Chains、Agents、Retrieval Strategies。LCELに段階的に移行？出典: https://python.langchain.com/docs/get_started/introduction/

LangChain Expression Language(LCEL)とは・ユーティリティ関数がアドホックに増えていくため記法が統一されていなかった・llmやpromptを｜で繋げて処理の連鎖 (Chain) を記述する
・| でつなげられるのは基本的にRunnableというインターフェースを採用しており、全てinvoke()というメソッドで実行できる・すべてのステップがLangSmithによって監視可能になる

Components ・Prompts - プロンプトを生成・Chat models - チャットモデルの読み込みと実行・LLMs -
言語モデルの読み込みと実行・Output parsers - 出力結果の成型・Tools - 特定の用途に特化させたツール。Agentから呼び出せる・Agents - 動的に判断して複数の処理を使い分ける・Chains - 連続した処理の流れを構成する

公式ドキュメント・LCEL、ユースケース python.langchain.com/docs/ ・Components python.langchain.com/docs/modules/ ・Community、サードパーティー python.langchain.com/docs/integrations/

Ecosystem ・🦜🛠LangSmith - 監視/運用のためのプラットフォーム・🦜🕸LangGraph - 状態を持つことで複数チェーンを循環的に協調動作させる・🦜🏓LangServe -
LLMアプリを簡単にAPI化する

LangChainの学習について・LangChainは書籍を含めてv0.1以前の情報が多く、混乱しやすい・決して読みやすくないが、公式ドキュメントの各種Quick Startを読んで、動かしながら学習するのが近道・Blog、Youtube、Xで積極的に情報発信している

Langchainの世界

Langchainの世界

gaku101

Featured

Transcript