AIエージェントとLangChain

AIエージェントとLangChain ＼生成AI新年会2024／西見公宏 @mah_lab / Edged Edge Co., Ltd.

本日の要約 2024年はAIエージェントの年だぜ！ LangGraphが楽しいぜ！

「AIエージェント」とは何か？

人がいちいち指示をしなくとも、自分でやることを考えて、様々なツールを活用して目標に向かってタスクをこなしていく AIの仕組みのこと

身近な自律エージェント

生成AIによって変化するビジネスモデルについてレポートしてユーザー AIエージェントプログラムコードの生成／実行インターネットやデータベースからの情報収集大規模言語モデルによる思考ファイルの読み込み／書き出し
アウトプットとなる成果物生成AIによって変化するビジネスモデルは以下の通りです...

AIエージェントによる社会シミュレーション Generative Agents 25人のAIエージェントをスモールビル（Smallville）と呼ばれる仮想的な町に住まわせることにより、AIエージェント同士でどのような創発が生まれるかを観察したプロジェクト。住民が自発的に他の住民をパーティーに誘ったり、パーティー当日のためのカフェの飾り付けを共同で行ったりした観察結果に基づき、論文ではAIエージェント同士が創発的に協働し合うことのできる可能性が示された。

AIエージェントが経営するソフトウェア開発会社 ChatDev AIエージェント同士の協働によって架空のソフトウェア開発会社を作ってしまおうという試み。Generative AgentsはAIエージェント同士の協働によって何が起こるのかという社会シミュレーションがテーマだった一方、ChatDevは協働によって一つの成果物を作り上げる仕組みを作ることがテーマ。論文では、ChatDevはソフトウェア開発のプロセス全体を7分以内で完了でき、大規模言語モデルによる思考プロセスを実行するた
めのOpenAIへのAPI使用料は1ドル未満のコストしかかからなかったと報告されている。

これから訪れる変化とは？

11/7 OpenAI DevDayでサム・アルトマンCEOが語った言葉 Eventually, you'll just askthe computer for what
you need and it'll do all of these tasks for you. These capabilities are often talkedin the AI field about as "agents." The upsides of thisare going to be tremendous. At OpenAI, we really believethat gradual iterative deployment is the best way to address the safety issues,the safety challenges with AI. We think it's especially importantto move carefully towards this future of agents. 最終的には、コンピュータに必要なことを頼むだけで、これらのタスクをすべてやってくれるようになるだろう。このような能力は、AIの分野ではしばしば「エージェント」として語られる。これによってもたらされるプラス面は、とてつもなく大きなものになる。 We introduced GPTs, custom versions of GPT that combine instructions, extended knowledge and actions. We launched the Assistants API to make it easier to build assistive experiences with your own apps. These are your first steps towards AI agents and we'll be increasing their capabilities over time. 我々が今回紹介するGPTsはGPTのカスタムバージョンであり、命令、拡張知識、およびアクションを組み合わせたものだ。また、独自のアプリでエージェント体験を簡単に構築するためのアシスタント APIの提供も開始した。これらはAIエージェントへの第一歩であり、我々は時間をかけてその機能を増やしていく予定だ。

GPTsとは？ユーザー自身が自分好みの動作をするChatGPTを作成することができる機能。ChatGPTに利用して欲しい情報源（テキストファイル・PDF）などをアップロードしておくと、その情報源を利用して返答をしてくれるようになる。

2024/1/10 OpenAIがChatGPT for Teamを発表 Plusと違いチャットデータがGPTのトレーニングに使用されない、というビジネスユースには嬉しいアップデートだったが、何よりも大きい変化はチーム内のみでGPTsを共有できるようになったこと。 Output the results of
the use case analysis according to the following definition by toml: [definition] output_language = "Japanese" output_format = "markdown" [target_user] prompt = "Based on the product_description provided, provide a bulleted description of the target user's industry, job title, and tasks." [needs_and_challenges] prompt = "Based on the product_description provided, identify and describe them in bullet points the main needs and problems faced by the user." Output the results of the use case analysis according to the following definition by toml: [definition] output_language = "Japanese" output_format = "markdown" [target_user] prompt = "Based on the product_description provided, provide a bulleted description of the target user's industry, job title, and tasks." [needs_and_challenges] prompt = "Based on the product_description provided, identify and describe them in bullet points the main needs and problems faced by the user." Output the results of the use case analysis according to the following definition by toml: [definition] output_language = "Japanese" output_format = "markdown" [target_user] prompt = "Based on the product_description provided, provide a bulleted description of the target user's industry, job title, and tasks." [needs_and_challenges] prompt = "Based on the product_description provided, identify and describe them in bullet points the main needs and problems faced by the user." 社内プロンプト集の共有個別目的のGPTsを共有「便利プロンプト集をため込む」から「便利なエージェントをたくさん作成する」へのパラダイムシフト業務ソフトウェアがエージェント化していく時代を示唆している

11/16 Microsoft Ignite 2023 サティア・ナデラCEO We are Copilot Company. We
believe in the future where there will be Copilot for everyone, and everything you do. 我々はCopilotカンパニーだ。あらゆる人のあらゆる行動の側にCopilotが存在する、という未来を信じている OSを起動し、アプリケーションを利用したりWebブラウザで情報にアクセスするのと同じように、何か行動を起こすときにはCopilotを呼び出して、買い物や電話や分析や制作をするようになるだろう。我々はあなたがどこにいてもCopilotがそこにあってほしいと考えている。

https://twitter.com/daiki15036604/status/1725870885087949238

ポケットの中のエージェント Rabbit R1 LLM（大規模言語モデル）から LAM（大規模アクションモデル）へ言葉を解釈して現実のアクションへ繋げる中国のスタートアップRabbitがCESとあわせてAIガジェット「Rabbit」を発表。約29,000円の低価格ながら、「AIエージェントを持ち歩く」と言っても過言ではない機能を備えており、新時代の到来を感じさせる。内蔵カメラのRabbit
Eye を用いて冷蔵庫内を撮影し「ここにある食材でヘルシーな料理を考えて」と依頼することができるアプリケーションの操作方法をRabbitに学ばせることで、音声一つでアプリケーションを操作できるようになる

オペレーティング・システムから、オペレーティング・エージェントへ深津貴之 (fladdict)氏：https://note.com/fladdict/n/nf4c104d4ed2b

人間がソフトウェアを使うのではなく、 AIがソフトウェアを扱う世界へのパラダイムシフト人間が様々なソフトウェアを駆使して仕事を進めていく AIが様々なソフトウェアを駆使して仕事を進めていく人間中心設計からAI中心設計へ？

AI同士の協働も見逃せないチームビルディングの意味が変わる？

ヒエラルキー型のチームワーク User Supervisor Document Team Research Team Searcher Web Scraper
Writer Chart Generator ユーザーから受け取ったタスク内容から、どちらのチームに仕事を任せるかを判断する各チームからの成果物を元に、更に仕事をチームに依頼するか判断するリサーチのプロフェッショナルとして仕事をするライティングのスペシャリストとして仕事をする

フラットなチームワーク User Reearcher Chart Generator Router call_tool 最初は検索からスタート（エントリーポイントを定める）ユーザーに応答するかの
最終ジャッジはRouterが持つ Routerが必要な処理にルーティングツール呼び出しが必要な場合

LangGraph

LangGraphとは？マルチエージェント型（マルチアクター型）のアプリケーションを構築するためのライブラリ。「LCEL」（LangChain Expression Language）を拡張して、複数チェーン（またはエージェントループ）を循環的に協調動作させることができる。 LangGraphでは「ノード」と「エッジ」を定義することでグラフを定義することができる。ノードの条件は「関数」かLCELの「Runnable」であること。関数の場合は、ステートを引数にとってステートの差分を返す関数であれば良い。条件分岐を作成するこ
ともできるノードの条件さえ満たせば、外部のライブラリと接続して高度な処理を行わせることも可能。

シンプルなライティングチーム User Supervisor Checker Researcher Writer いろいろ検索してくる品質チェックライティング担当

シンプルなライティングチーム Supervisor Checker Researcher Writer 以下のURLに関する記事を書いてー！ https://techcrunch.com/2024/01/25/kids-spent-60-mo re-time-on-tiktok-than-youtube-last-year-20-tried-op enais-chatgpt/

シンプルなライティングチーム Supervisor Checker Researcher Writer 以下のURLに関する記事を書いてー！ https://techcrunch.com/2024/01/25/kids-spent-60-mo re-time-on-tiktok-than-youtube-last-year-20-tried-op enais-chatgpt/ ①まずはResearcherに調べさせ
よう

よう ②Webスクレイピングツールで調べるよ

よう ②Webスクレイピングツールで調べるよ ③調べた結果をまとめたよ

よう ②Webスクレイピングツールで調べるよ ③調べた結果をまとめたよ ④リサーチャーから記事が上がってきた。品質チェックしてもらおう。

よう ②Webスクレイピングツールで調べるよ ③調べた結果をまとめたよ ④リサーチャーから記事が上がってきた。品質チェックしてもらおう。 ⑤記事が英語だからNGね。文章もAIっぽいから、人間っぽい文章にしてね。

よう ②Webスクレイピングツールで調べるよ ③調べた結果をまとめたよ ④リサーチャーから記事が上がってきた。品質チェックしてもらおう。 ⑤記事が英語だからNGね。文章もAIっぽいから、人間っぽい文章にしてね。 ⑥品質チェックのフィードバックを元にライターに書き直してもらおう。

よう ②Webスクレイピングツールで調べるよ ③調べた結果をまとめたよ ④リサーチャーから記事が上がってきた。品質チェックしてもらおう。 ⑤記事が英語だからNGね。文章もAIっぽいから、人間っぽい文章にしてね。 ⑥品質チェックのフィードバックを元にライターに書き直してもらおう。 ⑦フィードバックを元に書き直したよ。

よう ②Webスクレイピングツールで調べるよ ③調べた結果をまとめたよ ④リサーチャーから記事が上がってきた。品質チェックしてもらおう。 ⑤記事が英語だからNGね。文章もAIっぽいから、人間っぽい文章にしてね。 ⑥品質チェックのフィードバックを元にライターに書き直してもらおう。 ⑦フィードバックを元に書き直したよ。 ⑧良さそうだからユーザーに返却しよう。

実際に作ってみると結構むずい • ステートグラフのデータ構造はどうすると良いのか正解が分からない • LangGraphのマルチエージェントサンプルを実際に実行してみると、全然協調動作しない、全然参考にならない • 応答履歴をバケツリレーすると雪だるま式にトークンが膨れ上がるので、小規模のグラフでも注意が必要（処理も重くなる） •
どんなノード（チェイン、エージェント）をどんな風に繋げれば良い成果が得られるかは未知数 • いろいろ実験するしかない

ソフトウェア開発のパラダイムが変わる感 • データモデリングやオブジェクト指向といったソフトウェア開発の脳みそを使いながら、エージェント同士が上手く協調して働くためのチームマネジメント的な脳みそを使う • 更にはLLM（function calling）から呼び出しやすい形でツールを整備していると、ユーザーの主体が人間（開発者）からAIに変わっていることを感じる •
協調動作（チームマネジメント）によってLLMないしエージェントの成果をレバレッジできるとすれば、ソフトウェア開発のパラダイムが大きく変わる

そんなわけで、コミュニティでも研究しています 👉AI活用コミュニティ「AIAD」にて定期的な勉強会を開催中！ https://note.com/23letter/n/n09529f16bf02 https://discord.gg/qbbXysHm57 Let's Join! LangChainもくもく会 LLMアプリケーション開発のためのライブラリ LangChainをもっとみんな使えるようになるための勉強会を毎月1〜2回ほど定例で行っています。
AIエージェント分科会（New!）特にAIエージェントの活用／実装に向けた分科会を立ち上げます。こちらは2月以降にイベントを開催予定です。 https://langchain-jp.connpass.com/

AIエージェントに興味が出てきた方へ 👉AIエージェントを活用した事業開発、一緒に取り組みませんか？まずはカジュアルにお話しましょう！ご予約はこちらから https://app.spirinc.com/patterns/availability-sharing /A4pVN_n5bVkKfc-RNqhkU/confirm 👉XのDM、DiscordのDMでのお声がけでもOKです

その仕事、 AIエージェントがやっておきました。 ——ChatGPTの次に来る自律型AI革命技術評論社より2023/12/16発売

ご清聴ありがとうございました

AIエージェントとLangChain

AIエージェントとLangChain

Masahiro Nishimi

More Decks by Masahiro Nishimi

Other Decks in Programming

Featured

Transcript