別製品を学んでいたら、AI Agent Builderの魅力に気づいた話

OutSystemsのAI Agent Builderについて、2024年7月25日(木)のOutSystems User Group Tokyoのイベントで発表したときの資料です。

Transcript

1. © 2024 NTT DATA Group Corporation © 2024 NTT DATA Group Corporation 【Online】OutSystems Developer Meetup 別製品を学んでいたら、AI Agent Builderの 魅力に気づいた話 2024年07月25日(木) 株式会社NTTデータグループ / OutSystems MVP 島倉 優人
2. © 2024 NTT DATA Group Corporation 2 登壇者紹介 島 倉 優 人 Yuto Shimakura ◼ OutSystems MVP (2024-) ◼ OutSystems User Group Tokyo Organizer (2023-) ◼ 株式会社NTTデータグループ • OutSystemsを中心としたローコードオファリング • ソフトウェアアーキテクチャ • ソフトウェアプロセス ◼ その他 • TERASOLUNA Server Framework for Java • トップエスイー
3. © 2024 NTT DATA Group Corporation 3 伝えたいこと 1. AI Agent Builder、ありがとう、いいツールです 2. 別製品を勉強すると、新たな気づきを得られるかも!?
4. © 2024 NTT DATA Group Corporation 4 目次 • 序：AI Agent Builder、何これ。。。 • 破：Microsoft Copilot Studioと出会う • 急：AI Agent Builderのことを理解できていなかった自分が恥ずかしい
5. © 2024 NTT DATA Group Corporation 5 序 AI Agent Builder、何これ。。。
6. © 2024 NTT DATA Group Corporation 6 AI Agent Builderとは？ • 生成AIアプリケーションを作成する際に使用できるツール • ODCのみ利用化(Forge)
7. © 2024 NTT DATA Group Corporation 7 使うまでの手順概要 1. (ODCを契約する) 2. (AI Agent Builder Forgeをインストールする) 3. Azure OpenAI もしくは Amazon Bedrock 環境を用意する 4. AIモデルを構成する 5. エージェントを作成する 6. エージェントをアプリに組み込む
8. © 2024 NTT DATA Group Corporation 8 3. Azure OpenAI もしくは Amazon Bedrock 環境を用意する Azure OpenAIを使った • Microsoft Azure portal および Azure OpenAI Studioで作業 • モデル[gpt-4o]をデプロイ • デプロイしたモデルの次の情報を取得 • Endpoint • Deployment name • API key
9. © 2024 NTT DATA Group Corporation 9 4. AIモデルを構成する • 取得済みのデプロイしたモデルの情報を入力 • Endpoint • Deployment name • API key
10. © 2024 NTT DATA Group Corporation 10 5. エージェントを作成する • 次の2つを設定(プロンプトエンジニアリング:回答精度向上のため) 1. Instructions • 目的に沿う回答を得られるように制限を与える • Azure OpenAI APIの「Role:system」を指定しているのでは と予想(解析中) 2. Data source • RAG(Retrieval-Augmented Generation:検索拡張生成) • 外部情報を参照させることで回答精度向上 • Azure AI SearchとAmazon Kendraを指定可能 • InstructionsやData sourceがどのように 反映されたかを確認
11. © 2024 NTT DATA Group Corporation 11 6.エージェントをアプリに組み込む • 「CallAgent」 Service Action(AI Agent Builderが提供)を 呼び出す
12. © 2024 NTT DATA Group Corporation 12 【参考】AIモデルとエージェントの違い 1つのAIモデルを、InstructionsやData sourceの設定を変えることで、アプリごとに専用のエージェントを作成する AIモデル エージェント A • Instructions A • Data source A Azure OpenAI ODC(AI Agent Builder) ODC(Apps) エージェント B • Instructions B • Data source B エージェント C • Instructions C • Data source C Apps 1 Apps 2 Apps 3
13. © 2024 NTT DATA Group Corporation 13 ところで、、、
14. © 2024 NTT DATA Group Corporation 14 【参考】2023年10月のイベントで共有したアプリ https://speakerdeck.com/shimackler/outsystems-build-for-the-future-hackathon-2023-can-jia-repoto?slide=27 ありがとう ①GPT GPTと対話(入力に対してGPTが返信) ②Whisper 喋った言葉を文字起こし ODC/OS11で実装 (デモはODCで実施)
15. © 2024 NTT DATA Group Corporation 15 【参考】このアプリの処理方式概要 https://speakerdeck.com/shimackler/outsystems-build-for-the-future-hackathon-2023-can-jia-repoto?slide=28 Client OutSystems Platform OpenAI ① Clientの入力などをインプットに、REST API(POST application/json)を リクエスト ② レスポンスを画面に表示 REST Consume (POST application/json)
16. © 2024 NTT DATA Group Corporation 16 AI Agent Builderの説明聞いても、「無理して使わなくてもいいかな」と思ってしまった • Azure OpenAIのREST APIリファレンスは公開されている • https://learn.microsoft.com/ja-jp/azure/ai-services/openai/reference • ODCにも、外部REST APIを使うための機能が用意されている 「AI Agent Builderは、アプリに生成AIの機能を組み込むときに、 生産性を高めてくれるためのツールか。 どのくらい生産性良くなるのかは分からないけど、既存の機能で代替できるし、 今は使わなくてもいいかな。」
17. © 2024 NTT DATA Group Corporation 17 破 Microsoft Copilot Studioと 出会う
18. © 2024 NTT DATA Group Corporation 18 Copilot Studioとは？ 自然言語やGUIで、Copilot(生成AIの1つ)の作成やカスタマイズできるツール AI Agent Builderでいう、 Data source この質問きたらこう返して！ とか、 この質問きたらこのワークフロー実行して！ みたいなことを設定できる テストもできる
19. © 2024 NTT DATA Group Corporation 19 Microsoft Power Platformのハッカソンに参加 イベント名：Power Platform ハッカソン with Copilot Studio (社内イベント) エンドユーザー • Teams • ブラウザ Excel Forms Power Automate Copilot Copilot Studio Dataverse Share Point • チームビルディングアプリを作成 • 作ったアプリのアーキテクチャ概要 Copilot Studioの データソース Copilotのナレッジ
20. © 2024 NTT DATA Group Corporation 20 感想 • 初心者でもハッカソン期間で最低限のアプリ作りきれたことに驚く • Power PlatformやCopilot Studioは机上知識だけで初めて触った • 各ソリューションを簡単につなぐことができた • 全てをMS製品で完結させたから、というのはあるが • プロンプトエンジニアリングが大変 • 期待した回答が得られない • ナレッジや独自のコンテキスト(AI Agent BuilderのInstructionsに似ている)を ひたすら変えてトライアンドエラー • Copilot Studioのおかけでハッカソン開始からプロンプトエンジニアリングをやる環境が あり、専念できた
21. © 2024 NTT DATA Group Corporation 21 ん？ AI Agent Builderと 似ている。 ものすごく便利なのでは？
22. © 2024 NTT DATA Group Corporation 22 急 AI Agent Builderのことを 理解できていなかった自分が 恥ずかしい
23. © 2024 NTT DATA Group Corporation 23 「簡単につなぐことができる」ありがたさ REST APIでつなぐ場合 AI Agent Builderでつなぐ場合 ODCとAzure OpenAIをつなぐことを考える 1. Azure OpenAI APIの仕様を確認する https://learn.microsoft.com/ja-jp/azure/ai-services/openai/reference#chat-completions 2. ODC StudioでREST Consumeを作成する 慣れてないと大変かも 圧倒的にラク 4個所入力するだけ
24. © 2024 NTT DATA Group Corporation 24 「プロンプトエンジニアリングに専念できる」ありがたさ AI Agent Builderは、導入するだけでプロンプトエンジニアリングする環境が整う どんな回答に変わったかを すぐ確認できる アプリにも即反映 Instructionsでプロンプトエンジニアリングするシナリオを想定 未記入 Before After
25. © 2024 NTT DATA Group Corporation 25 個人的な感想「OutSystemsは、生成AIを容易に活用できるようになったなぁ」 生成AI vs OutSystems × 生成AI • 生成AIはハルシネーションがあり、 人間による確認/判断は必要な場合が多い • 生成AIを使いやすくしてくれていると感じた • OutSystemsの「高品質のアプリを早く作れる」 メリットを活かして生成AI使いたい人に、 今後も使われる気がする その一方で、 • Chat Completions以外にも対応してほしい • Azure OpenAIの用意も不要になったらいいなぁ • コール数に上限のあるトライアル版であれば用意なしですぐ使える
26. © 2024 NTT DATA Group Corporation 26 まとめ 1. AI Agent Builder、ありがとう、いいツールです 2. 別製品を勉強すると、新たな気づきを得られるかも!?
27. © 2024 NTT DATA Group Corporation 27 参考文献 • https://success.outsystems.com/ja- jp/documentation/outsystems_developer_cloud/building_apps/about_ai_agent_builder/ • https://www.outsystems.com/ja-jp/product-updates/ai-agent-builder/ • https://www.outsystems.com/ja-jp/news/introducing-ai-agent-builder/ • https://www.outsystems.com/ja-jp/low-code-platform/gen-ai/ • https://learn.microsoft.com/ja-jp/azure/ai-services/openai/reference • https://speakerdeck.com/shimackler/outsystems-build-for-the-future-hackathon-2023-can-jia- repoto