Dify on AWS 環境構築手順

aws-samples/dify-self-hosted-on-aws で提供されている、Dify on AWS のサンプル実装をセルフホストするための、ステップバイステップの手順書です。

作成当時は以下の設定です。
・dify: v1.9.1
・AWS Bedrock Plugin: v0.0.40

Transcript

1. © 2024, Amazon Web Services, Inc. or its affiliates. Dify on AWS 環境構築 Hiroaki Yoshimura Solutions Architect Amazon Web Services Japan G.K.
2. © 2025, Amazon Web Services, Inc. or its affiliates. • ⽣成 AI アプリをノーコード・ローコードで 開発・公開するための OSS (開発元: Langgeneius 社) • 直感的なインターフェースを⽤いて、 チャットボット (含 RAG) やエージェント、 ワークフローを構築可能 2 https://dify.ai/ Dify とは
3. © 2025, Amazon Web Services, Inc. or its affiliates. ⼤まかに分けて、2 つの⽅法で開発を⾏う • プロンプト設定＋各種設定での開発（チャット、エージェント、ジェネレータ） • ワークフロー GUI での開発（ワークフロー,、チャットフロー） 3 Dify での⽣成 AI アプリ開発
4. © 2025, Amazon Web Services, Inc. or its affiliates. Dify on AWS (with CDK) とは Dify を AWS 上で動作させるためのサンプル実装 GitHub の AWS 公式リポジトリ (aws-samples) で OSS として展開 4 https://github.com/aws-samples/dify-self-hosted-on-aws
5. © 2025, Amazon Web Services, Inc. or its affiliates. ⼿順 1. ブラウザで AWS アカウントにログイン 2. ハンズオン⽤の VSCode サーバーをデプロイ ※ ローカル端末で AWS CLI を⽤いたログインができる場合は不要 3. ⽣成AI基盤モデルの有効化 4. Dify on AWS を GitHub から取得してデプロイ (デプロイには時間がかかります) 5. アプリケーションにログイン 6. モデルの上限緩和申請について 7. 後⽚付け/まとめ 5
6. © 2025, Amazon Web Services, Inc. or its affiliates. Web ブラウザから AWS アカウントにログイン
7. © 2025, Amazon Web Services, Inc. or its affiliates. マネジメントコンソールが⾒えれば完了 7
8. © 2025, Amazon Web Services, Inc. or its affiliates. ハンズオン⽤の VSCode サーバーをデプロイ ※GitHub README の Prerequisites を満たす環境がある場合はスキップできます。
9. © 2025, Amazon Web Services, Inc. or its affiliates. VSCode サーバーのデプロイ AWS CloudFormation という IaC (Infrastructure as Code) サービスを⽤いて、 インフラ構成を YAML ファイルの内容を元に⾃動的にデプロイ (詳細は割愛) 9
10. © 2025, Amazon Web Services, Inc. or its affiliates. VSCode サーバーのデプロイ 10 ワークショップ内の Quick Link をクリック (付属の説明もご覧いただけます) https://catalog.us-east-1.prod.workshops.aws/workshops/a9b0eefd-f429-4859- 9881-ce3a7f1a4e5f/ja-JP/setup-vscode/02-configure-ide Launch をクリック
11. © 2025, Amazon Web Services, Inc. or its affiliates. ⾃動的に CloudFormation の画⾯に遷移 11
12. © 2025, Amazon Web Services, Inc. or its affiliates. Instance Type を c6i.large に変更 12 c6i.large を検索して変更
13. © 2025, Amazon Web Services, Inc. or its affiliates. 最下部へスクロールして、スタックを作成 13 スタックの作成をクリック チェックをいれる
14. © 2025, Amazon Web Services, Inc. or its affiliates. CREATE_COMPLETE になるまで待機 VSCode サーバーの環境構築が始まる この VSCode サーバー (EC2 インスタンス) には、 AWS アカウントへサービスのデプロイなどを ⾏える権限 (IAM ポリシー) が割り当てられている 14
15. © 2025, Amazon Web Services, Inc. or its affiliates. CloudFormation スタックの 出⼒ タブを確認 15 リンクをクリック
16. © 2025, Amazon Web Services, Inc. or its affiliates. シークレットの値を取得する 16 リンクをクリック
17. © 2025, Amazon Web Services, Inc. or its affiliates. 表⽰されたパスワードをコピー 17 シークレットの値をコピーして控えておく
18. © 2025, Amazon Web Services, Inc. or its affiliates. CloudFormation スタックの出⼒タブを再確認 18 リンクをクリック
19. © 2025, Amazon Web Services, Inc. or its affiliates. VSCode サーバーのパスワードを⼊⼒ 19 控えておいたシークレットの値を⼊⼒
20. © 2025, Amazon Web Services, Inc. or its affiliates. VSCode サーバーを確認 20
21. © 2025, Amazon Web Services, Inc. or its affiliates. 参考︓ローカルから AWS CLI を⽤いる場合 21 https://docs.aws.amazon.com/ja_jp/cli/latest/userguide/cli-chap-welcome.html
22. © 2025, Amazon Web Services, Inc. or its affiliates. Dify on AWS を GitHub から 取得してデプロイ ※VSCode サーバーを利用した説明となるため適宜読み替えてください。
23. © 2025, Amazon Web Services, Inc. or its affiliates. Dify on AWS の GitHub リポジトリにアクセス https://github.com/aws-samples/dify-self-hosted-on-aws 23
24. © 2025, Amazon Web Services, Inc. or its affiliates. 緑⾊のボタンから辿ってリンクをコピー 24 クリック
25. © 2025, Amazon Web Services, Inc. or its affiliates. VSCode Server で新しいターミナルを開く UI 操作もしくは、Ctrl + J などのショートカットで、ターミナルを開く 25 これがターミナル
26. © 2025, Amazon Web Services, Inc. or its affiliates. Dify on AWS をクローン 以下のコマンドをターミナルに⼊⼒して Enter キーを押下（URLはコピーしたURL） $ git clone https://github.com/aws-samples/dify-self-hosted-on-aws.git $ cd dify-self-hosted-on-aws/ 26 コピー＆ペーストの際 許可を求められたら 「許可する」をクリック
27. © 2025, Amazon Web Services, Inc. or its affiliates. 設定をカスタマイズ bin/cdk.ts ファイルを編集 • awsRegion を編集 (例︓東京リージョンにデプロイする場合) – us-west-2 → ap-northeast-1 • useNatInstance のコメントアウトを消す – //useNatInstance: true, → useNatInstance: true, • enableAuroraScalesToZero のコメントアウトを消す – // enableAuroraScalesToZero: true, → enableAuroraScalesToZero: true, 27
28. © 2025, Amazon Web Services, Inc. or its affiliates. 設定をカスタマイズ bin/cdk.ts ファイルを編集した結果 28
29. © 2025, Amazon Web Services, Inc. or its affiliates. Dify on AWS をデプロイコマンド 29 ① パッケージインストール $ npm ci ② デプロイの準備 $ npx cdk bootstrap ③ デプロイ $ npx cdk deploy --all 実行中に求められたら 「y」で応答する https://github.com/aws-samples/dify-self-hosted-on-aws?tab=readme-ov-file#deploy
30. © 2025, Amazon Web Services, Inc. or its affiliates. 参考︓Dify on AWS をアップデートしたいとき 30 ファイル等の更新を保存して、同様のコマンドを実⾏ $ npx cdk deploy --all よくあるケース1︓最新版の Dify に更新したい よくあるケース2︓Dify の ファイルアップロード上限を変更したい よくあるケース3︓Dify API のアイドルタイムアウト上限を変更したい
31. © 2025, Amazon Web Services, Inc. or its affiliates. アプリケーションログイン
32. © 2025, Amazon Web Services, Inc. or its affiliates. CloudFormation スタックの出⼒タブを確認 CloudFormation の画⾯で、DifyOnAwsStack というものを探してクリックし、 出⼒タブから最下部に表⽰される DifyUrl をクリック 32 リンクをクリック
33. © 2025, Amazon Web Services, Inc. or its affiliates. アカウント作成ページ 33 アカウントを作成 メールアドレス ユーザー名 (任意の名前) パスワード ※検証環境では実際にはメールアドレス宛にメールは飛ばない
34. © 2025, Amazon Web Services, Inc. or its affiliates. ログインページ︓先ほどの情報でログイン 34 ログイン 登録したメールアドレス 登録したパスワード
35. © 2025, Amazon Web Services, Inc. or its affiliates. 画⾯が出てくればログイン成功 35 忘れないように ブックマーク推奨
36. © 2025, Amazon Web Services, Inc. or its affiliates. ⾔語とタイムゾーンの変更 右上のアイコンから、Settings ページを開きます。 36
37. © 2025, Amazon Web Services, Inc. or its affiliates. タイムゾーンを変更 先に Time Zone を +09:00 Japan Time に変更します。 37
38. © 2025, Amazon Web Services, Inc. or its affiliates. ⾔語を変更 次に Display Language を⽇本語に変更します。 (⾃動でホームにリダイレクト) 38
39. © 2025, Amazon Web Services, Inc. or its affiliates. Bedrock Plugin の設定
40. © 2025, Amazon Web Services, Inc. or its affiliates. プラグインを検索してインストール 画像のようにボタンをクリックして Amazon Bedrock プラグインをインストール 40 Bedrockと入力
41. © 2025, Amazon Web Services, Inc. or its affiliates. インストールボタンをクリック 41 クリック クリック
42. © 2025, Amazon Web Services, Inc. or its affiliates. 設定画⾯へ移動 右上のアイコンから、設定 ページを開きます。 42
43. © 2025, Amazon Web Services, Inc. or its affiliates. モデルプロバイダー設定 43
44. © 2025, Amazon Web Services, Inc. or its affiliates. AWS Region 変更 Asia Pacific (Tokyo) を選択 44
45. © 2025, Amazon Web Services, Inc. or its affiliates. Available Model Name を⼊⼒ amazon.nova-lite-v1:0 を⼊⼒、保存ボタンをクリック 45 入力
46. © 2025, Amazon Web Services, Inc. or its affiliates. メッセージが⾒えたらOK 46
47. © 2025, Amazon Web Services, Inc. or its affiliates. システムモデル設定 右上に⾒えるシステムモデル設定で 以下を指定 システム推論モデル • Anthropic Claude 埋め込みモデル • amzon.titan-embed-text-v2:0 Rerank モデル • amazon.rerank-v1:0 47
48. © 2025, Amazon Web Services, Inc. or its affiliates. ワークショップ
49. © 2025, Amazon Web Services, Inc. or its affiliates. ワークショップ Dify の利⽤⽅法やワークフローなどの作り⽅をハンズオン形式でご体感 https://catalog.us-east-1.prod.workshops.aws/workshops/95a3c231-2064-4a33-9a3d-624b7c11aaa6/ja-JP 49
50. © 2025, Amazon Web Services, Inc. or its affiliates. 後⽚付け/まとめ 50
51. © 2025, Amazon Web Services, Inc. or its affiliates. VSCode サーバー環境を削除 VSCode サーバーを⽴てたままにしておくと、従量課⾦が⾏われます。 (EC2, Elastic IP など) 今回はハンズオンという都合上、環境構築を簡素化するため VSCode サーバーを利 ⽤しました。 不要な場合は全体環境の削除を⾏い、今後は CLI 経由でアクセスすることをご検討 ください。 51
52. © 2025, Amazon Web Services, Inc. or its affiliates. AWS CloudFormation から削除 削除ボタンを押すと、AWS CloudFormation で作成したリソース群が⾃動的に削除 されるので、VSCodeServer のスタックであるか確認して削除 52 クリックして削除
53. © 2025, Amazon Web Services, Inc. or its affiliates. Thank you!
54. © 2025, Amazon Web Services, Inc. or its affiliates. Appendix 54
55. © 2025, Amazon Web Services, Inc. or its affiliates. ⽇本国内クロスリージョン推論 を利⽤ 55 ※資料作成時点は、Dify 1.9.1, Bedrock Plugin (ver. 0.0.40) における設定方法となります。
56. © 2025, Amazon Web Services, Inc. or its affiliates. 設定画⾯へ移動 右上のアイコンから、設定 ページを開きます。 56
57. © 2025, Amazon Web Services, Inc. or its affiliates. モデルの追加 モデルを追加 をクリック 57
58. © 2025, Amazon Web Services, Inc. or its affiliates. モデルの設定 最低限以下を設定して、追加をクリック Model Name: Claude Sonnet 4.5 (JP CRI) Model Type: LLM Inference Profile ID: jp.anthropic.claude-sonnet-4-5-20250929-v1:0 AWS Region: Asia Pacific (Tokyo) 58
59. © 2025, Amazon Web Services, Inc. or its affiliates. ノード設定 モデルプロバイダーの選択肢と同じレイヤーで表⽰されます。 あとは通常通りパラメーター設定を⾏えます。 59
60. © 2025, Amazon Web Services, Inc. or its affiliates. エラーが出る場合 ① Access denied to inference profile jp.anthropic.claude-sonnet-4-5-20250929-v1:0 が出る場合は、設定されているアクセスキーとシークレットアクセスキーに対応す るIAMユーザーのロール、もしくは、Dify API が実⾏されている環境の実⾏ロール などに bedrock:GetInferenceProfile ポリシーが設定されていない可能性⼤ 60
61. © 2025, Amazon Web Services, Inc. or its affiliates. エラーが出る場合 ② Inference profile jp.anthropic.claude-sonnet-4-5-20250929-v1:0 not found が出る場合は、AWS Region 指定が Asia Pacific (Tokyo) になっていない可能性⼤ 61
62. © 2025, Amazon Web Services, Inc. or its affiliates. Dify のバージョンアップ 62
63. © 2025, Amazon Web Services, Inc. or its affiliates. Dify をデプロイしたエディタで cdk.ts を開く bin/cdk.ts にあるので、ファイルを開く 63
64. © 2025, Amazon Web Services, Inc. or its affiliates. バージョン番号を書き換える 最新の Dify のバージョンなど、ターゲットとなるバージョンに書き換える difyImageTag にバージョン番号を記載。（例: 1.4.2 → 1.4.3） 64 ※difyPluginDaemonImageTag の変更が必要な場合もあります。
65. © 2025, Amazon Web Services, Inc. or its affiliates. VSCode Server で新しいターミナルを開く UI 操作もしくは、Ctrl + J などのショートカットで、ターミナルを開く 65 これがターミナル
66. © 2025, Amazon Web Services, Inc. or its affiliates. ディレクトリを移動 Dify のプロジェクトディレクトリに移動 66
67. © 2025, Amazon Web Services, Inc. or its affiliates. 再デプロイ ファイルを保存し、ターミナルでデプロイコマンドを実⾏ $ npx cdk deploy --all 注意︓ Dify ⾃体の破壊的変更に Dify on AWS が追従できていない場合があります。動作が 不安定になった場合は、Dify on AWS のリポジトリのイシューなどを合わせてご確 認やイシューを上げていただく、もしくは追従のためのソースコード修正を⾏なっ てください。 67
68. © 2025, Amazon Web Services, Inc. or its affiliates. Thank you! 68