Lambda___Hono_で_OpenAI_の_LINE_Chatbotを作ってみた.pdf

Transcript

1. Lambda + Hono で OpenAI の LINE Chatbotを作ってみた 2023-11-12 Koda JAWS-UG 長野支部
2. Hello!! ❏ 「Web」とか「Cloud」が専門のエンジニア ❏ アジャイル大好きなスクラムマスター ❏ プログラミングも大好き ❏ 好きなサービスは AWS Lambda I’m Koda @koda3t(X)
3. AIとChat してますか？ • 無料だと3時間ごとに25メッセージ まで • Googleアカウントでサインアップし て、支払いしてしまったのでアカウ ント共有もできない • 息子くんに、対話型AIなどに触れて 上手く使えるようにしたい（でも、もう一 個契約するのもな〜）
4. ? OpenAIのAPIを呼び出す インタフェースを作って 提供しよう！
5. 作ってみた • Cloudflare Workers + HonoでOpenAIのAPIに 繋ぐLINE Chatbotを作成 • 10/14 Cloudflare Meetup Nagano でLT LINE ChatbotでAIに質問できる https://speakerdeck.com/koda/cloudflare-workers-de-openai-no-line-chatbotwozuo-tutemita
6. 10/14のLTから • デプロイが一瞬で終わって直ぐに反映されるのは、開発者体験としてはか なり良い！ • 環境の用意なども簡単なので、ちょっとしたものをサクッと作るにはとて も良さげ • Honoがすごく良かった ◦ Expressを知っていれば苦労しない ◦ APIGateway+Lambdaな環境など、いろんな所で使えるので、 今後はHonoメインで使っていきたい LTのために昨日 実際に Lambda＋Hono やってみた
7. What's Hono https://hono.dev/ • API Gateway + Lambda な構成でAPIを 作成する事が多くなった • ExpressでAPIを作る事が簡単と感じて いて App Runnerを使ったり • Honoだと、LambdaでもExpress Likeに コードが書ける！
8. 技術スタック • AWS Lambda + Function URLs ◦ みんな大好きFaaSの元祖サービス ◦ Function URLsができたおかげで単体で簡単にWebに公開できるようになった • Hono ◦ バックエンドを開発しやすくしてくれるExpressに似たフレームワーク • TypeScript ◦ npm create hono@latest {projectname} で雛形を作成すると、初めからTypeScript が使える環境になっている • OpenAI API • Line Messaging API
9. システム構成
10. Lambda＋Hono HonoはLambdaに対応しているから、CLIから雛形を作成可能
11. Lambda＋Hono • Cloudflare Workers + Honoで作ったコードをコ ピーしてくれば基本的には動く ◦ 起動の書き方とかは少し変わる • LambdaのFunction URLを使えば超簡単に公開でき るAPIを作成できる • 今回は簡単にHonoがセットアップしてくれたコマ ンドでデプロイした（SAMやCDKは使わない）
12. 作ってみての感想 • 普段はSAMとかCDKとかでデプロイするのだけど、Honoが初めから提供する仕組みで デプロイすると超早くデプロイできたので、簡単なものだとこれで良いかも ◦ もちろんSAMやCDKの組み合わせもできる ◦ esbuildでbuildしてZipにしてAWS CLIでupdate-function-codeを実行 • 環境の用意なども簡単なので、ちょっとしたものをサクッと作るにはとても良き • Honoがやっぱりすごく良かった（コード書きやすい） ◦ Cloudflare Workers用のコードを簡単に移植できた（他のものにも移植しやすい） ◦ 秘匿な値の扱いなどはプラットフォーム依存があるのでラッパーを作っておくと良き • Cloudflare Workersは1リクエストが30秒までという厳しい制限があったが、Lambdaであれ ば問題なし ◦ OpenAIからのレスポンスが30秒で返ってこないことが多い
13. 今後試してみたいこと（今回まにあわなかったこと） • OpenAIのGPT3.5より高性能と言われている Claude 2がBedrockで使えるようになったので、 ChatBotに質問したら両方から回答がくるように する（評価してみたい） • Claude 2を利用する場合、use case details を入力 する必要があるけど、個人利用の場合何を入れた ら良いのだろう？？
14. Any Questions? Thanks!