Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
Lambda___Hono_で_OpenAI_の_LINE_Chatbotを作ってみた.pdf
Search
koda
November 11, 2023
Programming
0
100
Lambda___Hono_で_OpenAI_の_LINE_Chatbotを作ってみた.pdf
koda
November 11, 2023
Tweet
Share
More Decks by koda
See All by koda
Cloudflare Workers で OpenAI の LINE Chatbotを作ってみた
koda
0
1.5k
DevFest 2020 Ja - GitLab Review Apps with GKE
koda
2
160
Knowledge作ったよ
koda
0
260
DevFest in Shinshu 2019 - Abount DevOps in GCP
koda
0
480
Kubernetes_Hands-on.pdf
koda
3
820
Docker hands on
koda
1
510
個人でWebサービスを開発する際のWeb技術紹介
koda
1
93
DAP+Dockerで簡単環境構築
koda
0
260
Other Decks in Programming
See All in Programming
自分ひとりから始められる生産性向上の取り組み #でぃーぷらすオオサカ
irof
8
2.6k
ASP. NET CoreにおけるWebAPIの最新情報
tomokusaba
0
360
負債になりにくいCSSをデザイナとつくるには?
fsubal
9
2.3k
2024年のkintone API振り返りと2025年 / kintone API look back in 2024
tasshi
0
210
Linux && Docker 研修/Linux && Docker training
forrep
23
4.5k
Rails アプリ地図考 Flush Cut
makicamel
1
110
[Fin-JAWS 第38回 ~re:Invent 2024 金融re:Cap~]FaultInjectionServiceアップデート@pre:Invent2024
shintaro_fukatsu
0
400
チームリードになって変わったこと
isaka1022
0
190
知られざるDMMデータエンジニアの生態 〜かつてツチノコと呼ばれし者〜
takaha4k
4
1.3k
Kubernetes History Inspector(KHI)を触ってみた
bells17
0
200
Grafana Loki によるサーバログのコスト削減
mot_techtalk
1
110
How mixi2 Uses TiDB for SNS Scalability and Performance
kanmo
30
11k
Featured
See All Featured
A Philosophy of Restraint
colly
203
16k
StorybookのUI Testing Handbookを読んだ
zakiyama
28
5.5k
Gamification - CAS2011
davidbonilla
80
5.1k
Become a Pro
speakerdeck
PRO
26
5.1k
The Success of Rails: Ensuring Growth for the Next 100 Years
eileencodes
44
7k
Principles of Awesome APIs and How to Build Them.
keavy
126
17k
GraphQLの誤解/rethinking-graphql
sonatard
68
10k
実際に使うSQLの書き方 徹底解説 / pgcon21j-tutorial
soudai
175
51k
Mobile First: as difficult as doing things right
swwweet
223
9.3k
Side Projects
sachag
452
42k
Build The Right Thing And Hit Your Dates
maggiecrowley
34
2.5k
Save Time (by Creating Custom Rails Generators)
garrettdimon
PRO
29
1k
Transcript
Lambda + Hono で OpenAI の LINE Chatbotを作ってみた 2023-11-12 Koda
JAWS-UG 長野支部
Hello!! ❏ 「Web」とか「Cloud」が専門のエンジニア ❏ アジャイル大好きなスクラムマスター ❏ プログラミングも大好き ❏ 好きなサービスは AWS
Lambda I’m Koda @koda3t(X)
AIとChat してますか? • 無料だと3時間ごとに25メッセージ まで • Googleアカウントでサインアップし て、支払いしてしまったのでアカウ ント共有もできない •
息子くんに、対話型AIなどに触れて 上手く使えるようにしたい(でも、もう一 個契約するのもな〜)
? OpenAIのAPIを呼び出す インタフェースを作って 提供しよう!
作ってみた • Cloudflare Workers + HonoでOpenAIのAPIに 繋ぐLINE Chatbotを作成 • 10/14
Cloudflare Meetup Nagano でLT LINE ChatbotでAIに質問できる https://speakerdeck.com/koda/cloudflare-workers-de-openai-no-line-chatbotwozuo-tutemita
10/14のLTから • デプロイが一瞬で終わって直ぐに反映されるのは、開発者体験としてはか なり良い! • 環境の用意なども簡単なので、ちょっとしたものをサクッと作るにはとて も良さげ • Honoがすごく良かった ◦
Expressを知っていれば苦労しない ◦ APIGateway+Lambdaな環境など、いろんな所で使えるので、 今後はHonoメインで使っていきたい LTのために昨日 実際に Lambda+Hono やってみた
What's Hono https://hono.dev/ • API Gateway + Lambda な構成でAPIを 作成する事が多くなった
• ExpressでAPIを作る事が簡単と感じて いて App Runnerを使ったり • Honoだと、LambdaでもExpress Likeに コードが書ける!
技術スタック • AWS Lambda + Function URLs ◦ みんな大好きFaaSの元祖サービス ◦
Function URLsができたおかげで単体で簡単にWebに公開できるようになった • Hono ◦ バックエンドを開発しやすくしてくれるExpressに似たフレームワーク • TypeScript ◦ npm create hono@latest {projectname} で雛形を作成すると、初めからTypeScript が使える環境になっている • OpenAI API • Line Messaging API
システム構成
Lambda+Hono HonoはLambdaに対応しているから、CLIから雛形を作成可能
Lambda+Hono • Cloudflare Workers + Honoで作ったコードをコ ピーしてくれば基本的には動く ◦ 起動の書き方とかは少し変わる •
LambdaのFunction URLを使えば超簡単に公開でき るAPIを作成できる • 今回は簡単にHonoがセットアップしてくれたコマ ンドでデプロイした(SAMやCDKは使わない)
作ってみての感想 • 普段はSAMとかCDKとかでデプロイするのだけど、Honoが初めから提供する仕組みで デプロイすると超早くデプロイできたので、簡単なものだとこれで良いかも ◦ もちろんSAMやCDKの組み合わせもできる ◦ esbuildでbuildしてZipにしてAWS CLIでupdate-function-codeを実行 •
環境の用意なども簡単なので、ちょっとしたものをサクッと作るにはとても良き • Honoがやっぱりすごく良かった(コード書きやすい) ◦ Cloudflare Workers用のコードを簡単に移植できた(他のものにも移植しやすい) ◦ 秘匿な値の扱いなどはプラットフォーム依存があるのでラッパーを作っておくと良き • Cloudflare Workersは1リクエストが30秒までという厳しい制限があったが、Lambdaであれ ば問題なし ◦ OpenAIからのレスポンスが30秒で返ってこないことが多い
今後試してみたいこと(今回まにあわなかったこと) • OpenAIのGPT3.5より高性能と言われている Claude 2がBedrockで使えるようになったので、 ChatBotに質問したら両方から回答がくるように する(評価してみたい) • Claude 2を利用する場合、use
case details を入力 する必要があるけど、個人利用の場合何を入れた ら良いのだろう??
Any Questions? Thanks!