Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
Cloudflare Workers で OpenAI の LINE Chatbotを作ってみた
Search
koda
October 14, 2023
Programming
0
990
Cloudflare Workers で OpenAI の LINE Chatbotを作ってみた
Cloudflare Workersに触ってみたので、実際にアプリを作ってみました
koda
October 14, 2023
Tweet
Share
More Decks by koda
See All by koda
Lambda___Hono_で_OpenAI_の_LINE_Chatbotを作ってみた.pdf
koda
0
58
DevFest 2020 Ja - GitLab Review Apps with GKE
koda
2
140
Knowledge作ったよ
koda
0
230
DevFest in Shinshu 2019 - Abount DevOps in GCP
koda
0
400
Kubernetes_Hands-on.pdf
koda
3
730
Docker hands on
koda
1
480
個人でWebサービスを開発する際のWeb技術紹介
koda
1
73
DAP+Dockerで簡単環境構築
koda
0
230
Other Decks in Programming
See All in Programming
From Spring Boot 2 to Spring Boot 3 with Java 21 and Jakarta EE
ivargrimstad
0
150
GitHub Actionsで泣かないためにやっておきたい設定 / Recommended GHA settings to avoid crying
pinkumohikan
3
540
Ruby Function Composition
bkuhlmann
1
330
Git Lint
bkuhlmann
4
750
"config" ってなんだ? / What is "config"?
okashoi
0
240
DMMプラットフォームがTiDB Cloudを採用した背景
pospome
9
4.1k
GraphQLサーバの構成要素を整理する #ハッカー鮨 #tsukijigraphql / graphql server technology selection
izumin5210
4
840
禅の心を手に入れよ
eltociear
1
120
try!Swift Tokyo 2024 参加報告 LT
akidon0000
1
220
Snowflakeで眠ったデータを起こそう!
estie
0
120
Polars入門
daikikatsuragawa
1
100
OpenAPIを中心に考えるAPI開発入門 / Introduction to API Development with a Focus on OpenAPI
seike460
PRO
2
170
Featured
See All Featured
Exploring the Power of Turbo Streams & Action Cable | RailsConf2023
kevinliebholz
2
3.4k
The Art of Programming - Codeland 2020
erikaheidi
42
12k
Visualization
eitanlees
136
14k
ピンチをチャンスに:未来をつくるプロダクトロードマップ #pmconf2020
aki_iinuma
79
43k
Making the Leap to Tech Lead
cromwellryan
124
8.5k
Build your cross-platform service in a week with App Engine
jlugia
225
17k
Easily Structure & Communicate Ideas using Wireframe
afnizarnur
187
16k
Building a Scalable Design System with Sketch
lauravandoore
456
32k
How GitHub Uses GitHub to Build GitHub
holman
468
290k
How to Ace a Technical Interview
jacobian
272
22k
Stop Working from a Prison Cell
hatefulcrawdad
266
19k
Code Reviewing Like a Champion
maltzj
514
39k
Transcript
Cloudflare Workers で OpenAI の LINE Chatbotを作ってみた 2023-10-14 Koda Cloudflare
Meetup Nagano
Hello!! ❏ 「Web」とか「Cloud」が専門のエンジニア ❏ アジャイル大好きなスクラムマスター ❏ プログラミングも大好き ❏ 各種クラウド系の技術コミュニティに参加 I’m
Koda
Chat GPTしてますか? • 無料だと3時間ごとに25メッセージ まで • Googleアカウントでサインアップし てしまったのでアカウント共有もで きない •
息子くんに、対話型AIなどに触れて 上手く使えるようにしたい(でも、もう一 個契約するのもな〜)
? OpenAIのAPIを呼び出す インタフェースを作って 提供しよう!
LINE Chatbotで提供 • 息子くんのスマートフォンは利用時間の制限 をかけている(中学生なので) • LINEは無制限にしている • ウェブサイトで提供も考えたがブラウザを無 制限にするのは、、、、
• チャットボットで提供すると制限とか考えな くて良い 完成イメージ
とはいっても、忙しいし 作っている暇はないなぁ、、、 (言い訳)
Cloudflare Workersワークショップ ServerlessDays Tokyo 2023に参加 https://tokyo.serverlessdays.io/ Day2のワークショップで Cloudflare Workers +
Honoに触った そんなある日
こんなに簡単なら、ちょっと 作ってみるか!! →半日くらいでできました!
技術スタック • Cloudflare Workers ◦ エッジでバックエンドを動かせるサービス ◦ 超速&超お安い(無料でかなり遊べる) • Hono
◦ Cloudflare Workersでバックエンドを開発しやすくしてくれるExpressに似たフレーム ワーク • TypeScript ◦ npm create hono@latest {projectname} で雛形を作成すると、初めからTypeScript が使える環境になっている • OpenAI API • Line Messaging API https://github.com/koda-masaru/chat-bot <作成したコード一式>
Demo
作ってみての感想 • デプロイが一瞬で終わって直ぐに反映されるのは、開発者体験としてはか なり良い! • 環境の用意なども簡単なので、ちょっとしたものをサクッと作るにはとて も良さげ • Honoがすごく良かった ◦
Expressを知っていれば苦労しない ◦ APIGateway+Lambdaな環境など、いろんな所で使えるので、今後は Honoメインで使っていきたい
• Node.jsに完全に互換の環境ではないため、@line/bot-sdkが使えなかった ◦ LINE APIをコールする部分は自前で実装 • 処理途中の Canceled の原因特定に時間がかかった(c.executionCtx.waitUntilを使う) ◦
waitUntilで実行しても処理がキャンセルされてしまう ◦ BundledモデルではCPUの利用時間が50ミリ秒以内 ▪ 外部APIを呼び出す時間は含まれないという記載もあったが途中でabortしてしまう ◦ Unboundモデル(有料プラン)では30秒実行可能だが外部への通信時間を含む ▪ 外部のAPIに依存している場合、30秒で終わることを保証できない ◦ WorkersのQueueで処理すれば良いのか? ▪ Queueも30秒でタイムアウトしてしまうという記載があるので変更しても意味はなさそう 作ってみての感想
癖はあるけど 面白い
Any Questions? Thanks!