Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
CloudflareのAI関連の機能さわってみた
Search
circled9
August 25, 2024
Programming
0
470
CloudflareのAI関連の機能さわってみた
Cloudflare Meetup Niigata #1のLTで使用した資料です。
circled9
August 25, 2024
Tweet
Share
More Decks by circled9
See All by circled9
キースイッチ入門
circled9
0
57
0.0.0.0 day
circled9
0
83
小数の丸め誤差の話
circled9
0
120
数値の文字列をパースしよう
circled9
0
180
🔥 Hono v4 やってみた
circled9
1
170
JetBrains AI Assistant を試してみた
circled9
1
460
Fresh
circled9
0
230
React Hooks 勉強会 vol.3
circled9
2
420
JSON.stringify()
circled9
2
480
Other Decks in Programming
See All in Programming
Domain-Driven Design (Tutorial)
hschwentner
13
22k
「個人開発マネタイズ大全」が教えてくれたこと
bani24884
1
300
Webフレームワークとともに利用するWeb components / JSConf.jp おかわり
spring_raining
1
140
もう僕は OpenAPI を書きたくない
sgash708
6
1.9k
ソフトウェアエンジニアの成長
masuda220
PRO
12
2.2k
バッチを作らなきゃとなったときに考えること
irof
2
560
PHPのバージョンアップ時にも役立ったAST
matsuo_atsushi
0
230
やっと腹落ち「スプリント毎に動くモノをリリースする」〜ゼロから始めるメガバンクグループのアジャイル実践〜
sasakendayo
0
180
CloudNativePGを布教したい
nnaka2992
0
120
1年目の私に伝えたい!テストコードを怖がらなくなるためのヒント/Tips for not being afraid of test code
push_gawa
1
660
CDK開発におけるコーディング規約の運用
yamanashi_ren01
2
260
Duke on CRaC with Jakarta EE
ivargrimstad
0
180
Featured
See All Featured
Save Time (by Creating Custom Rails Generators)
garrettdimon
PRO
29
1.1k
Facilitating Awesome Meetings
lara
53
6.3k
Stop Working from a Prison Cell
hatefulcrawdad
268
20k
Optimizing for Happiness
mojombo
377
70k
Learning to Love Humans: Emotional Interface Design
aarron
273
40k
Optimising Largest Contentful Paint
csswizardry
34
3.1k
Docker and Python
trallard
44
3.3k
No one is an island. Learnings from fostering a developers community.
thoeni
21
3.2k
Designing on Purpose - Digital PM Summit 2013
jponch
117
7.1k
Bash Introduction
62gerente
611
210k
Helping Users Find Their Own Way: Creating Modern Search Experiences
danielanewman
29
2.5k
Building Flexible Design Systems
yeseniaperezcruz
328
38k
Transcript
CloudflareͷAIؔ࿈ͷػೳ ͞ΘͬͯΈͨ Cloudflare Meetup Niigata #1 @circled9
ࣗݾհ @circled9 দҪ ਖ਼ࢤ (Matsui Masashi) גࣜձࣾϞχΫϧ ීஈGoogle CloudͰಈࣾ͘ ͚αʔϏεΛॻ͍ͯ·͢
͋Β·͠ • ࣾͷ։ൃ߹॓ͰAIΛςʔϚʹԿ͔࡞Ζ͏ͱ͍͏͜ͱʹͳͬͨ • PDFΛݩʹ࣭ͷճΛฦ͢ΞϓϦΛ࡞ͬͨ • ͍ΘΏΔRAG (Retrieval-Augmented Generation)ͱݺΕΔ ͷ
3
ͪͳΈʹ • yusukebe͞Μ͕ॻ͍ͨCloudflareελοΫͰRAGΛ࡞Δͱ͍͏λ ΠτϧͷͪΌͪ͘ΌΘ͔Γ͍͢هࣄ͕͋Γ·͢ • https://zenn.dev/yusukebe/articles/c7e2ec9f12427b • ߹॓࣌Ͱ͜ͷهࣄ͕·ͩͳ͔ͬͨͷͰɺެࣜυΩϡϝϯτΛಡΈ ͳ͕Βಉ͡Α͏ͳͷΛ࡞Γ·ͨ͠ 4
None
αʔϏεͷߏ
Client Zero Trust Access Vectorize Worker AI D1
Cloudflare AI • ੜAIͷॲཧΛΤοδͰͬͯ͘ΕΔ͍ͭ͢͝ • ςΩετੜͱ͔Իೝࣝͱ͔৭ʑͰ͖Δ • ࠓճςΩετੜͱEmbeddingΛͬͯճΛੜͨ͠ 8
Vectorize • ϕΫτϧσʔλϕʔε • ϕΫτϧσʔλͷอଘͱݕࡧΛͯ͘͠ΕΔ • ݱࡏύϒϦοΫϕʔλ൛ • Workers Paid
planͰ͑Δ 9
ϕΫτϧݕࡧ • จষΛϕΫτϧͰݕࡧ͢Δ • ୯७ͳจࣈྻݕࡧදهΏΕͳͲʹऑ͍ • ϕΫτϧԽ͢Δ͜ͱͰҙຯతʹ͍ۙͷݕࡧͰ͖Δ 10
Α͔ͬͨ͜ͱ
؆୯ • ֤ػೳwrangler.tomlʹઃఆΛՃ͢Δ͚ͩͰ͍࢝ΊΒΕΔ • ެࣜυΩϡϝϯτ͕ͳͷͰɺυΩϡϝϯτΛݟΕେମͳΜͱ͔ ͳΔ 12
͍҆ • ͼͬ͘Γ͢Δ͘Β͍͍҆ • ಛʹϕΫτϧσʔλϕʔε͕ैྔ՝ۚͳͷ͋Γ͕͍ͨ • ແྉେ͖͍ͷͰɺࢼ͠ʹ͞ΘΔఔͩͱେମແྉ 13
ࠔͬͨ͜ͱ
AIͷϞσϧͷຊޠରԠ͕͍·͍ͪ • ຊޠͰ࣭ͯ͠ӳޠͰฦͯ͘͠Δ • ϓϩϯϓτʹʮຊޠͰճͯ͠ʯͱॻ్͍ͯத͔Βຊޠ͡Ό ͳ͘ͳΔ • Embeddingӳޠ͔͠ରԠ͍ͯ͠ͳͦ͞͏ • bge-base-en-v1.5
15
ͦΕͳʔ
WorkersͰಈ͔ͳ͍ϥΠϒϥϦ͕͋ͬͨ • nodejs_compatΛ༗ޮʹ͢ΕNode.jsͷϥΠϒϥϦ͕ಈ͘ • ͔࣮͠͠ࡍʹಈ͔ͳ͍ϥΠϒϥϦ͕ͨ·ʹ͋Δ • ϥΠϒϥϦͷ࣮ʹnode:ϓϨϑΟοΫε͕ͳ͍ɺͳͲ͕େମͷݪҼ 17
ͳΜͱ͔ղܾͨ͠ • ຊޠͷCloudflare AIͰͳ͘ଞͷαʔϏεͷAPIΛݺͿ ͜ͱͰճආͨ͠ • ϥΠϒϥϦͷࣗͰϥΠϒϥϦͷίʔυʹखΛೖΕͨ 18
·ͱΊ • CloudflareΛ͏ͱαʔϏεͷ্ཱ͕ͪ͛खܰʹͰ͖Δ • Zero Trust AccessͰೝূपΓ҆৺ • CloudflareΛͲΜͲΜ͍͖͍ͬͯͨ 19