Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
CloudflareのAI関連の機能さわってみた
Search
circled9
August 25, 2024
Programming
0
470
CloudflareのAI関連の機能さわってみた
Cloudflare Meetup Niigata #1のLTで使用した資料です。
circled9
August 25, 2024
Tweet
Share
More Decks by circled9
See All by circled9
キースイッチ入門
circled9
0
56
0.0.0.0 day
circled9
0
82
小数の丸め誤差の話
circled9
0
120
数値の文字列をパースしよう
circled9
0
180
🔥 Hono v4 やってみた
circled9
1
170
JetBrains AI Assistant を試してみた
circled9
1
460
Fresh
circled9
0
230
React Hooks 勉強会 vol.3
circled9
2
420
JSON.stringify()
circled9
2
480
Other Decks in Programming
See All in Programming
生成AIで加速するテスト実装 - ロリポップ for Gamersの事例と 生成AIエディタの活用
kinosuke01
0
140
⚪⚪の⚪⚪をSwiftUIで再現す る
u503
0
100
TCAを用いたAmebaのリアーキテクチャ
dazy
0
220
Learning Kotlin with detekt
inouehi
1
200
The Clean ArchitectureがWebフロントエンドでしっくりこないのは何故か / Why The Clean Architecture does not fit with Web Frontend
twada
PRO
51
16k
コミュニティ駆動 AWS CDK ライブラリ「Open Constructs Library」 / community-cdk-library
gotok365
2
260
機能が複雑化しても 頼りになる FactoryBotの話
tamikof
1
240
Jakarta EE meets AI
ivargrimstad
0
650
ナレッジイネイブリングにAIを活用してみる ゆるSRE勉強会 #9
nealle
0
170
ファインディLT_ポケモン対戦の定量的分析
fufufukakaka
0
950
コードを読んで理解するko build
bells17
1
110
CDKを使ったPagerDuty連携インフラのテンプレート化
shibuya_shogo
0
120
Featured
See All Featured
jQuery: Nuts, Bolts and Bling
dougneiner
63
7.7k
Optimizing for Happiness
mojombo
377
70k
Save Time (by Creating Custom Rails Generators)
garrettdimon
PRO
29
1.1k
[RailsConf 2023] Rails as a piece of cake
palkan
53
5.3k
Mobile First: as difficult as doing things right
swwweet
223
9.5k
Fireside Chat
paigeccino
35
3.2k
The Pragmatic Product Professional
lauravandoore
32
6.4k
RailsConf & Balkan Ruby 2019: The Past, Present, and Future of Rails at GitHub
eileencodes
134
33k
ピンチをチャンスに:未来をつくるプロダクトロードマップ #pmconf2020
aki_iinuma
115
51k
Building an army of robots
kneath
303
45k
Visualizing Your Data: Incorporating Mongo into Loggly Infrastructure
mongodb
45
9.4k
Statistics for Hackers
jakevdp
797
220k
Transcript
CloudflareͷAIؔ࿈ͷػೳ ͞ΘͬͯΈͨ Cloudflare Meetup Niigata #1 @circled9
ࣗݾհ @circled9 দҪ ਖ਼ࢤ (Matsui Masashi) גࣜձࣾϞχΫϧ ීஈGoogle CloudͰಈࣾ͘ ͚αʔϏεΛॻ͍ͯ·͢
͋Β·͠ • ࣾͷ։ൃ߹॓ͰAIΛςʔϚʹԿ͔࡞Ζ͏ͱ͍͏͜ͱʹͳͬͨ • PDFΛݩʹ࣭ͷճΛฦ͢ΞϓϦΛ࡞ͬͨ • ͍ΘΏΔRAG (Retrieval-Augmented Generation)ͱݺΕΔ ͷ
3
ͪͳΈʹ • yusukebe͞Μ͕ॻ͍ͨCloudflareελοΫͰRAGΛ࡞Δͱ͍͏λ ΠτϧͷͪΌͪ͘ΌΘ͔Γ͍͢هࣄ͕͋Γ·͢ • https://zenn.dev/yusukebe/articles/c7e2ec9f12427b • ߹॓࣌Ͱ͜ͷهࣄ͕·ͩͳ͔ͬͨͷͰɺެࣜυΩϡϝϯτΛಡΈ ͳ͕Βಉ͡Α͏ͳͷΛ࡞Γ·ͨ͠ 4
None
αʔϏεͷߏ
Client Zero Trust Access Vectorize Worker AI D1
Cloudflare AI • ੜAIͷॲཧΛΤοδͰͬͯ͘ΕΔ͍ͭ͢͝ • ςΩετੜͱ͔Իೝࣝͱ͔৭ʑͰ͖Δ • ࠓճςΩετੜͱEmbeddingΛͬͯճΛੜͨ͠ 8
Vectorize • ϕΫτϧσʔλϕʔε • ϕΫτϧσʔλͷอଘͱݕࡧΛͯ͘͠ΕΔ • ݱࡏύϒϦοΫϕʔλ൛ • Workers Paid
planͰ͑Δ 9
ϕΫτϧݕࡧ • จষΛϕΫτϧͰݕࡧ͢Δ • ୯७ͳจࣈྻݕࡧදهΏΕͳͲʹऑ͍ • ϕΫτϧԽ͢Δ͜ͱͰҙຯతʹ͍ۙͷݕࡧͰ͖Δ 10
Α͔ͬͨ͜ͱ
؆୯ • ֤ػೳwrangler.tomlʹઃఆΛՃ͢Δ͚ͩͰ͍࢝ΊΒΕΔ • ެࣜυΩϡϝϯτ͕ͳͷͰɺυΩϡϝϯτΛݟΕେମͳΜͱ͔ ͳΔ 12
͍҆ • ͼͬ͘Γ͢Δ͘Β͍͍҆ • ಛʹϕΫτϧσʔλϕʔε͕ैྔ՝ۚͳͷ͋Γ͕͍ͨ • ແྉେ͖͍ͷͰɺࢼ͠ʹ͞ΘΔఔͩͱେମແྉ 13
ࠔͬͨ͜ͱ
AIͷϞσϧͷຊޠରԠ͕͍·͍ͪ • ຊޠͰ࣭ͯ͠ӳޠͰฦͯ͘͠Δ • ϓϩϯϓτʹʮຊޠͰճͯ͠ʯͱॻ్͍ͯத͔Βຊޠ͡Ό ͳ͘ͳΔ • Embeddingӳޠ͔͠ରԠ͍ͯ͠ͳͦ͞͏ • bge-base-en-v1.5
15
ͦΕͳʔ
WorkersͰಈ͔ͳ͍ϥΠϒϥϦ͕͋ͬͨ • nodejs_compatΛ༗ޮʹ͢ΕNode.jsͷϥΠϒϥϦ͕ಈ͘ • ͔࣮͠͠ࡍʹಈ͔ͳ͍ϥΠϒϥϦ͕ͨ·ʹ͋Δ • ϥΠϒϥϦͷ࣮ʹnode:ϓϨϑΟοΫε͕ͳ͍ɺͳͲ͕େମͷݪҼ 17
ͳΜͱ͔ղܾͨ͠ • ຊޠͷCloudflare AIͰͳ͘ଞͷαʔϏεͷAPIΛݺͿ ͜ͱͰճආͨ͠ • ϥΠϒϥϦͷࣗͰϥΠϒϥϦͷίʔυʹखΛೖΕͨ 18
·ͱΊ • CloudflareΛ͏ͱαʔϏεͷ্ཱ͕ͪ͛खܰʹͰ͖Δ • Zero Trust AccessͰೝূपΓ҆৺ • CloudflareΛͲΜͲΜ͍͖͍ͬͯͨ 19