CloudflareのAI関連の機能さわってみた

Cloudflare Meetup Niigata #1のLTで使用した資料です。

Transcript

1. CloudflareͷAIؔ࿈ͷػೳ ͞ΘͬͯΈͨ Cloudflare Meetup Niigata #1 @circled9
2. ࣗݾ঺հ @circled9 দҪ ਖ਼ࢤ (Matsui Masashi) גࣜձࣾϞχΫϧ ීஈ͸Google CloudͰಈࣾ͘಺ ޲͚αʔϏεΛॻ͍ͯ·͢
3. ͋Β·͠ • ࣾ಺ͷ։ൃ߹॓ͰAIΛςʔϚʹԿ͔࡞Ζ͏ͱ͍͏͜ͱʹͳͬͨ • PDFΛݩʹ࣭໰ͷճ౴Λฦ͢ΞϓϦΛ࡞ͬͨ • ͍ΘΏΔRAG (Retrieval-Augmented Generation)ͱݺ͹ΕΔ ΋ͷ 3
4. ͪͳΈʹ • yusukebe͞Μ͕ॻ͍ͨCloudflareελοΫͰRAGΛ࡞Δͱ͍͏λ ΠτϧͷͪΌͪ͘ΌΘ͔Γ΍͍͢هࣄ͕͋Γ·͢ • https://zenn.dev/yusukebe/articles/c7e2ec9f12427b • ߹॓࣌఺Ͱ͸͜ͷهࣄ͕·ͩͳ͔ͬͨͷͰɺެࣜυΩϡϝϯτΛಡΈ ͳ͕Βಉ͡Α͏ͳ΋ͷΛ࡞Γ·ͨ͠ 4
6. αʔϏεͷߏ੒
7. Client Zero Trust Access Vectorize Worker AI D1
8. Cloudflare AI • ੜ੒AIͷॲཧΛΤοδͰ΍ͬͯ͘ΕΔ͍͢͝΍ͭ • ςΩετੜ੒ͱ͔Ի੠ೝࣝͱ͔৭ʑͰ͖Δ • ࠓճ͸ςΩετੜ੒ͱEmbeddingΛ࢖ͬͯճ౴Λੜ੒ͨ͠ 8
9. Vectorize • ϕΫτϧσʔλϕʔε • ϕΫτϧσʔλͷอଘͱݕࡧΛͯ͘͠ΕΔ • ݱࡏύϒϦοΫϕʔλ൛ • Workers Paid planͰ࢖͑Δ 9
10. ϕΫτϧݕࡧ • จষΛϕΫτϧͰݕࡧ͢Δ • ୯७ͳจࣈྻݕࡧ͸දهΏΕͳͲʹऑ͍ • ϕΫτϧԽ͢Δ͜ͱͰҙຯతʹ͍ۙ΋ͷ΋ݕࡧͰ͖Δ 10
11. Α͔ͬͨ͜ͱ
12. ؆୯ • ֤ػೳ͸wrangler.tomlʹઃఆΛ௥Ճ͢Δ͚ͩͰ࢖͍࢝ΊΒΕΔ • ެࣜυΩϡϝϯτ͕਌੾ͳͷͰɺυΩϡϝϯτΛݟΕ͹େମͳΜͱ͔ ͳΔ 12
13. ͍҆ • ͼͬ͘Γ͢Δ͘Β͍͍҆ • ಛʹϕΫτϧσʔλϕʔε͕ैྔ՝ۚͳͷ͸͋Γ͕͍ͨ • ແྉ࿮΋େ͖͍ͷͰɺࢼ͠ʹ͞ΘΔఔ౓ͩͱେମແྉ 13
14. ࠔͬͨ͜ͱ
15. AIͷϞσϧͷ೔ຊޠରԠ͕͍·͍ͪ • ೔ຊޠͰ࣭໰ͯ͠΋ӳޠͰฦͯ͘͠Δ • ϓϩϯϓτʹʮ೔ຊޠͰճ౴ͯ͠ʯͱॻ͍ͯ΋్த͔Β೔ຊޠ͡Ό ͳ͘ͳΔ • Embedding΋ӳޠ͔͠ରԠ͍ͯ͠ͳͦ͞͏ • bge-base-en-v1.5 15
16. ͦΕͳʔ
17. WorkersͰಈ͔ͳ͍ϥΠϒϥϦ͕͋ͬͨ • nodejs_compatΛ༗ޮʹ͢Ε͹Node.jsͷϥΠϒϥϦ͕ಈ͘ • ͔࣮͠͠ࡍʹ͸ಈ͔ͳ͍ϥΠϒϥϦ͕ͨ·ʹ͋Δ • ϥΠϒϥϦͷ࣮૷ʹnode:ϓϨϑΟοΫε͕ͳ͍ɺͳͲ͕େମͷݪҼ 17
18. ͳΜͱ͔ղܾͨ͠ • ೔ຊޠͷ໰୊͸Cloudflare AIͰ͸ͳ͘ଞͷαʔϏεͷAPIΛݺͿ ͜ͱͰճආͨ͠ • ϥΠϒϥϦͷ໰୊͸ࣗ෼ͰϥΠϒϥϦͷίʔυʹखΛೖΕͨ 18
19. ·ͱΊ • CloudflareΛ࢖͏ͱαʔϏεͷ্ཱ͕ͪ͛खܰʹͰ͖Δ • Zero Trust AccessͰೝূपΓ΋҆৺ • CloudflareΛͲΜͲΜ࢖͍͖͍ͬͯͨ 19