vercel AI SDK のストリームと戯れる

2024年9月13日に開催された「Unleash Next.js - LayerX Web Frontend Night」のイベントにて、バクラク事業部 VP of Enabling / Platform Engineering部 部長の名村 卓が登壇した際の資料になります。

Transcript

1. © LayerX Inc. vercel AI SDK のストリームと戯れる Suguru Namura - LayerX Web Frontend Night 2024-09-18
2. © LayerX Inc. 2 vercel AI SDK のストリームと戯れる でインストールできる LLM ⽤のパッケージ。vercel 製 https://sdk.vercel.ai/ AI SDK とは $ npm i ai OpenAI, Amazon Bedrock, Anthropic, Gemini など各種LLMに対応している Server Component, Server Action にも対応している ストリーム機能を持っている
3. vercel AI SDK の素敵なところ
4. 4 © LayerX Inc. vercel AI SDK のストリームと戯れる generateText streamText generateObject streamObject LLM Abstraction Language Model Middlewares createStreamableValue createStreamableUI
5. 5 © LayerX Inc. vercel AI SDK のストリームと戯れる generateText streamText generateObject streamObject LLM Abstraction Language Model Middlewares createStreamableValue createStreamableUI
6. 6 © LayerX Inc. vercel AI SDK のストリームと戯れる 実はこの機能は、AI(LLM)と関係ない ストリーム機能 createStreamableValue createStreamableUI
7. Count Demo
8. 8 © LayerX Inc. vercel AI SDK のストリームと戯れる createStreamableValue は汎⽤的 複数の Streamable Value を混ぜて返せる Server Action で使えて Async Iterable で受け取れる JSON が連続的な 状態である必要はない HTTP1.1で動作する Transfer-Encoding: chunked
9. Bulk Update Demo
10. おわり