color is クラウドLT大会vol.9 新常識！JavaScript × AWS Lambdaがアツい！！ 2024-06-27

自己紹介 ● 渡邉 洋平(watany) ○ NTTテクノクロス株式会社 ○ JAWS-UG東京 運営 ○ AWS Ambassadors (associate) ● 合同で勉強会できる企業を探しています ○ Jr. Champion/TopEngineer育成とか ○ 普通にTechの勉強会とか

今日の目標 ● AWS Lambda のJavaScript(TypeScript, Node.js)のトレンドを紹介する ○ 従来、拘りなくLambdaを書く場合にはPythonがファーストチョイスだった(個人 研究) ○ バックエンド、インフラでもJavaScript採用で効率化できそうなアップデート群を 紹介 ● お詫び ○ JavaScriptと言いつつ、TypeScript前提で話す

JavaScript × AWS Lambdaの新常識

JavaScript × AWS Lambdaの新常識 1. TypeScript × AWS CDK 2. LLRT 3. Lambda Web Adaptor 4. Response Streaming

1. TypeScript × AWS CDK ● AWS CDKとは？ ○ Framework for CloudFormation ○ 概要は右のグラレコが必要十分 ● TypeScriptとは？ ○ JavaScriptのSuperset ○ 強力かつ柔軟な型システム をJavascriptに付与 引用：使い慣れたプログラミング言語でクラウド環境を構築 ! AWS CDK をグラレコで解説 https://aws.amazon.com/jp/builders-flash/202309/awsgeek-aws-cdk/

1. TypeScript × AWS CDK AWS CDKは多言語対応とあるが…？ ● Toolネイティブ対応は”TypeScript” ○ Python、GoなどはJsiiが変換して対応(まれにバグを踏む) ● 2022年度の利用率は”72％”がJS/TS ○ 2024年現在の肌感覚でも同様 ○ JAWS-UG CDK支部も https://matthewbonig.com/posts/community-survey-2022/

1. TypeScript × AWS CDK 「NodejsFunction」でBundle部分をCDKに任せて、TypeScript ファーストのLambda開 発体験

JavaScript × AWS Lambdaの新常識 1. TypeScript × AWS CDK 2. LLRT 3. Lambda Web Adaptor 4. Response Streaming

2. LLRT LLRT (Low Latency Runtime) ● Node.js互換、WinterJS互換を目指し、AWSが開発するJS Runtime ○ QuickJS + Rust ○ 注）2024/6時点でBeta版

Cold Start：Node.js(1500ms) https://github.com/awslabs/llrt/tree/main/benchmarks

Cold Start：LLRT ( > 100ms) https://github.com/awslabs/llrt/tree/main/benchmarks

2. LLRT > LLRT offers up to over 10x faster startup and up to 2x overall lower cost compared to other JavaScript runtimes running on AWS Lambda ● つまりJS/TSのコードのままで ○ ColdStart性能の改善 ■ Go on AWS Lambdaと同等 ○ メモリ使用量の改善 ■ ≒ Costの改善

JavaScript × AWS Lambdaの新常識 1. TypeScript × AWS CDK 2. LLRT 3. Lambda Web Adaptor 4. Response Streaming

3. Lambda Web Adaptor LambdaのEvents ⇔ HTTP Request/Response ● Express.jsやNext.jsのWebフレームワークがAWS Lambdaでそのまま動 く！ https://aws.amazon.com/jp/blogs/compute/using-response-streaming-with-aws-lambda-web-adapter-to-optimize-performance/

3. Lambda Web Adaptor 安全かつ高速なLambda Extensions ● Rust製で性能影響も軽微 ○ 平均レイテンシーは +0.8 ms 程度 ○ p99 でも +4 ms 程度 ● Docker on Lambdaなら1行足すだけ ○ Managed Runtimeだと少し面倒

Extensionsのアーキテクチャ https://aws.amazon.com/jp/builders-flash/202301/lambda-web-adapter/ 3. Lambda Web Adaptor

JavaScript × AWS Lambdaの新常識 1. TypeScript × AWS CDK 2. LLRT 3. Lambda Web Adaptor 4. Response Streaming

4. Response Streaming ● 2024年時点で、世はLLM時代 ○ つまり「ヌルヌル返却するやつ」時代ということ(？) ● Lambda Response Streaming ○ FunctionsURLから、ペイロードをStreamingで返せる ○ 最大20MB返せる(通常6MB)

4. Response Streaming 制約：動作条件 １．マネージドランタイム ○ Node.js v16以降”のみ” ２．カスタムランタイムに実装 ○ 実装済はRust Runtime for AWS Lambdaのみ？ ３．＋ Lambda Extensions ○ 後述のLambda Web Adaptorを使うと間接的に2．相当

4. Response Streaming Node.js Runtimeには、組み込みの独自関数が用意 https://aws.amazon.com/jp/blogs/news/introducing-aws-lambda-response-streaming/

4. Response Streaming Appendix. 組み込み関数は少し癖がある ● 実装前に、↓のスライドを読むのがおススメ https://speakerdeck.com/watany/aws-lambda-response-streaming-shi-zhuang-qian-nisiritaiyatu

まとめ

まとめ ● JS/TS × LambdaとCDKとで、技術スタックを統一しやすい ● StreamingもNode.jsランタイムなら始めやすい ● Lambda Web AdaptorでJSの強力なWeb Flameworkを採用できる ● LLRTが実用化されれば更なる最適化へ…！ だから JavaScript × AWS Lambdaがアツい！！