KubeCon 2023 China Recap & ブースを出展してきました

Transcript

1. KubeCon 2023 China Recap & ブースを出展してきました 小塚健太 (@kentakozuka)
2. •KubeCon 2023 China Recap • セッション Pick up • プロジェクトのブースを出した • まとめ 今日話すこと
3. 小塚 健太 (@kentakozuka) @kentakozuka @kenta_kozuka Developer Productivity室 室長になりました #DevOps, #DeveloperProductivity 昨年マラソン出て死ぬかと思ったのに、 また今年出るか迷っている
4. KubeCon 2023 China Recap
5. •カンファレンスは9/26-9/28の3日間 •PipeCDでブース出展 ◦ PipeCDチームの4つのCFPは全部落ちた •2018年11月に行ったときより、中国感が増してた ◦ 日本人はほとんど見なかった（ビザが関係してそう） •9/26はGOSIMに参加してきました •卓球できると友達できる PipeCDチーム2人で行ってきました
6. 会場の様子
7. Project Pavillion
8. Alibaba, Huawei, Tencent, Baiduという順 ブースに来た人に聞いた話だと、グローバルに事業 を展開している企業は中国本土にいてもAWSもGCP も使っているらしい CICDについて、ブースに来る人に聞いたら一番多 かったのはJenkinsだった 現地で聞いた中国のクラウド事情 https://www.canalys.com/newsroom/china-cloud-market-Q1-2023
9. •Keynoteは見ました •各セッションはブースにいたのであんまり見れてい ない 😢 •全体的な印象は「AI, AI, Edge(+Wasm), その他」 •AIをどうやってクラウドで簡単に開発・運用するか、 というトピックが多かった セッション
10. セッション Pick up
11. Pre-training and Fine-tuning of Code Generation Models 🤗 Hagging Faceという会社のML Engineer すべてOpen Sourceでコード生成モデルを作った話 （「Github Copilotとは違ってね」） 9/28のKeynote https://kccncosschn2023.sched.com/event/1PTLL/mo-3hxi-daepxu-chang-nfzha-ying-xiao-zh en-rehoy-keynote-pre-training-and-fine-tuning-of-code-generation-models-loubna-ben-allal- machine-learning-engineer-hugging-face
12. https://kccncosschn2023.sched.com/event/1PTLL/mo-3hxi-daepxu-chang-nfzha-ying-xiao-zh en-rehoy-keynote-pre-training-and-fine-tuning-of-code-generation-models-loubna-ben-allal- machine-learning-engineer-hugging-face
13. https://kccncosschn2023.sched.com/event/1PTLL/mo-3hxi-daepxu-chang-nfzha-ying-xiao-zh en-rehoy-keynote-pre-training-and-fine-tuning-of-code-generation-models-loubna-ben-allal- machine-learning-engineer-hugging-face
14. https://kccncosschn2023.sched.com/event/1PTLL/mo-3hxi-daepxu-chang-nfzha-ying-xiao-zh en-rehoy-keynote-pre-training-and-fine-tuning-of-code-generation-models-loubna-ben-allal- machine-learning-engineer-hugging-face
15. https://kccncosschn2023.sched.com/event/1PTLL/mo-3hxi-daepxu-chang-nfzha-ying-xiao-zh en-rehoy-keynote-pre-training-and-fine-tuning-of-code-generation-models-loubna-ben-allal- machine-learning-engineer-hugging-face
16. https://kccncosschn2023.sched.com/event/1PTLL/mo-3hxi-daepxu-chang-nfzha-ying-xiao-zh en-rehoy-keynote-pre-training-and-fine-tuning-of-code-generation-models-loubna-ben-allal- machine-learning-engineer-hugging-face
17. Dataset: The Stack • Githubから取得した102TB • 色々フィルタリングして、最終的 には2.9TB https://huggingface.co/datasets/bigcode/the-stack
18. • 自分のコードが学習に使われているか確認でき る • 学習に使ってほしくないものはOpt-outできる • pipe-cd organization内では8リポジトリ学習に使 われていた Dataset: Am I in The Stack?
19. https://kccncosschn2023.sched.com/event/1PTLL/mo-3hxi-daepxu-chang-nfzha-ying-xiao-zh en-rehoy-keynote-pre-training-and-fine-tuning-of-code-generation-models-loubna-ben-allal- machine-learning-engineer-hugging-face
20. https://kccncosschn2023.sched.com/event/1PTLL/mo-3hxi-daepxu-chang-nfzha-ying-xiao-zh en-rehoy-keynote-pre-training-and-fine-tuning-of-code-generation-models-loubna-ben-allal- machine-learning-engineer-hugging-face
21. https://kccncosschn2023.sched.com/event/1PTLL/mo-3hxi-daepxu-chang-nfzha-ying-xiao-zh en-rehoy-keynote-pre-training-and-fine-tuning-of-code-generation-models-loubna-ben-allal- machine-learning-engineer-hugging-face
22. https://kccncosschn2023.sched.com/event/1PTLL/mo-3hxi-daepxu-chang-nfzha-ying-xiao-zh en-rehoy-keynote-pre-training-and-fine-tuning-of-code-generation-models-loubna-ben-allal- machine-learning-engineer-hugging-face
23. https://kccncosschn2023.sched.com/event/1PTLL/mo-3hxi-daepxu-chang-nfzha-ying-xiao-zh en-rehoy-keynote-pre-training-and-fine-tuning-of-code-generation-models-loubna-ben-allal- machine-learning-engineer-hugging-face
24. 論文も出ているので興味のある方は是非
25. 比べてみた StarCoder Github Copilot https://huggingface.co/spaces/bigcode/bigcode-playground
26. その他のセッション
27. • BentoMLというMLモデルのビルドとデプ ロイをパッケージ化して運用を簡単にし ようというツール From Models to Market: What's the Missing Link in Scaling Open Source Models on Cloud? - Fog Dong, Senior Engineer, BentoML https://kccncosschn2023.sched.com/event/1QXqN/mo-3hxi-daepnfpencedaepnanozhu-ya-nfzha-ni-hou-ze-dyags-keynote-from-models-to-market-whats-the-missi ng-link-in-scaling-open-source-models-on-cloud-fog-dong-senior-engineer-bentoml https://bentoml.com/
28. https://kccncosschn2023.sched.com/event/1QXqN/mo-3hxi-daepnfpencedaepnanozhu-ya-nfzha-ni-hou-ze-dyags-keynote-from-models-to-market-whats-the-missi ng-link-in-scaling-open-source-models-on-cloud-fog-dong-senior-engineer-bentoml https://bentoml.com/
29. From Models to Market: What's the Missing Link in Scaling Open Source Models on Cloud? - Fog Dong, Senior Engineer, BentoML https://kccncosschn2023.sched.com/event/1QXqN/mo-3hxi-daepnfpencedaepnanozhu-ya-nfzha-ni-hou-ze-dyags-keynote-from-models-to-market-whats-the-missi ng-link-in-scaling-open-source-models-on-cloud-fog-dong-senior-engineer-bentoml https://bentoml.com/
30. https://kccncosschn2023.sched.com/event/1QXqN/mo-3hxi-daepnfpencedaepnanozhu-ya-nfzha-ni-hou-ze-dyags-keynote-from-models-to-market-whats-the-missi ng-link-in-scaling-open-source-models-on-cloud-fog-dong-senior-engineer-bentoml https://bentoml.com/
31. https://kccncosschn2023.sched.com/event/1QXqN/mo-3hxi-daepnfpencedaepnanozhu-ya-nfzha-ni-hou-ze-dyags-keynote-from-models-to-market-whats-the-missi ng-link-in-scaling-open-source-models-on-cloud-fog-dong-senior-engineer-bentoml https://bentoml.com/
32. https://kccncosschn2023.sched.com/event/1QXqN/mo-3hxi-daepnfpencedaepnanozhu-ya-nfzha-ni-hou-ze-dyags-keynote-from-models-to-market-whats-the-missi ng-link-in-scaling-open-source-models-on-cloud-fog-dong-senior-engineer-bentoml https://bentoml.com/
33. • 西洋とアジアだとビジネスへの考 え方が違うから知っておこう Cloud Native Technology and Cultural Context: Maximizing Business Value Across Borders https://kccncosschn2023.sched.com/event/1PTF6/chang-die-daepguo-cloud-native-technology-and-cultural-context-maximizing-business-value-across-borders-katerina-arz hayev-suse
34. PipeCDでブースを出してきた
35. PipeCDって何？
37. GitOps
38. マルチプロバイダ & マルチテナント 38 様々なプラットフォーム、アプリケーション、テレメトリーに対応 マルチクラスタ・テナンシーでの運用が可能
39. Kubernetesエコシステムとのインテグレーション 39
40. Control Plane & Agentモデル • デプロイはクラスタ内のpiped agentが実行 • アプリケーションのクレデンシャルが外部に漏れるこ とがない • pipedはステートレスなシングルバイナリなので場所を 選ばず、メンテも簡単
41. シンプルなUIと可視性 41 UIはアプリケーションの状態をリアルタイムで可視化し、 どのタイミングで何が発生したかが明示される
42. DevOps指標の可視化
43. プログレッシブデリバリー • トラフィック制御（canary, blue/green） • メトリクス分析 • 自動化されたロールバック
44. 見てみてください 😊 pipecd.dev
45. 色んな人と話して来ました
46. • PipeCDチームはCNCFのSandboxプロジェクトと して、Project Pavillionにブースを出展してきまし た。 • ステッカーとTシャツを持っていきました。 • 様々な会社やOSSプロジェクトから開発者が来 てくれました。 • 中国語を話せる人がいたらよかった • OSS/CNCFコミュニティでは、他のプロジェクトと の交流が大事 In-person Kiosk in Project Pavillion
47. • Kubernetesアプリケーションの運用・管理を自動化。中国で広く使われている👀。 • 他のCNCFプロジェクトとのインテグレーションしており、PipeCDのデプロイコントロー ラーなどとも連携しようと話した Collab with other CNCF projects
48. • マルチクラウド、マルチクラスタのKubernetesオーケストレーションツール • Argo/Fluxなどに加えてPipeCDをKarmada上で動作するアプリケーションのデプロイ ツールとして利用できるようにしていこう Collab with other CNCF projects
49. • CNCF の先輩プロジェクトから、コミュニ ティの作り方についてアドバイスをもら う。 • これらのプロジェクトの他のコミュニティイ ベントやMTGへの参加をしてさらに勉強 する Collab with other CNCF projects
50. • Pulumi • PulumiとPipeCDのコラボをCDCon Tokyo の期間でぜひやりたいなーと話した • 参考：https://cd.foundation/cdcon- japan-2023/ Collab with other projects which NOT CNCF
51. • PipeCDのことをYoutubeの動画やSNSの ブログにアップしてくれ、、、そう Collab with other projects which NOT CNCF
52. まとめ
53. •世の中はAI •当たり前だけど、英語はやっぱり必要だなーということ •現地の言葉も話せるとなお良い •OSSプロジェクトを大きくするにはエコシステムに入っていくこ とが大切 •カンファレンスではOSSの先輩方に会えて、普段聞けない話 や、今度〇〇を一緒にやろうみたいな話ができる •とりあえず話しかけてみるｗ •発表後が勝負 ← 今回のMVP（ラップしてた） 感想 https://x.com/yanashin18618/status/17072313295434 26197?s=20
54. 最後に
55. コントリビューター募集中！ 採用も絶賛活動中です！
56. KubeCon NA 2023でチームメンバーが登壇します！ チームからは2人で参加予定です。またプロジェクトブースも出展します
57. ありがとうございました