Slide 1

Slide 1 text

KubeCon 2023 China Recap & ブースを出展してきました 小塚健太 (@kentakozuka)

Slide 2

Slide 2 text

●KubeCon 2023 China Recap ● セッション Pick up ● プロジェクトのブースを出した ● まとめ 今日話すこと

Slide 3

Slide 3 text

小塚 健太 (@kentakozuka) @kentakozuka @kenta_kozuka Developer Productivity室 室長になりました #DevOps, #DeveloperProductivity 昨年マラソン出て死ぬかと思ったのに、 また今年出るか迷っている

Slide 4

Slide 4 text

KubeCon 2023 China Recap

Slide 5

Slide 5 text

●カンファレンスは9/26-9/28の3日間 ●PipeCDでブース出展 ○ PipeCDチームの4つのCFPは全部落ちた ●2018年11月に行ったときより、中国感が増してた ○ 日本人はほとんど見なかった(ビザが関係してそう) ●9/26はGOSIMに参加してきました ●卓球できると友達できる PipeCDチーム2人で行ってきました

Slide 6

Slide 6 text

会場の様子

Slide 7

Slide 7 text

Project Pavillion

Slide 8

Slide 8 text

Alibaba, Huawei, Tencent, Baiduという順 ブースに来た人に聞いた話だと、グローバルに事業 を展開している企業は中国本土にいてもAWSもGCP も使っているらしい CICDについて、ブースに来る人に聞いたら一番多 かったのはJenkinsだった 現地で聞いた中国のクラウド事情 https://www.canalys.com/newsroom/china-cloud-market-Q1-2023

Slide 9

Slide 9 text

●Keynoteは見ました ●各セッションはブースにいたのであんまり見れてい ない 😢 ●全体的な印象は「AI, AI, Edge(+Wasm), その他」 ●AIをどうやってクラウドで簡単に開発・運用するか、 というトピックが多かった セッション

Slide 10

Slide 10 text

セッション Pick up

Slide 11

Slide 11 text

Pre-training and Fine-tuning of Code Generation Models 🤗 Hagging Faceという会社のML Engineer すべてOpen Sourceでコード生成モデルを作った話 (「Github Copilotとは違ってね」) 9/28のKeynote https://kccncosschn2023.sched.com/event/1PTLL/mo-3hxi-daepxu-chang-nfzha-ying-xiao-zh en-rehoy-keynote-pre-training-and-fine-tuning-of-code-generation-models-loubna-ben-allal- machine-learning-engineer-hugging-face

Slide 12

Slide 12 text

https://kccncosschn2023.sched.com/event/1PTLL/mo-3hxi-daepxu-chang-nfzha-ying-xiao-zh en-rehoy-keynote-pre-training-and-fine-tuning-of-code-generation-models-loubna-ben-allal- machine-learning-engineer-hugging-face

Slide 13

Slide 13 text

https://kccncosschn2023.sched.com/event/1PTLL/mo-3hxi-daepxu-chang-nfzha-ying-xiao-zh en-rehoy-keynote-pre-training-and-fine-tuning-of-code-generation-models-loubna-ben-allal- machine-learning-engineer-hugging-face

Slide 14

Slide 14 text

https://kccncosschn2023.sched.com/event/1PTLL/mo-3hxi-daepxu-chang-nfzha-ying-xiao-zh en-rehoy-keynote-pre-training-and-fine-tuning-of-code-generation-models-loubna-ben-allal- machine-learning-engineer-hugging-face

Slide 15

Slide 15 text

https://kccncosschn2023.sched.com/event/1PTLL/mo-3hxi-daepxu-chang-nfzha-ying-xiao-zh en-rehoy-keynote-pre-training-and-fine-tuning-of-code-generation-models-loubna-ben-allal- machine-learning-engineer-hugging-face

Slide 16

Slide 16 text

https://kccncosschn2023.sched.com/event/1PTLL/mo-3hxi-daepxu-chang-nfzha-ying-xiao-zh en-rehoy-keynote-pre-training-and-fine-tuning-of-code-generation-models-loubna-ben-allal- machine-learning-engineer-hugging-face

Slide 17

Slide 17 text

Dataset: The Stack ● Githubから取得した102TB ● 色々フィルタリングして、最終的 には2.9TB https://huggingface.co/datasets/bigcode/the-stack

Slide 18

Slide 18 text

● 自分のコードが学習に使われているか確認でき る ● 学習に使ってほしくないものはOpt-outできる ● pipe-cd organization内では8リポジトリ学習に使 われていた Dataset: Am I in The Stack?

Slide 19

Slide 19 text

https://kccncosschn2023.sched.com/event/1PTLL/mo-3hxi-daepxu-chang-nfzha-ying-xiao-zh en-rehoy-keynote-pre-training-and-fine-tuning-of-code-generation-models-loubna-ben-allal- machine-learning-engineer-hugging-face

Slide 20

Slide 20 text

https://kccncosschn2023.sched.com/event/1PTLL/mo-3hxi-daepxu-chang-nfzha-ying-xiao-zh en-rehoy-keynote-pre-training-and-fine-tuning-of-code-generation-models-loubna-ben-allal- machine-learning-engineer-hugging-face

Slide 21

Slide 21 text

https://kccncosschn2023.sched.com/event/1PTLL/mo-3hxi-daepxu-chang-nfzha-ying-xiao-zh en-rehoy-keynote-pre-training-and-fine-tuning-of-code-generation-models-loubna-ben-allal- machine-learning-engineer-hugging-face

Slide 22

Slide 22 text

https://kccncosschn2023.sched.com/event/1PTLL/mo-3hxi-daepxu-chang-nfzha-ying-xiao-zh en-rehoy-keynote-pre-training-and-fine-tuning-of-code-generation-models-loubna-ben-allal- machine-learning-engineer-hugging-face

Slide 23

Slide 23 text

https://kccncosschn2023.sched.com/event/1PTLL/mo-3hxi-daepxu-chang-nfzha-ying-xiao-zh en-rehoy-keynote-pre-training-and-fine-tuning-of-code-generation-models-loubna-ben-allal- machine-learning-engineer-hugging-face

Slide 24

Slide 24 text

論文も出ているので興味のある方は是非

Slide 25

Slide 25 text

比べてみた StarCoder Github Copilot https://huggingface.co/spaces/bigcode/bigcode-playground

Slide 26

Slide 26 text

その他のセッション

Slide 27

Slide 27 text

● BentoMLというMLモデルのビルドとデプ ロイをパッケージ化して運用を簡単にし ようというツール From Models to Market: What's the Missing Link in Scaling Open Source Models on Cloud? - Fog Dong, Senior Engineer, BentoML https://kccncosschn2023.sched.com/event/1QXqN/mo-3hxi-daepnfpencedaepnanozhu-ya-nfzha-ni-hou-ze-dyags-keynote-from-models-to-market-whats-the-missi ng-link-in-scaling-open-source-models-on-cloud-fog-dong-senior-engineer-bentoml https://bentoml.com/

Slide 28

Slide 28 text

https://kccncosschn2023.sched.com/event/1QXqN/mo-3hxi-daepnfpencedaepnanozhu-ya-nfzha-ni-hou-ze-dyags-keynote-from-models-to-market-whats-the-missi ng-link-in-scaling-open-source-models-on-cloud-fog-dong-senior-engineer-bentoml https://bentoml.com/

Slide 29

Slide 29 text

From Models to Market: What's the Missing Link in Scaling Open Source Models on Cloud? - Fog Dong, Senior Engineer, BentoML https://kccncosschn2023.sched.com/event/1QXqN/mo-3hxi-daepnfpencedaepnanozhu-ya-nfzha-ni-hou-ze-dyags-keynote-from-models-to-market-whats-the-missi ng-link-in-scaling-open-source-models-on-cloud-fog-dong-senior-engineer-bentoml https://bentoml.com/

Slide 30

Slide 30 text

https://kccncosschn2023.sched.com/event/1QXqN/mo-3hxi-daepnfpencedaepnanozhu-ya-nfzha-ni-hou-ze-dyags-keynote-from-models-to-market-whats-the-missi ng-link-in-scaling-open-source-models-on-cloud-fog-dong-senior-engineer-bentoml https://bentoml.com/

Slide 31

Slide 31 text

https://kccncosschn2023.sched.com/event/1QXqN/mo-3hxi-daepnfpencedaepnanozhu-ya-nfzha-ni-hou-ze-dyags-keynote-from-models-to-market-whats-the-missi ng-link-in-scaling-open-source-models-on-cloud-fog-dong-senior-engineer-bentoml https://bentoml.com/

Slide 32

Slide 32 text

https://kccncosschn2023.sched.com/event/1QXqN/mo-3hxi-daepnfpencedaepnanozhu-ya-nfzha-ni-hou-ze-dyags-keynote-from-models-to-market-whats-the-missi ng-link-in-scaling-open-source-models-on-cloud-fog-dong-senior-engineer-bentoml https://bentoml.com/

Slide 33

Slide 33 text

● 西洋とアジアだとビジネスへの考 え方が違うから知っておこう Cloud Native Technology and Cultural Context: Maximizing Business Value Across Borders https://kccncosschn2023.sched.com/event/1PTF6/chang-die-daepguo-cloud-native-technology-and-cultural-context-maximizing-business-value-across-borders-katerina-arz hayev-suse

Slide 34

Slide 34 text

PipeCDでブースを出してきた

Slide 35

Slide 35 text

PipeCDって何?

Slide 36

Slide 36 text

No content

Slide 37

Slide 37 text

GitOps

Slide 38

Slide 38 text

マルチプロバイダ & マルチテナント 38 様々なプラットフォーム、アプリケーション、テレメトリーに対応 マルチクラスタ・テナンシーでの運用が可能

Slide 39

Slide 39 text

Kubernetesエコシステムとのインテグレーション 39

Slide 40

Slide 40 text

Control Plane & Agentモデル ● デプロイはクラスタ内のpiped agentが実行 ● アプリケーションのクレデンシャルが外部に漏れるこ とがない ● pipedはステートレスなシングルバイナリなので場所を 選ばず、メンテも簡単

Slide 41

Slide 41 text

シンプルなUIと可視性 41 UIはアプリケーションの状態をリアルタイムで可視化し、 どのタイミングで何が発生したかが明示される

Slide 42

Slide 42 text

DevOps指標の可視化

Slide 43

Slide 43 text

プログレッシブデリバリー ● トラフィック制御(canary, blue/green) ● メトリクス分析 ● 自動化されたロールバック

Slide 44

Slide 44 text

見てみてください 😊 pipecd.dev

Slide 45

Slide 45 text

色んな人と話して来ました

Slide 46

Slide 46 text

● PipeCDチームはCNCFのSandboxプロジェクトと して、Project Pavillionにブースを出展してきまし た。 ● ステッカーとTシャツを持っていきました。 ● 様々な会社やOSSプロジェクトから開発者が来 てくれました。 ● 中国語を話せる人がいたらよかった ● OSS/CNCFコミュニティでは、他のプロジェクトと の交流が大事 In-person Kiosk in Project Pavillion

Slide 47

Slide 47 text

● Kubernetesアプリケーションの運用・管理を自動化。中国で広く使われている👀。 ● 他のCNCFプロジェクトとのインテグレーションしており、PipeCDのデプロイコントロー ラーなどとも連携しようと話した Collab with other CNCF projects

Slide 48

Slide 48 text

● マルチクラウド、マルチクラスタのKubernetesオーケストレーションツール ● Argo/Fluxなどに加えてPipeCDをKarmada上で動作するアプリケーションのデプロイ ツールとして利用できるようにしていこう Collab with other CNCF projects

Slide 49

Slide 49 text

● CNCF の先輩プロジェクトから、コミュニ ティの作り方についてアドバイスをもら う。 ● これらのプロジェクトの他のコミュニティイ ベントやMTGへの参加をしてさらに勉強 する Collab with other CNCF projects

Slide 50

Slide 50 text

● Pulumi ● PulumiとPipeCDのコラボをCDCon Tokyo の期間でぜひやりたいなーと話した ● 参考:https://cd.foundation/cdcon- japan-2023/ Collab with other projects which NOT CNCF

Slide 51

Slide 51 text

● PipeCDのことをYoutubeの動画やSNSの ブログにアップしてくれ、、、そう Collab with other projects which NOT CNCF

Slide 52

Slide 52 text

まとめ

Slide 53

Slide 53 text

●世の中はAI ●当たり前だけど、英語はやっぱり必要だなーということ ●現地の言葉も話せるとなお良い ●OSSプロジェクトを大きくするにはエコシステムに入っていくこ とが大切 ●カンファレンスではOSSの先輩方に会えて、普段聞けない話 や、今度〇〇を一緒にやろうみたいな話ができる ●とりあえず話しかけてみるw ●発表後が勝負 ← 今回のMVP(ラップしてた) 感想 https://x.com/yanashin18618/status/17072313295434 26197?s=20

Slide 54

Slide 54 text

最後に

Slide 55

Slide 55 text

コントリビューター募集中! 採用も絶賛活動中です!

Slide 56

Slide 56 text

KubeCon NA 2023でチームメンバーが登壇します! チームからは2人で参加予定です。またプロジェクトブースも出展します

Slide 57

Slide 57 text

ありがとうございました