Semantic Kernelの始め方

StudyCoLT大会！
機械学習・LLM・その他データ分析関係の色々な話題をつまもう！
Semantic Kernelの始め方

https://studyco.connpass.com/event/292513/

Transcript

1. Semantic Kernelの始め方 株式会社SAKURUG エンジニアリングユニット 草場 友光 StudyCo LT大会！ 機械学習・LLM・その他データ分析関係の色々な話題をつまもう！
2. 自己紹介 • 普段は主にシステムをAzureにモダナ イズする仕事をしています。 • コミュニティ活動を通じて知識をアッ プデートしています。 • 2022/08-2023 Microsoft MVP (Developer Technologies) • tomo_kusaba
3. 今日の目的 • LLMオーケストレーションSDKの一つであるSemantic Kernelの紹介およびその学習方法について紹介します。 • Semantic Kernelを学ぶとなにがうれしいか？ • 実際にSemantic Kernelの学習の一歩としてはどのような手 段があるかを学び今日からSemantic Kernelを始めましょ う！！
4. Semantic Kernelとは • Azure OpenAI ServiceやOpenAIの提供するLLMをC#や Pythonで便利に使うことができるSDK • Microsoftが提唱するCopilot Stackの中核を担う存在。 • Microsoftが中心となりOSSとして開発している • コントリビューション大歓迎！！ • テンプレート化、埋め込みベースのメモリ、コネクタ、プランナーと いった機能を備えている • もちろん、ChatGPT Plugin開発もできる
5. Copilot Stackとは • Microsoftが提唱してるAIモ デルとプラグインのスタックを 使用してCopilotシステムを どのように強化していくかを 示したレイヤー • この図が示すとおり、 Semantic Kernelの位置す るAI orchestrationは中核 をになう存在である
6. なぜ、Semantic Kernelを選択するのか？ • C#がメインの開発言語であるから • もはや、AIはクラウド・デスクトップ・モバイル・IoT・Web・MRな どすべての領域において不可欠の存在になりつつある。 • また、PlatformもWindows・Linux・Macすべてで動かす必要 がある。 • そのすべての領域での開発が可能なのがC#/.NET • エンタープライズ対応（監視・負荷分散・認証・認可・・・）
7. Semantic Kernelの始め方 • まずは、Jupyter Notebooksから！ • 次に、Semantic Kernelリポジトリ内にある多数のサンプル コードを参照 • /dotnet/samples/kernelSyntaxExamples/
8. Jupyter Notebooks • 前提 • .NET7 SDK • Visual Studio Code • “polyglot” VSCode Extension • OpenAIまたはAzure OpenAI ServiceのAPIキーを取得済み • Semantic Kernelリポジトリ （https://github.com/microsoft/semantic-kernel）を クローン • /dotnet/notebooks/に移動して配下のREADME.mdを参照してウエ から順番に実行
9. Jupyter Notebooksやってみた動画の紹介 • https://www.youtube.com/watch?v=8sK1SyHmmIk &t=1728s • Microsoft アメリカ本社所属 Developer Advocate 千代田 まどかさんのJupyter Notebookやってみた動画です。
10. サンプルコード • /dotnet/samples/KernelSyntaxExamplesに多数のサン プルコードがある
11. おしまい おしまい