Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
Semantic Kernelの最新状況及び入門
Search
tomokusaba
July 26, 2024
Programming
0
310
Semantic Kernelの最新状況及び入門
Semantic Kernelの最新状況及び入門
.NETラボ 勉強会 2024年7月
https://dotnetlab.connpass.com/event/323373/
tomokusaba
July 26, 2024
Tweet
Share
More Decks by tomokusaba
See All by tomokusaba
ASP. NET CoreにおけるWebAPIの最新情報
tomokusaba
0
240
Semantic Kernelのネイティブプラグインで知識拡張をしてみる
tomokusaba
0
210
.NET Conf 2024の振り返り
tomokusaba
0
260
.NET Conf 2024 .NETラボ 勉強会 2024年12月
tomokusaba
1
41
C#/.NETのこれまでのふりかえり
tomokusaba
1
240
Cloud Adoption Framework にみる組織とクラウド導入戦略
tomokusaba
2
830
Cloud Adoption Frameworkにみる組織とクラウド導入戦略(縮小版)
tomokusaba
1
300
私の考える初学者がBlazorできるまでの学習方法
tomokusaba
1
430
Fluent UI Blazor 最新Update
tomokusaba
1
340
Other Decks in Programming
See All in Programming
functionalなアプローチで動的要素を排除する
ryopeko
1
1k
Linux && Docker 研修/Linux && Docker training
forrep
23
4.1k
サーバーゆる勉強会 DBMS の仕組み編
kj455
1
360
DevFest - Serverless 101 with Google Cloud Functions
tunmise
0
140
オニオンアーキテクチャを使って、 Unityと.NETでコードを共有する
soi013
0
390
Alba: Why, How and What's So Interesting
okuramasafumi
0
240
カンファレンス動画鑑賞会のススメ / Osaka.swift #1
hironytic
0
210
Spring gRPC について / About Spring gRPC
mackey0225
0
180
Pulsar2 を雰囲気で使ってみよう
anoken
0
100
Java Webフレームワークの現状 / java web framework at burikaigi
kishida
9
2k
Package Traits
ikesyo
2
230
チームの立て直し施策をGoogleの 『効果的なチーム』と見比べてみた
maroon8021
0
310
Featured
See All Featured
Intergalactic Javascript Robots from Outer Space
tanoku
270
27k
For a Future-Friendly Web
brad_frost
176
9.5k
Build The Right Thing And Hit Your Dates
maggiecrowley
34
2.5k
Fight the Zombie Pattern Library - RWD Summit 2016
marcelosomers
232
17k
The Power of CSS Pseudo Elements
geoffreycrofte
75
5.4k
Stop Working from a Prison Cell
hatefulcrawdad
267
20k
Music & Morning Musume
bryan
46
6.3k
Visualizing Your Data: Incorporating Mongo into Loggly Infrastructure
mongodb
44
9.4k
Art, The Web, and Tiny UX
lynnandtonic
298
20k
The MySQL Ecosystem @ GitHub 2015
samlambert
250
12k
How to train your dragon (web standard)
notwaldorf
90
5.8k
Automating Front-end Workflow
addyosmani
1367
200k
Transcript
Semantic Kernelの最新状況 及び入門 株式会社SAKURUG プロダクトDiv 草場 友光 .NETラボ勉強会2024年7月
自己紹介 • コミュニティ活動を通じて知識をアッ プデートしています。 • 2022/08-2025 Microsoft MVP (Developer Technologies)
• tomo_kusaba
宣伝 【VISION】ひとの可能性を開花させる企業であり続ける VISIONに共感できる仲間募集中。
注意 • 個人の見解・解釈が多分に入っています。 • 見解の相違・事実誤認などありましたらご指摘ください。 • #dotnetlabでtweetすると左側に表示されます
今日の目的 • .NETのSemantic Kernelが安定版になってしばらく経ちまし た。 • 最新のSemantic Kernelの状況及び改めて今、Semantic Kernelを入門する方法をリポジトリーを見ながら探っていきた いと思います。
• やらないこと:実際にコードを動かしてみたり詳細な実装について 話すこと
現在のリポジトリ構成をみる • https://github.com/microsoft/semantic- kernel/tree/main
Semantic Kernelとは • 既存のアプリケーションにAIエージェントを簡単に追加することの できるオープンソースのミドルウェア • C#、Java、Pythonに対応 • プラグインの自動呼び出しに対応
似た目的で使用できるフレームワーク・ツール • LangChain • AI Studio • Azure FunctionのOpenAI拡張
LangChain • Pythonのみの対応 • LLMを扱う上では素晴らしいツール • LLMの発展に対して迅速な対応する反面、今現在安定版がリリー スされていない、破壊的変更が多い、バグが多いなどのトラブル が多い •
AIそのもの検証にはとても相性がよい!
AI Studio • Microsoft Build 2024でGA • OpenAI以外のMetaなどのLLMやPhi-2などのSLMなどさま ざまな言語モデルに対応 •
Azure AI SearchやプロンプトフローなどAIツールチェーンと して設計されている • GUIベースでフローを確認できたり可観測性もバッチリ。 • TeamsへのカスタムエンジンCopilotもPubulic Previewな どできることが増えてきた!
Azure FunctionのOpenAI拡張 • Azure OpenAI Serviceの機能と動作をFunctionに簡単に 統合できる一連のトリガーとバインドが実装されている。 • 呼び出すLLMがAzure OpenAIに限定できる場合に有用な手
段 • スケールしやすい • AIの実行がFunctionでよい場合・・・もともとマイクロサービス 的に作っている場合は気にならないはず。モノシリックで作ってい る場合なぜAzure OpenAI ServiceだけがAzure Function の実行なのか??くらい
Semantic Kernelの始め方 • https://github.com/microsoft/semantic- kernel/tree/main/dotnet/notebooks • まずは、Jypyter Notebooksから • 前提:.NET
8 と VS Code と Polygot 拡張
Microsoft Learn ドキュメント • ただし、現在は英語のみ (7/3日本語追加!) • ドキュメントに掲載されているコードは https://github.com/microsoft/semantic- kernel/tree/main/dotnet/samples/LearnResources
に掲載 • Logic AppsやOpenAPIプラグインの追加方法などより実践的 な実装方法についての記述がされているなど一通り読むべき
コード例がコンセプトごとに整理された • Microsoft LearnからもGitHubへのリンクがある。 • ChatCmpletionとかDIやPluginなどコンセプトごとに整理さ れて見やすくなった。
より、実践的デモアプリ • https://github.com/microsoft/semantic- kernel/tree/main/dotnet/samples/Demos
どんな機能が使えるんだっけ(コア) サービス C# Python Java 備考 プロンプト ◦ ◦ ◦
ネイティブ関数とプラグイン ◦ ◦ ◦ OpenAPIプラグイン ◦ ◦ ◦ 関数の自動呼び出し ◦ ◦ ◦ テレメトリログを開く ◦ △ × フックとフィルター ◦ ◦ ◦
どんな機能が使えるんだっけ(AIサービス) サービス C# Python Java 備考 テキストの生成 ◦ ◦ ◦
チャット入力候補 ◦ ◦ ◦ GPT-4 テキスト埋め込み ◦ ◦ ◦ Text-Embeddings テキストから画像へ ◦ × × Dall-E 画像からテキストへ ◦ × × テキストから音声へ ◦ × × 音声からテキストへ ◦ × × Whisper
どんな機能が使えるんだっけ (AIサービスエンドポイント) サービス C# Python Java 備考 OpenAI ◦ ◦
◦ Azure OpenAI ◦ ◦ ◦ Ollama, LLM Studio.. ◦ ◦ ◦ Hugging Face Inference API △ × ×
どんな機能が使えるんだっけ (Memory Connectors) サービス C# Python Java 備考 Azure AI
Search ◦ ◦ ◦ Chroma ◦ ◦ × DuckDB ◦ × × Milvus △ ◦ × Pinecone ◦ ◦ × Postgres ◦ ◦ × Qdrant ◦ △ × Redis ◦ △ × Sqlite ◦ × △ Weaviate ◦ ◦ ×
Microsoft Learnを見てみる時間
参考文献 • Microsoft/semantic-kernel https://github.com/microsoft/semantic- kernel/tree/main • セマンティック カーネルの概要 https://learn.microsoft.com/ja-jp/semantic- kernel/overview/?WT.mc_id=DT-MVP-5004827
• Semantic Kernel Discord コミュニティ https://aka.ms/sk/discord
おしまい おしまい