Tweet
Tweet

Slide 1

Slide 1 text

個人的に注目したMicrosoftとGitHubのアップデート情報！ 1 Kento.Yamada （@ymd65536）

Slide 2

Slide 2 text

● 自己紹介 ● PR ● 注目のアップデート（Microsoft関連：およそN分） ● 注目のアップデート（GitHub関連：およそN分） ● デモ ● まとめ ※注目といっても、個人的に注目しているサービスを説明していく感じです。 アジェンダ 2

Slide 3

Slide 3 text

自己紹介 3 Kento.Yamada 経歴 ● 2022年10月～現在 虎ノ門のCIer ○ Multi Cloud Developer ● （2016年～2022年9月）某通信キャリアの子会社 ○ ITスペシャリスト github,zenn,Qiita,X（旧Twitter）,＠ymd65536

Slide 4

Slide 4 text

PR 4 2022/8/31 発売 2023/9/2 発売 Amazon ベストセラー獲得

Slide 5

Slide 5 text

注目のアップデート 5

Slide 6

Slide 6 text

注目のアップデート（Microsoft） ● AI関連 ○ Azure AI Studio（実際に触ってみた ■ Models-as-a-Service（MaaS） ■ Azure AI SDK/CLI ○ Azure AI Search ○ GPT関連 ● データ関連 ○ Azure Native ISV Services ○ Microsoft Fabric ● 開発 ○ Azure Deployment Environments 6

Slide 7

Slide 7 text

Azure AI Studio 簡単に説明するとAzureのAIをまとめて扱えるサービス Azure AI Studio の概要 (プレビュー) - Training | Microsoft Learn ※Prompt flowはパブリックプレビュー 触ってみた所感： Google CloudだとGenerative AI Studio AWSだとSagemaker CanvasもしくはSagemaker Studioを思い出させるような手触りだっ た。 7

Slide 8

Slide 8 text

8 起動時に表示される（プレビューなのでいまだけ

Slide 9

Slide 9 text

9 Azure AI Studio 起動画面

Slide 10

Slide 10 text

10 Azure AI StudioのExplore

Slide 11

Slide 11 text

11 Explore prebuilt and custom model options by capabilities type

Slide 12

Slide 12 text

12 Start with a model

Slide 13

Slide 13 text

補足：Models-as-a-Service（MaaS） ● LLMをカタログから選択してAzureで試せる！ ● 従量課金の料金体系でファインチューニングに対応！ ● サーバレスにそしてマネージドでAIを利用できる！ ちなみになぜ、Llama推しなのかという理由については下記の通り 13 参考： https://techcommunity.microsoft.com/t5/ai-machine-learning-blog/announcing-llama-2-inference-apis-and-hosted-fine-tuning-through/ba-p/3979227 Meta社とのパートナーシップを拡大し、Llama 2をAzure AI StudioのMaaSを通じて大規模言語モデルの最初 のファミリーとして提供

Slide 14

Slide 14 text

14 Start with code

Slide 15

Slide 15 text

15 よくみるとSDKとCLIがある！？

Slide 16

Slide 16 text

補足：Azure AI SDKとは 公式によると Azure AI SDK は、Azure OpenAI や Speech などの Azure AI サービスへのアクセスを提 供するパッケージファミリです。 16 参考：https://learn.microsoft.com/ja-jp/azure/ai-studio/how-to/sdk-install

Slide 17

Slide 17 text

補足：Azure AI CLIとは 公式によると Azure AI コマンド ライン インターフェイス (CLI) は、Azure AI サービスに接続し、コードを記 述することなくコントロール プレーンとデータ プレーンの操作を実行するためのクロスプラッ トフォームのコマンド ライン ツールです。 17 参考：https://learn.microsoft.com/ja-jp/azure/ai-studio/how-to/cli-install

Slide 18

Slide 18 text

18 Try out featured capabilities

Slide 19

Slide 19 text

19 Responsible use of AI

Slide 20

Slide 20 text

20 We are committed to the advancement of AI driven by ethical principles that put people first. We offer guidance for responsible use of these capabilities based on Microsoft AI's principles of fairness, reliability and safety, privacy and security, inclusiveness, transparency, and human accountability. Responsible use of AI with Azure AI Microsoft's AI principles Responsible use of AI

Slide 21

Slide 21 text

21 私たちは、人々を第一に考える倫理的原則に基づき、AIの発展に尽力しています。私たち は、Microsoft AIの原則である公平性、信頼性と安全性、プライバシーとセキュリティ、包括 性、透明性、および人間の説明責任に基づいて、これらの機能を責任を持って使用するた めのガイダンスを提供します。 Azure AIによるAIの責任ある利用 マイクロソフトのAIの原則 責任あるAIの利用

Slide 22

Slide 22 text

22 Microsoft が定める責任ある AI の基本原則のこと 6 つの基本原則 1. アカウンタビリティ 2. 包括性 3. 信頼性と安全性 4. 公平性 5. 透明性 6. プライバシーとセキュリティ 補足：マイクロソフトのAIの原則とは 引用： 責任ある信頼された AI - Cloud Adoption Framework | Microsoft Learn

Slide 23

Slide 23 text

23 Azure AI StudioのManage

Slide 24

Slide 24 text

24 Azure AI StudioのManage

Slide 25

Slide 25 text

25 Azure AIのリソース 位置関係を可視化してみる Azure AI Azure AI Service Azure AI Project KeyVault EndPoint Resource Group

Slide 26

Slide 26 text

26 Azure AIのリソース 位置関係を可視化してみる Azure AI Azure AI Service Azure AI Project KeyVault EndPoint Resource Group

Slide 27

Slide 27 text

27 ワークスペースを削除すると、一時的に '論理 的な削除' の状態になります。これにより、意 図せずに削除されたワークスペース データを 復旧できます。ワークスペース データの削除 は、お客様によってワークスペースが完全に 削除されるまでの期間、または論理的に削除 されたデータ保有期間の 14 日間が経過する まで延期されます。論理的な削除の動作を オーバーライドし、ワークスペースをすぐに完 全に削除できます。詳細情報 Azure AI Service の削除

Slide 28

Slide 28 text

28 最初にAzure AI Projectを消さないと完全に削除はできない。 Azure AI Serviceの削除

Slide 29

Slide 29 text

29 Azure AI Project なのにワークスペースの削除になっている このあと削除されたリソースを確認した。削除されたのはProjectでした。

Slide 30

Slide 30 text

30 Azure AIのリソース 位置関係を可視化してみる Azure AI Azure AI Service Azure AI Project KeyVault EndPoint Resource Group

Slide 31

Slide 31 text

31 Azure AI Serviceを削除してもAzure AIは残るが。。。

Slide 32

Slide 32 text

32 Azure AI Serviceを削除してもAzure AIは残るが。。。 APIキーとエンドポイントが消失する。Azure AI Serviceが担保しているみたい。 Show keysをクリックしても APIキーは表示されない。

Slide 33

Slide 33 text

33 Azure AIのリソース すべて削除 Azure AI Azure AI Service Azure AI Project KeyVault EndPoint Resource Group

Slide 34

Slide 34 text

34 参考：Azure AIを削除した時のKeyValutの状態

Slide 35

Slide 35 text

Azure AI Search ● 旧Cognitive Searchのこと ● Portalで「Cognitive Search」と検索するとAzure AI servicesの「AI Search」がヒットす る 35

Slide 36

Slide 36 text

Azure AI Search ● 旧Cognitive Searchのこと ● Portalで「Cognitive Search」と検索するとAzure AI servicesの「AI Search」がヒットす る 36 ここで、ちょっとだけ名前を整理しておきたい

Slide 37

Slide 37 text

Azure AI Searchのブランド名について整理 ● 2019年10月 Azure SearchからAzure Cognitive Searchに変更 ● 2023年10月 Azure Cognitive SearchからAzure AI Search 37 https://learn.microsoft.com/ja-jp/azure/search/whats-new#service-rebrand

Slide 38

Slide 38 text

GPT関連 主に以下のアップデートが発表された ● GPT-3.5 Turbo model with a 16k token prompt length ○ 比較的に長いプロンプトにも対応したので長い質問と回答が可能になった ● GPT-4 Turbo ● GPT-4 updates ○ ファインチューニングに対応しつつ、微調整が入って強くなった ● GPT-4 Turbo with Vision (GPT-4V) ○ Azure AI Visionと統合 38

Slide 39

Slide 39 text

Azure Native ISV Services Apache AirFlowがパブリックプレビュー Apache AirFlowを使うと異なるクラウドやオンプレミスでデータパイプラインを構築できる！ しかもそれがAzure Nativeでできる！ 個人的にどうみた？： Google CloudではCloudComposerと同じポジション AWSではAmazon Managed Workflows for Apache Airflowと同じポジション 39 参考： https://techcommunity.microsoft.com/t5/marketplace-blog-for-partners/announcing-the-public-preview-of-apache-airflow-on-astro-an/ba-p/3976003

Slide 40

Slide 40 text

Microsoft Fabric ● Amazon S3ショートカットがGA ● Copilot in Fabric（プレビュー） 個人的にどうみた？： Amazon S3ショートカットについては直接アクセスできるようになったとはいえ、データ取り 出しのコストに気を配らないと高額課金になってしまうかもしれない。 注意が必要 40 参考：https://learn.microsoft.com/ja-jp/fabric/onelake/create-s3-shortcut

Slide 41

Slide 41 text

Azure Deployment Environments ● Azure Developer CLIと統合 ※Azure Developer CLIのバージョンは1.5.0 簡単に説明すると組織内で使うインフラのテンプレート、azdのテンプレートをAzure Deployment Environmentsから使えるようになった！！ 41 引用 ：https://techcommunity.microsoft.com/t5/azure-developer-community-blog/azure-deployment-environments-optimizes-developer-experience-and/ba- p/3982306

Slide 42

Slide 42 text

注目のアップデート 42

Slide 43

Slide 43 text

注目のアップデート（GitHub） ● GitHub Copilot Enterprise ● GitHub Copilot Chat ● GitHub Copilot Partner Program ● GitHub Advanced Security ● GitHub Copilot Workspace ● GitHub Copilot in the CLI ● Switch account 43

Slide 44

Slide 44 text

GitHub Copilot Enterprise 2024年2月にGA予定、今のところ39ドル（User/Month） 組織内のリポジトリをコンテキストとして見てコーディングのアシスタントをしてくれるアップ デートが発表された。 https://github.com/github-copilot/fine_tuning_waitlist_signup/join 44

Slide 45

Slide 45 text

GitHub Copilot Chat 対話形式でコード生成ができるのが特徴のサービス 2023年12月に既存のGitHub Copilotプランの一部としてGA予定 （organizationおよび個人ユーザーに対して一般提供） ● JetBrainsへのCopilot Chatの導入 ● GPT-4を使うようにアップデート 45 参考： https://github.blog/jp/2023-11-09-universe-2023-copilot-transforms-github-into-the-ai-powe red-developer-platform/

Slide 46

Slide 46 text

補足：GitHub Copilot ChatをGitHubに組み込む！？ GitHub.comとモバイルアプリケーションに実装予定 例えば、スマートフォンに話しかけるだけでGitHub上のソースコードについて 質問できる！ 46 引用： https://github.blog/jp/2023-11-09-universe-2023-copilot-transforms-github-into-the-ai-powe red-developer-platform/

Slide 47

Slide 47 text

GitHub Copilot Partner Program 47 「GitHubのエコシステムにいろんなサービスを統合してくよ」という話 GitHubのエコシステムにサービスが取り込まれるとどうなるの？ 結論：さまざまなサービスと連携してCopilotが動作する 余談： GoogleではDuet AI（実態はVertexAIのAPI）というサービスで 自社のサービスにAIの導入を実現しています。

Slide 48

Slide 48 text

48 25社以上の企業と連携！見覚えのある企業がある！！？ 参考 ：https://github.blog/2023-11-08-universe-2023-copilot-transforms-github-into-the-ai-powered-developer-platform/

Slide 49

Slide 49 text

GitHub Advanced Security 簡単に説明するとセキュアコーディングを支援してくれる機能。。。。 なんだけども アップデートでとてもすごいセキュアコーディングを支援してくれる機能に化けた OpenSSFとGoogleが提唱する「SLSA（サルサ）」を実現するGitHubの機能 49

Slide 50

Slide 50 text

補足：OpenSSF ガイドによると ちなみにOpenSSF ガイドには 「ソースコード管理のベストプラクティス」があります。 その「4.4 リポジトリ」には下記のような記述があります。 50 参考：https://www.linuxfoundation.jp/scm-bestpractices-jp/ →ベストプラクティスにも名前があるサービス！

Slide 51

Slide 51 text

51 今までの役割：CodeQLを使ってコードをスキャン脆弱な部分を見つける。 →適用まで出すようになった！？しかもそれがLLMベース なお、プレビュー版 Code Scanning (Code scanning autofix) 公式ブログ ：https://github.blog/jp/2023-11-09-universe-2023-copilot-transforms-github-into-the-ai-pow ered-developer-platform/ https://github.blog/jp/2023-11-17-ai-powered-appsec/

Slide 52

Slide 52 text

52 AIによるカスタムされたシークレットスキャンができるようになりました。 Secret Scanning 公式ブログ ：https://github.blog/jp/2023-11-09-universe-2023-copilot-transforms-github-into-the-ai-pow ered-developer-platform/

Slide 53

Slide 53 text

GitHub Copilot Workspace 簡単に説明するとissueを書くとCopilotがいろいろやってくれる。（語彙力） ● Issueに対応した仕様を作成 ● 実装計画を表示 ● コーディングや既存のコードの修正 ○ ビルドをしてエラーがあれば修正 53 「お前はなにを言っているんだ？」と思いました？これ本当のことです。 参考：https://githubnext.com/projects/copilot-workspace/

Slide 54

Slide 54 text

54 簡単に説明するとGitHub Copilot とターミナルで対話できるツールです！ GitHub Copilot in the CLI

Slide 55

Slide 55 text

55 gh copilot explainを使い、”ls -a” について質問してみると。。。 GitHub Copilot in the CLI

Slide 56

Slide 56 text

56 対話形式でGitHub Copilotに ”ls -a” について質問してみると。。。 GitHub Copilot in the CLI ls -a について説明してくれた！

Slide 57

Slide 57 text

57 GitHub Copilot in the CLI GitHub Copilotに 提案してもらうサブコマンド

Slide 58

Slide 58 text

58 GitHub Copilot in the CLI 作成したいシェルコマンドについて 質問を投げてみると。。。

Slide 59

Slide 59 text

59 GitHub Copilot in the CLI コマンドを教えてくれる！

Slide 60

Slide 60 text

60 GitHub Copilot in the CLI 質問が終わったら 次のアクションを入力できる！

Slide 61

Slide 61 text

Switch account 複数のアカウントを切り替えて利用できる！ 61 Multi-account support on GitHub.com 参考：複数のアカウントの管理 - GitHub Docs

Slide 62

Slide 62 text

まとめ わくわくするアップデートばかりだった！！ 62

Slide 63

Slide 63 text

デモ：GitHub Copilot in the CLI 63

Slide 64

Slide 64 text

そういえば！ 64

Slide 65

Slide 65 text

Azure AI services(旧 Azure Cognitive Services)といえば。。。 最近誕生を迎えたあの人が記事を書いていましたね！！ 65 こんな話も：https://x.com/chomado/status/1071637373786570752?s=20 Microsoft の AI サービス Cognitive Services を使った OCR アプリ (Python, Flask) を git push トリガーで自動で Azure にデプロイするハンズオン

Slide 66

Slide 66 text

参考リンク 66

Slide 67

Slide 67 text

参考リンク ● Apache ワークフロー管理 - Amazon MWAA - アマゾン ウェブ サービス ● Apache Airflow で Databricks ジョブをオーケストレーション ● パートナー サービス - Azure Native ISV Services | Microsoft Learn ● Run an Azure Data Explorer query with Airflow | Astronomer Documentation ● Announcing public preview of Apache Airflow on Astro - An Azure Native ISV Service ● Universe 2023: Copilot transforms GitHub into the AI-powered developer platform ● GitHub Copilot in the CLI now in public beta ● Azure AI Studio でのプロンプト フロー 67

Slide 68

Slide 68 text

NGスライド集 68

Slide 69

Slide 69 text

Azure AI Searchを開く 69 Azure AI servicesのAI Searchから選択する。

Slide 70

Slide 70 text

Azure AI Searchのスケールを設定する 70 推奨要件のようなチェックマークを満たそうとすると 月額$749！ レプリカ1つなら月額$249 ※推定なので実際どうなのかはわからない。 価格レベルはStandard

Slide 71

Slide 71 text

Azure AI Search ネットワークを作成する 71 公開とプライベートのどちらか

Slide 72

Slide 72 text

使用量の可視化ができるのは知らなかった 72