個人的に注目したMicrosoftとGitHubのアップデート情報

2023年11月28日 第45回 Tokyo Jazug Nightの登壇資料です。
https://jazug.connpass.com/event/297641/

発表で公開したGitHub Copilot in the CLIのデモ映像はYouTubeで公開しています。
https://youtu.be/BCYK1s6x2zw?feature=shared

書籍のリンク
CodeシリーズでハッピーなCI/CDを構築しよう【AWSハンズオン虎の巻シリーズ】: 知識がなくても手を動かしながらCI/CDをAWS上に実装できる一冊！ Kindle版
https://amzn.asia/d/16cRw4P

AWS認定資格 ソリューションアーキテクトアソシエイトの教科書: 合格へ導く虎の巻 Kindle版
https://www.amazon.co.jp/dp/B0BCPNZ9GJ/ref=cm_sw_r_tw_dp_W6F2DZMND41R6CN1J412

Transcript

1. 個人的に注目したMicrosoftとGitHubのアップデート情報！ 1 Kento.Yamada （@ymd65536）
2. • 自己紹介 • PR • 注目のアップデート（Microsoft関連：およそN分） • 注目のアップデート（GitHub関連：およそN分） • デモ • まとめ ※注目といっても、個人的に注目しているサービスを説明していく感じです。 アジェンダ 2
3. 自己紹介 3 Kento.Yamada 経歴 • 2022年10月～現在 虎ノ門のCIer ◦ Multi Cloud Developer • （2016年～2022年9月）某通信キャリアの子会社 ◦ ITスペシャリスト github,zenn,Qiita,X（旧Twitter）,＠ymd65536
4. PR 4 2022/8/31 発売 2023/9/2 発売 Amazon ベストセラー獲得
5. 注目のアップデート 5
6. 注目のアップデート（Microsoft） • AI関連 ◦ Azure AI Studio（実際に触ってみた ▪ Models-as-a-Service（MaaS） ▪ Azure AI SDK/CLI ◦ Azure AI Search ◦ GPT関連 • データ関連 ◦ Azure Native ISV Services ◦ Microsoft Fabric • 開発 ◦ Azure Deployment Environments 6
7. Azure AI Studio 簡単に説明するとAzureのAIをまとめて扱えるサービス Azure AI Studio の概要 (プレビュー) - Training | Microsoft Learn ※Prompt flowはパブリックプレビュー 触ってみた所感： Google CloudだとGenerative AI Studio AWSだとSagemaker CanvasもしくはSagemaker Studioを思い出させるような手触りだっ た。 7
8. 8 起動時に表示される（プレビューなのでいまだけ
9. 9 Azure AI Studio 起動画面
10. 10 Azure AI StudioのExplore
11. 11 Explore prebuilt and custom model options by capabilities type
12. 12 Start with a model
13. 補足：Models-as-a-Service（MaaS） • LLMをカタログから選択してAzureで試せる！ • 従量課金の料金体系でファインチューニングに対応！ • サーバレスにそしてマネージドでAIを利用できる！ ちなみになぜ、Llama推しなのかという理由については下記の通り 13 参考： https://techcommunity.microsoft.com/t5/ai-machine-learning-blog/announcing-llama-2-inference-apis-and-hosted-fine-tuning-through/ba-p/3979227 Meta社とのパートナーシップを拡大し、Llama 2をAzure AI StudioのMaaSを通じて大規模言語モデルの最初 のファミリーとして提供
14. 14 Start with code
15. 15 よくみるとSDKとCLIがある！？
16. 補足：Azure AI SDKとは 公式によると Azure AI SDK は、Azure OpenAI や Speech などの Azure AI サービスへのアクセスを提 供するパッケージファミリです。 16 参考：https://learn.microsoft.com/ja-jp/azure/ai-studio/how-to/sdk-install
17. 補足：Azure AI CLIとは 公式によると Azure AI コマンド ライン インターフェイス (CLI) は、Azure AI サービスに接続し、コードを記 述することなくコントロール プレーンとデータ プレーンの操作を実行するためのクロスプラッ トフォームのコマンド ライン ツールです。 17 参考：https://learn.microsoft.com/ja-jp/azure/ai-studio/how-to/cli-install
18. 18 Try out featured capabilities
19. 19 Responsible use of AI
20. 20 We are committed to the advancement of AI driven by ethical principles that put people first. We offer guidance for responsible use of these capabilities based on Microsoft AI's principles of fairness, reliability and safety, privacy and security, inclusiveness, transparency, and human accountability. Responsible use of AI with Azure AI Microsoft's AI principles Responsible use of AI
21. 21 私たちは、人々を第一に考える倫理的原則に基づき、AIの発展に尽力しています。私たち は、Microsoft AIの原則である公平性、信頼性と安全性、プライバシーとセキュリティ、包括 性、透明性、および人間の説明責任に基づいて、これらの機能を責任を持って使用するた めのガイダンスを提供します。 Azure AIによるAIの責任ある利用 マイクロソフトのAIの原則 責任あるAIの利用
22. 22 Microsoft が定める責任ある AI の基本原則のこと 6 つの基本原則 1. アカウンタビリティ 2. 包括性 3. 信頼性と安全性 4. 公平性 5. 透明性 6. プライバシーとセキュリティ 補足：マイクロソフトのAIの原則とは 引用： 責任ある信頼された AI - Cloud Adoption Framework | Microsoft Learn
23. 23 Azure AI StudioのManage
24. 24 Azure AI StudioのManage
25. 25 Azure AIのリソース 位置関係を可視化してみる Azure AI Azure AI Service Azure AI Project KeyVault EndPoint Resource Group
26. 26 Azure AIのリソース 位置関係を可視化してみる Azure AI Azure AI Service Azure AI Project KeyVault EndPoint Resource Group
27. 27 ワークスペースを削除すると、一時的に '論理 的な削除' の状態になります。これにより、意 図せずに削除されたワークスペース データを 復旧できます。ワークスペース データの削除 は、お客様によってワークスペースが完全に 削除されるまでの期間、または論理的に削除 されたデータ保有期間の 14 日間が経過する まで延期されます。論理的な削除の動作を オーバーライドし、ワークスペースをすぐに完 全に削除できます。詳細情報 Azure AI Service の削除
28. 28 最初にAzure AI Projectを消さないと完全に削除はできない。 Azure AI Serviceの削除
29. 29 Azure AI Project なのにワークスペースの削除になっている このあと削除されたリソースを確認した。削除されたのはProjectでした。
30. 30 Azure AIのリソース 位置関係を可視化してみる Azure AI Azure AI Service Azure AI Project KeyVault EndPoint Resource Group
31. 31 Azure AI Serviceを削除してもAzure AIは残るが。。。
32. 32 Azure AI Serviceを削除してもAzure AIは残るが。。。 APIキーとエンドポイントが消失する。Azure AI Serviceが担保しているみたい。 Show keysをクリックしても APIキーは表示されない。
33. 33 Azure AIのリソース すべて削除 Azure AI Azure AI Service Azure AI Project KeyVault EndPoint Resource Group
34. 34 参考：Azure AIを削除した時のKeyValutの状態
35. Azure AI Search • 旧Cognitive Searchのこと • Portalで「Cognitive Search」と検索するとAzure AI servicesの「AI Search」がヒットす る 35
36. Azure AI Search • 旧Cognitive Searchのこと • Portalで「Cognitive Search」と検索するとAzure AI servicesの「AI Search」がヒットす る 36 ここで、ちょっとだけ名前を整理しておきたい
37. Azure AI Searchのブランド名について整理 • 2019年10月 Azure SearchからAzure Cognitive Searchに変更 • 2023年10月 Azure Cognitive SearchからAzure AI Search 37 https://learn.microsoft.com/ja-jp/azure/search/whats-new#service-rebrand
38. GPT関連 主に以下のアップデートが発表された • GPT-3.5 Turbo model with a 16k token prompt length ◦ 比較的に長いプロンプトにも対応したので長い質問と回答が可能になった • GPT-4 Turbo • GPT-4 updates ◦ ファインチューニングに対応しつつ、微調整が入って強くなった • GPT-4 Turbo with Vision (GPT-4V) ◦ Azure AI Visionと統合 38
39. Azure Native ISV Services Apache AirFlowがパブリックプレビュー Apache AirFlowを使うと異なるクラウドやオンプレミスでデータパイプラインを構築できる！ しかもそれがAzure Nativeでできる！ 個人的にどうみた？： Google CloudではCloudComposerと同じポジション AWSではAmazon Managed Workflows for Apache Airflowと同じポジション 39 参考： https://techcommunity.microsoft.com/t5/marketplace-blog-for-partners/announcing-the-public-preview-of-apache-airflow-on-astro-an/ba-p/3976003
40. Microsoft Fabric • Amazon S3ショートカットがGA • Copilot in Fabric（プレビュー） 個人的にどうみた？： Amazon S3ショートカットについては直接アクセスできるようになったとはいえ、データ取り 出しのコストに気を配らないと高額課金になってしまうかもしれない。 注意が必要 40 参考：https://learn.microsoft.com/ja-jp/fabric/onelake/create-s3-shortcut
41. Azure Deployment Environments • Azure Developer CLIと統合 ※Azure Developer CLIのバージョンは1.5.0 簡単に説明すると組織内で使うインフラのテンプレート、azdのテンプレートをAzure Deployment Environmentsから使えるようになった！！ 41 引用 ：https://techcommunity.microsoft.com/t5/azure-developer-community-blog/azure-deployment-environments-optimizes-developer-experience-and/ba- p/3982306
42. 注目のアップデート 42
43. 注目のアップデート（GitHub） • GitHub Copilot Enterprise • GitHub Copilot Chat • GitHub Copilot Partner Program • GitHub Advanced Security • GitHub Copilot Workspace • GitHub Copilot in the CLI • Switch account 43
44. GitHub Copilot Enterprise 2024年2月にGA予定、今のところ39ドル（User/Month） 組織内のリポジトリをコンテキストとして見てコーディングのアシスタントをしてくれるアップ デートが発表された。 https://github.com/github-copilot/fine_tuning_waitlist_signup/join 44
45. GitHub Copilot Chat 対話形式でコード生成ができるのが特徴のサービス 2023年12月に既存のGitHub Copilotプランの一部としてGA予定 （organizationおよび個人ユーザーに対して一般提供） • JetBrainsへのCopilot Chatの導入 • GPT-4を使うようにアップデート 45 参考： https://github.blog/jp/2023-11-09-universe-2023-copilot-transforms-github-into-the-ai-powe red-developer-platform/
46. 補足：GitHub Copilot ChatをGitHubに組み込む！？ GitHub.comとモバイルアプリケーションに実装予定 例えば、スマートフォンに話しかけるだけでGitHub上のソースコードについて 質問できる！ 46 引用： https://github.blog/jp/2023-11-09-universe-2023-copilot-transforms-github-into-the-ai-powe red-developer-platform/
47. GitHub Copilot Partner Program 47 「GitHubのエコシステムにいろんなサービスを統合してくよ」という話 GitHubのエコシステムにサービスが取り込まれるとどうなるの？ 結論：さまざまなサービスと連携してCopilotが動作する 余談： GoogleではDuet AI（実態はVertexAIのAPI）というサービスで 自社のサービスにAIの導入を実現しています。
48. 48 25社以上の企業と連携！見覚えのある企業がある！！？ 参考 ：https://github.blog/2023-11-08-universe-2023-copilot-transforms-github-into-the-ai-powered-developer-platform/
49. GitHub Advanced Security 簡単に説明するとセキュアコーディングを支援してくれる機能。。。。 なんだけども アップデートでとてもすごいセキュアコーディングを支援してくれる機能に化けた OpenSSFとGoogleが提唱する「SLSA（サルサ）」を実現するGitHubの機能 49
50. 補足：OpenSSF ガイドによると ちなみにOpenSSF ガイドには 「ソースコード管理のベストプラクティス」があります。 その「4.4 リポジトリ」には下記のような記述があります。 50 参考：https://www.linuxfoundation.jp/scm-bestpractices-jp/ →ベストプラクティスにも名前があるサービス！
51. 51 今までの役割：CodeQLを使ってコードをスキャン脆弱な部分を見つける。 →適用まで出すようになった！？しかもそれがLLMベース なお、プレビュー版 Code Scanning (Code scanning autofix) 公式ブログ ：https://github.blog/jp/2023-11-09-universe-2023-copilot-transforms-github-into-the-ai-pow ered-developer-platform/ https://github.blog/jp/2023-11-17-ai-powered-appsec/
52. 52 AIによるカスタムされたシークレットスキャンができるようになりました。 Secret Scanning 公式ブログ ：https://github.blog/jp/2023-11-09-universe-2023-copilot-transforms-github-into-the-ai-pow ered-developer-platform/
53. GitHub Copilot Workspace 簡単に説明するとissueを書くとCopilotがいろいろやってくれる。（語彙力） • Issueに対応した仕様を作成 • 実装計画を表示 • コーディングや既存のコードの修正 ◦ ビルドをしてエラーがあれば修正 53 「お前はなにを言っているんだ？」と思いました？これ本当のことです。 参考：https://githubnext.com/projects/copilot-workspace/
54. 54 簡単に説明するとGitHub Copilot とターミナルで対話できるツールです！ GitHub Copilot in the CLI
55. 55 gh copilot explainを使い、”ls -a” について質問してみると。。。 GitHub Copilot in the CLI
56. 56 対話形式でGitHub Copilotに ”ls -a” について質問してみると。。。 GitHub Copilot in the CLI ls -a について説明してくれた！
57. 57 GitHub Copilot in the CLI GitHub Copilotに 提案してもらうサブコマンド
58. 58 GitHub Copilot in the CLI 作成したいシェルコマンドについて 質問を投げてみると。。。
59. 59 GitHub Copilot in the CLI コマンドを教えてくれる！
60. 60 GitHub Copilot in the CLI 質問が終わったら 次のアクションを入力できる！
61. Switch account 複数のアカウントを切り替えて利用できる！ 61 Multi-account support on GitHub.com 参考：複数のアカウントの管理 - GitHub Docs
62. まとめ わくわくするアップデートばかりだった！！ 62
63. デモ：GitHub Copilot in the CLI 63
64. そういえば！ 64
65. Azure AI services(旧 Azure Cognitive Services)といえば。。。 最近誕生を迎えたあの人が記事を書いていましたね！！ 65 こんな話も：https://x.com/chomado/status/1071637373786570752?s=20 Microsoft の AI サービス Cognitive Services を使った OCR アプリ (Python, Flask) を git push トリガーで自動で Azure にデプロイするハンズオン
66. 参考リンク 66
67. 参考リンク • Apache ワークフロー管理 - Amazon MWAA - アマゾン ウェブ サービス • Apache Airflow で Databricks ジョブをオーケストレーション • パートナー サービス - Azure Native ISV Services | Microsoft Learn • Run an Azure Data Explorer query with Airflow | Astronomer Documentation • Announcing public preview of Apache Airflow on Astro - An Azure Native ISV Service • Universe 2023: Copilot transforms GitHub into the AI-powered developer platform • GitHub Copilot in the CLI now in public beta • Azure AI Studio でのプロンプト フロー 67
68. NGスライド集 68
69. Azure AI Searchを開く 69 Azure AI servicesのAI Searchから選択する。
70. Azure AI Searchのスケールを設定する 70 推奨要件のようなチェックマークを満たそうとすると 月額$749！ レプリカ1つなら月額$249 ※推定なので実際どうなのかはわからない。 価格レベルはStandard
71. Azure AI Search ネットワークを作成する 71 公開とプライベートのどちらか
72. 使用量の可視化ができるのは知らなかった 72