Azure AI ことはじめ

Slide 1

Slide 1 text

Slide 2

Slide 2 text

#LLM_FK 松村優大 (MLBお兄さん) Currently working for © 2024 Yuta Matsumura. 株式会社オルターブース (Chief Technical Architect) Microsoft MVP for Developer Technologies Microsoft Top Partner Engineer Award GitHub 公認トレーナー C#, PHP, Azure, GitHub が好き #fukuten #devblogradio の中の人 X: @tsubakimoto_s

Slide 3

Slide 3 text

Slide 4

Slide 4 text

Slide 5

Slide 5 text

#LLM_FK © 2024 Yuta Matsumura. オンプレミスネットワークストレージサーバー仮想化 OS ミドルウェアランタイムデータアプリケーションユーザー管理 IaaS ネットワークストレージサーバー仮想化 OS ミドルウェアランタイムデータアプリケーションユーザー管理ベンダー管理 PaaS ネットワークストレージサーバー仮想化 OS ミドルウェアランタイムデータアプリケーションユーザー管理ベンダー管理 SaaS ネットワークストレージサーバー仮想化 OS ミドルウェアランタイムデータアプリケーションベンダー管理

Slide 6

Slide 6 text

Slide 7

Slide 7 text

Slide 8

Slide 8 text

#LLM_FK 責任ある AI 公平性 (Fairness) AI システムは、すべての人を公平に扱う必要があります。信頼性と安全性 (Reliability and safety) AI システムは、確実かつ安全に実行するべきです。プライバシーとセキュリティ (Privacy and security) AI システムはセキュリティで保護され、プライバシーを尊重するべきです。包括性 (Inclusiveness) AI システムは、すべての人に力を与え、人々を引き付けるべきです。透明性 (Transparency) AI システムは理解可能であるべきです。説明責任 (Accountability) 人は AI システムに対して責任を負べきです。 © 2024 Yuta Matsumura. 倫理原則としてユーザーも意識しよう責任ある AI の原則とアプローチ | Microsoft AI

Slide 9

Slide 9 text

Slide 10

Slide 10 text

Slide 11

Slide 11 text

Slide 12

Slide 12 text

#LLM_FK Azure OpenAI Service OpenAI 社が提供する LLM を Azure 上で利用できる © 2024 Yuta Matsumura. モデル東日本リージョン特徴 GPT-4o (米国東部など) マルチモーダル GPT-4 Turbo (米国東部など) マルチモーダル GPT-4 Vision (Preview) GPT-3.5 (0613, 16k 0613) Embeddings DALL-E (米国東部など) プロンプトから画像を作成 Whisper (米国東部など) 音声をテキストに変換 Text to Speech (Preview) (米国中北部など) テキストの読み上げ

Slide 13

Slide 13 text

Slide 14

Slide 14 text

Slide 15

Slide 15 text

#LLM_FK Azure AI Content Safety アプリケーションやサービス内の有害なユーザー生成コンテンツや AI 生成コンテンツを検出できる © 2024 Yuta Matsumura. 種類機能プロンプトシールド ★ 大規模言語モデルに対するユーザー入力攻撃のリスクがないか、テキストをスキャンします。グラウンデッドネス検出 ★ 大規模言語モデル (LLM) のテキスト応答が、ユーザーが提供するソース資料に基づいているかどうかを検出します。保護対象テキストの検出 ★ 既知のテキストコンテンツ (曲の歌詞、記事、レシピ、一部の Web コンテンツなど) がないか、AI によって生成されたテキストをスキャンします。カスタムカテゴリ API ★ 新たな有害コンテンツパターンを定義し、テキストと画像をスキャンして一致を確認できます。テキスト分析 API 性的コンテンツ、暴力、憎悪、自傷行為に関するテキストを複数の重大度レベルでスキャンします。画像分析 API 性的コンテンツ、暴力、憎悪、自傷行為に関する画像を複数の重大度レベルでスキャンします。 ★：プレビュー

Slide 16

Slide 16 text

Slide 17

Slide 17 text

Slide 18

Slide 18 text

Slide 19

Slide 19 text

Slide 20

Slide 20 text

Slide 21

Slide 21 text

Slide 22

Slide 22 text

Slide 23

Slide 23 text

Slide 24

Slide 24 text

Slide 25

Slide 25 text

Slide 26

Slide 26 text

Slide 27

Slide 27 text

#LLM_FK 選択可能なモデル • OpenAI • Phi-3 • Meta • Mistral AI • Cohere (検索拡張生成機能のための LLM) • Hugging Face (モデル公開のためのプラットフォーム) • Stability AI • Core42 (アラビア語の LLM) • Nixtla (時系列分析のための LLM) © 2024 Yuta Matsumura. LLM SLM LLM LLM LLM LLM LLM LLM LLM