Azure OpenAI Service 概要資料 https://aka.ms/mfs_discord https://aka.ms/daka_linkedin https://aka.ms/daka_x https://aka.ms/daka_qiita

アジェンダ 生成AIの紹介、Microsoft Copilotエコシステム、 Azure AIポートフォリオ、責任あるAIへの取り組み、およ びデータ保護 生成AIのトップユースケース、産業のハイライト、および顧 客からの高い要望があるシナリオを含む • 舞台裏では何が起こっているのか？Azure OpenAI Serviceとその最先端のモデル、機能、および他の Azure AIとのソリューションの概要 Azure OpenAI Service が他のAzure AI Serviceと統 合された、選択されたユースケースやシナリオを紹介する アーキテクチャ図 Where we are Today Use Cases Models & Capabilities Sample Architecture 幅広いユースケースと企業タイプを特集した、公開されて いるAzure OpenAI Serviceの顧客事例 Customer Inspiration

生成AIの変遷と今後 Artificial Intelligence Machine Learning Deep Learning Generative AI 1956 Artificial Intelligence 人間の知能を模倣、または超えることができるインテリジェントなマシンを作 成しようとするコンピュータ科学の分野が発展 1997 Machine Learning AIの一部分として既存のデータから学習し、そのデータを改善して意思決定 や予測を行うことを可能にする 2012 Deep Learning データを処理し、意思決定を行うためにニューラルネットワークの層を使用する 機械学習技術が注目される 2021 Generative AI 与えられたプロンプトや既存のデータを元に、新しい文章、視覚的、聴覚的 コンテンツを作成する

Microsoft and OpenAI partnership Ensure that artificial general intelligence (AGI) benefits humanity Empower every person and organization on the planet to achieve more Azure OpenAI Service – 2023年11月15日現在 GPT-4, GPT-4-Turbo, GPT-3.5-Turbo 言語 GPT-4-Turbo with Vision マルチモデル DALL·E 3 画像 Whisper 書き起こしと翻訳 Babbage, Davinci, GPT-3.5-Turbo ファインチューニング Azure AI Studio

New New Coming soon Coming soon Coming soon Ignite での発表 Azure AI Studio Copyright Commitment Improvements to Provisioned Throughput Units

Microsoft Q3 FY'23 Earnings Call Azure AIは、OpenAIの最先端モデルやオープンソースモデルにアクセスを提 供しており、それらには私たち自身のモデルやMeta、Hugging Faceのモデ ルが含まれています。顧客はそれらを使用して、特定のコスト、レイテンシ、パ フォーマンスのニーズに合わせた独自のAIアプリを構築できます。 私たちの全体的な差別化により、現在18,000以上の組織がAzure OpenAIサービスを使用しており、その中にはAzureに新しく参加した顧客も 含まれています。 また、OpenAIのAPIを通じてデジタルファースト企業とのリーチを拡大しており、 先進的なAIスタートアップがOpenAIを使用して自社のAIソリューションを強 化しているため、それらの企業もまたAzureの顧客となっています。 -Satya Nadella, Chairman & CEO aka.ms/earnings

We are inspired by our customers

Microsoft is powered by Azure AI Applications Partner Solutions Application Platform AI Builder Power BI Power Apps Power Automate Power Virtual Agents Scenario-Based Services Bot Service AI Search Document Intelligence Video Indexer Metrics Advisor Immersive Reader Customizable AI Models Vision Speech Language Decision Azure OpenAI Service ML Platform Azure Machine Learning

A copilot for every Microsoft Cloud experience Microsoft 365 Copilot あなたとCopilotとで、誰もがエ ンパワーされます。 Dynamics 365 Copilot すべての役割と機能のための専 門的な Copilot Copilot in Power Platform 想像したもの、説明したいもの、 Power Platformが Copilotとと もに構築します Microsoft Security Copilot Microsoft Security Copilotで マシンスピードで防御 Windows Copilot プラットフォーム上で最初の集中 型AIアシスタンス GitHub Copilot 開発者の生産性を高めて革新 を加速する

Apps Plugin extensibility Microsoft Copilots Your copilots AI orchestration Foundation models Your data AI infrastructure Microsoft Cloud Copilot Framework

Pre-built capabilities AI orchestration Model customization/tuning Azure OpenAI Speech Vision Language Translation Search Document Intelligence Multi-Modality Content Safety Prompt Flow Experiments Evaluation Semantic Kernel Lang Chain Models/APIs Plugins Open AI Models Microsoft Models Meta Models OSS Models GPT 3.5 GPT 4 ….. Turning Florence ….. Llma2 ….. Hugging Face ….. Azure AI Studio

Azure OpenAI Serviceを使用する際には 安心して利用できます Azure OpenAIサービスを使用する際には、あなたのプロンプト（入力）やコンプリーション（出力）、あなたの エンベディング、そしてあなたのトレーニングデータ 他の顧客に利用されません。 OpenAIに利用されません。 OpenAIのモデルを改善するために使用されません。 Microsoftや第三者の製品やサービスを改善するために使用されません。 あなたのリソースでの使用のためにAzure OpenAIモデルを自動的に改善するために使 用されません（モデルはステートレスですが、あなたのトレーニングデータを使って明示的に モデルをファインチューニングする場合を除きます）。 あなたがファインチューニングしたAzure OpenAIモデルは、あなた専用に利用可能です。 Azure OpenAIサービス はMicrosoftによって完 全に管理されており、 MicrosoftはOpenAIモ デルをMicrosoftの Azure環境でホストし、 サービスはOpenAIが運 営するいかなるサービス （例えば、ChatGPTや OpenAI APIなど）とも 交流しません。

Privacy & Security Inclusiveness Accountability Fairness Reliability & Safety Transparency Microsoft’s Responsible AI Principles 原則を実現するため の構築要素 Tools and processes Training and practices Rules Governance マイクロソフトの責任あるAI原則

Customer Copyright Commitment for Azure OpenAI Service Announcing 9月には、Microsoft Copilot製品の使用に関連する著作権クレームからすべての商業顧客を守るための新しいメリット であるCopilot著作権コミットメントを発表しました。Microsoftがそのコミットメントを拡大してAzure OpenAIサービスに も含めることを発表することに興奮しています。新しいメリットは「顧客著作権コミットメント」と呼ばれ、顧客が生成AIの 外部使用を加速する際の支援となるでしょう。新しいメリットを利用するためには、顧客は侵害する出力のリスクを軽減 するための技術的措置を実施する必要があり、MicrosoftはIgniteの間にこれらの措置を実施し、自信を持って構築す るための新しいドキュメントを公開することを嬉しく思います。

モデルと機能

DALL·E 3 GPT-3.5-Turbo GPT-4 様々な能力と用途を持つ生成テキストモデル 生成画像モデル Azure OpenAI Service Provisioned throughput units (PTUs) Functions and Plugins Deploy on your own data GPT-4-Turbo New: GPT-4 for Vision

GPT-4 複雑なドキュメントを生成 細かい指示で操縦する どんな言語でも、スラングや方言で指示し、注釈をつけ る テキスト生成の次のレベル改善 された整合性を実現

DALL·E 3 In Preview: Azure OpenAI Service DALL-E 3はテキストプロ ンプトから画像を生成で きる画像生成モデル

Use Cases for DALL·E 3 LOGO & BRANDING: QUICK CONCEPT GENERATION. CREATIVE INSPIRATION: OVERCOME DESIGN BLOCKS. CONTENT ILLUSTRATIONS: UNIQUE IMAGES FOR BLOGS/ARTICLES. AD CAMPAIGNS: VISUALIZE MARKETING CONCEPTS. PRODUCT VISUALIZATION: GAUGE INTEREST & FEEDBACK. EDUCATION: CUSTOM IMAGERY FOR COURSES. FASHION DESIGN: VISUALIZE CLOTHING PATTERNS. GAMING: CHARACTER & ENVIRONMENT CONCEPTS.

Announcing GPT-4 Turbo with Vision GPT-4-Turbo、Azure Open AIサービス、 およびAzure AIビジョン統合を使用して 新しいシナリオを解放する 検索拡張生成（RAG）パターンに画像 を追加する ビデオ、画像、テキストでプロンプトする Public preview

What GPT-4V Offers: GPT-4 with Vision（GPT-4V）は、OpenAIが開発したマルチモーダルモデルで、 画像とテキストの両方を入力として受け付け、テキスト出力を生成します。 注：GPT-4Vは画像出力を生成しません Text Prompt Image Desired Text Output

Whisper 書き起こし 翻訳 次のレベルの書き起こし と翻訳

Azure AI Studio ハイブリッド& セマンティック検索 •Retrieval Augmented Generation (RAG) •ベクトル検索 •セマンティック検索 完全な開発ライフサイ クル • Model Catalog • Prompt flow • LLMOps 安全で責任あるAI •コンテンツ分類 Classification •モニタリング •Jailbreakリスク検出 Explore, build, evaluate, and deploy AI responsibly 統一された プラットフォーム •マルチモーダル AIツール •コード中心型 開発者体験 データ統合 • 独自データの活用 • Microsoft Fabric 生成AIアプリとYour Copilot開発のための統一プラットフォーム

Classified as Microsoft Confidential OpenAI、Huggingface、Metaなどから の1400以上のモデル。 キュレーションされた微調整パイプラインで 準備が整ったオープンソースモデル。 ホストされたモデルは、クリック一つであな たのプロンプトフローに統合します。 オープンソースのデータセットを使用して、タ スクごとにモデルを比較します。 Model Catalog in Azure AI Studio

1 Azure AIコンテンツセーフティは、有害なコンテンツを4つのカテ ゴリーに分類します： Hate Sexual Self-harm Violence 2 次に、それぞれのカテゴリーに対して4つまたは8つの重大度レ ベルを返します： Hate: 0 – 2 – 4 – 6 or 0-1-2-3-4-5-6-7 Sexual: 0 – 2 – 4 – 6 or 0-1-2-3-4-5-6-7 Self-harm: 0 – 2 – 4 – 6 or 0-1-2-3-4-5-6-7 Violence: 0 – 2 – 4 – 6 or 0-1-2-3-4-5-6-7 3 その後、ユーザーは重大度レベルに基づいて行動を取ります： Auto allowed Auto rejected Send to human moderator Azure AI Content Safetyの紹介 Azure AIコンテンツセーフティは、オンライン空間をより安全にする ためにAIを使用しています。 • 最先端のAIモデルを使用して、憎悪的、暴力的、性的、自傷 的なコンテンツを検出し、重大度スコアを割り当てることで、企 業がコンテンツモデレーターがレビューする内容を優先順位付け できます。 • Azure AIコンテンツセーフティはニュアンスとコンテキストを理解 できるため、人間のコンテンツモデレーターチームの負担を軽減し ます。 • Azure AIコンテンツセーフティはワンサイズフィットオールではあり ません。企業が自社のポリシーを実施するのに役立つようカス タマイズすることができます。さらに、その多言語モデルは多くの 言語を同時に理解することができます。

App or Copilot agent Azure OpenAI Service データソース (search, files, databases, storage etc.) 追加の第三者データソース (files, databases, storage data etc.) Bring your own data

Retrieval Augmented Generation (RAG) ワークフローの構成 App UX Orchestrator 質問 Retriever over Knowledge Base Large Language Model 関連コンテンツの問 い合わせ 回答 検索結果 R プロンプト＋ナレッジ A 回答 G

構造化データと非構造化データの統合 Azure Data Lake (ADLS) Fabric OneLake S3 via OneLake shortcut Local files/folders Blob storage Azure AI Search

ユースケースと顧客事例

トップユースケースの紹介 ビジネス問題 生産性が低い プロセスの自動化の必要性 顧客体験の低下 コンテンツ作成に時間がかかる ビジネスニーズ 生産性の向上 プロセスを自動化する 顧客体験を向上させる クリエイティブなコンテンツを作 成する ソリューション • 会話型検索/知識洞察 • コード生成とドキュメンテー ション • トレンド予測 • 報告書の要約と生成 • ドキュメント処理 • ワークフロー管理 • 詐欺検出 • サプライチェーン最適化 • インテリジェントコンタクトセ ンター • エージェント/従業員アシスタ ンス • バーチャルアシスタンス • 通話分析 • 通話要約 • マーケティング/セールスコンテ ンツ生成 • パーソナライズされたコンテン ツ生成 • 製品設計・開発 • デジタルアート 生成AIは何が できるか？ 新たな収益源を生み出す 差別化された顧客体験を提供する 内部プロセスをモダナイズする

主要な能力とシナリオ 1.0 コンテンツ生成 要約 コード生成 セマンティック検索 高度な利用ユースケース 2.0 Telecommunications メディアワークフロー、クロスコンテンツリンキング、メディア 向けコンテンツ作成、スピーチアナリティクス、B2Cコンタ クトセンター向けアナリティクス、認知コンタクトセンター、 スキリングオートメーション、リアルタイムスピーチの文字起 こしと要約 Manufacturing & Industrials ChatGPT対応テクニカルサポート、顧客感情分析、顧 客サービス知識マイニング、デジタル提案アシスタント、 顧客ジャーニーアナリティクス、消費者洞察高度分析、 記録要約、異常検出、コパイロット付きバーチャルエー ジェント Automotive, Mobility & Transportation マーケティングコンテンツ生成、コンテキストに基づいたコ ンタクトセンター、顧客フィードバックループ、スマートイン シデントマネージャー、顧客コミュニケーション、テキスト要 約と分析 顧客事例

産業トレンド 1/3 Azure OpenAI Top Patterns Public References Automotive, Mobility & Transportation コンタクトセンター - 通話記録から豊富なインサイトを抽出します。E2Eコールセンター分析：分類、感情、要約、メール生成。 顧客からの問い合わせに自動的に対応します。顧客サポートの会話ログの要約。顧客満足度の向上。解決までの時間の短 縮。 スマートバーチャルエージェント/顧客・従業員コミュニケーション - 価値連鎖を通じて顧客と従業員に対するインテリジェントな自 動応答。ライブチャット/音声アプリケーション用の人間らしい応答を生成。 自動文書処理 - Microsoft Cognitive ServicesおよびAzure OpenAIを使用して、大量の請求書処理を自動化します。 インシデント報告と予測 - テキストの要約とパターン認識を使用して、機器やプロセスの故障などに関する報告を自動生成しま す。自動応答と通知を生成。 自動コンテンツ生成 - 生成AIを使用して、さまざまなトピックに関するコンテンツを自動生成し、コンテンツクリエーターの時間とお 金を節約します。要約により関連性の高いコンテンツを生成。SEO（検索エンジン最適化）を向上。 Financial Services コンタクトセンター - 通話記録から豊富なインサイトを抽出。エンドツーエンドのコールセンター分析：分類、感情分析、要約、 メール生成。顧客からの問い合わせに対して自動的に応答を生成。顧客サポートの会話ログの要約。顧客満足度の向上。解 決までの時間の改善。 スマートバーチャルエージェント/顧客・従業員コミュニケーション - 価値連鎖を通じて顧客と従業員に対するインテリジェントな自 動応答。ライブチャット/音声アプリケーションに対して人間のような応答を生成。 自動文書処理 - フォームやその他の非構造化データを自動ワークフローの一部として取り込む能力。クレーム処理やその他のビ ジネスエリアをサポートし、Microsoft Cognitive ServicesやAzure OpenAIを使用。文書のデジタル化、セマンティックまたは認 知検索を通じて重要情報を抽出し、要約（財務文書の要約、RFI/RFPの処理など）。

産業トレンド 2/3 Industry Azure OpenAI Top Patterns Public References Manufacturing & Industrials コンタクトセンター - 通話記録から豊富なインサイトを抽出。エンドツーエンドのコールセンター分析：分類、感情、要約、メール生 成。顧客からの問い合わせに対して自動的に応答を生成。顧客サポートの会話ログの要約。顧客満足度の向上。解決までの 時間の改善。 ChatGPT対応テクニカルサポート - 内部および外部のコンテンツデータベースに基づいたより良い推奨とともに、顧客の技術的な 質問と問い合わせに対する文脈的で人間らしい応答。 顧客サービス知識マイニング - 非構造化および構造化データを取り込み、主要な課題やパターンをよりよく理解するための洞察 を得る。 異常検出 - 視覚的な異常と原因に関するNLPクエリを提供。合成画像を使用して基本的なMLトレーニング画像のボリュームを 増やし、MLの精度を向上させる。異常を早期に捉えることで、品質保証の合格率を向上させ、廃棄が必要な在庫量を減らし、 運用コストを削減。 コパイロット付きバーチャルエージェント - 価値連鎖を通じて顧客と従業員に対するインテリジェントな自動応答。ライブチャット/音 声アプリケーションに対して人間のような応答を生成。 Telecommunications コンタクトセンター - 通話記録から豊富なインサイトを抽出。エンドツーエンドのコールセンター分析：分類、感情分析、要約、 メール生成。顧客からの問い合わせに自動的に応答を生成。顧客サポートの会話ログの要約。顧客満足度の向上。解決まで の時間の改善。 クロスコンテンツリンキング - 知識マイニングを改善し、より良い洞察を得るために、さまざまな形式で異なるソースからコンテンツを 取り込む。 マーケティング/メディア向けコンテンツ作成 - パーソナライズされた顧客360情報に基づいて、自動的にマーケティングメールを生成。 リアルタイムスピーチの文字起こしと要約 - エンティティ抽出を行い、音声記録の要約を生成。

産業トレンド 3/3 Healthcare & Life Sciences 管理業務の効率化 Azure OpenAI Serviceを使用して、スケジューリ ング、患者登録、保険確認などの管理業務を自 動化し、医療スタッフが患者ケアに集中できるよ うに時間を解放します。 サプライチェーン管理の改善 医療提供者はAzure OpenAI Serviceを使用し てデータを分析し、医療用品の在庫レベルを最適 化することで、無駄を減らし、必要な時に常に必 要な供給が利用可能であることを確保するのに 役立てることができます。 医療機器の予測保守 Azure OpenAI Serviceは医療機器のパフォーマ ンスを監視するのに役立ち、医療提供者がいつ 保守が必要かを予測し、予期しないダウンタイム を防ぐことができます。 自動化された医療コーディング Azure OpenAI Serviceは、医療記録を自動的 に分析し、請求および返金目的での医療コードを 推奨するために使用でき、エラーを減らし効率を 向上させます。 データ洞察の活用 大量のデータを分析することにより、Azure OpenAIサービスは医療提供者が自身の実践に 関してより情報に基づいた決定を下すのに役立つ パターンを特定するのを助けます。 不正検出 医療提供者はAzure OpenAIサービスを使用し て、不正な保険請求を検出することができます。 提供者は機械学習アルゴリズムを使用して大量 のデータを分析し、潜在的な不正を示すパターン を特定することができます。不正請求を早期に検 出することで、医療提供者は損失を防ぎ、患者 を不必要な治療から守ることができます。 EpicがGPT-4を電子健康記録 に導入 • Epicと緊密に連携して、GPT-4を使用して電子健康記録を統合および近代化する作業を行っています。 • 双方向の影響：1) 情報を入力するためのキーボードでの時間を減らし、2) より会話的な方法でデータを調査 するのに役立ちます。

On Your Data（RAG系）– 事例 Use Cases Use Case Details Value Customer Signals B2CおよびB2Bチャットボット お客様が承認された企業知識ベースから直接データリクエストを自 己処理できるようにする 顧客サービス、収益、生産性、画 像 Piraeus Bank, Eurobank, H&M, Clifford Chance, Dealogic, HP, Mr. Cooper 従業員チャットボット 企業の共有知識ベースで重要情報を見つけるのに必要な時間を 短縮することで、従業員の生産性を向上させる – これにより、社内 の技術サポートキューを解放することもできる 生産性 Vattenfall, Robert Bosch, PepsiCo, Johnson Controls, Novelis, Caterpillar, Dell, Lazard, Takeda, Nat'l Bank of Canada, Fujitsu, Emerson, Caisse de depot et placement du Quebec, CDPQ, BDO USA, AstraZeneca, Focal Front, Wipro 製品および施設の文書化 従業員、顧客、その他の関係者に製品および施設の文書のライブ ラリを利用可能にする 生産性、意思決定 Hitachi Solutions, Shaw Industries, Emerson, Komatsu エージェントアシスト 会社のデータにリアルタイムでアクセスすることで顧客とのエージェント の対話を改善する 顧客サービス、生産性 Lexmark, Avanade 文書の取り込み／インデックス作成 将来の取得のために企業の共有知識ベースに簡単に文書を追加 する 生産性 Johnson Controls 法的レビュー 適切な顧客アドバイスのために、既存および今後の立法から法的 洞察を迅速にアクセスする 意思決定、生産性 KBC Group, Clifford Chance 財務分析 分析的洞察を向上させるために内部および外部の財務データリ ソースにアクセスする 意思決定、生産性 Jabil, Sogeti, Hubbell, CDPQ マーケティングインサイト 内部および外部のリクエストに正確に返信するために内部および 外部リソースにアクセスする 意思決定、正確性、生産性 HP, Hitachi Solutions ソフトウェア開発 会議のメモを要件に翻訳する 生産性、市場投入までの時間 Sogeti 人事ボット 複雑なポリシーと手順を簡素化する 従業員満足度 Sogeti 顧客管理 顧客センチメントや洞察（流出傾向、購買候補など）を収穫す るために通話記録にアクセスする 生産性、収益、顧客サービス Trinity Industries, SCIEX 業界／競合他社の洞察 業界や競合他社に関する洞察を得るために公に利用可能なリ ソースにアクセスする 生産性、戦略 The Andersons

AOAI+アーキテクチャ

コールセンター分析 Call-Center Agent Person-to- Person Conversation Telephony Server Azure Storage Intelligent Transcription Speech- to-Text Azure OpenAI Service Conversation Trends & Insights PowerBI Insights (near real-time) Audio Files Detailed call history with summary, call reason, etc. CRM Interactive Search Exploration AI Search Web App Caller

ドキュメント分析と要約 PDF OCR pipeline Documents Azure AI Document Intelligence Azure AI Search Cosmos DB AOAISummarization Web Application Power BI

バーチャルアシスタント Azure Machine Learning Azure Data Factory Azure SQL Database (Technical Data) Virtual Assistant Qualitative Testing App GPT API (Web App) Azure Custom Question Answering (Textual Data) Azure Custom Named Entity Recognition Azure Custom Text Classification Technical Data (VMDS) AOAI Azure Blob Storage Manuals (XML) Azure Translator (Non English Questions) Azure Translator (Non English Questions)

ドキュメントの分析と要約 Document Library AI Document Intelligence General Document Model Embedding 1 Embedding 2 Embedding 3 Embedding 4 Vector DB text-embeddings- ada-002 User Application ? N-Relevant Sections Questions Vector search NLP Tasks: Summarization, Q&A, etc. Embedded question text-davinci- 003 Translator Translator Translator Azure OpenAI Service Azure OpenAI Service Azure AI Services text-embeddings-ada-002 Translated Text Azure OpenAI Service Section 1 Section 2 Section 3 Section 4

顧客へのインスピレーション

顧客事例 ユースケース 顧客 Status トーキングポイント 自動化 KPMG Published 3/16 KPMGは、Azure OpenAIサービスを活用して、サービス提供モデルを強化し、コーディングライフサイクルを改善し、プラットフォーム の技術的アーキテクチャ、使いやすさ、価値到達時間の利点を活かしたインテリジェントな自動化を実現しています。 自動化 Strabag Published 2/9 Strabag SE、世界的な建設会社は、MicrosoftおよびAzure OpenAIサービスと提携してデータサイエンスハブを構築し、分散 型データ収集を可能にし、洞察を得るために活用することで、建設業界におけるリスク管理と運用効率の向上をリードしています。 コミュニケーション NTNU Published 4/19 国立台湾師範大学（NTNU）は、台湾教育省と協力し、「Cool English」というプラットフォームを開発し、Azure OpenAI サービスを活用して、学生が英語のスピーキングスキルを向上させるためのパーソナライズされた、人間らしい会話とインタラクション を提供するための高度な言語モデルを使用しています。 コンテンツ生成 Aprimo Published 6/14 Aprimoは、Azure OpenAIサービスおよびChatGPTによって動力を供給される生成AIアシスタントを統合し、ブランドの声とトー ンを捉えた訓練されたAIモデルを活用して、パーソナライズされたコンテンツの作成と配信を加速させることを顧客に可能にします。 コンテンツ生成 CIPIO.AI Published 5/25 CIPIO.aiは、Azure OpenAIサービスを活用して、コミュニティコマースマーケティング（CCM）スーパーアプリを開発し、ブランドがコ ミュニティとつながり、インフルエンサーと関わり、本物のユーザー生成コンテンツ（UGC）を生成し、ブランドコミュニティの影響を分 析し、影響力、コミュニティのエンゲージメント、成長を増加させることを可能にします。 コンテンツ生成 Nota Published 5/23 Nota、メディアおよびエンターテインメント会社は、Microsoft Azure OpenAIサービスを使用して、地元のニュースストーリーを配 布用に最適化し、書かれたコンテンツからエンゲージングなビデオを生成し、あらゆる規模のニュース組織から注目を集めることを 助けるAIアシストツールであるSUMとVIDを開発し、地元のニュースを強化し、民主主義を支援します。 コンテンツ生成 Typeface Published 5/23 Typefaceは、Azure OpenAIサービスを活用して、規模に関わらず、企業が数秒で魅力的でブランドに合ったマーケティングメッ セージを簡単に作成できるようにします。 https://aka.ms/AOAIstories

顧客事例 https://aka.ms/AOAIstories ユースケース 顧客 ステータス トーキングポイント 顧客体験 Take Blip Published 4/27 ブラジルのプロフェッショナルサービス会社であるTake Blipは、Azure OpenAIサービスとCognitive Servicesを活用して、顧客と のコミュニケーションにAIファーストのアプローチを提供し、ブランドがチャンネルを越えて顧客とパーソナライズされた、流暢で、即時の 会話を行うことを可能にし、顧客体験の向上とコンバージョンの増加につながっています。 顧客体験 Mercedes- Benz Blog published 6/15 メルセデス・ベンツは、Azure OpenAIサービスを介してChatGPTを統合し、ダイナミックな会話、包括的な回答、文脈理解、およ び車内体験を向上させるためのサードパーティーサービスとの潜在的な統合を備えたインタラクティブな音声アシスタントを作成しま す。 顧客体験 Zammo Published 4/13 Zammo.aiは、Azure OpenAIサービスによって動力を供給される会話型AIプラットフォームで、組織が音声、ウェブ、およびソー シャルメディアチャンネルを通じてパーソナライズされた自動化された顧客との会話を作成し、顧客エンゲージメントと運用効率を向 上させるための完全な制御とカスタマイズオプションを提供します。 従業員体験 AT&T Published 5/18 AT&Tは、Azure OpenAIサービスを利用して運用と従業員の体験を強化し、AI技術を活用してタスクを自動化し、人事リクエ ストへの迅速な回答を提供し、効率を向上させます。 従業員体験 Moveworks Published 3/30 Moveworksは、Azure OpenAIサービスを活用した会話型AIにより、従業員の情報検索を革新し、パーソナライズされた迅速な 回答を提供し、従業員が情報を見つける方法を変革し、ワークフローへの中断を最小限に抑えます。 生産性 Thread Published 4/06 ITサービスプロバイダーであるThreadは、Microsoft TeamsおよびSlackと統合されたサービス協力プラットフォームを開発し、 Microsoft Azure OpenAIサービスを活用してIT技術者のタイムエントリーと管理タスクを自動化し、大幅な時間節約と顧客体 験の向上を実現しています。 生産性 City of Kelowna Published 6/14 ケロウナ市は、311非緊急市政サービスヘルプラインで認知検索技術と会話型AIを活用し、市民の問い合わせに効率的に対応 し、プロセスを合理化し、市民と政府職員の両方の繰り返し作業を減らすことを目指しながら、追加のコストをかけずにより大き な利益を提供することを目指しています。

製品ニュース、研究、顧客を特集したブログとリソース What’s new?: https://aka.ms/aoai-newsfeed | Thought leadership: https://aka.ms/ai-blog 10 ways generative AI and Azure OpenAI Service are transforming businesses The economic benefits of innovating with Azure AI Mercedes-Benz enhances drivers’ experience with Azure OpenAI Service Introducing Azure OpenAI Service On Your Data in Public Preview

最後に

Resources Bookmark the What’s New Page: aka.ms/AOAI-Newsfeed Read thought leadership aka.ms/AI-Blog Check out the latest customer stories: aka.ms/AOAIstories

Thank you

Archive

Customer Story – Case Study/Talking Points

Situation: Solution: Impact: Microsoft is more than a technology partner. They advised us every step of the way. Together, we ran workshops to explore the organization’s needs and using their Intelligence Driven Organization (IDO) framework, they helped us to create a strategy to address our digital priorities.” As one of the oldest industries in the world, construction, hasn’t always kept pace with the modernization that has swept across other industries, particularly when it comes to driving operational efficiencies with data. — Dr. Marco Bornschlegl: Head of Innovation and Digitalisation, Strabag SE Strabag SE, the global construction company, partnered with Microsoft to build a Data Science Hub to collect decentralized data and leverage it for insights. This enabled the organization to develop use cases to prove the value of data including its risk management project. The solution uses an algorithm to pinpoint at-risk construction projects, saving Strabag SE time and reducing financial losses. With data now at the helm, Strabag SE is cementing its future in a traditional industry on the path to digitalization. Customer: Strabag SE Industry: Manufacturing Size: 10,000+ employees Country: Austria Products and services: Azure Active Directory Azure Databricks (AI) Azure Functions Azure Key Vault Azure Machine Learning Azure SQL Edge Azure Synapse Analytics Microsoft Intelligent Data Platform Microsoft Purview Azure OpenAI Service Read full story here Automation

Situation: Solution: Impact: For us it is the combination of the technical architecture—how Microsoft has set it up to allow us to have more control over that—and then also the business architecture. That combination makes Azure OpenAI compelling.” KPMG believes that Azure OpenAI Service will change its service delivery model and impact its coding lifecycle through product experience enhancement, knowledge enhancement, and content distribution. — Brad Brown: Chief Innovation Officer & Technology Leader, Tax KPMG has chosen Microsoft Azure OpenAI Service because of its architecture, which makes it an enterprise-ready solution that allows the company to augment and fine- tune its data—while ensuring KPMG meets governance, risk, and regulatory requirements. The company believes that Azure OpenAI Service time to value is short, and there is a demonstrable increase in time to value over previous productivity solutions. The company believes that the iterative and fast fail approach of Azure OpenAI Service will help drive faster adoption and extend the capabilities of the tool. Customer: KPMG Industry: Professional Services Size: 10,000+ employees Country: United States Products and services: Azure OpenAI Service Read full story here Automation

Situation: Solution: Impact: The bots we experimented with before were fairly robotic, but with the advanced language models in Azure OpenAI Service, the responses felt much more inviting and approachable, which makes a big difference for our students.” The Ministry of Education and National Taiwan University (NTNU) wanted to help Taiwanese students to improve their English-language speaking skills to help them be even more successful in globally competitive world. — Dr. Hao-Jan Howard Chen, Professor, Department of English, National Taiwan Normal University Together, the Taiwan Ministry of Education and NTNU launched Cool English, an English learning platform that offers creative modes of learning such as finishing song lyrics and watching animated videos. NTNU used the Davinci advanced language model in Azure OpenAI Service to build 10 educational bots for the platform, each with its own unique personality. Cool English is taking an innovative step for English education in Taiwan, helping students reach their learning goals and overcome the challenges of limited opportunities for real-life conversational and writing practice. Customer: National Taiwan Normal University Industry: Higher Education Size: 1,000-9,999 employees Country: Taiwan Products and services: Azure OpenAI Service Azure AI Azure Cognitive Services Read full story here Communication

Situation: Solution: Impact: We’ve always been focused on supporting smart workflows, clear content oversight, and ease in both creating marketing elements... The difference now is that we can apply breakthroughs in artificial intelligence and machine learning to enhance automation at all levels.” Aprimo’s content operations platform is 100 percent on Azure and AI as fundamental part of the company’s product strategy. The company saw an opportunity to further enhance its content operations platform and deliver even higher levels of productivity and performance using ChatGPT. — Kevin Souer, CPO, Aprimo With the Microsoft-OpenAI announcement of OpenAI’s gated general availability on Azure, Aprimo applied to the preview and the company was accepted. Aprimo tested different generative AI features to address specific use cases and focused in on an embedded generative AI assistant designed to create better efficiencies across teams, drive time to market, and scale on-brand asset creation and distribution across all channels. Aprimo released the solution in May 2023. Customer feedback has been overwhelmingly positive, and Aprimo anticipates a 95 percent adoption rate. As the first ChatGPT integration in the digital asset marketing category it has opened the door for more innovations and features releases on the Aprimo AI-powered platform in the coming months, including AI Content Coach. Customer: Aprimo Industry: Professional Services Size: 50 – 999 employees Country: United States Products and services: Microsoft Azure Azure OpenAI Service Read full story here Content Generation

Situation: Solution: Impact: With the help of Azure OpenAI Service, we’re disrupting our industry for a second time by delivering cutting-edge digital tools and capabilities and becoming a true omnichannel retailer.” With 45,000 cars in its inventory, CarMax needed a fast and efficient way to analyze customer reviews and provide brief, meaningful summaries for each model that would aid potential purchasers and boost the pages’ search engine rankings. — Shamim Mohammad, Executive Vice President and Chief Information and Technology Officer, CarMax After choosing to work with OpenAI, CarMax migrated to OpenAI Service to take advantage of the scalability, security, and Responsible AI features it provides. CarMax was able to produce the equivalent of 11 years’ worth of car summaries in a matter of months, freeing editorial staff to focus on more substantive content, providing customers with valuable insights, and successfully boosting search rankings. Customer: CarMax Industry: Retailer Size: 10,000+ employees Country: United States Products and services: Azure AI Azure OpenAI Service Read full story here Content Generation & Summarization

Situation: Solution: Impact: With Azure OpenAI, we can now leverage its best-in-class language learning models to process content elements with better performance and lower cost. Without access to Azure OpenAI and the Microsoft support team, we would have been less likely to offer this application to our customers in such an efficient and effective manner.” With expertise in data science, AI, user generated content, social media, and community influence marketing, CIPIO.ai saw that building influencer relationships that lead to genuine customer connections was a challenge for most companies and that Community Commerce Marketing (CCM) was the answer. — Sundeep Sanghavi, Co-Founder and CEO, CIPIO.ai The team wanted to use AI to give companies more personalized ways to encourage organic content sharing and customer connections and chose Microsoft and Azure OpenAI Services to build a CCM platform. Now Azure OpenAI is embedded at the core of the CIPIO.ai Community Commerce Marketing platform. Though CIPIO.ai was founded less than two years ago, it has amassed a global team of social media marketers for its customers, including nearly 200 million social profiles and related consumer data. Customer feedback shows CIPIO.ai driven user generated content is outperforming other branded content. Customer: CIPIO.ai Industry: Professional Services Size: 1 – 49 employees Country: United States Products and services: Azure OpenAI Services Azure AI Azure Cognitive Services Content Generation

Situation: Solution: Impact: Zammo’s solution and rapid prototyping capability helps democratize customer adoption of Azure OpenAI because customers can go live quickly with a very powerful tool. The age of manually curating knowledge bases is over.” Zammo is on a mission to help businesses engage and transact with customers through conversational AI interactions that are secure, scalable, highly accessible, and simple to create regardless of size, industry, or IT skill set. — Stacey Kyler, Product Manager, Zammo Zammo decided to support its proprietary AI platform technology with Microsoft Azure Cloud Service and Azure OpenAI Service. Users can save time and money using prebuilt conversation modules for common use cases, creating their own branded, cross-platform voice apps. Customer: Zammo.ai Industry: Professional Services Size: 1-50 employees Country: United States Products and services: Azure OpenAI Service Read full story here Customer Experience

Situation: Solution: Impact: By using Azure OpenAI Service […] Take Blip is taking a leading-edge approach to AI that makes us future-ready and gives us a competitive edge in the marketplace for customer experience technology.” Take Blip wanted to pursue an AI-first approach to messaging between brands and customers using the latest language models, like GPT-4. — Milton Stiilpen, Innovation & Research Director, Take Blip Take Blip began using Azure OpenAI Service and other Azure Cognitive Services to develop a robust, multichannel, AI-driven customer conversation platform backed a highly secure and scalable cloud infrastructure. Using Microsoft AI technologies has boosted developer productivity, accelerating time to market for new campaigns. Clients are excited about the new AI-driven features and have enthusiastically embraced GPT capabilities. Customer: Take Blip Industry: Professional Services Size: Large (1,000 – 9,999 employees) Country: Brazil Products and services: Azure OpenAI Service Azure AI Customer Experience

Situation: Solution: Impact: With a product like OpenAI Service behind you, you can focus a lot more on what really matters, which is delivering a great experience, a great product, and a lot of value to your customers.” Trelent, a pre-seed code documentation startup that uses the OpenAI Codex algorithm, found its audience in high- growth tech companies with large or distributed engineering teams. The problem: How does a two-person team provide enterprise-ready service? — Calum Bird, CEO, Trelent A Microsoft for Startups webinar provided the answer: Microsoft Azure OpenAI Service paired the powerful OpenAI algorithms Trelent was |already using with Azure security, safety controls, and global availability— and worked with the startup’s existing solution. With Azure OpenAI Service, Trelent benefits from content filtering, increased security, and faster response times (from 1-3s down to an average of 750ms). Those enterprise-ready features free Trelent engineers up to focus on their core innovation. Customer: Trelent Industry: Professional Services Size: 1-49 employees Country: Canada Products and services: Azure OpenAI Service Read full story here Customer Experience

Situation: Solution: Impact: We think there’s a big upside potential for Azure OpenAI Service to help us improve employee experiences, enhance customer interactions, and drive more efficiency within our developer community.” AT&T is exploring how to use technology to help automate some business processes to improve employee and customer experiences. AT&T has started using Azure OpenAI Service to help its employees be more productive and provide customers with the service they expect. — Jon Summers, Chief Information Officer, AT&T AT&T is using Microsoft Azure OpenAI Service to enable IT service requests, migrate legacy code into modern code, and empowering employees to complete common human resources tasks. By using Azure and AI technologies, the company can automate IT tasks and provide employees with fast answers to basic human resource requests, leading to increased efficiency, improved work life, and reduced costs. Customer: AT&T Industry: Telecommunications Size: 10,000+ employees Country: United States Products and services: Azure OpenAI Service Read full story here Employee Experience

Situation: Solution: Impact: Nearly every organization in the world is scrambling to figure out how large language models (LLMs) can transform some part of their business. But many either don’t know where to start, or they don’t have the technical expertise to create meaningful solutions with LLMs. At Moveworks, we’re partnering with Azure OpenAI Service to deliver the power of bleeding edge LLMs— like GPT-3—to these organizations on a robust and trusted enterprise-ready platform.” Moveworks knows that a lot of businesses are just starting to scratch the surface of LLMs and conversational AI—with many not even knowing where to start. Moveworks is using its experience in advanced conversational AI and large language models to help enterprises and government agencies resolve employee issues with the help of Azure OpenAI Service. — Vaibhav Nivargi, Chief Technology Officer and Founder, Moveworks Moveworks chose Microsoft Azure OpenAI Service as a core component of its machine learning architecture. Azure OpenAI Service semantic search and summarization capabilities enhance the platform’s ability to resolve limitless support requests simultaneously—even anticipate the individual needs of employees and respond to them in their native language. With Azure OpenAI Service Moveworks can deliver the power of large language models and conversational AI to customers in a way that’s trusted, secure, and enterprise- ready—without customers needing the technical expertise required to leverage these technologies. Customer: Moveworks Industry: Professional Services Size: 50–999 employees Country: United States Products and services: Azure OpenAI Service Read full story here Employee Experience

Situation: Solution: Impact: Anyone who’s going to win with GPT is going to be someone that has access to unique content. We’re finding that content by linking Azure OpenAI with Microsoft Teams.” For IT technicians, logging time entries and summarizing customer interactions are critical to profitability and quality assurance. When done manually, technicians spend about an hour a day completing these time-consuming tasks. — Matt Linn, Chief Operating Officer, Thread Thread recognized this opportunity and launched an enhancement for their Service Collaboration Platform that uses Microsoft Azure OpenAI Service and GPT-3 to streamline customer interactions and automate these routine tasks. Technicians are saving nearly an hour a day by automating their time entries. About 80% of the time entries generated automatically are accepted immediately – with technicians using this powerful automation for over 300 time entries per month. Customer: Thread Industry: Professional services Size: 1–49 employees Country: United States Products and services: Azure OpenAI Service Microsoft Teams Read full story here Productivity

Make My Trip is using Azure OpenAI powered chat to bring their services to a broader Indian audience Generative AI can make travel services more accessible to millions of Indians: Sanjay Mohan, Group CTO, MakeMyTrip - Microsoft Stories India “It will open the industry to new audiences – the next 100-200 million users in India – who are not very comfortable with English but are fluent in their language, and who are more comfortable interacting with voice than navigating a complex app on their phone. It will also improve accessibility for users with disabilities who are unable to use an app effectively.”

Jugalbandi chatbot – AI4Bharat and Microsoft India Jugalbandi is an AI assistant offering Indians access to government information via voice-based chat. The service is available in 10 of India’s 22 languages via custom language models trained on AzureML Azure OpenAI Service powers chat, fine- tuned with Indian government data Voice based experiences in local languages provides broader inclusivity to government information. With help from next-generation AI, Indian villagers gain easier access to government services - Microsoft Stories India