Slide 1

Slide 1 text

#fukuten 米国カンファレンスで活躍した Azure AI Speech Fukuoka.NET Conf 2023 Yuta Matsumura © 2023 Yuta Matsumura. #fukuten

Slide 2

Slide 2 text

#fukuten 松村 優大 (MLBお兄さん) Currently working for © 2023 Yuta Matsumura. 株式会社オルターブース Chief Technical Architect Microsoft MVP for Developer Technologies Microsoft Top Partner Engineer Award C#, PHP, Azure, GitHub が好き #fukuten #devblogradio の中の人 @tsubakimoto_s

Slide 3

Slide 3 text

#fukuten © 2023 Yuta Matsumura.

Slide 4

Slide 4 text

#fukuten © 2023 Yuta Matsumura.

Slide 5

Slide 5 text

#fukuten © 2023 Yuta Matsumura.

Slide 6

Slide 6 text

#fukuten 海外カンファレンスに参加する気持ち • 発表はすべて英語です(当然) • 英語は得意じゃないけど、どんな内容が話されているかを 知りたい • 現地での熱量を体感したい • スピーカーの小ネタで一緒に笑いたい © 2023 Yuta Matsumura.

Slide 7

Slide 7 text

#fukuten 翻訳アプリを探す旅が始まる 要件 • 英語を日本語に翻訳 • 音声でのリアルタイム翻訳 • 文字起こし • 翻訳結果の保存 • 長時間の翻訳 • PC で使いたい • なるべく安く © 2023 Yuta Matsumura.

Slide 8

Slide 8 text

#fukuten コレ!というアプリが見つからない ▼ 自分で作ろう © 2023 Yuta Matsumura.

Slide 9

Slide 9 text

#fukuten コレ!というアプリが見つからない ▼ 自分で作ろう ▼ Ignite 前日の夜中 © 2023 Yuta Matsumura.

Slide 10

Slide 10 text

#fukuten © 2023 Yuta Matsumura. Azure AI Speech

Slide 11

Slide 11 text

#fukuten Azure AI Speech とは © 2023 Yuta Matsumura. テキスト読み上げ リアルタイム翻訳 話者の認識 カスタムキーワード 音声コマンド 音声テキスト変換 Azure AI 音声 | Microsoft Azure

Slide 12

Slide 12 text

#fukuten Azure Cognitive Services ▼ Azure Applied AI Services ▼ Azure AI Services © 2023 Yuta Matsumura.

Slide 13

Slide 13 text

#fukuten © 2023 Yuta Matsumura. ①PCマイクで 音声入力 ②文字起こし &翻訳 ③英&日の出力 ④テキストファイル に保存

Slide 14

Slide 14 text

#fukuten Azure AI Speech とは © 2023 Yuta Matsumura. 音声テキスト変換 テキスト読み上げ リアルタイム翻訳 話者の認識 カスタムキーワード 音声コマンド

Slide 15

Slide 15 text

#fukuten 候補言語 • Azure AI Speech でオーディオから検出する言語の指定 • 最大10個の候補を指定可能 • “ja-JP”, “en-US” などを BCP-47 形式で指定 (言語+ロケール) • 同一言語で複数ロケールは指定不可 (例:“en-US”, “en-GB”) © 2023 Yuta Matsumura. 言語サポート - 音声サービス - Azure AI services | Microsoft Learn

Slide 16

Slide 16 text

#fukuten 言語識別 (Language identification / LID) 開始時識別 (1回識別) オーディオの最初の数秒間で言語の識別を1回行う 継続的識別 オーディオが再生している間は言語の識別を継続的に行う © 2023 Yuta Matsumura. 言語識別 - Speech サービス - Azure AI services | Microsoft Learn

Slide 17

Slide 17 text

#fukuten 翻訳エンジンのイベント イベント 内容 Canceled 音声からテキスト/合成への翻訳が取り消されたことを通知します。 Recognized 最終的な認識結果が受信されたことを通知します。 Recognizing 中間認識結果が受信されたことを通知します。 SessionStarted セッション開始イベントのイベント ハンドラーを定義します。 SessionStopped セッション停止イベントのイベント ハンドラーを定義します。 SpeechEndDetected 音声終了検出イベントのイベント ハンドラーを定義します。 SpeechStartDetected 音声開始検出イベントのイベント ハンドラーを定義します。 Synthesizing 変換合成結果が受信されたことを通知します。 © 2023 Yuta Matsumura. TranslationRecognizer クラス (Microsoft.CognitiveServices.Speech.Translation) - Azure for .NET Developers | Microsoft Learn

Slide 18

Slide 18 text

#fukuten TranslationRecognizer.Recognized イベント TranslationRecognitionEventArgs クラス (イベント引数) Result プロパティ (TranslationRecognitionResult クラス) Reason プロパティ:音声認識結果 Text プロパティ:識別されたテキスト Translations プロパティ:翻訳結果 © 2023 Yuta Matsumura.

Slide 19

Slide 19 text

#fukuten ライブデモ © 2023 Yuta Matsumura. speech translator ミキサー

Slide 20

Slide 20 text

#fukuten ソースコード © 2023 Yuta Matsumura.

Slide 21

Slide 21 text

#fukuten tsubakimoto/speech-translator https://github.com/tsubakimoto/speech-translator © 2023 Yuta Matsumura.

Slide 22

Slide 22 text

#fukuten // 音声翻訳の構成 var config = SpeechTranslationConfig.FromEndpoint( endpointUrl, subscriptionKey); config.SpeechRecognitionLanguage = "en-US"; config.AddTargetLanguage("ja-JP"); var detectConfig = AutoDetectSourceLanguageConfig.FromLanguages( [config.SpeechRecognitionLanguage]); var stopTranslation = new TaskCompletionSource(); © 2023 Yuta Matsumura.

Slide 23

Slide 23 text

#fukuten // 既定の音声入力デバイスから識別 using (var audioInput = AudioConfig.FromDefaultMicrophoneInput()) using (var recognizer = new TranslationRecognizer( config, detectConfig, audioInput)) { // 識別結果受信時のイベント処理 recognizer.Recognized += (s, e) => { 次のスライド }; // 継続的識別の開始 await recognizer.StartContinuousRecognitionAsync() .ConfigureAwait(false); // 継続的識別の停止 Task.WaitAny(new[] { stopTranslation.Task }); await recognizer.StopContinuousRecognitionAsync() .ConfigureAwait(false); } © 2023 Yuta Matsumura.

Slide 24

Slide 24 text

#fukuten // 識別結果受信時のイベント処理 recognizer.Recognized += (s, e) => { var result = e.Result; if (result.Reason == ResultReason.TranslatedSpeech) { using (var sw = new StreamWriter(_filePath, true, Encoding.UTF8)) { Console.WriteLine($"{result.Text}"); // 識別テキストの標準出力 sw.WriteLine($"{result.Text}"); // 識別テキストのファイル出力 foreach (var element in result.Translations) { Console.WriteLine($"{element.Value}");// 翻訳テキストの標準出力 sw.WriteLine($"{element.Value}"); // 翻訳テキストのファイル出力 } } } }; © 2023 Yuta Matsumura.

Slide 25

Slide 25 text

#fukuten GitHub Codespaces GitHub 上にホストされる仮想マシンを使用して、 オンライン上に開発環境を構築することができます。 devcontainer.json をリポジトリに保管している場合、 記載されている構成がセットアップされます。 © 2023 Yuta Matsumura.

Slide 26

Slide 26 text

#fukuten https://github.com/github/dotnet-codespaces © 2023 Yuta Matsumura.

Slide 27

Slide 27 text

#fukuten tsubakimoto/speech-translator © 2023 Yuta Matsumura. AOAIで色々やりたい・・・ .NET MAUI でモバイル版を作りたい PR 待ってます!

Slide 28

Slide 28 text

#fukuten ご清聴ありがとうございました © 2023 Yuta Matsumura.