ChatGPT for Developer - Promptのチカラ

ChatGPT for Application Engineer “Prompt is all you needed” 畠山
大有 | Daiyu Hatakeyama Architect && Software Engineer && Applied Data Scientist (目指している) Microsoft Japan /dahatake @dahatake /in/dahatake /dahatake /dahatake /dahatake https://speakerdeck.com/dahatake

毎日 Prompt してますか?

Microsoft のAIの保護お客様のデータはお客様のものお客様のデータはAIモデルのファインチューニングには利用されませんお客様のデータとAIモデルは全ての段階で保護されます新たな Copilot Copyright Commitment

Prompt を業務で使うためのコツ

文章生成系分類系 ChatGPT で出来るコトの例要約小学生にも分かるように 300文字程度で要約して感情分析喜び/怒り/悲しみの感情を 0~5で表現して
エンティティ分析場所/人物名/組織名を抽出してキーフレーズ抽出次の文章の重要なフレーズを抽出してインサイト抽出次のレビューから商品の改善点を考えて校正誤字/脱字/タイプミスを見つけて添削/評価〇〇の基準で10点満点で評価して翻訳次の文章をフォーマルな日本語に翻訳して問題作成次の文章から4択問題を作成してコード作成 OpenAIのAPIを実行するコードを書いてアイデア創出人気の出るブログの内容案を提案して記述アシスタントこのメールの日程調整をするメールを書いて情報検索 WEBアプリの要件定義について教えて情報抽出系文脈理解系チェック系翻訳系従来からできるタスク新しくできるタスクテキスト分類次のニュース記事のカテゴリを教えて思考の壁打ち〇〇という考えで抜けている点を指摘して

仕事で ChatGPT を使うためのポイント変換抽出参照データ

その場 (In-Context) で学習の例日本の内閣総理大臣は誰ですか? 申し訳ありませんが、私の知識は2021年9月までで更新されておらず、その後の具体的な人物や事象については情報を提供できません。最新の情報を知るためには、信頼できるニュースソースやウェブサイトをご確認ください。参照データ

その場 (In-Context) で学習の例日本の内閣総理大臣は誰ですか? 以下の情報を基にして教えてください。情報:### 内閣総理大臣（ないかくそうりだいじん、英: Prime Minister[1]）は、日本の内閣の首長たる国務大臣[2]。文民である国会議員が就任し、その地位及び権限は日本国憲法や内閣法などに規定されてい
る[3]。現任は、第101代岸田文雄（在任: 2021年〈令和3年〉11月10日 - ）。歴代の内閣総理大臣は内閣総理大臣の一覧を参照。 ### あなたが提供した情報に基づくと、日本の内閣総理大臣は岸田文雄です。彼は2021年11月10日からその職にあります。ただし、これは私の最新の知識更新が2021年9月までであること、そしてあなたが提供した情報が現在（2023年6月22日）までに更新されていない可能性があることに注意してください。そのため、最新の情報を確認するためには信頼性の高いニュースソースや公式ウェブサイトをチェックすることをお勧めします。 Instruction と context は ### や “”“ を使って分離 context instruction 参照データ

る[3]。現任は、第101代岸田文雄（在任: 2021年〈令和3年〉11月10日 - ）。歴代の内閣総理大臣は内閣総理大臣の一覧を参照。 ### あなたが提供した情報に基づくと、日本の内閣総理大臣は岸田文雄です。彼は2021年11月10日からその職にあります。ただし、これは私の最新の知識更新が2021年9月までであること、そしてあなたが提供した情報が現在（2023年6月22日）までに更新されていない可能性があることに注意してください。そのため、最新の情報を確認するためには信頼性の高いニュースソースや公式ウェブサイトをチェックすることをお勧めします。 context instruction どこかから、データを取ってきて埋めてくれればいい! 参照データ

る[3]。現任は、第101代岸田文雄（在任: 2021年〈令和3年〉11月10日 - ）。歴代の内閣総理大臣は内閣総理大臣の一覧を参照。 ### あなたが提供した情報に基づくと、日本の内閣総理大臣は岸田文雄です。彼は2021年11月10日からその職にあります。ただし、これは私の最新の知識更新が2021年9月までであること、そしてあなたが提供した情報が現在（2023年6月22日）までに更新されていない可能性があることに注意してください。そのため、最新の情報を確認するためには信頼性の高いニュースソースや公式ウェブサイトをチェックすることをお勧めします。 context instruction どこかから、データを取ってきて埋めてくれればいい! 参照データ RAG = Retrieval Augmented Generation

丁寧な謝罪文章の添削変換

英文の向上! 変換

あらゆる変換を試みてくれる畠山さん。先日は飛行機の遅延があったとはいえ、 15分も会議に遅れてすいませんでした。今後は気を付けますカジュアルな日本語畠山様まず初めに、先日の会議に遅刻したことにつきまして、心より深くお詫び申し上げます。私の不手際が原因で、貴重なお時間を無駄にしてしまい、大変申し訳ございませんでした。 … ビジネスで通用する日本語
Dear Mr. Hatakeyama, I am writing to express my deepest apologies for arriving 15 minutes late to our meeting the other day. Despite the fact that my delay was due to an unforeseen and regrettable plane delay, I fully recognize that this is no excuse for disrupting our scheduled meeting time. ビジネスで通用する英語 Web画面 <html lang="ja"> <head> <meta charset="UTF-8"> <title>謝罪のメッセージ</title> <style> ... フォーマルに英語で HTMLで変換

メールから案件情報を抽出抽出

メールから案件情報を抽出抽出ご自身の会社・組織のアプリケーションの入力画面の項目ともいえる

データにしておけば、 ChatGPT 君で何とか出来るメール会議チャット予定表文書音声
動画コード ChatGPT Microsoft Copilot (Bing Chat) 調査+ファイル生成エンジン議事録議事録変換抽出参照データ要約小学生にも分かるように 300文字程度で要約して校正誤字/脱字/タイプミスを見つけてコード作成 OpenAIのAPIを実行するコードを書いて翻訳次の文章をフォーマルな日本語に翻訳して参照データ参照データ参照データ参照データ

データがどこにあるかでどのアプリが使えるかを考えればいい音声動画コード Microsoft Copilot (Bing Chat)
調査+ファイル生成エンジン議事録議事録追加データ文書メール会議チャット予定表 Microsoft 365 変換抽出要約小学生にも分かるように 300文字程度で要約して校正誤字/脱字/タイプミスを見つけてコード作成 OpenAIのAPIを実行するコードを書いて翻訳次の文章をフォーマルな日本語に翻訳して参照データ参照データ参照データ参照データ ChatGPT

アプリの違い OpenAI ChatGPT Microsoft Copilot (Bing Chat) Microsoft Copilot Enterprise
(M365 Chat) Copilot for Microsoft 365 OpenAI ChatGPT API Azure OpenAI Service Application API Function Internet as Data Source Internet as Data Source Internet as Data Source Microsoft Graph Microsoft Graph Model GPT-4 GPT-4 GPT-4 GPT-4 GPT-4 GPT-4 無料版は3.5 Toubro のみ GPTs Your Data Your Data Plugins Plugins Web版のみ Code Interpreter Code Interpreter Code Interpreter Function Calling Function Calling Responsible AI Code Interpreter 近日中適用適用適用適用 Function Calling + Code Interpreter (内部で) Office API 呼び出し参照データ

自動化できているタスク自動化が難しかったタスク生成AIの業務利用では新たに出来そうなコトも考える • 業務の全ての定義が困難なケースへの対応の可能性 • 生成結果の揺らぎに価値がある • 数値演算がとても苦手
• 業務の全ての定義が可能 • 定義通りに動作する • 数値演算処理要約小学生にも分かるように 300文字程度で要約して校正誤字/脱字/タイプミスを見つけてコード作成 OpenAIのAPIを実行するコードを書いて翻訳次の文章をフォーマルな日本語に翻訳して参照データ参照データ参照データ参照データ業務の範囲完全な自動化人と協調する半自動化生成AIを使わない方がいい場合が多い

自動化が難しかったタスク | 議事録作成業務の範囲議事録に必要な項目自動化できているタスク生成AIの業務利用では新たに出来そうなコトも考える要約・抽出誰がどんな発言
をしたのか、リストアップしてください会議音声録音トランスクリプト作成トランスクリプト精度:95%? 精度:85%? 要約・抽出アクションアイテムをリストアップしてください要約・抽出 xxxについて、どんな議論がされていたか要約をしてください参照データ発言記録発話要旨アクションアイテム xxx議論要約他… 人力補正人と協調する半自動化ドラフトドラフトドラフトドラフトある程度の精度なら、要約用の参照データとして十二分に機能します

後からプロジェクトやチームに参加しても自分の知りたい項目だけ自分で確認が出来るようになった!

タスク利用ツール Copilot -丸投げは出来ないけどマーケティング・フィールド支援プレゼンテーションシナリオ作成類似事例検索。リスト作成。文書作成サーチ Bing
Chat 人に相談 Yes! (Bing Chat も) アイディア整理リスト作成 OneNote Yes! プレゼン資料作成文書作成。図版作成。 Power Point Yes! プレゼン共有 OneDrive for Busines (SpeakerDeck / SlideShare) デモアプリ開発デモシナリオ作成文書作成。リスト作成 OneNote Yes! 人に相談 Yes! (Bing Chat も) デモアプリ開発コーデイング Visual Studio Code Yes! 動作環境作成 Microsoft Azure 案件相談コミュニケーションメール文書作成。リスト作成 Outlook Yes! チャット | 雑談文書作成対面文書作成 Teams Yes! 文書作成 Slack 文書作成ソーシャルネットワークドキュメントアーキテクチャ図など図版作成 PowerPoint Yes! 概算見積もり表計算データ分析。グラフ作成 Excel Yes! 打ち合わせ対面 Web Meeting 議事録作成。タスク作成 Teams Yes! タスク管理日程調整スケジュール管理リスト(候補日)作成。 Outlook Yes! タスク管理タスク作成 Microsoft To-Do データ分析データ理解・加工・分析 Power BI Yes! 経費精算データ入力 Dynamics 365 Yes! 申請出張申請メール文書作成 Outlook Yes! 自分のタスクの棚卸のススメ Priority-1: Core Priority-2: Operations

アプリ作成ドキュメント作成要件定義 Markdown 設計書クラス図 Mermaid Live Editor ER図
Mermaid Live Editor シーケンス図 Mermaid Live Editor アプリケーション画面 HTML コード JavaScript 展開 Azure BiCep 概算見積もり明細 CSV 1度のPromptでタスクの全てが出来るとは限らないない Prompt のデザイン他にもあると思います… ChatGPT?

Prompt のサンプル dahatake - Qiita dahatake/ChatGPT-Prompt-Sample-Japanese: ChatGPT の Prompt のサンプルです。
(github.com) https://github.com/dahatake/ChatGPT-Prompt-Sample-Japanese https://qiita.com/dahatake

Engineering への適用

ドラフトを作ってくれる

とある Software Engineer の一日 9:00 – 9:15 メール・チャットなど返信。長いもの 9:15 –
9:30 Team Meeting 設計書などのドキュメント作成 9:30 – 10:30 コーディング・テスト 10:30 – 11:30 ランチ 11:30 – 13:30 Customer Meeting 13:00 – 14:00 コーディング・テスト 14:00 – 16:00 Blog Post もしくは登壇用スライド作成 16:00 – 17:00 Communication Documentation Engineering SNS 探索

コーディングはほんの一部

Prompt だけでどこまで出来るのか?

想定シナリオ福島県郡山市の観光者アプリ https://fukuprogram.connpass.com/

自分で調べてみた企画

自分で調べてみたデータ化自分の OneDriveの中企画

ユースケースの洗い出し企画

要件定義 : 機能要件要件定義

要件定義 : 非機能要件要件定義

アーキテクチャ図設計

画像ファイルからの Azure サービス作成を試してみた設計

画面遷移図設計

実装計画設計

データモデル設計

サンプルデータ作成実装

Azure SQL Database のテーブル作成実装

Azure SQL Database にデータ登録実装

Azure Cosmos DB の作成実装 [残念!] Resource Group を Cosmos
DB アカウントの作成前に、作成する必要あり

登録用の変数作成実装

CLI スクリプトを変数を使ったものに実装

Azure Cosmos DB にデータ登録実装 [残念!] DB、Container作成までは出来ます。 CLIから、データ登録は出来ません

Azure Cosmos DB SQL API 実装論理モデル (データモデル) さえあれば、もはや実装用のコードは
どれでもいい勿論、最適化にはエンジニアリングが必須ですけど

Vue.js 作成 (1) 実装

Vue.js 作成 (2) 実装

Azure Functions で API 実装実装

Vue.js と Azure Functions API 融合実装

Azure Functions と Azure Cosmos DB 融合実装

デプロイも (1) 実装

デプロイも (2) 実装

GTP-4 with Vision でシステム構成図から IaC 作成も GPT4-Vで構成図からIaCコードを生成させる #OpenAI
- Qiita

レポーティング用のSQL文作成実装

Microsoft Azure のサービス選定実装

作成したファイルのダウンロード Code Interpreter は常に神実装

案件の相談からここまで 30分/1人でなんどもやり直せる短さ殆どはPrompt 出力の待ち時間

肌感覚ですが。 95%以上の図、スクリプト、コードはそのまま動きました

生産性と品質を上げるための戦略

戦略既存開発環境との融合 Token の Input - Output 論理モデルと実装の疎結合 100%にならない問題

でも、その残り 5%が動かなくて。半日費やすこともある 100%にならない問題

テンプレート or 公式サンプルコードの活用は、常に正義 100%にならない問題 Visual Studio Code の Azure
Functions Extensions で作成 ChatGPT で作成したコード適時利用要件(利用関数、データモデルなど)は入っていない要件あり (利用関数、データモデルなど)

GitHub Copilot Chat もすげぇ! 実は殆どの Prompt が動く! Engineering からかけ離れると… 感動!
VS Code内でのファイル作成! 100%にならない問題

実際の入力#2のトークン: 128,000 LLMのトークン制限は Chat 前提 Token の Input - Output
Azure OpenAI Service モデル - Azure OpenAI | Microsoft Learn 入力#1 出力#1: 4,096 入力#2 出力#2: 4,096 一度に大量の出力はできないトークン数が増えると、精度が落ちやすい。ノイズになるトークン数は増加傾向対話の継続 = 入力トークンのデータ追加

管理すべきは論理モデル for ChatGPT 論理モデルと実装の疎結合論理データモデル RDBMS: Azure SQL
Database Document: Azure Cosmos DB SQL API Optimize Optimize Technology Neutral

管理すべきは論理モデル for ChatGPT 論理モデルと実装の疎結合論理データモデル RDBMS: Azure SQL
Database Document: Azure Cosmos DB SQL API Technology Neutral 各サービス・テクノロジーへの最適化こそ Engineer の腕の見せ所! Optimize Optimize

Project Manager | Architect Developer | Data Engineer UX Designer
チームでの Prompt 実行と Output 共有例 Prompt Prompt Prompt メール・チャット・議事録など Prompt Prompt Prompt Prompt GitHub などに Project のドキュメント機能要件 Cosmos DB MySQL Mongo DB HTML Image Java C# 非機能要件画面遷移図アーキテクチャ図メッセージ図プロジェクトスケジュールデータモデル Python JavaScript SQL Database IaC CSS Prompt Prompt Prompt Copilot for Microsoft 365 GitHub Copilot GitHub Copilot Prompt GitHub Copilot 既存開発環境との融合 .docx, .pptx など .md など .ts, .js など .csharp, .java, .py, .sql など

Project Manager | Architect Developer | Data Engineer UX Designer
チームでの Prompt 実行と Output 共有例 Prompt Prompt Prompt メール・チャット・議事録など Prompt Prompt Prompt Prompt GitHub などに Prompt Prompt Prompt Copilot for Microsoft 365 GitHub Copilot GitHub Copilot Prompt GitHub Copilot 既存開発環境との融合ほとんどがテキスト Project のドキュメント機能要件 Cosmos DB MySQL Mongo DB HTML Image Java C# 非機能要件画面遷移図アーキテクチャ図メッセージ図プロジェクトスケジュールデータモデル Python JavaScript SQL Database IaC CSS

Mermaid Live Editor の Visual Studio Code プラグインがあって、良かったー ```mermaid graph
TD subgraph Frontend mobileApp[スマートフォンアプリ] webApp[ウェブアプリケーション] end ```mermaid を付与するのをお忘れなく

既存コードから図的なものの作成 Azure OpenAI アシスタントコードインタープリターを使用する方法 - Azure OpenAI |
Microsoft Learn GitHub Copilot Chat ChatGPT

Prompt 環境のチームで共有 – わかる Introducing ChatGPT Team (openai.com)

更なる自動化へのツールの登場も近いでしょう

さいごに

LLM は進化の途中 2024 2025 2026 2027 ? ? Parameter数の増加?
Parameter数が少なくても能力が向上? Computing の進化 | 社会への貢献

Prompt Engineering は補助にすぎない! ### 指示 ### 次の文章の内容を変更せずに、 CEFRのC1レベルに添削してください。添削した文章は英語で作成してください。なぜ、その改善をしたのかの理由は
日本語で作成してください。ステップバイステップで考えてください。文章: ### I found the technical issue at our cloud services. The almost of behavior of issue looks like come from storage layer. I guess disk IO is near peak. How can I check this? ### 具体的に何をしてもらいたいのか? 何かをしてもらうための追加のデータや情報 Prompt Engineering のテクニック: Delimiter Prompt Engineering のテクニック: Delimiter Prompt Engineering のテクニック: Chain of Thought Prompt Engineering のテクニック: Delimiter

“Prompt” 所詮は、言葉

PCを使う→キーボードの練習スマホを使う→フリック入力などの練習 ChatGPTを使う→Promptの練習これが「今」

毎日 Prompt してね

ChatGPT のより深い理解 • ⿊橋教授（京都大学）- ChatGPT の仕組みと社会へのインパクト / NII 教育機関
DX シンポ (2023) • https://www.nii.ac.jp/event/upload/20230303-04_Kurohashi.pdf • 話題爆発中のAI「ChatGPT」の仕組みにせまる！ - Qiita • https://qiita.com/omiita/items/c355bc4c26eca2817324

ChatGPT for Developer - Promptのチカラ

ChatGPT for Developer - Promptのチカラ

More Decks by Daiyu Hatakeyama | @dahatake | 畠山 大有

Other Decks in Technology

Featured

Transcript

More Decks by Daiyu Hatakeyama | @dahatake | 畠山大有