基調講演「ユビキタスLLM社会による変化」

こちらは大和大学アリーナで開催された大阪・関西万博に関する未来社会を考える講演です。基調講演15分と、パネルディスカッション(６人+ChatGPT)約1時間強を担当しました。
Keywords: Azure OpenAI Service, LLM, Microsoft Copilot, 知識獲得

▼イベント情報
https://www.yamato-u.ac.jp/news/4819/

Transcript

1. 基調講演 「ユビキタスLLM社会による変化」 小川 航平 | Kohei Ogawa | @shisyu_gaku Microsoft Japan Co., Ltd. Cloud Solution Architect (Data & Cloud AI)
2. • AI/IoT/データ基盤の設計と開発のご支援(一言でいうと技術顧問) • Japan Azure OpenAI Champ • 約1万人のユーザを抱えるAIコミュニティ 「Deep Learning Lab」 Community Lead • MLOpsチーム/MRチーム • イベント登壇(DLLab/Forkwell/日本ディープラーニング教会/DBTS/LINE/CA…) • App(win・ios)/Sustainability/Art/組織論/マーケティング戦略/UIUXデザイン • サ活/スタバ/インテリア/QoLをあげること/非現実体験を味わうこと • 高専→筑波大学(3年次編入学)→筑波大学大学院→MS • 書道家(ライブパフォーマンスや展示) • Linux Foundation / Green Software Foundation所属 • プログラミングコンテストでたり、運営したり、審査員したり。 経歴 Microsoftでは・・・ その他の領域・趣味 小川 航平 / Kohei Ogawa
3. 伝えたいこと/Agenda 1. ChatGPT(LLMアプリケーション)の普及のポイント 2. 私たちのワークスタイルはこれからどう変わろうとしているのか︖ 3. エンジニアとして今何を知っておかないといけないのか︖今から何ができるのか︖ 4. 最後に
4. Part１. ChatGPT(LLMアプリケーション)の普及のポイント
6. 6 大規模言語モデル(LLM)の登場によるAIの見え方の変化 膨大なコンピューティングリソースの確保 ウェブアプリ化 ChatGPT(LLMアプリケーション)の普及のポイント ※個人的な見解で す。 ▶ 学習ステップではなく、推論ステップへの言及、どうプロンプトを与えるか ▶ １モデル１タスクではなく、自然な言葉から動的にマルチタスク対応 ▶ Microsoft社とパートナーシップを結ぶことでAzureのコンピューティングをフルに活用 ▶ ChatGPTモデルの学習・推論環境でAzureを利用 ▶ LLM自体は数年前から存在していたが、誰でもURL１つ叩けばアクセスできる形へ ▶ シンプルなUI/UXでできることが分かりやすくシステムもシンプル
8. Part２.私たちのワークスタイルはこれからどう変わろうとしているのか？
9. 10 ※デモ動画 こちらでは、BingChatを用いた論文の サーベイの仕方について解説
10. 11 LLMによる知識獲得の変化 ・何の論文を読むのが良いのか、 ・自分が向きたい方向性に近い論文を今読めているんだっけ？ ・ピンポイントに新規性だけを知ってまとめたい 学生 教授の役割を 果たすAI より理解を深めるために読むべき論文として以下・・・ この論文は◦◦を提案している。 CHI20xxの論文名「hoge hoge」を読んでみるといいですよ。 論文サーベイの例 ▶ 知識獲得欲が強いほど、大規模言語モデルとの対話回数が増え、知識レベルが高くなる。 ▶ 世の中の成功者の知見のデータより、最短距離で知りたいこと・知り方を効率的に知れる。 ▶ 調べ方が分からないことに対して、曖昧な表現でも察して回答してくれるので、学び初めの敷 居が下がった(≒教育コストの低下)
12. ©2023 Microsoft Corporation. All rights reserved. 13 Microsoft Cloud Low-Code/No-Code Modern Work Security Azure Customer Service Finance Supply Chain Management Marketing ERP/CRM Field Service GitHub Azure DevOps Visual Studio Code Developer Power Platform Dynamics 365 Infrastructure/Application/Data and AI Microsoft Security Microsoft 365
13. ©2023 Microsoft Corporation. All rights reserved. 14 Microsoft Cloud と OpenAI のインテグレーション Low-Code/No-Code Modern Work Security Azure Customer Service Finance Supply Chain Management Marketing ERP/CRM Field Service GitHub Azure DevOps Visual Studio Code Developer Power Platform Dynamics 365 Infrastructure/Application/Data and AI Microsoft Security Microsoft 365 Microsoft 365 Copilot Dynamics 365 Copilot Security Copilot Azure OpenAI Service Copilot in Power Apps Copilot in Power Automate Copilot in Power Virtual Agents
14. ©2023 Microsoft Corporation. All rights reserved. 16 ※デモ動画 こちらでは、既存のwordファイルの内容から スライドを作成するデモについて解説
15. ©2023 Microsoft Corporation. All rights reserved. 18 ※デモ動画 こちらでは、既存のexcelデータからインサイトを得たり、統計 データをサマリーして新規シートを作成するデモについて解説
16. Microsoft 365 Copilot Introducing
17. Part３.エンジニアとして今何を知っておかないといけないのか？
18. 21 課題解決手段としてのコーディング ※個人的な見解です。 ▶ エラーのデバッグ 、可読性、コードの再利用性、新技術習得 • 本質的な問題に集中できているか (コーディング過程の欲求に重視しすぎていないか) • より速いプロトタイプ開発やイノベーションの実現ができているか 決められた予算と期間と環境(人やツール)の中でコラボレーションしながら、 何かの課題を解決するアウトプットを出さなければならない。 ▶ ビジネスとして利益の創出、顧客の生活を豊かにできているか
19. December 2022 GitHub Copilot プロジェクトの文脈に特化したコードを提案 • コメントの内容からコードに変換 • 繰り返すコードを補完 • 代替手段を表示 • メソッド名から中身を提案 OpenAI Codex 文脈 提案
20. December 2022 GitHub Copilot 96% 88% 74% が生産性が上がった と証言 が同じタスクでより 速くなったと証言 がより満足する仕事 に集中できたと証言
21. Azure OpenAI Service GPT-3/3.5 Codex DALL·E (preview) ChatGPT GPT-4
22.  事前にチャットに覚えさせたいメッセージ  回答例(Few-shot)の記載  モデルやパラメータ、トークン数を確認 しながらチャット挙動を確認可能  ソースコードもワンクリックで取得可能  DALLE2のモデルも使用可能 Azure OpenAI Studio Playground
23. 最後に • LLMを使いこなすためのツールをたくさん知って、とりあえず試しに触ってみること • 隣にいる友人にツールやおすすめのプロンプト設計に関して共有してみること • 他人がどういうプロンプトを投げているのか使い方を真似てみること
24. ありがとうございました！🙏🙏