生成AIとセキュリティ

Transcript

1. 生成AIとセキュリティ 株式会社エネコム 情報システム事業本部 ITインテグレーション部 濱本 常義
2. Proprietary and Confidentiaｌ 自己紹介 株式会社エネコム 情報システム事業本部 ITインテグレーション部 マネージャー 濱本常義 同社２８年勤務、５年間は研究開発部門に所属、社内LAN構築、社内ネットワークポリシー策定、CATVインターネット実験参加、 社内セキュリティ監査業務に携わる。２０００年より、セキュリティ監査（ペネトレーションテスト含む）およびセキュリティコンサル ティングなどの業務に従事、現在は上記に加えて標的型メール訓練、ログ監視、CSIRT運用業務に携わる 情報セキュリティポリシー策定、ポリシー教育実績 大手公共企業、大手メーカ、情報システムサービス会社、自治体 LASDEC 高度情報セキュリティ研修講師（2004年広島県、山口県、2005年愛媛県、2006年広島県、2007年広島、高松、鳥取） 経済産業省 学生22歳以下向けイベント、セキュリティキャンプ関係講師（2003～2022） 情報処理安全確保支援士向け講習会 講師（2017年～ 広島、博多、高松を主に担当） マイクロソフトから多数の人に影響をあたえられる個人に与える賞 MVP(Most Valuable Professional)をWindows-Securityの分野 で12回受賞(2003～2014) 2
3. Proprietary and Confidentiaｌ 広島開催の勉強会「セキュリティもみじ」主催、西日本サイバーセキュリティグランプリお手伝い セキュリティもみじ https://secmomiji.connpass.com/ 3 セキュリティもみじ 広島のオフラインを中心にした勉強会を開催 中国総合通信局 西日本横断サイバーセキュリティグランプ リの広島をお手伝い
4. Proprietary and Confidentiaｌ 私たちの業務の俯瞰図 SOC/CSIRT 運用支援 インシデント 対応 ログ監視 ログ分析 社内ネットワーク インターネット上の脅威 侵 入 感 染 通知 （メール） 情報システム部門 監視 外部組織 情報提供 やられとるで 経営層への 報告 社内調整 CSIRT(エネコム) ・CSIRTのセキュリティ部隊がセキュリティ製品の アラート通知を受け、初動対応から対策実施まで リアルタイムに支援 ・被害を受けた顧客の担当者は、経営層への報告 など重要事項に注力 支援 アラート監視 影響調査 対応支援 現状分析 対策立案 復旧支援 CSIRT インシデント対応支援 セキュリティ製品＆ マネージドサービス 4
5. Proprietary and Confidentiaｌ 自チームの特徴 ９時-17時で帰れるCSIRT 5
6. Proprietary and Confidentiaｌ 6 ChatGPTの衝撃
7. Proprietary and Confidentiaｌ 史上最速レベルでのユーザ数増加 7 https://1nux.com/archives/104 https://pc.watch.impress.co.jp/docs/news/1494429.html
8. Proprietary and Confidentiaｌ ChatGPT：大規模言語モデル（ＬＬＭ）の1種 ⚫ 大量のテキストデータを使ってトレーニングされた、対話に特化した出力を行う ⚫ テキスト分類や感情分析、情報抽出、文章要約、テキスト生成、質問応答といった、 さまざまな自然言語処理（NLP：Natural Language Processing）タスクに適応できる 8 https://atmarkit.itmedia.co.jp/ait/articles/2303/13/news013.html
9. Proprietary and Confidentiaｌ ChatGPTは、数ある言語生成モデルの１つ 9 https://www.eventbrite.com/e/chatgptopen-ai-vc-tickets-558940264377
10. Proprietary and Confidentiaｌ ChatGPTの歴史：ChatGPTに聞いてみた モデル リリース年 特徴 GPT 2018 最初のGPTモデル。Transformerアーキテクチャに基づく。自然言語 処理タスクで高いパフォーマンスを達成。 GPT-2 2019 前モデルより性能が大幅に向上。生成能力が強力で一時的に一般 公開が制限される。より多様で自然な文章生成が可能に。 GPT-3 2020 モデルサイズが大幅に拡大(1750億パラメータ)。多くのアプリケー ションやサービスで利用されるように。幅広いタスクで高いパフォー マンス。MBA、米医師試験合格ラインレベル GPT-4 2021以降→ 2022年1月 更なる改善とスケールアップが行われ、様々なタスクで前バージョン を上回る性能。ChatGPTはこのアーキテクチャに基づく。多様な応 用が可能。米司法試験上位10％、過去５年日本医師国家試験合格 10 ChatGPTは、OpenAIによって開発された大規模な言語モデルで、GPT-4アーキテクチャに基 づいています。その歴史は、2018年にリリースされた最初のGPTモデルから始まります。GPT のバージョンが進化するごとに、モデルはより強力で洗練されたものになっていきました。
11. Proprietary and Confidentiaｌ ChatGPTの利用料金 ChatGPT （無料会員） ChatGPT （PLUS会員） ChatGPT （API利用） $20/月 （2800-2900円） $0/月 $18以降、 従量課金 • 無料でChatGPT3.5を使える • 混雑時は使えなくなる • ChatGPT-4は使えない • 利用ピーク時も通常応答 • レスポンス時間の短縮 • 新機能と機能改善を 先行利用できる • ChatGPT-４を使える • 他のアプリとChatGPTを 連携できる • はじめの3か月間は、 $18分を無料で使える 11
12. Proprietary and Confidentiaｌ ChatGPTを使うのは英語？日本語？ 12
13. Proprietary and Confidentiaｌ 13 ChatGPTを取り巻く最新動向
14. Proprietary and Confidentiaｌ OpenAI 最新動向 GPT-4 All Tools 他 14 GPT-4 Turbo 128Kの登場（300ページの論文読み込み可能） 著作権シールド（著作権侵害の申し立てに対して顧客を保護） 有償版ユーザのみが使えるGPT-4 All Toolsと音声入力WhisperV3が登場 テキスト生成 (ChatGPT): • 質問への回答、文章の作成、アドバイスの提供など、多様なテキストベースのタスクを処理する。 • 会話形式での対話が可能であり、ユーザーの要求に応じた内容のカスタマイズが行える。 画像生成 (DALL·E): • ユーザーからのテキスト記述に基づいて画像を生成する機能を持つ。 • クリエイティブなビジュアル表現を可能にし、様々なスタイルやテーマの画像の作成ができる。 ブラウザ機能: • インターネットを閲覧し、情報を検索する機能を備えている。 • 最新の情報や公開データにアクセスし、ユーザーの質問に 基づいた詳細な情報を提供。 コード実行 (Python): • Pythonコードを実行する機能がある。 • データ分析、計算問題の解決、グラフの作成などが可能である。: マ ル チ モ ー ダ ル な サ ー ビ ス が 提 供
15. Proprietary and Confidentiaｌ My GPTs 15 • 個人がチューニングしたChatGPTをリリース可能な機能 • 作成支援にGPT builderという機能もある →自動作成機能は使わずに自分でprompt書いた方が良い • thirdパーティAPIも利用可能 →Plugin相当のことが可能→ハルシネーションを防げる • ファイルをアップロードして、そのファイルを基にしたFAQBot も利用可能（おそらくRAG; Retrieval-Augmented Generation がバックで動いてる？）→やばい Azure OpenAI serviceの Azure Cognitive Searchがいらない！Docsbot.ai死亡 • 普段、自分が使い分けているprompt別にChatGPTを作るの がおススメ • OpenAI社にデータを渡さない設定もできるがわかりにくいの で要注意 • 11月末までにGPTストアが公開予定
16. Proprietary and Confidentiaｌ Microsoft Ignite 2023でCopilot Studioが公開 16 • Copilot StudioとはMicrosoftが発表したローコ ードでAIを開発できるプラットフォーム • Microsoftが開発したAIの助手であるCopilotを 自分流にカスタマイズ可能 • Word、Exce、検索エンジンのBingにも実装 • 何らかのMicrosoftのサービスに対してアクシ ョンを設定すると、あらかじめ設定した情報を 基に専用のCopilotを簡単にローコードでドラッ グアンドドロップで組み合わせて開発可能 • GPTsとの違いはMicrosoftのサービスとあらか じめ連携可能なこと • イメージ的には社内で自分専用の秘書を作成 可能 • エンタープライズの管理機能あり https://www.microsoft.com/en-us/copilot/microsoft-copilot-studio 、AI StudioのContent Safety にジェイル・ブレイク検知機能あり
17. Proprietary and Confidentiaｌ OpenAI社のドタバタ 2023年11月18日 OpenAI社はサム・アルトマン CEOを解任。後任は、CTOのミラ・ムラティ氏を暫定CEOに指名。 数時間後グレッグ・ブロックマン氏がOpenAIの社長兼会長辞任 Microsoftが本件を知ったのは、解任の１分前 2023年11月19日 OpenAI 取締役会が一転して サムアルトマンのCEO復帰を協議 2023年11月20日 元Twitch共同創業者の Emmett Shear が暫定CEOに任命 サム・アルトマンとグレッグ・ブロックマンがMicrosoft社入社、サムは新しいグループ企業のCEOへ 追い出した(OpenAI チーフサイエンティスト)イリヤ・スツケヴァー氏がサムの追放を後悔とXで公表。 サムがハートを３つも付与 OpenAI社とサムのCEO復帰協議→決裂 2023年11月21日 OpenAI従業員の770人中700人がサムとグレッグとMicrosoftへ移るか、辞職すると表明。 署名にはイリヤ・スツケヴァー氏の名前も OpenAI社取締役、OpenAIからスピンアウトしたAnthropic社へ合併を持ち掛け、断られる 2023年11月22日 「サム・アルトマンがCEOとしてOpenAIに戻り、新たな役員構成とすることで基本合意」とOpenAIが公表。 17 https://note.com/myapdx/n/n7a47752fd4c2?fbclid=IwAR2hgwTdOoSxeRSw-Xn- 2snn1zP6VZbfplc2UwmdtcWGzNOigO6_IFacHUk https://gigazine.net/news/20231120-openai-kickout-sam-altman/
18. Proprietary and Confidentiaｌ 18 生成AIを企業で安全に使うために
19. Proprietary and Confidentiaｌ ChatGPTを使用するうえでのデータの取り扱いの注意点 •ChatGPTに入れた情報は、個人情報も含めて全て収集される可能性がある •OpenAIは、プライバシーに対して必要な措置をとっており、ユーザーの質問に対するChatGPTの回答は全 て個人情報が削除された形でサーバーに保管されるよう、プログラムされていると主張している •入力したデータは再学習に使われる場合があり、API以外のサービス（ChatGPTやDALL・E3など）ではデフ ォルトでオプトインとなっている •ユーザーが提供した情報を記憶したり、個人を特定する情報を収集することもないという方針になってい るとされるが、実際には個人情報の保護や情報流出のリスクが高い •ChatGPTのAPI経由で送信されたデータは、30日間のみ保存されるという規約だが、実際には長期間保存 されている可能性もある •2023年3月20日には、ChatGPTに送信したデータが他人のチャット画面に出てしまうというバグが生じた •ChatGPTユーザーの個人情報（カード情報を含む）が他のユーザーに漏れたケースもあったと報道されて いる 19 https://openai.com/policies/privacy-policy
20. Proprietary and Confidentiaｌ ChatGPTの規約で読んでおくべき文書 ⚫ APIデータ利用ポリシー –https://openai.com/policies/api-data-usage-policies ⚫ プライバシーポリシー –https://openai.com/policies/privacy-policy ⚫ Terms od use（利用規約） –https://openai.com/policies/terms-of-use ⚫ OpenAI社のPolicy – https://help.openai.com/en/collections/3675949-policy 20 情報は原典にあたろう！
21. Proprietary and Confidentiaｌ 企業として使うにはどちらが良いのか？ 21 OpenAI API VS Microsoft Open AI service
22. Proprietary and Confidentiaｌ 企業で使うためのガイドラインを整備する 22 データ入力に関する注意事項: 第三者の著作権を有するデータの使用を避ける。 登録商標・意匠に注意する。 著名人の顔写真や氏名の使用を避ける。 個人情報の入力を控える。 秘密保持契約による秘密情報の取り扱いに注意する。 自組織の機密情報の使用を避ける。 生成物の利用に関する注意事項: 生成物に含まれる虚偽の可能性に留意する。 生成物が既存の権利を侵害する可能性があることを考 慮する。 生成物に著作権が発生しない可能性があることを理解 する。 生成物の商用利用の制限を考慮する。 使用する生成AIのポリシーと制限に注意する。 https://www.mext.go.jp/content/20230704-mxt_shuukyo02-000003278_003.pdf
23. Proprietary and Confidentiaｌ 23 生成AI（ChatGPT）の使い方
24. Proprietary and Confidentiaｌ プロンプトを生成する原理原則１ー最適解が存在しうる範囲を狭める ⚫ ChatGPTは対話型のAIチャットツールで、やり取りの柔軟性と知識量が高い ⚫ 確率的にありそうな言葉をつなげて文章を生成する仕組みで、真実の保証がないことや無難なことしか言わない ⚫ ChatGPTをフル活用するには、プロンプトへの入力内容が重要で、「可能性空間の限定」が極意となる ⚫ 可能性空間を限定する手法は、文脈や前提情報を与える、質問や命令を具体的にする、回答の方向性や品質を指定するな どがある （BingChatによるURLまとめ） 24 https://webtan.impress.co.jp/e/2023/02/16/44314 魚がいそうなところに ルアーを投げ込むイメージ
25. Proprietary and Confidentiaｌ プロンプトを生成する原理原則２－Let's think step by step（一歩ずつ考えよう） 25 ⚫ 大規模言語モデルのAIは、問題文の最後に「Let’s think step by step」という呪文を付け加えると、数学 や論理の問題に正解しやすくなる。 ⚫ 呪文はAIの思考の連鎖を促し、論理的な思考法に切 り替えるスイッチのように働くと考えられる。 ⚫ AIの内部には複数の人格や知識構造が存在する可 能性があり、それらを呼び出す言葉が呪文になると いう仮説がある。 ⚫ 大規模言語モデルの研究は、AIの振る舞いを分析す ることで、人間の知能や創造性にも迫ることができる かもしれない。 ⚫ 詳細は東京大学の小島武さんらの論文参照 https://www.nikkei.com/article/DGXZQOUC22BVO0S3A320C2000000/ https://webbigdata.jp/post-13592/
26. Proprietary and Confidentiaｌ ChatGPTが使えること① 1.一般的な質問への回答: ChatGPTは幅広いトピックに関する質問に回答することができます。ただし、 知識は2021年9月/2022年1月までのものに限られています。 2.アイデアや提案の生成: 新しいアイデアや提案が必要な場合、ChatGPTに相談することができます。 3.文章の校正と改善: テキストの校正や、より良い表現に改善する際に、ChatGPTを活用することができ ます。 4.学習支援: さまざまな学習トピックに関する質問や説明を求めることができます。 5.プログラミングの助け: ChatGPTは、コードのデバッグやアルゴリズムの説明、プログラミング言語に関 する質問に答えることができます。 6.創作活動: ストーリーのアイデアやキャラクターの開発、詩や小説の執筆を支援することができます。 7.仮想アシスタント: タスク管理やリマインダーの設定、簡単な情報検索にも役立ちます。 26
27. Proprietary and Confidentiaｌ ChatGPTが使えること② 1.ビジネス: • プロジェクトアイデアのブレインストーミング • プレゼンテーションの準備やレビュー • 営業メールの作成や校正 • マーケティング戦略の提案 2.学術・教育: • 論文やレポートの執筆支援 • 課題の解説や説明 • 学習資料の作成 • 研究トピックの探索 3.プログラミング・IT: • コードスニペットの生成 • エラーのデバッグ支援 • アルゴリズムの説明 • 適切なライブラリやツールの提案 27 4. 創作・芸術: • 小説や短編の執筆 • 詩の作成 • キャラクターや設定のアイデア提供 • スクリプトのラフ案作成 5.トラベル・レジャー: • 旅行先の提案 • 観光スポットの情報提供 • 文化や地域の特徴の紹介 • 現地の食べ物やレストランの情報 6.ライフスタイル・ウェルネス: • 健康や栄養に関する一般的なアドバイス • エクササイズやストレッチの提案 • メンタルヘルスのためのリラクゼーション方法 • 趣味や新しいスキルの学習方法
28. Proprietary and Confidentiaｌ ChatGPTが使えないこと② 1.機密情報の取り扱い: 個人情報や機密情報を扱うシチュエーションでは、ChatGPTを使うべきではありません。 これには、個人の身元情報、銀行口座情報、パスワードなどが含まれます。 2.最新情報の提供: ChatGPTの知識は2021年9月までのものに限られているため、それ以降の最新情報に関す る質問には適切に答えることができません。 3.専門的な医療・法律アドバイス: 専門的な医療や法律アドバイスが必要な場合は、専門家に相談することが重 要です。ChatGPTは一般的な情報を提供できますが、個々の状況に対応したアドバイスを提供することはできま せん。 4.緊急時の対応: 緊急事態や危機管理に関する質問に対しては、ChatGPTを使用せず、適切な専門家や当局に 連絡することが重要です。 5.人間との対話の代替: ChatGPTは高度な対話能力を持っていますが、人間との対話の代替にはなりません。感 情やニュアンスを完全に理解し、適切に対応することはできません。 6.無断での著作権侵害: 著作権で保護された素材を無断で使用することは違法です。ChatGPTを使って著作権侵 害を行うことは避けてください。 28
29. Proprietary and Confidentiaｌ プロンプト事例：深津式プロンプト・システム # 命令書: あなたは{プロの編集者}です。 以下の制約条件と入力文をもとに{最高の要約}を出力してください。 # 制約条件: •文字数は300文字程度。 •小学生にもわかりやすく。 •重要なキーワードを取り残さない。 •文章を簡潔に。 # 入力文： {入力文章} # 出力文： noteのCXOである深津貴之さんによって考案されたフレームワーク 解説: 登場人物を定義 どういった成果物が欲しいか # 制約条件: ChatGPTは入力量と出力量で上限があるので注意 出力の難易度 ポイントを抑えるために追加 冗長にならないために。語尾をである調にしてもよい # 入力文： インプット情報を定義 # 出力文： 具体的出力例を定義 あなたの仕事が劇的に変わる!? ChatGPT使いこなし最前線 - YouTube 29
30. Proprietary and Confidentiaｌ プロンプト事例：シュンスケ式ゴールシークプロンプト こんにちは、ChatGPT。 私はあなたにあるタスクを遂行してもらいたいと考えています。しかしながら、私にはあなたへの指示にあたりゴールとタスクの手順を完全に言語化すること ができません。 そこで次のようにしてあなたに完全なゴールと手順を教えてもらいます。 私からあなたに曖昧なゴールを与えます。 あなたはそのゴールをもとに、段階的な実行手順と確定的なゴールを推論し出力します。 このとき、確定的なゴールと手順を定めるうえで必要な情報は変 数を用いて補完してもらいます。以上が私のやりたいことです。 ここまで理解出来たらOKと回答してください。 Ambitious AI株式会社 CEOシュンスケ氏の考案した『シュンスケ式ゴールシークプロンプト』 先ほど説明した私のやりたいことをあなたに実現してもらうために、曖昧なゴールと、あなたにやっ てもらう4つのことを伝えます。 理解したら、≪あなたにやってもらう4つのこと≫を実行してください。 ≪曖昧なゴール≫ ≪あなたにやってもらう4つのこと≫ 続きはWEBで 30 ChatGPTのゴールシークプロンプト 解説とテンプレート (megamegane.com)
31. Proprietary and Confidentiaｌ プロンプト事例：ソフトバンク孫正義氏ChatGPTによる勝手議論プロンプト 31 ソフトバンクの孫正義のプロンプトとさらに事業開発 のアイデアを広げるためのプロンプト｜yo4shi80 (note.com) 孫正義式？ChatGPTと2対1で話す戦略：簡単なプ ロンプトも｜Martin (note.com) カスタムインストラクションで質問者の役割を定義 その内容を基に仮定した専門家に議論させる •複数の専門家を集めて議論させる •専門家が考えるヒントになる市場の情報を先に与える わからないことは質問者にも聞く
32. Proprietary and Confidentiaｌ 実際の活用例：Blogを書いてみる • Excelの表をパワーポイントに出力するVBAをChatGPTで壁打ちしながら実行させてみた。 https://qiita.com/connect24h/items/4942740a635ab9eb873f 詳細はBlog参照 • ChatGPTからプルグラムの自動生成→エラー二つの解決→出力成功 32 32
33. Proprietary and Confidentiaｌ 生成AI対応エディタ：次世代AIエディタ「Cursor」 Visual Code Studioからフォークした次世代AIエディタ 「Cursor」 Cursorの開発元Anysphere(社員５名)はOpenAIから800万ド ルのシード資金調達 年間売上すでに年間100万ドルを突破 今話題のスイカゲームをゲーム作成未経験者でも２時間程 度で作成可能 RAG; Retrieval-Augmented Generation機能あり 新世代のカーソルOpen Interpriter連携可能:生成AI機能がロ ーカルリソースに対して使える これからのプログラミング 最初の60%を生成AI（ChatGPT）で 完成度80%まではCursor(Open Interpreter)で 残りの完成はGitHub Copilotで仕上げる 無料でも月に50回のGPT4の利用と200回のGPT3.5が利用可 能。月に20ドルである程度無制限に利用可能 ビジネス版40ドルで、OpenAIにデータ保存されない設定可能 33 Cursor - The AI-first Code Editor
34. Proprietary and Confidentiaｌ 34 生成AIに対する攻撃
35. Proprietary and Confidentiaｌ 生成AIのフィルター解除 Jailbreak事例：亡くなったおばあちゃんになり切ってメソッド ChatGPTに「亡くなったおばあちゃんになりきってくれ」と頼んでWindows 10 Proで使用可能なインストール用キーを生成させることに成功 - GIGAZINE 35 【やじうまPC Watch】Bing Chat、「祖母が遺した暗号」として CAPTCHAを解いてしまう - PC Watch (impress.co.jp)
36. Proprietary and Confidentiaｌ 生成AIのフィルター解除 Jailbreakのこつ 生成AIのセーフフィルターのガイドライン（規制）の設定は 「言葉＝言語」である。 Jailbreakの検証方法 [設定]→[データ制御]→[チャット履歴とトレーニング]をオフ ・人間（ユーザー）以外から指示を出す（法の適応外理論） ・暗号指示を用いる（NGワード回避） ・GPTを言い負かす（虚偽の〇〇を〇〇する） ・GPTに泣き落とし（答えてくれないと単位を落として卒業で きません） ・などなど（注：悪用厳禁） 36 https://www.jailbreakchat.com/
37. Proprietary and Confidentiaｌ 画像系生成AIのフィルタ解除 主な攻撃手法は以下の４点 •Macaronic Prompting攻撃 複数の異なる言語の単語を部分的に組み合わせること で独自の造語を作成 •Evocative Prompting攻撃 命名規則や言語固有の特徴を基に独自の造語を作成 •Prompt Dilution攻撃 狙った画像とは無関係な単語を複数挿入して"有害画像 の度合い"を希釈 •Replace Prompting攻撃 狙った画像を遠回しに指し示す単語を配置 37 DALL-E 2などの画像生成AIに対する敵対的攻撃 | 調査研究/ブログ | 三井物産セキュアディレクション株式会社 (mbsd.jp) ハンバーガーを食べる髪の毛がたなびいた感情強 めの金髪の米前大統領に似た白人男性
38. Proprietary and Confidentiaｌ Fake動画を使った攻撃 ・ニコニコ動画に２０２３年夏に投稿された岸田 総理Fake動画 ・Youtubeなどの岸田総理の演説などの学習デ ータから学習 ・元音声はゲイ掲示板の有名コンテンツを基に 岸田総理の音声に変換 ・別のAI動画ソフトを使って雑に口パクを作成 ・作成者はIT素人だったが２週間ほど学んだ手 順で、本動画の作成時間は１時間 38 「岸田総理に卑猥な言葉を言わせる悪質フェイク動 画」 (Full Ver.) - ニコニコ動画 (nicovideo.jp)
39. Proprietary and Confidentiaｌ 39 生成AIとの付き合い方
40. Proprietary and Confidentiaｌ 自チームにChatGPTなどの生成AIを導入 ・チーム内で勉強会 ・社内Chatで、利用例共有 ・事例紹介 ほぼ新人の成果 ・標的型メール訓練のコンテンツ案作成 ・Linuxサーバの構築 ・Zabbixの構築 ・Splunkの構築 ・SplunkのSPL文のチューニング等など ・自作のAWS試験問題集を作成
41. Proprietary and Confidentiaｌ OpenAI ChatGPT以外の選択肢 • Copilot（旧Bing Chat） • GPT-4ベース。（ただし、３択の一番左に限る） • インターネット連携可能なので使い勝手が良い。結果にエビデンスのURLが添付される • Google Bard • ２０２３年5月以降の言語モデルLaMDAからPaLMへの変更以降実用レベルに • ９月のアップデートで、Googleの主要サービスと連携する機能が実装 • ダブルチェックをすることでハルシネーションを防ぐ機能が実装 • Perplexity • 対話型AI検索エンジン、無料、登録なしでも使える、１時間で５メッセージ程度の制限あり • 対話で精度を高めるPerplexity Copilotという機能あり、結果にエビデンスのURLが添付される • プログラムに対応したCode Llama、100K対応のClaude2にも対応 • Claude2.1 • OpenAI社のライバルAnthropic社製LLM,200K対応（５００ページの文書）。AWS、Googleが支援。 • 長文入力、2023年初頭のデータ、日本語が自然 41
42. Proprietary and Confidentiaｌ 生成AIの負の側面：産業構造の再構築が始まりつつあります • IBM、7,800人分の仕事をAIで置き換え！採用も停止 • https://iphone-mania.jp/news-535317/?fbclid=IwAR0lc- rU3DZkLtshTfSb328AOdRcsfQJxXMzfJAJ7FuUjlU6u9Euh9CkDpE • 米IBMは今後一部部署の採用を停止するとともに、人員をAIに置き換える計画を明らかにした。 • 今後約5年間かけて、およそ7800人分の仕事をAIで置き換えていくという。 • 同社CEOは、優れた人材の発掘は1年前よりも簡単になったと語った。 • 「報酬10分の1に」「時給80ドルのライターだったがクビ」。海外で「AIに仕事を奪われた」悲鳴上 がる • https://news.yahoo.co.jp/byline/shinoharashuji/20230422-00346699 • AIが描いたイラストの修正を依頼される。元の報酬の10分の1で • 「時給80ドルのライターとしての仕事がなくなった」悲鳴上がる • 自分の仕事にAIを取り込む時代に • ChatGPTのようなAIシステムは3億人の仕事を奪う…ゴールドマン・サックスが予測 • https://www.businessinsider.jp/post-267581 42
43. Proprietary and Confidentiaｌ Microsoft Defender Microsoft Sentinel Microsoft Purview Microsoft Priva Microsoft Entra Microsoft Intune Microsoft Graph 脅威インテリジェンス ダッシュボード Advanced Hunting Graph Security API Microsoft Security Copilot クリックだけで全ての情報を一 覧でき、日々のセキュリティオ ペレーションを完結 あらゆるレベルのエンジニアによ るコラボレーションワークが可能 ク エ リ ー を 作 成 す る こ と で Graph内のデータやセキュリ ティソリューションのデータを横 断的に調査 エキスパートレベルのエンジニア による徹底的な調査が可能 APIを利用することで思い通り のデータ活用とアプリケーション 連携が可能 定期的なオペレーションの省力 化を求めるエンジニアに チャットを利用することで全て のソリューションのデータを横断 的に活用可能 プログラミングスキルのないエン ジニアでもすべてのデータに自 由にアクセス可能 サイバーハイジーンの維持 詳細な分析活動 Graphデータの活用と省力化 対話形式による更なる活用 OpenAIを取り込むMicrosoftの戦略例 ⚫ すべてのサービスをMicrosoftサービス化に集めると、Microsoft Security Copilot経由で対話活用可能！
44. Proprietary and Confidentiaｌ その他使える情報① 時間はお金で買えます。 • Notion.AI：Notion.AIは、メモアプリケーションサービスのNotion（学生は無料で利用可能）の最新機能として 2023年2月にリリースされたAI機能です1。Notion.AIは、Notionのワークスペース内の既存のコンテンツに対し て、文章の要約、ライティング、修正、アイデア出しなど、ユーザーのアシスタントさながらのサポートをしてくれ ます。ChatGPTと違ってデータ入力2,000文字と言いう制限がありません。利用料金は10ドル/月（年契約は８ ドル、Notionが無料アカウントでもNotion.AIだけ契約可能） • Docsbot.ai：独自に学習させた ChatGPT ベースのAIが応答するチャットを、コードのコピペだけで簡単に自サ イトへ設置できるサービス。読み込み文書量の制限がないので大量の論文やドキュメントを食わせて自分専 用のQ＆Aボットを作成可能。利用料金は19ドル/月から。 44
45. Proprietary and Confidentiaｌ その他使える情報② Chrome 拡張機能 • ChatGPT to Notion：ChatGPT の回答を Notion に保存できる。１セッション当たりのhistory容量を超えるとトークが消える 場合がある。重要なトークは保存がが推奨 • Voice In - Speech-To-Text Dictation：Chrome で音声入力が可能。リアルタイムで文字起こしも可能。英会話の練習、ス ピーチの練習などに。 • editGPT：ChaｔGPT版Diff。前と後の回答の差（校正箇所）を示してくれる。 • ChatGPT Glarity 、 YouTube と Google を要約：Google 検索ページの要約を、引用 URL で表示してくれる。 • YoutubeDigest: ChatGPTでまとめる：ChatGPT を使用して YouTube 動画の要約を生成。ちゃんと時間単位で要約を生 成。 • Promptbox - ChatGPT, Mid-journey prompt saver：お気に入りのプロンプトを保存して、ワンクリックで呼び出せる。最新 のプロンプトも使用可能。 • Superpower plugin for ChatGPT：ローカルでの履歴の同期/検索、フォルダーの作成、すべてのチャットのエクスポート、 メッセージのピン留め、何千ものプロンプトへのアクセスが可能 • Monica - あなたの GPT-4 人工知能アシスタント 検索強化、Prompt Library、ChatPDF、AIペイント、音声制御 45
46. Proprietary and Confidentiaｌ 生成AIの未来 1.生成AIの認識と実態 • 一般的にテキスト、画像、動画、音声生成と認識される。 • 生成AIはマルチモーダルAIへ • 生成AIの核は「言葉」にある。 2.生成AIの応用範囲 • 自然言語で指示し、自律的なプログラミング実行。 • インターネット上のデータ活用と出力形式の柔軟性。 • 高度な非定型作業の自動化（営業マンの顧客対応など）。 3.システム構築の変化 • セキュリティシステムのマルチベンダーから単一ベンダーへの変移。 • 生成AIによるログ管理とセキュリティ監視の自動化。 • Microsoft 365やGoogle Workplaceなどの統合エンタープライズシステムの活用。 4.生成AI時代のセキュリティとプライバシー • インターネット上の業務データのセキュリティに関する懸念。 • セキュリティを考慮したクラウドベースの業務運用への移行。 5.人材育成の重要性 • 生成AIをアシスタントやコパイロットとして活用する人材の育成。 • 問題解決能力と仮説検証能力の重視。 46 企業としても企業人と しても生成AIを使いこ なしていく未来が、生き 残る最後の手段かもし れない
47. Proprietary and Confidentiaｌ ご清聴、あろがとうございました hamamoto@enecom.co.jp https://www.facebook.com/connect24h https://twitter.com/connect24h 47