生成AIを活用したIT運用高度化への挑戦

Transcript

1. 2024年11月26日 ユニアデックス株式会社 技術戦略部 内ヶ島暢之 AIxIoTビジネス共創ラボ発足 第1回勉強会 生成AIを活用したIT運用高度化への挑戦
2. ©️2024 UNIADEX, Ltd. All rights reserved. 1 ◼ ユニアデックスのご紹介 ◼ 本日の結論 ◼ 生成AIって何？ ◼ ユニアデックスでのAI利用とGAIOps検証結果 ◼ 最後に アジェンダ
3. ©️2024 UNIADEX, Ltd. All rights reserved. 2 社外秘 自己紹介 内ヶ島 暢之 Nobuyuki Uchigashima =バックグラウンド= • 大学院では原子核物理学を専攻 • 2002年日本ユニシス（現BIPROGY）新卒入社。2004年よりユニアデックスへ転籍。データベー スエンジニアとしてミッションクリティカルシステムの設計構築と技術サポート、教育、新規技術のビジネ ス化に従事。2011-2020 Microsoft MVP for Data Platform受賞 • 2016年から2020年までシリコンバレーに駐在し、技術最新動向調査、スタートアップ企業調査と 関係構築、顧客企業とスタートアップとのコラボレーション、社内外およびパートナーとの実証実験を 経験 • 2020年6月から2023年12月までエアトラスト株式会社の代表取締役社長。BIPROGYとソフト バンクより出資を受けてセキュリティベンチャーを起業し、2023年事業清算。総計6.65億円調達 =趣味趣向= • 学生の時は基礎スキー。アメリカ時代はランニングとロングドライブ。今は趣味模索中 • 長所は嫌いな食べ物がないこと。酒はなんでもいけるが最近はビールとワインが多い • 好きなソースコードはSQL Serverのクエリオプティマイザー =特徴= • 名前が珍しい。親戚じゃない内ヶ島さんにいつか偶然出会いたいと思っている • 大事なところでは運が良い • 年のせいか物忘れが多くなった
4. ©️2024 UNIADEX, Ltd. All rights reserved. 3 ユニアデックスのご紹介
5. ©️2024 UNIADEX, Ltd. All rights reserved. 4 ©️2024 UNIADEX, Ltd. All rights reserved. 4 ユニアデックスのご紹介 お客さまビジネスの持続的優位性実現に向けて伴走し、 次世代ICTインフラ・デジタル活用を全体最適化するパートナー 社名 ユニアデックス株式会社（UNIADEX, Ltd.) 代表者 代表取締役社長 田中 建（たなか けん） 住所/TEL 〒135-8560 東京都江東区豊洲1-1-1 03-5546-4900（大代表） 設立 1997年3月4日 資本金 7億5,000万円 従業員数 2,699名(2024年4月1日現在) 売上高 1,504億円（2024年3月期）
6. ©️2024 UNIADEX, Ltd. All rights reserved. 5 ©️2024 UNIADEX, Ltd. All rights reserved. 5 BIPROGYグループにおける役割と責任 トレード・ビジョン アウトソーシング ケンブリッジ・テクノロジー・パートナーズ UEL エイファス キャナルベンチャーズ キャナルグローブ Axxis Consulting Emellience Partners テック・ビューイング グリーンデジタル＆イノベーション コンサルティング＆マーケティング、ビジネス開発 BIPROGY USA グループサービス 次なるご提案 運用・保守サービス エス・アンド・アイ インフラトータルサービス USOLベトナム 国際システム Ｇ＆Ｕシステムサービス ユニエイド BIPROGYチャレンジド システムサービス
7. ©️2024 UNIADEX, Ltd. All rights reserved. 6 ©️2024 UNIADEX, Ltd. All rights reserved. 6 ユニアデックスの主な事業 マルチクラウドの駆使 DX サーバー/ネットワーク/ストレージ ITアウトソーシング コミュニケーション環境構築 Microsoft Azure、AWS、 Google Cloudなどのメガクラウ ド、独自クラウドのU-Cloud IaaS、さらにオンプレミスを調 和させつつ、お客さまのICTイン フラを最適化します。 ▪調和と最適化 ▪セキュリティー課題の解決 クラウドサービスならではの利用の 不透明さ、データ流通の変化、アカ ウント制限etc... クラウドファースト時代のセキュリ ティー課題を包括的に解決します。 つくり、守り、最適化する。従 来のオンプレミス構築もユニア デックスのカバー領域です。安 定性、拡張性、将来性、運用性 、トラブル対応に優れた次世代 ネットワークを提供します。 ▪次世代ネットワークの提供 AI、IoT、5Gといった最新のデ ジタル技術を用いて、お客さま の 業務革新・デジタルビジネス創 出を支援します。 ▪新たな価値の創出 ▪より働きやすく、 より効率的に Boxを軸に、Cisco Webex、 Zoom、LINE WORKS、 Microsoft Teams、Polyを駆使 して、“つながる”を“つくる” を実現します。 ▪「攻めのICT」と 「守りのICT」両面で支援 「攻めのICT」、それを円滑に継 続させるための「守りのICT」。 二つを支え、人材不足や働き方改 革への対応、BCP・DRへの万全 の備え、コンプライアンスやIT統 制など、高品質なIT運用を導きま す。
8. ©️2024 UNIADEX, Ltd. All rights reserved. 7 ©️2024 UNIADEX, Ltd. All rights reserved. 7 ユニアデックスの主な事業 マルチクラウドの駆使 DX サーバー/ネットワーク/ストレージ ITアウトソーシング コミュニケーション環境構築 Microsoft Azure、AWS、 Google Cloudなどのメガクラウ ド、独自クラウドのU-Cloud IaaS、さらにオンプレミスを調 和させつつ、お客さまのICTイン フラを最適化します。 ▪調和と最適化 ▪セキュリティー課題の解決 クラウドサービスならではの利用の 不透明さ、データ流通の変化、アカ ウント制限etc... クラウドファースト時代のセキュリ ティー課題を包括的に解決します。 つくり、守り、最適化する。従 来のオンプレミス構築もユニア デックスのカバー領域です。安 定性、拡張性、将来性、運用性 、トラブル対応に優れた次世代 ネットワークを提供します。 ▪次世代ネットワークの提供 AI、IoT、5Gといった最新のデ ジタル技術を用いて、お客さま の 業務革新・デジタルビジネス創 出を支援します。 ▪新たな価値の創出 ▪より働きやすく、 より効率的に Boxを軸に、Cisco Webex、 Zoom、LINE WORKS、 Microsoft Teams、Polyを駆使 して、“つながる”を“つくる” を実現します。 ▪「攻めのICT」と 「守りのICT」両面で支援 「攻めのICT」、それを円滑に継 続させるための「守りのICT」。 二つを支え、人材不足や働き方改 革への対応、BCP・DRへの万全 の備え、コンプライアンスやIT統 制など、高品質なIT運用を導きま す。 IoT, AI やってます インフラ特化なSI事業が中心ですが
9. ©️2024 UNIADEX, Ltd. All rights reserved. 8 本日の結論
10. ©️2024 UNIADEX, Ltd. All rights reserved. 9 保守運用（ユーザーサポート）業務に生 成AIを活用し、生産性向上に取り組んで みました。そこそこいけそうな気がして います。 結論を先にお伝えします
11. ©️2024 UNIADEX, Ltd. All rights reserved. 10 生成AIって何？
12. ©️2024 UNIADEX, Ltd. All rights reserved. 11 生成AIとは、文章・画像・動画・楽曲・プログラムなどを作り出すAIである 生成AIとは 生成AI（Generative AI） 2022年公開： Stable Diffusion, Midjourney, ChatGPTなどが有名 ChatGPTは１週間で100万人、2ヶ月間で1億人の アクティブユーザーを獲得、 「史上最速で普及したアプリ」 文章生成では大量学習により質が大きく向上 大規模言語モデル LLM（Large Language Model） 特徴として、すでに学習済みで、非確定容易にコン テンツ生成を行うことができる
13. ©️2024 UNIADEX, Ltd. All rights reserved. 12 生成AIへ渡すインプットのことをプロンプトと呼び、与え方が回答精度に影響する 生成AIとプロンプト 生成AIを扱う上で重要になるのが「プロンプト」 プロンプトは、AIに与える会話の文脈や指示 具体的に質問や指示を書き、AIの返答を引き出すために使う AIはプロンプトからの情報に基づいて回答を生成する プロンプト生成のテクニックとしては、 役割付与、出力形式、問答例示、段階的推論、具体化、構 造化、英語化など様々ある 適切なアウトプットをデザインして、それを引き出すため の指示を工夫することが求められる
14. ©️2024 UNIADEX, Ltd. All rights reserved. 13 ユニアデックスでのAI利用とGAIOps検証結果
15. ©️2024 UNIADEX, Ltd. All rights reserved. 14 保守運用業務へ生成AIの適用を試みている 当社グループの生成AIへの取り組み ➢BIPROGYグループ内共通チャットシステム ◆ 社内ナレッジや社内規則について、チャットが回答する仕組みが提供されています。 ◆ 各自、様々な文章生成業務への活用を行っており、社内SNSなどで知見を共有しています。 ➢システム開発業務への適用 ◆ システム構築や開発に生成AIを利用して、開発効率の向上を図っています。 ➢システム保守／運用業務への適用 ◆ 問合せへの回答生成や、パッチ適用判断の支援にAIを活用しています。 本日のテーマ
16. ©️2024 UNIADEX, Ltd. All rights reserved. 15 従来より取り組んできたAIOpsに生成AIを導入し、GAIOpsと呼ぶこととした GAIOpsとは ◼GAIOps： GAI ＋ AIOps ：Generative AIを駆使したシステム運用高度化 • ユニアデックスではAIOps（AI+Ops,運用で活用）に取り組んできた • 機械学習によるアノマリー検出を2014年から実装 • AIをGAIに変えることでGAIOpsと呼ぶ
17. ©️2024 UNIADEX, Ltd. All rights reserved. 16 社外秘 GAIOpsの構想 社外情報 不具合情報 脆弱性情報 バッチ/バージョ ン情報 生成AI データ活用 客先情報 契約／構成情報 システム稼働状況 パッチ適用履歴 社内情報 コール対応履歴 障害履歴 エンジニア・ ノウハウ 収集 出力 照会 データによる 新たな気付き エンジニアを支援 最適化 予測 可視化 エンジニアの行う技術調査をAIで支援する仕組みを検討した
18. ©️2024 UNIADEX, Ltd. All rights reserved. 17 社外秘 GAIOpsの動作概要 業務への適用 常駐先 コンタクトセンター／ヘルプデスク 製品主管部 検索 生成 サポートナレッジ活用基盤 問合せ内容の意図に沿って、必要な情報の出所を明らかにしながら回答を作成
19. ©️2024 UNIADEX, Ltd. All rights reserved. 18 社外秘 検証結果の一例 エンジニアがゼロベースで回答を作成するよりも高速に回答出力できる例を確認 プロンプト： UCS から以下の TRAP が出力された。原因追及希望。→Default Keyring’s certificate is invalid 実際にお客様に行っている回答例 ChatGPTの回答 デフォルトキーリングの証明書が無効な場合、UCS Managerへの接続時に警告が表示され ます。この警告は、UCS ManagerとのSSL接続で使用される1年間の自己署名証明書の期限 が切れた場合に表示されます。 デフォルトキーリングの証明書を再作成することで、自己証明書の有効期間を1年間延長す ることができます。再作成のコマンドは、以下になります。 FabricInterconnect へ SSH でログイン後 "scope security" "scope keyring default" "set regenerate yes" "commit-buffer" 以上で再作成が行われます。 再作成後、"show keyring detail"コマンドで新しい有効期間を確認できます。 なお、デフォルトキーリングの再作成は、FI-AとFI-Bが正常にクラスタを組んでいる場合 に実行する必要があります。クラスタが正常に組まれていない場合は、再作成はできませ んので、その他障害が発生していないことをご確認の上、ご対応頂ければと思います。 上記ご対応頂き、証明書が更新されたことをご確認いただけますでしょうか。 デフォルトキーリングの証明書が無効な場合、UCS Managerへの接続時に警告 が表示されます。UCS Manager 2.0(3a)もしくは2.1(1a)以降では、自己署名証 明書の期限が切れても問題は発生しませんでしたが、それ以降は警告が表示さ れます。この警告は、UCS ManagerとのSSL接続で使用される1年間の自己署 名証明書の期限が切れた場合に表示されます。 デフォルトキーリングの証明書を再作成することで、自己証明書の有効期間を1 年間延長することができます。再作成のコマンドは、"scope security"、"scope keyring default"、"set regenerate yes"、"commit-buffer"です。再作成後、 "show keyring detail"コマンドで新しい有効期間を確認できます。 なお、デフォルトキーリングの再作成は、FI-AとFI-Bが正常にクラスタを組ん でいる場合に実行する必要があります。クラスタが正常に組まれていない場合 は、再作成はできません。 以上が、デフォルトキーリングの証明書が無効な警告に関する情報です。 回答文作成 ４時間 回答文作成 ４分 テストケースの約半数は回答として流用可能 （2023年4月に検証実施）
20. ©️2024 UNIADEX, Ltd. All rights reserved. 19 社外秘 生成AIを業務適用するときには 生成AIを適用するに際の検討事項は多岐に渡る 1. 適用業務の選定 2. 内製化するポイント見極め 3. モデル選定 4. 社内データの活用方法 5. 機密データの取扱い 6. 検索手法の選定 7. 開始時期の見極め ※紹介する選択は、当社が2023年4月当時実施したもの 時期や各社の状況によって正解が異なります 本セッションでは抜粋して内容を共有
21. ©️2024 UNIADEX, Ltd. All rights reserved. 20 社外秘 2. 内製化するポイント見極め ◼ 問い：どこを内製化するか？ ◼ 選択：以下の４点に分けて整理 ➢ モデルのみ外部製品を利用して、その他は内製化 （今後お客様に提供するサービス、エンジニアスタディ部分） データ運用 データ運用 プロンプトエンジニアリング AIモデル（LLM） 基本的には外部サービスを API経由で利用 アプリ開発 埋め込みプロンプトを含む チャットシステム 基盤構築 アプリケーションとデータ基盤
22. ©️2024 UNIADEX, Ltd. All rights reserved. 21 社外秘 3. モデル選定 ◼ 問い：どのモデル（LLM）を使用するか？ ◼ 選択：AzureOpenAIServiceのGPT LLMとしての性能 セキュリティ 他サービス連携 運用性／コスト アプリとデータを 含めたガバナンス Azure MachineLearning 採用の利点
23. ©️2024 UNIADEX, Ltd. All rights reserved. 22 社外秘 4. 社内データの活用 ◼ 問い：RAGなのかFineTuningなのか ◼ 選択：RAG ➢ マイクロソフトの論文を参照 ➢ Fine-Tuning or Retrieval? Comparing Knowledge Injection in LLMs(30-Jan-2024 Microsoft) 04. トレーニング （フルスクラッチ） 独自データから独自 LLMを作成する方法 01. プロンプトエン ジニアリング これだけでは社内データ 活用は難しい 03. ファインチュー ニング 追加データを使って差分 学習する方法 02. RAG （検索拡張） 関連の文書内容を検索 して使用
24. ©️2024 UNIADEX, Ltd. All rights reserved. 23 2023年度の結果を受けてプロジェクトは継続中 現在のプロジェクト状況 • 今回は2023年度に実施した検証結果をご紹介 • 検証結果としては充分な結果を得られたと判断 • 2024年現在もアップデートを継続中 • GAIOpsは今後も当社のビジネスで活躍すると期待
25. ©️2024 UNIADEX, Ltd. All rights reserved. 24 最後に
26. ©️2024 UNIADEX, Ltd. All rights reserved. 25 様々な分析をやっています。プロジェクトやPoCに是非ご一緒させて下さい！ 最後に
27. さあ、この星に終わらない物語を。 2022年4月 日本ユニシス株式会社は BIPROGY株式会社へ商号変更しました。 ビプロジー