Upgrade to Pro — share decks privately, control downloads, hide ads and more …

AIサービス紹介資料_250331.pdf

 AIサービス紹介資料_250331.pdf

Avatar for babylonzoo

babylonzoo

July 21, 2025
Tweet

Other Decks in Business

Transcript

  1. 2025/03 LEARN MORE AI SERVICE P r e s e

    n t a t i o n Scroll down Let me introduce AI case studies from ITSO Inc.
  2. AI TRiSM Concept AIシステムがユーザーやステークホルダーから信頼されるための基盤作りを目 指す。 Ex 責任あるAI、バイアスの排除、ユーザーコミュニケーション・法令遵守 Trust Mangement AI導入に伴う潜在的なリスク(技術的、運用上、法的、レピュテーションリス

    ク等)を体系的に把握し、その影響を最小限に抑える仕組みを志向する。 Ex リスクの発生源(誤動作、偏り、不正利用)評価、規制・法令遵守 Risk Management AIシステムがサイバー攻撃や不正アクセス、データ漏洩などのセキュリティ脅 威から守られるよう、堅牢な防御策を構築する。 Ex 暗号化、アクセス制御、侵入検知システム Security Management 01 02 03 TRiSM
  3. AI TRiSM Component 実際にエンドユーザーや業務部門が接する AI搭載アプリケーションの層です。 Application 実際にAIモデルを構築・運用するためのプラット フォーム層です。 AI Platform

    第3層はAIの燃料であるデータの管理層で す。AIモデルの学習・推論に用いるデータを 一元的に集約し、セキュアかつガバナンスの 効いた形で管理することが目的です。 Centralized Data 第1層の方針を技術的に実装・支援するための 基盤ツールやインフラストラクチャです。 Infrastracture 組織のAI利用に関するポリシーや倫理基 準を定める土台です。 Guideline
  4. 企業固有のデータ 外部参照データ Centralized Data AI Platform (Build AI/Blended AI) 共通RAG

    画像生成 音声生成 ブラウジング 自動化 ファインチューニング されたLLM 個性の学習 エージェント Trust, Risk and Security Management (認証/権限管理/ハルシネーション防止/プライバシー保護/コンプライアンス/セキュリティ/データ保護/バイアス検知/CICD) Governance (Infra) Governance (Guideline) 運用ガイドライン データアップロード ポリシー 個人情報取り扱い コミュニティ Application 各種AI Tool (BYOAI) AI エージェント デジタルクローン 社内DB/サーバー ローカルデータ クラウド内データ 活用サービス例 AI TRiSM Component … … …
  5. AI TRiSM Support Image AI TRiSM Explainabillity ModelOps AI Security

    Privacy & Ethics 運用規約策定・運用体制整備 管理規約策定・データガバナンス支援  モデル説明方針の策定  AI運用における標準規約の策定  モデル監視・再学習のための体制整備  AI運用における標準規約の策定  組織全体での生成AIガイドライン確立  統合的なガバナンス体制の構築  データ品質とセキュリティの確保  法規制と倫理的基準の遵守  データ同意取得・管理ポリシーの策定 AI活用推進 AIイノベーション促進支援  組織内でのAI推進の加速  AIを通じた新たなビジネス機会の創出  組織内のイノベーション文化の醸成
  6. O u r S e r v i c e

    On-Premise LLM オンプレミスLLMはSaaSのLLMではなく自社環境内に専用のLLMを作 成することで、外部へ情報が流出することなく、各業種ごとに求められる さまざまな法に準拠したAI活用を可能にします。 What is On-Premise LLM? NEXT PAGE
  7. On-Premise LLM Concept / Value Concept Value  クラウド上でホストされたAIサービスを利用する 

    すぐに利用開始でき、技術的負担が少ない  インフラやメンテナンスの心配が不要  自社環境内でAIモデルを運用する  データが自社環境内に留まり、外部に流出しない  センシティブなデータを社内で厳重に管理可能 Problem  データは社外に出るためセキュリティリスクが存在  特に法規制の強い業界(金融、製薬など)では 活用が難しい  初期構築費用がかかる  インフラのメンテナンス/運用が必要
  8. On-Premise LLM Core Technology  弊社が他社よりも秀でたオンプレミスLLMを実現する高度な技術 Distillation (蒸留) Quantization (量子化)

    FP32モデル (32ビット浮動小数点) 1.2345678, 9.8765432, -3.1415927, ... ビット精度削減 教師モデル (Teacher) 大規模 高精度 計算コスト大 生徒モデル (Student) 小規模 高速処理 知識転移 学習データ ソフトラベル ハードラベル INT8 (8ビット整数) 1, 10, -3, ... INT4 (4ビット整数) 1, 10, -3, ...
  9. On-Premise LLM UseCase POINT 1 量子化技術によりLLM推論の ランニングコストを削減 POINT 2 強化学習による最適化で、

    Llama3.3-70Bモデルの法 律分野における精度を向上 POINT 3 自社内のセキュアなナレッジを 学習させることに成功  法律分野における推論能力が高い 元モデル(オープンソース) 蒸留後モデル 強化学習トレーニングデータ 強化学習手法を 用いた蒸留 量子化 法律特化型LLMサービス  法律事務所において、DeepSeekの蒸留・量⼦化技術を活⽤した法律特化型LLMを構築  強化学習によるLlama3.3-70Bの蒸留と量子化処理により、精度向上とランニングコスト削減を実現
  10. On-Premise LLM UseCase Engineer POINT 1 チューニングにより 日本語特有の言語構造や文 化的文脈を理解できるモデル の開発に成功

    POINT 2 量子化により GPU使用量を85%削減 POINT 3 セキュアな社内環境で高精度 RAGシステムを実現 ファインチューニング  日本語能力を強化 混合量子化  Embeddingモデル機能(※1)を追加  Rerankingモデル機能(※2)を追加 ※1 テキストや画像などのデータを多次元のベクトル空間に変換するモデル ※2 検索結果や推薦システムなどで、最初に取得した結果の順位を再評価して並べ替えるモデル  製造業界にて、セキュアな社内環境で高精度RAGシステムを開発  機密性の高いデータを社内で安全に処理しながらも、高精度な自然言語応答を実現するソリューションとして提供
  11. On-Premise LLM UseCase  コンサルティングファームにて、オンプレミス対応のマルチモーダルRAGシステムを開発  表やフローチャートなど、テキスト情報が少ないドキュメントに対応するため、多モーダルLLM(Qwen2-VL)を活用し解析 POINT 1 従来のRAGシステムと比較し、

    精度が15%向上 POINT 2 量子化により GPU使用量を70-80%削減 POINT 3 プロンプトと合わせて提供する ことでユーザー活用における 障壁を低減  ドキュメント解析専用のプロンプトもあ わせて開発 マルチモーダルに対応した モデル(オープンソース) 量子化 マルチモーダルRAG フローチャート 表 図、画像 量子化後モデル トレーニングデータ 学習  社内のナレッジや情報を、マルチモーダ ルで横断的に検索可能 ~
  12. O u r S e r v i c e

    AI Agent AI Agentは、人工知能を搭載した自律的なソフトウェアエージェントであり、人 間の介入を最小限にしながら、指定されたタスクや業務を自動的に実行します。 What is AI Agent? NEXT PAGE
  13. AI Agent Concept AIエージェントは特定の目標を達成するために 自ら考え、自ら行動することができます。 AIエージェントは自律的にデータを収集し、必要なタスクを判断して実行します。 これにより、AIエージェントは従来の生成AIの領域を超えたさまざまなシーンで活躍することができます。  人間は生成したい内容を指示 

    指示された命令に忠実に動き、基 本的に指示1つに対して1リターンを 生成  指示された命令に対応するアウト プット(生成結果)の提供 例 テキスト 画像 動画 など  人間は達成したいゴールを指示 × タスクベースの指示 〇 目的ベースの指示  目的から逆算し自らタスクを定義  定義したタスクを順に実行 例 必要なデータを収集した後、 アウトプット作成に着手する など  指示されたゴールの達成 例 資料の完成 従業員のスキルアップ など Input Scope Value
  14. AI Agent Prospect 2020年代~現在 数年後の未来 2030年以降の未来 × ~ 2010年代 (第3次AIブーム以前)

     自立型のAIエージェントが主流になるのは数年以内の見込みと言われています。  ルールベースが得意な業務は今後も引き続きRPAなどルールベースのソリューションを活用し、ルールベースで対応できない領域をAI Agentで解決し、組み合わせて高度な自動化を実現させることが可能です。 We Are Here
  15. AI Agent Value 業務プロセスを自動化  AIエージェントは、定型業務やデータ処 理、ルーチンタスクを自動化することで、 業務プロセスの高速化と効率向上を 実現します。 

    人的リソースをよりクリエイティブな業 務へシフトさせることで、全体の生産 性向上にも寄与します。 業務課題の解決 データ駆動型の意思決定支援  業務フロー全体をAIエージェントが監 視・分析し、業務上のムダ・ムリ・ムラ やボトルネックを特定し、改善を提案 します。  AIエージェントが実行することで、業務 上人間が実施していた場合に起こっ ていた課題(ミスの頻発、引継ぎ工 数の発生など)を最小化します。  目的に応じて膨大なデータをリアルタ イムで解析し、有用なインサイトや予 測情報を提供することで、経営や業 務の戦略的意思決定をサポートしま す。  人間よりもデータへのリーチや分析速 度が高まり、データドリブンの経営の 加速や競争優位性を高める効果が 期待されます。
  16. AI Agent UseCase 顧客対応・カスタマーサポートの自動化  チャットボットによる一次対応  コールセンター支援 など 営業活動・マーケティング支援の自動化

    バックオフィス業務の自動化  リードスコアリング・案件管理  メールマーケティング・キャンペーン管理 など  請求書・経費精算の自動処理  文書・契約書作成支援 など データ分析・レポーティングの自動化  ビジネスインテリジェンス(BI)レポート生成  需要予測・在庫管理の自動化 など 人事・採用業務の自動化 製造・品質管理業務の自動化  採用候補者のスクリーニング  従業員の問い合わせ対応 など  AIカメラによる検品・品質管理  設備異常検知・予知保全 など 1 2 3 4 5 6
  17. AI Agent UseCase  自動車会社 フィードバックスキルの習得用にGPTsを導入  相手役と予定を調整せずにいつでも何回でも練習が出来るようになり、習得期間を短縮 Trainee AI

    Agent ロールプレイ対応 性格設定ごとの対応状況等を評 価し、スキルを数値化 Manager POINT 1 いつでも何回でも練習が可能 になりスキル向上速度が上昇 POINT 2 幅広い性格タイプの設定で練 習が可能であり、現場に出た からの離職率低減にも貢献 POINT 3 スキル上達状況も自動的に数 値化、適切なフォローアップも 可能に Trainer トレーニング 計画や目標など事前インプット スキル上達結果や進捗状 況等をアウトプットして報告
  18. O u r S e r v i c e

    Digital Clone デジタルクローンは、実在する人間の代替役や、架空の人間をAIで再 現させて作り出すことで、実在する人間の可能性の拡張や労働力補完、 マーケティングやシミュレーションに活用させる技術の総称です。 What is Digital Clone? NEXT PAGE
  19. Digital Clone Concept / Value Concept Digital Clone AI Agent

    Value  人の代わりとなって仕事を完遂する代替労働力  労働生産性の向上やコスト削減  労働力不足の解消  人格を持たせた仕事ができ、人間の能力やタスク の拡張対象  スキルでなく人格能力を含めた既存人員の労働力 補完、役割に合わせた人格の開発による新たなコ ミュニケーションの創出など多岐にわたる
  20. Digital Clone UseCase  デジタルクローンは従業員・カスタマーの対話相手となる … Top management 社長や役員などの経営層に 気軽に質問ができる

    Low Cost オペレーターの代わりにカスタ マー対応が可能 Improve Time 決裁書のレビュー依頼や アイデアの壁打ちなど Time Efficient 管理部への問い合わせを 365日対応可能 こうするといいよ こんなことで悩んでる デジタルクローン 従業員 対話
  21. O u r P r o d u c t

    LLM OCR LLM OCRは、高い精度で帳票を読み取るOCRサービスです。従来の製 品と異なり事前学習が不要にもかかわらず非常に高い読み取り精度を誇 り、企業のペーパーレス化やをハイパーオートメーションを加速させます。 What is LLM OCR? NEXT PAGE
  22. LLM OCR Concept あらゆる注文書の フォーマットに対応 業界最高水準の 読取精度 POINT 2 Powered

    By Various LLMs POINT 1 •^尋 •, .,.t .999T 口 “ss- ム 4 • そ 4 99朽OX0 9d •は、•, C9••辺•9999,h• m~..太 〒 987 •6543 1•2•3 93が• 99昂EX ぐ••四~999•いでふ..ー•ぃ. • •一・・・ O3•1122•3349 虹• •• •,'• •*•叫•バ•Eして`さい.
  23. LLM OCR Value 業界最高水準の 読取精度 あらゆる注文書の フォーマットに対応 簡単に利用可能 高度なOCR技術で、様々な状態の文 字を高精度で認識が可能。

    PDFやFAXの手書きメモや、訂正箇所も 識別が可能。 注文書特化型のAI-OCRであり、文脈 に沿ってテキストの意味を抽出。 誤認識の修正、意図の読み取り、文書 の意味分析などが可能。 従来のAI-OCRと異なり事前学習やテン プレート設定が不要。 細かい事前設定をせずに高い精度で処 理が可能。
  24. O u r P r o d u c t

    AIコールエージェンシーは、AIが人間の音声を聞き取り対話することで、 従来のインバウンド/アウトバウンドコール業務を代替可能とする画期的 なサービスです。 What is AI Call Agency? NEXT PAGE
  25. AI Call Agency Concept POINT 1 正確な聴き取り 意図を理解 Open AI

    Powered By POINT 2 正確な発言 自然な音声 POINT 3 簡単に接続
  26. AI Call Agency Value 01 各種製品の利用方法などの問い合わせ対応 製品のサポート 02 宿泊施設、レストラン、病院などの予約受付 サービスの予約

    03 EC、通販番組などの、電話による注文受付 通販注文受付 04 対面営業のためのアポ取り架電 アポ取り 05 サービスや製品購入者に対するアンケート集計 アンケート収集 06 クロスセルなど新製品のご紹介 新商品の紹介 Inbound Call Outbound Call
  27. AI Call Agency Demo 適切なシーンの識別 スピード実装 質問の意味理解 04. 05. 06.

    高い音声識別 自然な声で対応 簡単に実装 01. 02. 03. scO•叫 cui叫 boy s
  28. O u r P r o d u c t

    AI Radio AIラジオは、生成AIを活用してエンターテイメントや広告に利用できる音 声情報を合成するサービスです。車を運転するドライバーへの新たな情 報提供や、街中や店内、駅構内などで流す放送など、様々な方面に応 用が可能です。 What is AI Radio? NEXT PAGE
  29. AI Radio Image 2024年4月1日、新年度が始まりましたね! 桜満開のこの季節、今日も地元のホットな話 題で、あなたの心に笑顔の花を咲かせましょう。 なんと昨日は隣町の上田で3年ぶりの祭りを開 催していました!タロウさんは行きましたか? こんにちは、皆さん。『マミの絵本の世界』 へようこそ。今日はどんな物語が待ってい

    るでしょうか?AIラジオDJマミの多彩な声 で、素敵な絵本の世界をお楽しみくださ い。 個性を持った ラジオパーソナリティー AIラジオパーソナリティー(DJ)の「個性」がドライバーに番組をお届けする ON AIR … 台本構成 語り口調 など パーソナリティーに個性 を付与する要素 台本構成の特徴 パーソナリティの個性 (声色・トーン・間など) など ユーザーが選んだ DJの個性に合わせて 番組をリアルタイム生成 ・AIが様々な声で絵本を読む ・英会話や時事ニュースをお届け ・明るく笑顔になれる雰囲気 ・地元愛溢れる話題で地域のエンタ メや人々の話題をお届け ・静かで落ち着いた雰囲気 ・「星」をテーマに夜の静かな時間を楽しむ ユーザや車両の 情報 三度の飯より夜の星空が大好きなみなさん、こんば んは。今夜も夜空の語り部の時間がやってまいりまし た。星を見ながら夜空の神秘を話しましょう。今日は 2024年4月1日。今いる場所からなんと3等星ま でくっきり見える快晴です。南南西の方角で… その他要素 (背景情報など) 音楽 気象情報 ニュース コンテンツ など 選曲 ON AIR ON AIR ON AIR ユーザーの趣向 位置情報 … 車両情報 ユーザーの趣向 位置情報 … 車両情報 ユーザーの趣向 位置情報 … 車両情報 災害情報
  30. AI Radio System UseCase Static Web Apps Blob Storage 取得

    OpenAI Flutter Functions Webアプリ ブラウザ ラジオDJ ラジオDJ・パーソナリティ ・DJ番号:2 ・名前:カンナ ・出身地:関東 ・概要:ギャル語で話す人気DJラジオ リスナー・パーソナリティ ・年齢/職業:35歳/営業職 ・趣味:ビール片手にサッカー観戦 ・現在地:名古屋、車で出勤中 ・潜在ニーズ:最新のニュース等の情 報収集、元気をくれる音楽を聴きたい リスナー この人にぴったりのラジオコンテンツは、、、役に立つ ニュースコーナー、元気が出る明るい人気曲の紹介、ク スっと笑える雑談コーナー、渋滞情報や天気予報、、、 BMG、キャッシュデータ API ・ニュース ・交通情報 ・天気予報 ・ご当地情報 ・楽曲情報 ・音楽 Azure シナリオ作成 トークスクリプト作成
  31. O u r S e r v i c e

    Other AI Services 弊社ではここまで述べたもの以外にも、企業のAI活用を支援する様々 な支援を承っています。 What is Other AI Services? NEXT PAGE
  32. Do you have such troubles? 中長期的な目線で、社内にAIに 精通した人材が必要ではないか… AIに関する知識がないから、うちの 企業だとどんな活用できそうなの かの判断もつかない…

    社内のAI活用に向けて、 何から始めればいいかわからない… 実は既にAIサービスを使い始めてい るが、うまく効果が出ていない… AIを活用するのはいいが、セキュリティを 担保した活用方法はないのか? なんとなくうちの会社だとAIをあの分野 で活用できそうなんだけど、 確証がなく不安だ… 最近顧客からAIに関する引き合いが多い が、社内にはAIサービスを考えられるよ うな人材がいない…
  33. AI Use Phase ①導入検討段階 ②本格導入準備段階  AI導入はPoCなど限定的であり、本格導入 に向けて具体的な準備が整っていない企業  AIの導入に向けて体制等は整ってきたが、効

    果のある活用方法の選定等を迷われている お客様 ③導入中/運用段階  既に何らかのかたちでAIを全社・本格的に活 用しており、社内でのさらなるAI普及を検討 されている企業  社内用のAIは作ってみたものの、回答の質 が低いなどの理由で改善を検討しているお客 様  AIを活用したいが、未導入の企業  AIの独自サービス構築等を検討されている お客様
  34. AI Support Direction AI活用に向けた 取り組み AI人材育成 その他検討 AI活用 基盤整備 AI開発/保守

    AI新サービス創出 AIを活用していくために必要なその他検討を 支援 例 セキュリティ対策/法改正対応/情宣 など AI活用の戦略策定から、AI活用推進のために 必要な各種整備等の検討 実際にAIを導入するためのPoCや サービス開発(アプリ開発、チューニ ング等)や導入済みAIサービスの保 守を支援 AIの管理/開発/保守等が可能な人材 を顧客社内で育成 顧客企業にて社内外に向けた独自AI 関連新サービスの立案や事業化、特 許取得等を支援 1 2 3 4 5
  35. AI Support Lineup AI導入の中長期計画や定量的目標等 企業のAIに関する活量戦略を策定 本格導入を見据えて AI製品のPoCを実施、 効果の有無を測定 戦略策定 PoC

    導入中/運用段階 本開発 トレーニング AI導入後を見据えた活用ルール/運用体制等の整備 体制整備 AI関連セキュリティ対策/AIに関する法規制対策等、 AIに関するあらゆる検討事項の検討 各種検討 AI導入 AI活用基盤 整備 AI人材育成 その他検討 新規サービス創出 AI新サービス 創出 AI活用のメソドロジー伝達 セミナー開催 普及支援 導入検討段階 本導入準備段階 必要に応じて 導入後AIの保守や チューニングを支援 保守/チューニング 本開発 SaaSの活用 独自AI製品 の開発 AIサービスの保守や運用/管理を担うことができる人材を育成するために、各種トレーニングを実施 既存事業とのシナジーや市場指向等を加味してAIに関連する新規サービス創出 SaaS製品を使用可能と するためのカスタマイズ 独自AI製品の開発 企業のフェーズ 支 援 の 方 向 性 1 2 3 4 5
  36. AI Support UseCase 専門集団 最新技術を駆使する生成AI の専門家が支援体制を 構築。 貢献 成長 使命

    生成AIを用いたビジネス 成果向上と社会貢献。 生成AIを攻守で活用する プロ人財への進化。 技術的専門性と個人的成長 をサポートし、全力で挑戦を 支援。  「生成AIを攻守で活用するプロ人財集団」へ進化させる組織「AI統括部」を顧客企業内に立ち上げ  部署としての中長期戦略策定から、部署のメンバーとして参画しAIの開発や普及推進まで一貫して支援
  37. AI Support UseCase  AI統括部の活動領域の大半を、包括的に支援しております。 AIDX活用ルール整備  AIを活用するために必要な社内ルールを整備(例 生成AI活用ガイドライン) 

    生成AI活用やDXの推進に必要な既存規約の改訂も検討 会社方針 データ活用推進  Power BIレポートをD活サイトで公開  社内各種データ/レポート等をAIで分析 /活用できるようデータを再構築 DX教育  従業員向けのDXリテラシー教育を実施  「オーダーメイド講座」「お役立ち情報 発信」等のユーザーサポート施策も実施 社内外への情報発信  部署の様々な活動を社内外に発信  TC社のブランディングをはかる  各種セミナーへ登壇  社内外に向けたイベントを開催 業務効率化  AI/DXプロダクトを用いた部内外の業務 の効率化を実現  教育を受講した従業員ご自身により業務 効率化が実現されるよう継続的な支援を 実施 DX領域 AIプロダクトの開発  社内でのAI活用を推進するための様々な AIプロダクトを開発 例 T-Copilot AI Radio 等 AIリスキリング  全社員にむけたAIリスキリング教育を実施  各部署からアンバサダーを擁立し各部署で のAI活用を推進 AI領域 SaaS活用推進  SaaS統合管理サービスであるAB4S を運用 社外貢献  我々の取り組みを成功事例とした、社外 に対するAIDX関連支援を開始  来年度以降より積極的支援を検討 さらなる取り組み
  38. AI Support UseCase  AIリスキリングでは、一般従業員、アンバサダー、上層部という様々なターゲット別に最適な教育を実施しています。 教育主体 教育対象 アウトプットサポート AI統括部 リスキリングチーム

    上層部 アンバサダー 一般従業員 ユースケースライブラリ ラボコミュニティ FAQ 事例を最適化し、自身の業 務に適用できる人材 生成AI活用事例を創造、 活用し、自身や周りの従業 員に影響を与える人材 生成AI活用に対し、バイア スのない経営判断を行うた めの、マインド醸成 発 信 活 用
  39. AI Support UseCase  ChatGPT Enterprise利用しているメンバーから集まった活用事例を分析 投稿活用事例数︓ 301種 9,210時間〜/年 積算削減時間推定︓

    • 削減時間と業務頻度を必須項目に活用事例を収集 • 業務頻度情報を係数化し事例当たりの年間削減時間を計算 • 301種の事例(年間削減時間9,210時間)を積算 積算根拠 集計期間:2024.04.24 ~ 2024.10.08 N = 301
  40. AI Support UseCase  リスクを最小限に抑えた形での生成AIの社内活用を推進するために、「生成AI活用ガイドライン」をリリース  2025年度には社内公式文書化し、人事評価制度との紐づけも検討  生成AIとは 

    生成AIの性質や機能  生成AIの限界と正しい利用  ユースケースとプロンプト 全従業員が生成AI利用時の リスクと活用方法を理解 生成AI​活用 ガイドライン 外部/内部環境に合わせて、随時アップデートを実施 AI が生•する鑽•や•」 •は 常 に正•とは順らず •`サイパー••、•人や••9こ対 T ••貫な影 Conn•ct•d COO09 轟 9 i om J lU?,9m•R...c"• d eTOYonconn•ct•9
  41. Contact Us THANK YOU [email protected] Email 12F, Toranomon 37 Mori

    Building, 3-5-1 Toranomon, Minato-ku, Tokyo Address Get It Touch