LITALICO Engineering Team © LITALICO Inc. 児童福祉 × ⽣成AI 会員50万人「LITALICO発達ナビ」に 生成AIを組み込んだ 3つの挑戦 と 振り返り 株式会社 LITALICO 1 

LITALICO Engineering Team © LITALICO Inc. 髙崎歩⼈（タカサキアユト） データ統括部R&Dグループ ⾃⼰紹介 現在の業務 ● 社内の各事業で蓄積されてきたデータ×⽣成AIを始めたとした技術を 組み合わせることで新たな価値を⽣み出す取り組みの推進 これまでの業務 ● 2019年〜：「LITALICO発達ナビ」エンジニア ○ データ分析パイプラインのリプレイスやデータマート構築も ● 2023年〜：横断チームから各種技術サポート ○ 全⽂検索‧レコメンデーションなど技術⾯から施策の提案‧推進も 2 

BtoB領域のプロダクト開発とBtoC領域のオンラインプラットフォームを運営 福祉施設を中⼼に教室・事業所を⾃社で運営し様々な⽀援を現場で提供 当事者とその家族、福祉事業者と従事者を包括的に⽀援すべく オンライン と オフライン のプラットフォームを提供しています。 B to C 間接⽀援 オンライン 対⼈⽀援 オフライン 児童発達⽀援教室 就労⽀援サービス B to B/G 株式会社LITALICOの概要 3 IT ✕ ものづくり教室 

LITALICO Engineering Team © LITALICO Inc. ● 2026年1⽉で10周年 ● ⽉間アクティブユーザー150万⼈ ● 会員数 50万⼈を突破 前提知識①：「LITALICO発達ナビ」のご紹介 Q A Q&Aや⽇記等の UGC投稿 専⾨家による コラム等の閲覧 専⾨家への 相談 発達⽀援施設の 検索 ● 正確な情報収集 ● 困りごとや悩みごとの解消 ● 社会資源へのアクセス 役割 発達が気になる⼦どもの保護者‧ ⽀援者の⽅向けに⼿段や場所を提供 4 

LITALICO Engineering Team © LITALICO Inc. 施策⽴案の考え⽅ プロダクトの強みに、 ⽣成AIをどう組み合わせ、 どう成果を出すか？ 品質担保の⼯夫 品質と開発効率を両⽴させ ながら、的確に実装するに は？ 関連技術のポイント どのような技術を活⽤して 実装したのか？特徴や注意 点は？ 「LITALICO発達ナビ」での 3つの施策 について、 次の観点を中⼼にお話しします 前提知識②：この発表で伝えたいこと 5 

LITALICO Engineering Team © LITALICO Inc. 施策① UGCの コンテンツモデレーション 半自動化 LITALICO Engineering Team © LITALICO Inc. 6 

LITALICO Engineering Team © LITALICO Inc. LITALICO Engineering Team © LITALICO Inc. 質問回答ができる「Q&A」や記事へのコメント機能などのUGC 7 

LITALICO Engineering Team © LITALICO Inc. LITALICO Engineering Team © LITALICO Inc. 規約‧ガイドラインを規定し巡回 ● ルールベースでの検知 ● 担当者による巡回 ● 違反報告‧問い合わせへの対応 ● 診断や服薬に関する不適切な断⾔ ● 宣伝⾏為や誹謗中傷など 8 コンテンツモデレーション 

LITALICO Engineering Team © LITALICO Inc. 施策①：施策⽴案の考え⽅ プロダクトの強み ● 似た悩みを持つユーザ同士が支え合える Q&A投稿などのコミュニティ ● サービスを安心して利用できる規約・ガイドラインや運営方法が確立 している AIによる強化ポイント 課題 効果測定 ● 既存の対応方法では、特に休日や連休で 対応の遅れや担当者の負担に ● 明らかにガイドライン違反のコンテンツは LLMにより即時に一次対応 ● 主な成果指標：緊急対応のメンション等の予定外の対応数 ● 注意する指標：誤検知の数・ユーザからの問い合わせやリアクション 9 

LITALICO Engineering Team © LITALICO Inc. 施策①：リリースまでの道のり CSチームのSOSからスタート 1. ニーズ把握 正解データの収集‧運⽤について詳しくヒアリングしながらPoC 2. 現状理解‧PoC LLMの構造化出⼒機能を活⽤して実装 3. 実装 ● 構造化出⼒：指定した出⼒形式を強制「この選択肢から1つだけ選ぶ」等 運⽤フローの設計‧ユーザへの提⽰⽅法を検討 4. UX検討 2ヶ⽉半でリリース（LLMを実プロダクトに組み込んだ初の事例！） 5. リリース ● PdM‧実装担当エンジニア‧CSチームで運⽤フローをすり合わせ ● デザイナーが既存のUIパーツや「お知らせ」機能を使った提⽰⽅法を検討 10 

LITALICO Engineering Team © LITALICO Inc. 施策①：プロンプトの的確な設計実装のために 正解データの収集と運⽤の理解 ● 過去の判定結果を収集し正解データとする ○ プロンプトの変更時の前後⽐較やデグレ検知‧モデル変更時の性能⽐較が容易に ● 運⽤の実態をヒアリング ○ 過去事例の⽂脈‧適⽤条例や、その狙いや考え⽅などを確認し業務理解を深める ● エンジニア自身だけで高速にPDCAを回せる状態に ● どの違反をなぜ見落としたくないか？を理解して優先度判断しながらプロンプトを整理 11 

LITALICO Engineering Team © LITALICO Inc. LITALICO Engineering Team © LITALICO Inc. 動作イメージ 12 

LITALICO Engineering Team © LITALICO Inc. 施策①：リリース後の評価 - 85 % 違反報告 - 93 % 副次的な効果 13 予定外の対応 予定外の対応 当初の狙い 違反対応数 5.4 倍 

LITALICO Engineering Team © LITALICO Inc. 施策② Q&Aのレコメンドロジック 改善・推薦理由の表示 LITALICO Engineering Team © LITALICO Inc. 14 

LITALICO Engineering Team © LITALICO Inc. LITALICO Engineering Team © LITALICO Inc. BEFORE AFTER 15 

LITALICO Engineering Team © LITALICO Inc. 施策②：施策⽴案の考え⽅ プロダクトの強み ● ユーザによる数十万件規模の Q&Aコンテンツ （Qだけで2万件以上） AIによる強化ポイント 課題 効果測定 ● 関連性の高い質問を適切に レコメンドできていない ● 質問冒頭の表示だけでは、ページを開く まで内容が分からない ● コンテンツの内容を踏まえて 関連性の高いコンテンツを特定 ● 質問の似ている点や役に立つ点を 踏まえた推薦理由を生成 ● 主な指標：ユーザーエンゲージメント増加（スクロール深度・閲覧時間等） ● 注視する指標：新UIおよび周辺パーツのCTR 16 

LITALICO Engineering Team © LITALICO Inc. 施策②：リリースまでの道のり R&Dエンジニアが⾃由研究でPoC→施策化 1. PoC‧提案 RAG精度改善のPDCA 3. 実装改善 ● RAG：LLMに検索システムからの検索結果を渡して出⼒の精度を上げる 3ヶ⽉でリリース 5. リリース 推薦理由⽣成プロンプトのブラッシュアップ 2. プロンプト改善 ● R&Dエンジニア⾃⾝の社内でのライター経験が役に⽴った ユーザへの提⽰⽅法を検討 4. UX検討 ● デザイナー：⽣成AIが露出する初めての施策、⾒せ⽅を慎重に検討 17 

LITALICO Engineering Team © LITALICO Inc. 施策②：技術構成 LLM 候補 コンテンツ 過去コンテンツの タグ・要約 投稿されたQの タグ・要約 観点別 評価結果 検索 システム 評価観点 選別 ロジック LLM 推薦理由 推薦理由生成 プロンプト 最終候補 コンテンツ 投稿されたQの 本文 18 既存のタグ体系を使ってタグ付け ドメイン特有の 表記や考え⽅を反映 観点別にスコアリングして選別 

LITALICO Engineering Team © LITALICO Inc. 施策②：RAGの精度向上のための⼯夫その1 困りごと(165種類)‧年齢層(8種類)のタグ体系 既存のタグ体系の活⽤ ● 検索やRerankerのみによる単純なRAGではドメイン固有の考慮が不十分 ○ 例：同じ学校での人間関係の困りでも、小学生と大学生では事情が違う 1. LLMの構造化出力でコンテンツに紐づくタグを推定して紐づけておき 2. タグの一致度を考慮して検索する 19 

LITALICO Engineering Team © LITALICO Inc. 施策②：RAGの精度向上のための⼯夫その2 観点別のスコアリング ● 最終候補の選別と推薦理由生成を同時に行うと安定性や説明性の問題 ○ 同じような入力でも、物によって選ばれる最終候補の傾向が違う…？ ○ なぜ最終的にその候補が選ばれたのか？がわからない・調整が難しい 1. LLMの構造化出力を活用し観点別にスコアリング 2. アプリケーション側で足切り・スコアの高い順に並び替え、最終候補を確定 3. 確定した最終候補を元に推薦理由を生成させる ○ 学年や年齢の類似度／主題や主訴の類似度／環境の類似度／解決策の関連性 20 

LITALICO Engineering Team © LITALICO Inc. 施策②：ドメイン特有の論理構成や表記の作り込み 困りとその背景についての考え⽅ ●「困り」は本⼈の特性と環境の両⽅の側⾯から⽣じるという考え⽅(社会モデル) ●「○○の診断があるため××のようなことがある」 →「△△という状況下で××のようなことがある、その⼀因として○○の診断のある⼈は ◻◻のことがある」 ●「障害を持つ」のではなく「障害がある」 診断名の正式表記などの定義 ● 診断名は適宜改訂されているが、必ずしも最新の表記が浸透していない ○「知的障害」→「知的障害（知的発達症）」のように併記で統⼀ ● 慣⽤的な表現として使われているが医学的には正確ではない表記の扱い ● 質問者は疲れている‧追い詰められている場合があるため、表現のトーンを調整 21 

LITALICO Engineering Team © LITALICO Inc. ページ滞在時間 ● 既存のアルゴリズムと⽐較して遷移後のエンゲージメントが増加 ● CTRは既存より低下 クリック前に「このコンテンツは読んだ⽅がいい∕今の⾃分にはあまり合わない」が 判断しやすくなった（クリックログの弊害の改善）‧UIの最適化の余地 施策②：リリース後の評価 + 25 秒 ページ下部への 到達率 + 5.6 % いいね率 + 25 % 22 

LITALICO Engineering Team © LITALICO Inc. 施策③ 生成AIによる相談回答と 関連コンテンツの推薦 LITALICO Engineering Team © LITALICO Inc. 23 

LITALICO Engineering Team © LITALICO Inc. LITALICO Engineering Team © LITALICO Inc. 既存機能: 相談フォームから専⾨家に相談できるサービス 1. ユーザが相談フォームを送信 2. 専⾨家に仮説+⼿⽴ての回答を依頼 ○ 医師‧⼼理⼠‧⾔語聴覚⼠‧ 作業療法⼠など多様な専⾨家と連携 3. 回答を読みやすい⽂章に整形 ○ 関連する動画‧記事‧教材も案内 4. 2週間ほどで回答が到着 24 

LITALICO Engineering Team © LITALICO Inc. LITALICO Engineering Team © LITALICO Inc. 新機能: LINE BOTによるヒアリング‧即座に回答 25 

LITALICO Engineering Team © LITALICO Inc. 施策③：施策⽴案の考え⽅ プロダクトの強み ● 過去の相談回答データの蓄積 ∕ 専⾨家の講演動画‧記事‧教材等のコンテンツ蓄積 ● 悩みや困りを具体的に⾔語化できる相談フォーム AIによる強化ポイント 課題 効果測定 ● 回答まで2週間かかる ● ⼯数⾯の問題から⼀ヶ⽉あたりの 利⽤回数に厳しい上限 ● ⾃分に合ったコンテンツを⾒つける のが難しい ● 利⽤しやすい対話形式でのヒアリング UIの実現 ● 類似の相談の主訴＋仮説＋⼿⽴てを 参照したうえで即座に回答 ● 回答に関連するコンテンツを推薦 ● 回答完了後のアンケートまで実装に組み込み、定量・定性フィードバックを注視 ● LLMの出力のチェック・ガードレール検知理由の監視 26 

LITALICO Engineering Team © LITALICO Inc. 施策③：リリースまでの道のり ドメイン専⾨家と実現⽅法を議論 2. 設計 RAG‧プロンプト‧ガードレールの改善 3. 実装 ● 基盤実装はR&Dエンジニア、具体の実装はプロダクトの 担当エンジニアのように分担し、協⼒して実装 ドメイン専⾨家を交えた徹底的な検証‧調整 4. テスト 実稼働で4ヶ⽉ほどでリリース 5. リリース 27 事業側から⽣成AI活⽤施策の相談を受け議論‧提案し決定 1. 提案 

LITALICO Engineering Team © LITALICO Inc. 構造化出⼒による項⽬整形 施策③：技術⾯のポイント 28 放デイから帰宅後、家で暴れて物を壊したり、私にだけ暴言・暴力をふるいます。離れようとしても追ってきて叩く。声かけや 誘いでも止まらず、以前無理に止めて自分もケガをしました。自分に攻撃が向かうので今は落ち着くまで見守っていますが、近 所からの苦情も心配でどうしていいかわかりません。 「年齢」「⾏動」「どんなときに」「対応」「どうなってほしい」を 抽出したうえで、「次に問いかける内容」を考案するよう指⽰ 動作イメージ ● チャットからの⾃由⼊⼒をフォーム形式に整形‧次の問いかけを考案させる ● 回答が難しければ⾔い回しを変えて柔軟に対応 

LITALICO Engineering Team © LITALICO Inc. 施策③：ガードレール設計 想定パターン別の動作検証 ●「ガードレール」：LLMの⼊出⼒を検査し、問題があれば定型⽂を返すなど設定すること で、不適切な振る舞いを防ぐ機能 ○ ⼊⼒の問題：虐待や⾃傷など⼈命に関わるもの∕診断や服薬に関するもの等 ○ 出⼒の問題：回答に不適切な表現を含む場合∕不適切な断⾔∕診断⾏為等 ● 専⾨家とパターン毎の想定⼊⼒を作成し、誤検知（偽陽性‧偽陰性）を評価しながら改善 ガードレール実装の難しさ ● ⼯数削減のため導⼊したBedrock Guardrailsの挙動がブラックボックス ○ 判定理由が分からないため修正できない → LLMに推測させて参考に ● トピック単位の判定という考え⽅が扱いづらい ○ 診断名に⾔及するだけで違反扱い∕「〜の可能性があります」が不適切な断⾔扱いされ てしまうなど → プロンプトの⼯夫での対処と併⽤：⾃前実装もアリだったか 29 

LITALICO Engineering Team © LITALICO Inc. 施策③：リリース後の評価（ユーザアンケートから） 新しい視点に 気づくことができま した。 悩みの内容はレア ケースだと思ったの ですが、ぴったりの 返答が来てビックリ しました。 今後も使います！ 新たな視点や情報の提供 すぐに返事がき て、少しだけスッ キリしました。 具体的なアドバイ スありがとうござ います。 気持ちが楽になり ました！ 悩みの整理 ある程度予想される 回答内容もありまし たが、⾃分では全く 思いつかなかったも のもあり、参考にな りました。 関連コンテンツが出 てくるのも良い です。 コンテンツの推薦 

LITALICO Engineering Team © LITALICO Inc. まとめ LITALICO Engineering Team © LITALICO Inc. 31 

LITALICO Engineering Team © LITALICO Inc. まとめ①：3つの施策を振り返って 「10年の蓄積 × ⽣成AIによるレバレッジ」への⼿応え コンテンツ‧コミュニティ‧オペレーションといった蓄積があったからこそ価値を発揮できた 「今後この機能はどんな価値をユーザに提供してほしい？」を改めて考え深める時間でもあった 32 検証‧評価の枠組みを設計し怖がりすぎずに進める 「何を出⼒するかわからないから怖い」ではなく「これさえできていたらさすがに信じよう‧ ここまでは任せよう」のラインを早期に定め、その中で再現性を上げていくことが重要 プロンプト設計は従来のモデリングの延⻑線上 「何を残して何を捨てるのか？」「何をなぜその形で表現するのか？」といった問いを深めて いくことで、エンジニアが⾼速‧⾼精度でPDCAを回す点は、従来のモデリングと変わらない 

LITALICO Engineering Team © LITALICO Inc. まとめ②：今後に向けての挑戦 技術的にはまだまだ改善の余地アリ： SLMやファインチューニングの検証も ⼀回の⽣成で数⼗万件規模‧ドメイン知識の遵守が重要。LLM-jp-4 8BなどのSLMを ⾃社データを使ってファインチューニングして⾼品質‧低コストを実現できないか検証中 33 難しいからこそやっていく意味がある センシティブな領域‧間違いが許容されない部分が⼤きいが、その分ユーザーの困りや悩みを和 らげられることの意味も⼤きい。今回の知⾒を活かして他事業部への展開の基盤作りへ 必要な⽀援が届くサービスを⽬指して いつでもどこでも気軽に使えるのがWEBサービスの利点。検索やパーソナライズへの組み込み など新たなユーザ体験を切り拓いていき、必要な⽀援が⾒つかる‧繋がれる場にしていきたい