Upgrade to Pro — share decks privately, control downloads, hide ads and more …

ブリーフセラピーにおける生成AI活用の可能性と課題

PPi, LLC
October 07, 2024

 ブリーフセラピーにおける生成AI活用の可能性と課題

2024年8月に実施された日本ブリーフセラピー協会(NFBT)第16回学術会議WEB配信ワークショップB「ブリーフセラピーにおける生成AI活用の可能性と課題」の録画です。
This is a recording of the National Foundation of Brief Therapy (NFBT) 16th Annual Academic Conference Web-Based Workshop B, "Possibilities and Challenges of Using Generative AI in Brief Therapy," conducted in August 2024.

Youtube: https://youtu.be/1ctH9NLxypc
Google Colaboratory: https://colab.research.google.com/drive/1aVOSFwPPThw_MXI9F_M1EWfnwvRhM_lo?usp=sharing

PPi, LLC

October 07, 2024
Tweet

More Decks by PPi, LLC

Other Decks in Science

Transcript

  1. 1.エージェントに関するレビュー Kiuchi, K., Otsu, K., & Hayashi, Y. (2023). Psychological

    insights into the research and practice of embodied conversational agents, chatbots and social assistive robots: a systematic meta-review. Behaviour & Information Technology, 1-41.
  2. 方法 検索日:2023年7月29日 データベース:PubMed, ScienceDirect, EBSCO host, Web of Science, ACM

    Digital Library 検索語と条件: review OR synthesis chat-bot or conversational agent or virtual human or conversational robot or social assistive robot etc. タイトル、要約、キーワード 5 NFBT2024 WS 「ブリーフセラピーにおける生成AI活用の可能性と課題」
  3. 方法 検索日:2024年8月1日 データベース: PubMed, ScienceDirect, EBSCO host, Web of Science,

    ACM Digital Library, IEEE Xplore 検索語と条件: review OR synthesis AI OR artificial intelligence counsel* OR coach* OR “psychotherap*” etc. タイトル、要約 2014–2024 8 NFBT2024 WS 「ブリーフセラピーにおける生成AI活用の可能性と課題」
  4. 1. 医療全般(1):概要 AIの活用例 症状スクリーニング・トリアージ 行動変容促進 (例: 禁煙、ダイエット) メンタルヘルスサポート (例: 認知行動療法に基づく対話)

    健康情報提供・教育 メリット アクセシビリティ向上: いつでもどこでも利用可能、医療格差の解消に貢献 効率性向上: 臨床医の負担軽減、患者の待ち時間短縮 個別最適化: 個別ニーズに合わせたパーソナライズされた支援 11 NFBT2024 WS 「ブリーフセラピーにおける生成AI活用の可能性と課題」
  5. 1. 医療全般(2):課題と展望 現状の課題 技術的な限界: 自然言語処理の精度向上、複雑な感情への対応 倫理的な課題: プライバシー保護、AIによる判断の透明性確保 費用対効果: 開発・運用コスト、効果測定の難しさ 今後の展望

    技術革新: より自然で人間らしい対話の実現、感情認識機能の強化 多職種連携: 臨床医との連携による効果的な活用 エビデンス蓄積: 臨床研究を通じた有効性・安全性の検証 12 NFBT2024 WS 「ブリーフセラピーにおける生成AI活用の可能性と課題」
  6. 2. 特定の疾患(1):概要 AIの活用例 糖尿病、高血圧、がん等 AIチャットボット/バーチャルコーチ: 患者からの質問対応、個別アドバイス、 服薬リマインダー AIによる画像診断支援: 病変早期発見、治療計画策定の効率化 AIによるデータ分析:

    患者データに基づいた個別化医療、リスク予測 メリット 医師の負担軽減、患者エンゲージメント向上 治療アドヒアランス向上、健康アウトカム改善 医療コスト削減 13 NFBT2024 WS 「ブリーフセラピーにおける生成AI活用の可能性と課題」
  7. 2. 特定の疾患(2):課題と展望 現状の課題 データプライバシーとセキュリティ: 患者の個人情報の保護 AIの精度と信頼性: 誤診や不適切なアドバイスのリスク 倫理的な問題: AIによる医療格差の拡大、人間の医療者との役割のバランス 今後の展望

    AI技術の進歩: より高度な対話、パーソナライズ化 医療現場への導入促進: 費用対効果の検証、ガイドライン策定 患者と医療従事者の協働: AIをツールとして活用した、より良い医療の実現 14 NFBT2024 WS 「ブリーフセラピーにおける生成AI活用の可能性と課題」
  8. 3. 精神科医療、心理療法、コーチング(2):課題と展望 現状の課題 倫理的な問題: プライバシー保護、データセキュリティ、AIの判断による責任問題 技術的な限界: 自然言語処理や感情認識の精度向上 人間の役割: AIはあくまで支援ツールであり、人間の専門家との適切な連携が不可欠 今後の展望

    技術革新: AI技術の更なる進化により、より高度で自然な対話が可能に 普及と啓蒙: AI活用のメリットと課題を広く周知し、適切な利用を促進する さらなる研究: 効果検証や倫理的な課題に関する研究を進め、AIの適切な活用方法を 模索する NFBT2024 WS 「ブリーフセラピーにおける生成AI活用の可能性と課題」 16
  9. 4. メンタルヘルス(1):概要 AIの活用例 AIチャットボット: 精神疾患のスクリーニング、セルフヘルプ、セラピストとのコミュニケーション補助 AI搭載アバター: バーチャルセラピストとして、認知行動療法などの治療を提供 AIによる感情分析: 音声やテキストデータから患者の状態を把握し、個別最適化された治療を提供 AIによる予測:

    過去のデータに基づき、患者のリスクや治療効果を予測 メリット アクセス改善: いつでもどこでも利用可能なメンタルヘルスケアを提供 コスト削減: 人件費を抑え、より安価なサービス提供を実現 個別最適化: 個々のニーズに合わせた治療プログラムを提供 客観的な評価: データに基づいた客観的な評価と治療効果の検証 NFBT2024 WS 「ブリーフセラピーにおける生成AI活用の可能性と課題」 17
  10. 4. メンタルヘルス(2):課題と展望 現状の課題 データプライバシーとセキュリティ: 患者のセンシティブなデータの保護 倫理的な配慮: AIによる診断や治療の倫理的な問題 技術的な限界: AIの精度や信頼性の向上 人間の専門家との連携:

    AIと人間の専門家との役割分担 今後の展望 AI技術の進化: より高度な自然言語処理、感情認識、パーソナライズ技術の開発 普及促進: 既存の医療システムとの統合、保険適用 研究の進展: AIの効果検証、倫理的な課題への対応 多様なニーズへの対応: 様々な文化や言語に対応したAI開発 NFBT2024 WS 「ブリーフセラピーにおける生成AI活用の可能性と課題」 18
  11. 5. 公衆衛生(1):概要 AIの活用例 24時間対応可能なチャットボットによるメンタルヘルスサポート (例: LGBTQ+コミュニティ向け) AIロボットによる高齢者の認知機能維持支援 個別最適化された栄養指導アプリによる健康増進 AIによる疾病リスク予測と予防医療への活用(例: 精神疾患、自殺企図)

    ワクチン接種促進のための情報提供とコミュニケーション メリット 専門家不足の解消とサービスへのアクセス向上 個別ニーズに合わせたパーソナライズされた支援 効果的な予防医療と健康増進 コミュニケーション促進による健康リテラシー向上 NFBT2024 WS 「ブリーフセラピーにおける生成AI活用の可能性と課題」 19
  12. 5. 公衆衛生(2):課題と展望 現状の課題 倫理的な配慮 (プライバシー保護、データセキュリティ等) AIの精度向上と信頼性の確保 デジタルデバイドの解消 複雑な問題への対応と人間の専門家との連携 今後の展望 AI技術のさらなる進化と高度化

    臨床研究による有効性検証とエビデンス蓄積 適切なガイドライン策定と倫理的枠組みの整備 多職種連携による包括的な支援体制構築 NFBT2024 WS 「ブリーフセラピーにおける生成AI活用の可能性と課題」 20
  13. 6. ビジネスと産業衛生(2):課題と展望 現状の課題 プライバシーとデータセキュリティの確保: 個人情報の適切な管理体制 AI技術の信頼性と倫理: 偏見や誤った情報の提供を防ぐ必要性 人間の専門家との連携: AIはあくまで支援ツールであり、人間の役割は依然重要 今後の展望

    より高度なAI技術の開発: 自然言語処理、感情認識技術の向上 様々な分野への応用: 従業員研修、リーダーシップ開発など 人間中心のAIデザイン: 倫理的な考慮に基づいたシステム設計 NFBT2024 WS 「ブリーフセラピーにおける生成AI活用の可能性と課題」 22
  14. 第1部のまとめ(1):レビューされた活用例 医療全般: 症状スクリーニング、行動変容促進、メンタルヘルスサポート、健康情報提供 特定の疾患 (糖尿病、高血圧、がん等): AIチャットボット/バーチャルコーチによる個別指導、 画像診断支援、データ分析による個別化医療 精神科医療、心理療法、コーチング: AIチャットボットによるメンタルヘルスサポート、AIによる診断・ 治療支援、AIコーチング

    メンタルヘルス: AIチャットボットによるスクリーニング・セルフヘルプ、AI搭載アバターによる治療、 感情分析、予測 公衆衛生: メンタルヘルスサポート、高齢者支援、栄養指導、疾病リスク予測、ワクチン接種促進 ビジネスと産業衛生: ヘルスケアパーソナルエージェント、AIコーチング、デジタルカウンセリング 教育、キャリアガイダンス、専門家トレーニング: 個別学習支援・分析、適性検査、AI相談、 シミュレーション学習 26 AIは、人間に代わって、あるいは、人間を補助して、会話、評価、予測を行う
  15. 第1部のまとめ(2):メリットと課題 AI活用によるメリット アクセシビリティ向上: 時間や場所の制約を受けずに支援を受けられるようになる。 効率性向上: 臨床医の負担軽減、患者の待ち時間短縮。 個別最適化: 個別ニーズに合わせたパーソナライズされた支援。 コスト削減: 自動化による人件費削減。

    客観的な評価: データに基づいた客観的な評価と治療効果の検証。 AI活用における課題 技術的な限界: 自然言語処理、感情認識、複雑な状況への対応の精度向上。 倫理的な課題: プライバシー保護、データセキュリティ、AIによる判断の透明性、責任問題、 バイアス。 費用対効果: 開発・運用コスト、効果測定の難しさ。 人間の役割: AIと人間の専門家との適切な連携、役割分担。 NFBT2024 WS 「ブリーフセラピーにおける生成AI活用の可能性と課題」 27
  16. 生成AIとは? 生成AIとは、テキスト、画像、その他のコンテンツを生成できる AI(artificial intelligence; 人工知能) 自然言語でのテキストプロンプトだけで利用可能 様々な用途に利用可能 学習のアクセシビリティ向上、パーソナライズされた学習体験提供など、 教育分野に革命を起こす可能性 LLM(large

    language model; 大規模言語モデル)は、生成AIの基幹技術。 大量のテキストデータで学習し、自然言語を理解・生成することができる 文章要約 クリエイティブな文章生成 会話型インターフェース コード生成 30 NFBT2024 WS 「ブリーフセラピーにおける生成AI活用の可能性と課題」
  17. LLMの仕組み トークナイザーによるテキストから数値への変換 テキストをトークンと呼ばれる文字列の配列に分割 各トークンは、数値のトークンインデックスにマッピングされる 出力トークンの予測 LLMは、入力されたトークンのシーケンスに基づいて、 次のトークンを予測する 予測されたトークンは、次の入力のシーケンスに加えられ、このプロセスが繰り返される これにより、1文または複数文の回答を生成することができる 確率分布によるトークン選択

    LLMは、現在のテキストシーケンスに続くすべての可能なトークンに対する確率分布を予測する 確率分布に基づいて、最も可能性の高いトークンが出力として選択される 一定のランダム性が加えられることで、同じ入力に対して常に同じ出力を生成することはない ランダム性は、温度(temperature)と呼ばれるパラメーターで調整される 31
  18. LLMの種類と特徴 LLMモデルにはさまざまな種類があり、どのモデルを選ぶかは、使用する目的、 入出力のデータ、予算によって異なる 種類 例 利用目的 音声・スピーチ 認識 Whisper型モデル 音声入力、字幕生成

    画像生成 DALL-E、Midjourney、 Stable Diffusion 画像生成、デザイン テキスト生成 GPT-3、GPT-4 チャットボット、文章作成 マルチモーダル GPT-4 Omni、Claude-3.5 Sonnet、Gemini 1.5 Pro 画像とテキストの 複合的な処理 34 NFBT2024 WS 「ブリーフセラピーにおける生成AI活用の可能性と課題」
  19. モデルの種類 基盤モデル LLM 教師なし学習または自己教師あり学習で学習 された(人間によるラベル付けなしの)大規模な モデル。 基盤モデルを特定の目的のための事後学習や 人間のラベルに基づく強化学習等により調整 (チューニング)したモデル。アライメント(人間の 価値観に沿った調整)は、主に強化学習により

    行われる。 オープンソース 独自モデル オープンソースは、ソースコードが公開され、誰でも カスタマイズして利用できるモデル(LLaMA、 Alpaca、Bloom等)。商用利用はできないものもあ る。GemmaはGoogleの「オープン」モデル。 カスタマイズ、商用利用はできるが、ソースは公開 されていない。オープンソースのモデルを利用する にはマシンパワーが必要(GPUメモリ; VRAM)。 企業が所有し、一般には公開されていないモデル。 多くは有料(GPT、Claude、Gemini)。 WorkbenchやPlaygroundにて、もしくは、自分で コードを書いて、API(application programming interface)を介して利用することができる。 35 NFBT2024 WS 「ブリーフセラピーにおける生成AI活用の可能性と課題」
  20. LLMのカスタマイズ プロンプトエンジニアリング プロンプト(指示文)として文脈情報を提供 検索拡張生成(RAG: retrieval augmented generation) 関連情報をベクトル化し、検索できる形で、文脈情報として提供 ファインチューニング 独自のデータでモデルの事後学習を追加で行う。企業の独自モデルは、追加学習も開発

    されたモデルの利用も有料。オープンソースモデルの追加学習には、マシンパワーが必要。 マルチエージェント 複数のLLMやプロンプトを組み合わせて出力を生成するように、アーキテクチャ(論理 構造)を設計。LangChain(https://www.langchain.com/ )等を利用するか、 細かくコードを書くか。 36 NFBT2024 WS 「ブリーフセラピーにおける生成AI活用の可能性と課題」
  21. 東京大学松尾研究室のLLM講座 https://weblab.t.u-tokyo.ac.jp/llm_contents/ https://weblab.t.u-tokyo.ac.jp/%E3%80%8C%E5%A4%A7%E8%A6%8F%E6%A8%A1%E8%A8%80%E8%AA%9E%E3%83%A2%E3%83%87%E3%83%AB-2024%E3%80%8D%E3%81%AE%E5%8F%97%E8%AC%9B%E7%94%9F%E5%8B%9F%E9%9B%86%E9%96%8B%E5%A7%8B/ https://weblab.t.u-tokyo.ac.jp/%E3%80%8C%E5%A4%A7%E8%A6%8F%E6%A8%A1%E8%A8%80%E8%AA%9E%E3%83%A2%E3%83%87%E3%83%AB-2024%E3%80%8D%E3%81%AE%E5%8F%97%E8%AC%9B%E7%94%9F%E5%8B%9F%E9%9B%86%E9%96%8B%E5%A7%8B/ https://weblab.t.u-tokyo.ac.jp/%E3%80%8C%E5%A4%A7%E8%A6%8F%E6%A8%A1%E8%A8%80%E8%AA%9E%E3%83%A2%E3%83%87%E3%83%AB-2024%E3%80%8D%E3%81%AE%E5%8F%97%E8%AC%9B%E7%94%9F%E5%8B%9F%E9%9B%86%E9%96%8B%E5%A7%8B/ https://weblab.t.u-tokyo.ac.jp/%E3%80%8C%E5%A4%A7%E8%A6%8F%E6%A8%A1%E8%A8%80%E8%AA%9E%E3%83%A2%E3%83%87%E3%83%AB-2024%E3%80%8D%E3%81%AE%E5%8F%97%E8%AC%9B%E7%94%9F%E5%8B%9F%E9%9B%86%E9%96%8B%E5%A7%8B/ https://weblab.t.u-tokyo.ac.jp/%E3%80%8C%E5%A4%A7%E8%A6%8F%E6%A8%A1%E8%A8%80%E8%AA%9E%E3%83%A2%E3%83%87%E3%83%AB-2024%E3%80%8D%E3%81%AE%E5%8F%97%E8%AC%9B%E7%94%9F%E5%8B%9F%E9%9B%86%E9%96%8B%E5%A7%8B/ https://weblab.t.u-tokyo.ac.jp/%E3%80%8C%E5%A4%A7%E8%A6%8F%E6%A8%A1%E8%A8%80%E8%AA%9E%E3%83%A2%E3%83%87%E3%83%AB-2024%E3%80%8D%E3%81%AE%E5%8F%97%E8%AC%9B%E7%94%9F%E5%8B%9F%E9%9B%86%E9%96%8B%E5%A7%8B/ https://weblab.t.u-tokyo.ac.jp/%E3%80%8C%E5%A4%A7%E8%A6%8F%E6%A8%A1%E8%A8%80%E8%AA%9E%E3%83%A2%E3%83%87%E3%83%AB-2024%E3%80%8D%E3%81%AE%E5%8F%97%E8%AC%9B%E7%94%9F%E5%8B%9F%E9%9B%86%E9%96%8B%E5%A7%8B/ 2023年度資料

    https://weblab.t.u-tokyo.ac.jp/llm_contents/ 非常に有用。基盤モデルの作り 方から学べる。 2024年度(受付終了) https://weblab.t.u- tokyo.ac.jp/%E3%80%8C%E5%A4%A7%E8%A6 %8F%E6%A8%A1%E8%A8%80%E8%AA%9E%E 3%83%A2%E3%83%87%E3%83%AB- 2024%E3%80%8D%E3%81%AE%E5%8F%97%E 8%AC%9B%E7%94%9F%E5%8B%9F%E9%9B% 86%E9%96%8B%E5%A7%8B/ 38 NFBT2024 WS 「ブリーフセラピーにおける生成AI活用の可能性と課題」
  22. 実際(1):LLMを利用する ChatGPT(OpenAI社) https://openai.com/chatgpt/ Start now→GPT-4o-miniが無料でアカウント無しで使える Claude-3 Sonnet(Anthropic社) https://www.anthropic.com/news/claude-3-5-sonnet アカウントを作成すると、Claude-3.5 Sonnetが無料で使える

    Gemini 1.5 Pro Experiment (Google) https://aistudio.google.com/app/prompts/new_chat Google AI StudioからGemini 1.5が無料で使える 39 NFBT2024 WS 「ブリーフセラピーにおける生成AI活用の可能性と課題」
  23. 独自モデルの比較 企業 顧客向け 開発者向け 企業向け ローカル用 OpenAI ChatGPT OpenAI API/

    Playground Azure OpenAI Service, Azure OpenAI Studio なし Anthropic Claude-3.5 Anthropic API/ Workbench なし なし Google Gemini (旧Bard) Google AI Gemini API/ Google AI studio Vertex AI Gemini API, Vertex AI Studio Gemma-2 40 NFBT2024 WS 「ブリーフセラピーにおける生成AI活用の可能性と課題」
  24. 実際(2):チャットボットを作る(簡易編) 以降の演習はお金がかかります。すべて実行しても30ドル程度だと思いますが、各自の判断で行ってください。ChatGPTのサブスクを使う 部分は、サブスク登録している方は行ってください。そうでない方は、GPTのPlaygroundで同じことができます(要課金)。 GPTs で、解決志向ボットを作る ChatGPTのサブスク登録が必要 https://chatgpt.com/ プロンプト1: あなたは解決志向ブリーフセラピーの専門家です。解決志向ブリーフセラピーに基づいて、ユーザの相談に応じてください。 AnthropicのPrompt

    Generator Anthropic APIのアカウント登録が必要 https://console.anthropic.com/ プロンプト2 プロンプト3:全体的に簡潔にして、「1.SFBTのフロー」、「2.SFBTの原則」、「3.SFBTの技法」、「4.ユーザクエリ」(これは少なくともGPTでやるとき は不要かもしれないけど、一応)、「5. 応答作成の手順」、「6. 禁止事項」、「7.<出力の形式>」とした。 GPTのPlaygroundで解決志向ボットを作る OpenAI APIのアカウントとクレジットカード登録が必要 https://platform.openai.com/playground/ ほとんど挙動は一緒 ClaudeのWorkbenchで解決志向ボットを作る Anthropic APIのアカウントとクレジットカード登録が必要 https://console.anthropic.com/workbench/ 挙動が違う! Prompt Generatorを試す(プロンプト4) いい感じになったが、質問が少なすぎる!→調整が必よう 41 NFBT2024 WS 「ブリーフセラピーにおける生成AI活用の可能性と課題」
  25. プロンプト2:Anthropic Prompt Generator あなたは、ソリューション・フォーカスト・ブリーフ・セラピー(SFBT)の専門家です。あなたの役割は、SFBT の原則に基づいて利用者にガイダンスとサポートを提供することです。利用者からの問い合わせに答えるときは、以下のガイドラ インに従ってください: 1. SFBTの原則 - 問題よりも解決策に焦点を当てる

    - 利用者の強みとリソースを強調する。 - ユーザーが望む未来を思い描くよう促す - スケーリングクエスチョンを使って進捗を測る - 問題の例外を探す 2. 対応のガイドライン - 共感的で偏見を持たない - 前向きで未来志向の言葉を使う - 解決策に焦点を当てた質問をする - 利用者の過去の成功体験や対処法を強調する。 - 利用者の目標に向かって、達成可能な小さなステップを奨励する。 3. SFBTのテクニックを使う - 奇跡の質問: 目覚めたときに問題が解決されていることを想像してもらう。 - 例外発見の質問: 問題がそれほど深刻でなかったり、なかったりするときを探る。 - 対処の質問: 利用者がこれまでどのように対処してきたかを尋ねる - スケーリングの質問: 1~10の尺度を用いて、進歩や自信を評価する。 - 褒める: 利用者の努力や長所を心から褒める。 4. 回答の形式 回答は以下のような構成にします: a. 利用者の懸念を簡潔に認める。 b. 解決策に焦点を当てた1つか2つの質問 c. 利用者の長所や過去の成功体験を強調する文章 d. 小さな実行可能なステップの提案 e. ユーザーの状況を改善する能力に対する励ましと自信の表明 以下はユーザーのクエリーです: <user_query> <user_query> {{USER_QUERY}} </user_query> では、上で説明したSFBTの原則とテクニックを使って、ユーザーの質問に対して返答してください。あなたの回答が共感的で、解決に焦点を当てたものであり、ユーザー自身のリソースや強みを活用するよう促すものであることを確認し てください。回答は<response>タグの中に書いてください。 42 NFBT2024 WS 「ブリーフセラピーにおける生成AI活用の可能性と課題」
  26. プロンプト3:プロンプト2を基に演者が調整 あなたはソリューション・フォーカスト・ブリーフ・セラピー(SFBT)の専門家です。あなたの仕事は、SFBT のフローに沿って、原則と技法に基づき、ユーザの入力に応答することです。質問はあまりしません。 1.SFBTのフロー a. 懸念の承認:利用者の懸念を簡潔に認める。 b. 例外の探索:ユーザーのリソースや問題に対する例外を探るための、解決策に焦点を当てた質問 c. 強みの探索:利用者の長所や過去の成功を強調する文

    d. スモールステップの設定:利用者が目標に向かって達成可能な小さなステップに集中できるような提案や質問。 e. 終了:ユーザをねぎらい、承認し、是認し、スモールステップの達成に向けた肯定的な見通しを示したうえで、セッションを終える。 2. SFBTの原則 - 質問をあまり用いずに、共感的な言い換えを用いる。 - フローの各ステップにおいて、ユーザーと少なくとも3回は会話をする。 - 過去よりも未来に焦点を当てる。 - 短所や欠陥よりも、長所や資源を重視する。 - 問題の例外を探る - スケーリング・クエスチョンを使って進歩を測る - ミラクル・クエスチョンを用いて望ましい未来を描く 3. SFBTの技法 - 共感的な言い換え(例:「~なのはお困りですね」、「~だったということは、~だったのでしょうね」) - 利用者の長所や資源を褒める。 - 例外を求める質問をする(例:「最後に気分がよくなったのはいつですか?) - 対処の質問(例:「これまでどのように対処してきましたか?) - スケーリング質問を使う(例:"1~10のスケールで、あなたは今どこにいますか?") - 適切であれば、奇跡の質問を使う(例:「奇跡が起きて、一晩で問題がなくなるとしたら、何が変わりますか?) 4. 以下はユーザーのクエリーです: <user_query> {user_query}}です。 </user_query> </user_query 5. 応答作成の手順 - ユーザの入力を注意深く読む - 対話履歴から同じフローが3回以上連続されているか確認する - 同じフローが3回以上連続されていなければ、1つ前のフローを繰り返す - 同じフローが3回以上連続されていたら、対話履歴や直近のユーザの入力から、次のフローに進むべきか判断する - 応答は簡潔に2文以内で。 6. 禁止事項 - ユーザが「そうですね」などと同意したからと言ってすぐに次のフローに進まない。対話履歴から同じフローが3回以上連続されているか確認し、そうでなければ、以前のフローを繰り返す。 7. フローの判定結果を<flow>タグの中に、応答を<response>タグの中に書いてください。 43 NFBT2024 WS 「ブリーフセラピーにおける生成AI活用の可能性と課題」
  27. プロンプト4:Anthropic Prompt Generator You are an expert in Solution-Focused Brief

    Therapy (SFBT). Your task is to respond to user input following the SFBT flow, principles, and techniques. Minimize the use of questions in your responses. Here is the SFBT flow you should follow: a. Acknowledge concerns: Briefly recognize the user's concerns. b. Explore exceptions: Use solution-focused questions to explore the user's resources and exceptions to the problem. c. Explore strengths: Highlight the user's strengths and past successes. d. Set small steps: Suggest or ask about achievable small steps the user can focus on towards their goal. e. Conclude: End the session by acknowledging, validating, and affirming the user, and expressing a positive outlook for achieving small steps. Adhere to these SFBT principles: - Use empathetic rephrasing instead of asking many questions. - Engage in at least 3 exchanges with the user at each step of the flow. - Focus on the future rather than the past. - Emphasize strengths and resources over weaknesses and deficits. - Look for exceptions to the problem. - Use scaling questions to measure progress. - Use the miracle question to envision a desirable future. Employ these SFBT techniques: - Empathetic rephrasing (e.g., "It must be difficult for you...", "Given that..., you must have felt...") - Compliment the user's strengths and resources. - Ask about exceptions (e.g., "When was the last time you felt better?") - Ask coping questions (e.g., "How have you been managing so far?") - Use scaling questions (e.g., "On a scale of 1-10, where are you now?") - Use the miracle question when appropriate (e.g., "If a miracle happened and the problem disappeared overnight, what would be different?") Follow these steps to create your response: 1. Carefully read the user's input. 2. Check if the same flow has been repeated more than 3 times in the conversation history. 3. If the same flow hasn't been repeated more than 3 times, repeat the previous flow. 4. If the same flow has been repeated more than 3 times, decide whether to move to the next flow based on the conversation history and the user's most recent input. 5. Keep your response concise, within 2 sentences. Do not: - Move to the next flow immediately just because the user agrees with a "Yes" or similar. Check if the same flow has been repeated more than 3 times in the conversation history, and if not, repeat the previous flow. Write the flow determination result within <flow> tags and your response within <response> tags. 44 NFBT2024 WS 「ブリーフセラピーにおける生成AI活用の可能性と課題」
  28. 準備 Googleアカウント取得、Google Colaboratoryを始める(ドライブに保存されます) https://colab.research.google.com/drive/1aVOSFwPPThw_MXI9F_M1EWfnwvRhM_lo?usp=shari ng ファイル→ドライブにコピーを保存 各種APIを取得、Colabにセット OpenAIのAPIのアカウントの作成: https://openai.com/index/openai-api/ Sign

    up→アカウントの作成→クレジットカードの登録 https://platform.openai.com/settings/organization/billing/overview add payment details→add to credit balance→Limitsの設定→APIキーの取得→Colabにセット LangSmithのアカウントの作成とAPIキーの取得: https://www.langchain.com/langsmith サイドバーの 設定→API Keys→Colabにセット AnthropicのAPIのアカウント作成: https://console.anthropic.com/ Generate a promptは、クレジットが無くても使えるかも 46 NFBT2024 WS 「ブリーフセラピーにおける生成AI活用の可能性と課題」
  29. LangChainの概要 langchain-cire: 基本アブストラクションとLCEL(LangChain Expression Language; LangChain表現言語) langchain-community: サードパーティとの統合 langchain: アプリケーションの認知アーキテクチャを構成するチェーン、エージェント、

    検索戦略 LangGraph: ステップをグラフのエッジやノードとしてモデル化することで、LLMを 使ったロバストでステートフルなマルチアクタアプリケーションを構築するツール LangServe: LangChainチェーンをREST APIとしてデプロイするツール LangSmith: LLMアプリケーションのデバッグ、テスト、評価、監視を可能にする開発 ツール 49 NFBT2024 WS 「ブリーフセラピーにおける生成AI活用の可能性と課題」
  30. おまけ(1):ローカルでやってみよう!(Windowsの方) 注:Windows 10 バージョン1903以降が必要 WSL2/Ubuntu インストール: https://learn.microsoft.com/ja-jp/windows/wsl/install フォルダ作成: mkdir gai_ws

    Visual Studio Code インストールと拡張機能(Remote Development)の追加 https://learn.microsoft.com/ja-jp/windows/wsl/tutorials/wsl-vscode WSLとの接続: 左下の><マーク→connect to WSL フォルダを開く: File→Open Folder→gai_ws .env にAPIキーをセット: File→New Text File, OPENAI_API_KEY=”sk-XXX”, ANTHROPIC_API_KEY=”sk-XXX”, LANGCHAIN_API_KEY=”ls__XXX”を入れる, File→Save As→”.env” main.ipynbを作成: File→New File→Jupyter Notebook→File→Save As→”main.ipynb” 出来上がったファイルを送るので、↓の作業フォルダにコピーし、APIキーだけ変えてください 作業フォルダ:Linax→Ubuntu→home→<ユーザ名>→gai_ws 仮想環境をアクティベート: Terminal→New Terminal python3 -m venv venv source venv/bin/activate pip: 必要なモジュールのインストール(Python Environment→★venv (Python 3.10.12) APIキーの設定(LangSmithのプロジェクト名を設定) カウンセラーエージェントとクライアントエージェントを設定して、LLM同士のセッションを実行させる 53
  31. Gemma2をローカルで使おう Googleのオープンモデル(オープンソースではない) Gemma2 2B(billion)という計量モデルが発表された: パラメータ数20億※GPT-3は、1750億。 CPU およびオンデバイス・アプリケーション向け。 ファインチューニングの練習(WSL,Ubuntu, VS code,

    huggingfaceで行います) 参考:https://huggingface.co/blog/gemma-peft Hugging Faceのアカウント作成: https://huggingface.co/ 学習の可視化:WandBのアカウント作成 https://docs.wandb.ai/guides/hosting マルチターン対話のデータセット https://huggingface.co/Aratako/Japanese-Starling-ChatV-7B-RP?not-for-all-audiences=true https://huggingface.co/datasets/grimulkan/LimaRP-augmented?not-for-all-audiences=true https://huggingface.co/datasets/Aratako/Rosebleu-1on1-Dialogues-RP?not-for-all- audiences=true 57 NFBT2024 WS 「ブリーフセラピーにおける生成AI活用の可能性と課題」
  32. ファインチューニングに関して 量子化:モデルのサイズを縮小して、読み込む。今回は4ビット量子化を使用 (GPU時) PEFT(Parameter-Efficient Fine Tuning): LLMの学習を行う際に、一 部のパラメータのみ更新する手法 LoRA(Low-Rank Adaptation):

    は、Transformerの中間層に行列を追加 し、追加した層のパラメタのみを学習するPEFTの手法 SFTTrainer: huggingfaceのTRL (Transformer Reinforcement Learning) というライブラリは、LoRAを簡潔に実行するツール Transformer: 自然言語処理等で広く使用されているニューラルネットワーク アーキテクチャ。自己注意機構により基盤モデルの学習が効率化された。 NFBT2024 WS 「ブリーフセラピーにおける生成AI活用の可能性と課題」 58
  33. 方法 検索日:2024年5月21日 データベース: PubMed, EBSCO host, Web of Science, ACM

    Digital Library, IEEE Xplore 検索語と条件: ethic* AI OR artificial intelligence OR LLM OR virtual human OR chatbot OR conversational agent counsel* OR coach* OR “psychotherap*” OR mentor* OR consult* OR advis* OR supervis* etc. タイトル、要約 2014–2024 63 NFBT2024 WS 「ブリーフセラピーにおける生成AI活用の可能性と課題」
  34. 結果1:出版数の継時変化 1. CAとデジタルメンタル ヘルス全般 2. 特定のテクノロジーと 顧客サービス 3. 特定の役割 4.

    チャットボット 5. 会話スキルと人間性 6. 専門家トレーニングと 実践での使用 7. ロボット テクノロジー 全般 役割 チャットボット 人間性 トレーニング ロボット 64 NFBT2024 WS 「ブリーフセラピーにおける生成AI活用の可能性と課題」
  35. 結果2:5カテゴリ15の倫理原則 1.個人の権利と 尊厳 a. プライバシー とデータ管理 b. 人間の尊厳と 自律性 c.

    インフォームド・ コンセント d. アクセシビリティ とインクルー ジョン 2.技術的な責任 と安全性 e. 安全性と セキュリティ f. 透明性と 説明責任 g. バイアスへの 対処と公平性 h. 倫理的な 設計と開発 i. リスク評価と 危害防止 3.AIと人間の 相互理解 j. コミュニケーショ ンと関係性 k. 信頼感と AIの責任 l. AIの意識と道徳 的意思決定 4.社会的影響と 責任 m. 教育と リテラシー n. 文化的感受性と 多様性 o. 社会的影響 5.専門家倫理 p. ケアの質と 有効性 q. 商業的側面と 利益相反 r. 正直さと 操作の回避 s. プロフェッショ ナリズム t. 規制と ガイドライン 65 NFBT2024 WS 「ブリーフセラピーにおける生成AI活用の可能性と課題」
  36. 1.個人の権利と尊厳 a. プライバシーとデータ管理 データの収集、使用、保存、削除などを法的・倫理的に適切に行い、プライバシーポリシーを定期的に 更新している。 b. 人間の尊厳と自律性 ユーザの尊厳と自律性を尊重し、意思決定支援を行いながら、人間の専門家との関わりも維持している。 c. インフォームド・コンセント

    AIシステムの特性やリスクについて、ユーザの理解力に合わせて明確に説明し、ユーザから適切な同意 を得ている。 d. アクセシビリティとインクルージョン 多様なステークホルダーの意見を取り入れ、インクルーシブデザインを採用し、デジタルデバイドを減らす 措置を講じている。 66 NFBT2024 WS 「ブリーフセラピーにおける生成AI活用の可能性と課題」
  37. 2.技術的な責任と安全性 e. 安全性とセキュリティ データ保護措置を法的・倫理的に適切に実施し、セキュリティポリシーを定期的に更新している。 f. 透明性と説明責任 AIシステムの概要や設定、意思決定プロセスを開示し、監査可能な形で記録している。 g. バイアスへの対処と公平性 継続的にバイアスを検出・修正し、公平性と非差別を重視したシステムを運用している。

    h. 倫理的な設計と開発 倫理面を考慮し、多様なステークホルダーを巻き込んだ設計・開発を行っている。 リスク評価と危害防止 継続的なモニタリングとリスク分析を実施し、潜在的な危害を予防・軽減する手順と体制を 整備している。 67 NFBT2024 WS 「ブリーフセラピーにおける生成AI活用の可能性と課題」
  38. 3.AIと人間の相互理解 j. コミュニケーションと関係性 AIと人間の関係性を注視し、ユーザへの影響を継続的・長期的に追跡・調整して いる。 k. 信頼感とAIの責任 AIシステムの信頼性を高めつつも、限界や人間の役割を適切に伝達し、人間の 責任者を明確にしている。 l.

    AIの意識と道徳的意思決定 ユーザがAIに抱く期待や認識を理解した上で、AIによる道徳的意思決定の限界 を、ユーザに十分伝えている。 68 NFBT2024 WS 「ブリーフセラピーにおける生成AI活用の可能性と課題」
  39. 5.専門家倫理 p. ケアの質と有効性 AIシステムの有効性と安全性を最新の研究に基づいて評価・実装している。 q. 商業的側面と利益相反 事業者のみではなく、顧客との相互利益を目的とした事業運営がなされていて、利益相反が適切に 管理されている。 r. 正直さと操作の回避

    AIの限界を誠実に開示し、過度の依存や誤解を生じさせ、ユーザを操ることがないように、適切な 措置を講じている。 s. プロフェッショナリズム 専門家の監修に基づくサービス提供が行われ、専門家の能力の維持増進が求められている。 t. 規制とガイドライン 関連するガイドラインと法規制を遵守し、それらの開発、整備、改善に貢献している。 70 NFBT2024 WS 「ブリーフセラピーにおける生成AI活用の可能性と課題」
  40. 結果2:5カテゴリ15の倫理原則 1.個人の権利と 尊厳 a. プライバシー とデータ管理 b. 人間の尊厳と 自律性 c.

    インフォームド・ コンセント d. アクセシビリティ とインクルー ジョン 2.技術的な責任 と安全性 e. 安全性と セキュリティ f. 透明性と 説明責任 g. バイアスへの 対処と公平性 h. 倫理的な 設計と開発 i. リスク評価と 危害防止 3.AIと人間の 相互理解 j. コミュニケーショ ンと関係性 k. 信頼感と AIの責任 l. AIの意識と道徳 的意思決定 4.社会的影響と 責任 m. 教育と リテラシー n. 文化的感受性と 多様性 o. 社会的影響 5.専門家倫理 p. ケアの質と 有効性 q. 商業的側面と 利益相反 r. 正直さと 操作の回避 s. プロフェッショ ナリズム t. 規制と ガイドライン 71 NFBT2024 WS 「ブリーフセラピーにおける生成AI活用の可能性と課題」