#5 医療へのChatGPT & AIの適用

ChatGPTはテキスト(または画像)生成機能に焦点が当たりやすい。しかし、ChatGPTは各業界のビジネス環境やサービス環境を大きく変える能力を保有している。特に、医療分野への適応では、診断/治療支援だけでなく、患者とのコミュニケーション（チャットボットによる医療情報へのアクセスや自己症状を理解のための対話など）、要約機能による検査や医学情報理解の容易化、医療関係事務処理の効率化/自動化など、適用の幅が広いのが特徴である。そこで、ChatGPT活用の恰好の検討対象になっている。その一方、臨床現場での判断に影響を与える誤ったテキストの生成は重大な問題を引き起こす。このようなことから、医療分野へのChatGPT適応の状況を探ることは今後の生成AI主導イノベーションの動向を探るのにも向いている。このような認識で関連情報を集めて報告する。

Transcript

1. 医療へのChatGPT & AIの適用 B-frontier 研究所 高橋 浩
2. 自己紹介 - B-frontier研究所代表 高橋浩 著書： 「デジタル融合市場」 ダイヤモンド社(2000),等 • 略歴： • 元富士通 • 元宮城大学教授 • 元北陸先端科学技術大学院大学 非常勤講師 • 資格：博士(学術)(経営工学) • 趣味/関心： • 温泉巡り • 英語論文の翻訳 • それらに考察を加えて情報公開 • 主旨：“ビジネス(B)の未開拓地を研究する” • SNS： hiroshi.takahashi.9693（facebook) ＠httakaha（Twitter）
3. 目的 • ChatGPTは洗練されたアルゴリズムにより反復プロセス の自動化や顧客サービスの向上、生産性の向上などを実 現させており、 • ChatGPTが各業界にどのような影響を与えるか、および どのようにイノベーションを促進させるかを観察するこ とは極めて重要になっている。 • その中で医療分野は言語入力に対して人間のように回答 できるChatGPTの様々なアプリケーションが幅広く有効 になる典型的領域である。 • そこで、医療へのChatGPT & AI適用をつぶさに観察し、 ChatGPTの可能性を考えることを本稿の目的とする。 3
4. 目次 4 1. はじめに 2. 医療に向けたChatGPTの活用 ・医療向けのChatGPT機能 ・米国におけるChatGPTの実装と運用の例 ・AIと医療従事者との関係 3. 医療におけるChatGPTの規制 ・生成AIの進化と規制・監督 ・ChatGPT使用における倫理的考慮事項 4. ChatGPTとデジタル医療のこれから
5. 医療へのAI適用 5 1. はじめに • 医療へのAI適用の歴史は古く、従来から医療へのAI適用 は強く期待されてきた。 • ルールベース型AIに基づくMYCINなどが有名 • 背景には次のようなことがある。 • 関連データの複雑さとデータ集積量の増大 • 適用範囲の幅の広さ • 診断や治療への推奨案提示あるいは支援 • 医療提供者、患者、製薬組織等における管理プロセスの支援/自動化 • 患者のケアに関わる人間的側面への活用 • など
6. ChatGPTの特性 • ChatGPTによる作業を処理するには情報と知識の合理化さ れたフローが必要になる。 • 日常業務向けニーズを本格的にサポートするには次のス テップを踏むことが想定される。 • ステップ１：対話とディスカッション • ステップ２：データの受信と比較の作成 • ステップ３：データをサンプリングし報酬モデルを決定 • ステップ４：それらを元にクラウドデータセットを更新 6 まずはChatGPTの一般的特性を探る
7. ChatGPT の活用におけるステップ 7 ステップ１ ステップ４ ステップ３ ステップ２ データベースは新しいプロンプト用 にサンプリングされる。監視ポリ シーは、近接ポリシー最適化の初期 化として機能し、ポリシーが結果を 生む。 報酬は、結果を生む報酬モデルに よって決定される。 近接ポリシー 最適化の助けを借りて、報酬はポ リシーシステムを更新するために 使用される。 ChatGPTとの対話はディスカッショ ンのように見える。 この対話構造を 使用することで、ChatGPT はフォ ローアップ 質問に応答し、誤った主 張に反論し、不適切な要求を拒否す る。 比較データを収集し、報酬モデルを トレーニングする。 ChatGPT等は、 深層学習を使用して人間のような文 章を生成する言語モデルである GPT- 3.5等に基づいて構築される。 作業と進捗のステップ 対話とディスカッション データの受信と比較の作成 データがサンプリング され報酬モデルを決定 クラウドデータセットを更新
8. ChatGPTサポートシステムの機能 8 • ChatGPTは文脈を認識し、意味のある情報を提供する機能 を備える。 • 非公式な調査を通じたデータの収集・分析、ならびに膨大 な量の非構造化データから特徴を抽出し、市場情報を提供 したり、研究者の時間や労力を節約したりできる。 • ユーザーは、いくつかの質問を通じてChatGPTと議論し続 け、ソフトウェアコードを作成したりもできる。 • これらを基にChatGPTの機能と特徴を次頁図に示す。
9. ChatGPT の機能と特徴 9 能力 • 特徴を抽出する • コミュニケーションを支援する • フォローアップを修正する 制限事項 誤った情報が生成される可能 性がある。 場合によっては、 質問の仕方の変更によって、 偏った内容や限られた研究が 影響を受ける可能性がある。 応用 • 医療支援やケア • 臨床支援システム • 言語翻訳 • コーディングとプログラミ ング • 学習ツールの更新 利点 • 関連するクエリが重要である • 顧客向けの仮想アシスタント的 • 適切なヘルプデスク管理的 ChatGPT
10. ChatGPTの役割リストの例 10 ☆幅広い関心を集められる。 ☆さまざまな言語入力ができる。 ☆最新情報をピックアップでき る。 ☆学習と改善をおこなえる。 ☆さまざまな作業に役立つ。 ☆お問い合わせへ対応できる。 ☆ビジネスアプリケーションを 実行できる。 ☆デジタルマーケティングに役 立つ。 ☆概念を翻訳できる。 ☆解釈可能性を向上させられる。 ☆本物の会話と同様な対応をお こなえる。 ☆ダイナミックで興味深い方法 を提供できる。 ☆教育に使える。 ☆より強力なライティング能力 を開発できる。 ☆新しいものを生み出す。 ☆幅広いトピックをカバーでき る。 ☆オフィスレベルで日常業務を 遂行できる。
11. ChatGPTの更なる活用に向けて 11 • ユーザー（企業ほか）はWebサイトやアプリケーションに ChatGPTを組込むことで、 • マーケティングツール • 顧客サービス用ボット • 仮想アシスタント • 文書レビューなど退屈な作業の自動化 • 更には、ある範囲の意思決定の合理化 なども実現できる。 • 現在、一般の関心はテキスト(画像)生成機能に焦点が集中しが ちだが、それだけではない多様な分野に活用できる。 • このような情報を出発点に、以降の節ではより具体的に医療へ のChatGPT適用を考える。
12. 医療におけるChatGPTの可能性 12 2. 医療に向けたChatGPT 医療向けのChatGPT機能 • 医療は患者との繋がりが必然であり、最適な治療の場合 には特にそうである。 • これを前提に次のようなことが考えられる。 • ChatGPTは治療計画の順守を強化し、より実践的でアクセス しやすいケア提供を支援できる。 • 充分サービスを受けられていない地域や地方に住んでいる患 者に対してもChatGPTを使用することで信頼できる情報支援 や知識を提供できる。 • 患者がChatGPTに質問して回答を得ることで、より幸福感を 高め、人間(医療従事者)によるケア負担を軽減させることが できる。
13. 医療に向けたChatGPTの代表的機能の例 ☆臨床意思決定への支援 ☆手術前指導の実施への支援 ☆医学生を含めた医学教育への支 援 ☆特定の病状や治療法に関する疑 問にチャットで返答 ☆健康状態についての詳細を提供 してくれる仮想アシスタント （処方箋受け取り、薬服用） 13 • これらを患者ケア、研究、教育で分類した機能概要を次頁図に示す。 ☆臨床文書の作成の容易化 ☆退院概要書の作成 ☆診療記録、手術記録、および手 順の記録の作成 ☆保険の事前承認の取得 ☆研究論文の要約 ☆医療記録、画像、検査結果に基 づいた医師診断の支援 ☆治療の選択肢や計画の提案
14. 14 患者ケア、研究、 教育の３側面に よる医療向け ChatGPT の一 般的な機能 教育
15. 医療分野における ChatGPT の機能(患者ケア) • 医学知識の伝達： • コミュニケーションスキルの向上で患者ケアを改善 • 説明テキストの簡略化で患者ケアを改善 • 時間制約のない情報アクセス機能を提供することで患者ケアを改善 15 • 翻訳と要約： • 多くの言語への翻訳で患者の母国語に配慮した臨床上の意思決定の 支援 • 平易な日常言語への翻訳によるコミュニケーションで患者ケアを改 善 • 非構造化情報の文書化： • 医師メモを含む各種文章の作成負担（勤務時間の25%）を軽減 • 非構造化メモを含む各種文書の定型フォーマットへの変換
16. 医療分野における ChatGPT の機能(研究) • 科学的知識へのアクセス： • 科学的概念と既存エビデンスとの関係性要約などに有用 • (現在は未だが)最新の情報源にアクセスできるようになれば、膨大な 非構造化データから目的データの抽出なども 16 • 科学的テキストの作成： • テキストの内容、言語、スタイルを適切に適応させるのに有用 • 但し、科学文書の信頼性、基礎となる事実、参考文献の検証などは 複雑化 • コンピュータープログラミング： • バイオインフォマティクス分野など向けのコード生成にも利用可 • データの視覚化などのコーディングタスクの支援も可能
17. 医療分野における ChatGPT の機能(教育) 17 • クリティカルシンキングへの影響： • しかし、間違った入力から貴重な情報を識別する生徒(医学生含め)の 能力に悪影響を与える懸念も • LLM に関する教育： • 潜在的に患者に損害を与えかねない（医学生含む）医療関係者によ る不適切な使用を防ぐため、LLM使用のガイドライン実装が不可欠 • 適切なプロンプトエンジニアリングスキルの教育ならびに関係者の 習得が必要 • 教育分野における 活用： • 多くのトピックに関する説得力ある要約, プレゼン, 翻訳, 説明などに有用 • 修正補助やテスト準備などで、個人化された教育アシスタントとして機能
18. GPT-3 ベースのユースケース例 チャットボットのトリアージ（優先度決定）と患者メモの要約ほか • 病院ネットワーク内での GPT-3 の使用例を次頁図に示す。 • 新型コロナウイルス感染症のパンデミック下での医療の安全性 と質を高めるため、来院する患者にチャットボットトリアージ 機能を提供している例 • チャットボットは病院のネットワークに接続し、対象者向けの トリアージ テキスト要約サービスと組み合わせて提供 • 電子医療記録 (EHR、次頁図) との連携が必要 • フロントアプリは、患者ポータル アプリ、音声アシスタント、 電話、SMS テキストメッセージングなど多様なアプリを想定し、 チャットボット機構を通じて操作可能 18 2. 医療に向けたChatGPT 米国におけるChatGPTの実装と運用の例
19. 19 フロントエンドアプリケーション ローカルな病院ネットワーク GPT-3-as-a-Service チャットボットトリアージ 患者 会話テキスト チャットボットの要約 病院のHERシステム 患者 トリ アー ジの 要約 臨床チーム レビュー GPT-3 モデル GPT-3 サービス 呼出しAPI GPT-3予測 トリアージ イベント EHR データ ベース EHRデータ 再入力API 入力テキスト 前準備 出力用の 後処理 GPT-3リクエスト定式化 EHR: electronic health record（米国の電子カルテシステム） 患者にチャットボットトリアージ機能を提供する例
20. 実装上の考慮事項 • 処理ニーズと情報システムインフラストラクチャ： • メモリ要件が巨大で計算量が多い。 • トレーニング用に特殊なハードウェアが必要になる。 • 結果, GPT-3ソリューションはサービスとして提供するのが現実的 20 • オペレーションコスト： • 病院システムとEHRシステムにGPT-３ソリューションを統合するとかなり 複雑なシステムになる。 • 結果、クラウドコンピューティング活用が現実的 • 評価指標： • GPT-3対処タスクはブラックボックスモデルのため評価が非常に難しい。 • 生成AIの大幅な採用が進行する前に堅牢な評価のための方法論開発が必要
21. 運用上の考慮事項 21 • 運用上の課題は主に３つある。 ◆医療保険相互運用性と責任に関する法律(HIPAA)に準拠す る必要がある。 ◆サービスプロバイダーは医療従事者からの信頼を獲得する 必要がある。 ◆サービスプロバイダーは生成AIツール利用者へのアクセス を改善する必要がある。 • 場合によっては、医療向けの独自GPT-3プラットフォーム構築や トレーニングの実施、ならびにサービス展開における個々の医療 システムの負担軽減の展望が必要
22. 医療におけるAIの位置付け 22 2. 医療に向けたChatGPT AIと医療従事者との関係 • 生成AI技術の成長により、さまざまなデータ間のシーム レスな統合の見通しが立ってきた。 • 医療質問応答や医療関係事項の抽出などで(臨床向けを含め)自 然言語入力による各種タスクの改善 • MRI装置などとも連携したAI支援意思決定支援システムの実現 • 放射線科のメモを作成するディクテーション装置の音声認識の 改善、など • これらの状況を踏まえ、医療従事者向け、患者向けと分 けた、それぞれに典型的な機能例を次頁図に示す。
23. 23 医療従事者向けのChatGPT使用例 患者向けのChatGPT使用例 臨床用文書 の作成 退院概要書 の作成 臨床ノート の作成 保険の事前 承認 研究論文の 要約 放射線図 の読影 治療選択肢 の提案 治療計画の 設計 診断支援 医療トリ アージ 検査結果の 分析 病気の説明 医師のメモ の解釈 個別化された 健康に関する 推奨事項 健康リスク の予測 症状の評価 ウェアラブ ル機器の データ分析 メンタルヘ ルスチャッ トボット 服薬の遵守 リハビリ 指導
24. AIが医師と連携 24 • AI導入の際は医療関係者の役割を再構成することで、より 効率的で合理化された医療システムを実現できる。 • そして、AIを活用した意思決定の方がAIを活用しない場合 に比してより正確でタイムリーな対応が可能になる。 • 結果、『AIを使用している医師がAIを使用していな い医師に取って代わる可能性』がありうる。 • 即ち、人間とAIの連携によってAIの可能性を最適化できる。 • AIは洞察を提供、医師はその知識を活用して最終的に判断 • 但し、AIの予測を検証する監視、潜在的エラーやバイアスを削減 する仕組みの構築と組み合わせが必要 • この状況を概念的に次頁図に示す。
25. 25 医師と AI のコラボレーションを可能にす る AI 導入と考慮事項 人間とAIのコラ ボレーション 優先度付け 組織変革 と教育 ｱｾｽﾒﾝﾄ と評価 組織政策 とﾌﾟﾛﾄｺｰﾙ 倫理的/ 包括的AI 学際的視 点と探索 ６． ５． ４． ３． ２． １． 次頁に考慮事項の詳細を示す
26. 医療組織における AI 導入の考慮事項 26 1. 全ての医療に関わるチーム (医師、診療所、研究者、情報システム、運用、管理、患者および 地域関係者) を設立し、費用対効果が高く、影響力のある協調型 AI ソリューションを探索およ び評価し、人間参加型のアプローチを確立する必要がある。 2. 非効率または低パフォーマンスにつながるタスク、患者のニーズ、サービスの品質、満足度に 対処するタスクなど、改善と AI コラボレーションの活用が必要な AI サポートの臨床プロセス、 運用ワークフロー、実践事項に優先順位を付ける必要がある。 3. 医師、看護師、管理者、患者などの複数の関係者グループを参加させて、不可欠な包括的なト レーニング、教育ニーズ、組織文化の変革を特定し、大規模な導入前に効果的なコラボレー ションのための AI ツールのテストと教育を行う必要がある。 4. 検証、実用性、導入に焦点を当てた、AI の厳格な評価方法と評価フレームワークを確立する必 要がある。 5. 組織のポリシーとプロトコルを改訂して AI の導入を促進し、倫理的および法的懸念に対処し、 コンプライアンス、プライバシー、セキュリティを確保し、組織の信頼、アクセス、ガバナン スを構築するための戦略を立案する必要がある。 6. 倫理的、包括的、公平、責任ある、公正な AI 実践に取り組む。そのため、医療機関間のデジタ ル格差を減らすことにも重点を置く必要がある。
27. 従来のAIベース技術向け規制との相違 27 3.医療におけるChatGPTの規制 生成AIの進化と規制・監督 • 生成AIは規模、機能、潜在的影響力の点で以前とは異なる。 • 従来のAI(深層学習など)と区別される主な特徴は下記 ◆規模と複雑さ • 数十億個以上のパラメータを利用するため、意図しない結果が出ることがあ り、それに関わる課題も考慮した規制・監視が必要 ◆ハードウェア要件 • 大量の計算リソースが必要 ◆幅広い適用性 • 多用途の機能を備えるため画一的な規制は不向き ◆リアルタイム適応 • 応答をリアルタイムに適応させられるため、動的動作に対応した規制・監視 が必要 ◆データのプライバシーとセキュリティ • 堅牢な規制・監督のためのフレームワーク確立が必要
28. 生成AIの進化のペース • 生成AI技術は進化のスピードが速い。その例をChatGPTと GPT-4の類似プロンプトに対する回答例で示す。 28 プロンプト ChatGPT GPT-4 プロンプト 1 – あいまいな症状を持 つ患者を診断する 患者は疲労、体重減少、時折め まいを訴えます。 このような症 状の考えられる原因は何でしょ うか? 45 歳の男性患者は、3 か月前から進行性の疲労、意 図せずに 15 ポンドの体重減少、めまいの症状を訴 えています。 鑑別診断を提供し、関連する診断検査 を提案してください。 プロンプト ２ – 患者教育 高血圧をわかりやすく解説しま す。 高血圧の状態、危険因子、症状、潜在的な合併症、 管理戦略の概要を含む、高血圧に関する患者向けの 教育用資料を作成します。 プロンプト ３ – 臨床例のシナリオ 肺炎患者について説明します 市中肺炎を患っている 65 歳の患者に関する詳細な 臨床症例シナリオを作成します。これには、現病歴、 関連する過去の病歴、身体検査所見、診断検査結果、 治療計画が含まれます。 ChatGPT と GPT-4 のプロンプトの深さと違い ChatGPTは一般的クエリによる単純なプロンプトを処理するのに対し、GPT-４は複雑なマルチレ ベルのプロンプトを分析し、症例の説明や研究論文の要約など、より洗練された結果を提供する。
29. 先進生成AIの医療分野への適応 29 • GPT-4は画像上のテキスト(医師の手書きメモも含め)を読 み取り、画像の内容とコンテキストを分析できる。 • このような高機能なGPT-4等を医療分野に適応すると、倫 理的懸念も生じやすく厳密な規制の枠組みが必要になる。 • 潜在的倫理違反を防ぐには、原則的には、透明性、説明責 任、公平性などの課題に対処する必要がある。 • 具体的には、AIが診察の意思決定プロセスに関与している 場合、医療専門家と患者の間でそれを認識し、患者はAIの 推奨事項などについて説明を受けるような手続きが必要に なるかもしれない(患者の理解力が問題になるが)。 • このような新たな環境にChatGPT/GPT-4を使用するには 患者情報の機密性やセキュリティ確保などにも強力な規制 が必要になる。
30. 生成AIの規制の課題 30 • メジャーな生成AIは世界中でリリースされており、各国の医療環 境は個別性があるので、特定規制当局が世界向けに規制を定め、 それを各国が反復・修正する形態は期待できない。 • 規制の観点から生成AIがどの技術カテゴリーに分類されるのかも 現状では明らかでない。 • 医療対応の規制機関は、生成AI開発関係者が自社製品は医療目的 で使用できる、あるいは医療目的のために開発したと主張する 場合にのみ規制の設計が必要になるのかどうか？ • また、いずれの製品でも医療データと関連データベースに基づ く特別なトレーニングをしたとしても、それだけで医療向けの 代替品としては認定できない。 • 関連データに基づいても、事実性、精度、トラブルの可能性、 偏見(バイアス)などの問題は、それだけでは解決しない。 • これらを踏まえ、生成AIに関する規制上の課題を次頁表に示す。
31. 31 生成AIの台頭に関する規制上の課題のリスト
32. 医療におけるChatGPT使用の倫理的課題 32 3.医療におけるChatGPTの規制 ChatGPT使用における倫理的考慮事項 • ４つの側面からの課題を挙げる。 ◆法律的課題：患者に危害が生じた場合の責任分担 データ収集による患者のプライバシー侵害の懸念 ◆人文的課題：AIに過度に依存することで思いやりが損なわれ信頼を 失う懸念 ◆アルゴリズム的課題：検証と評価だけでなく、アルゴリズムバイアス、 責任、透明性、説明可能性に関する懸念 ◆情報的課題：データのバイアス、妥当性、有効性に関する懸念 • ChatGPTの医療分野への適用は数多くの利点があるが、一方、 潜在的危険を防ぐため、各種の原則順守は不可欠である。 • 進化するAIの倫理環境を乗り越えるには最も厳格な倫理基準順 守が必要である。(包括的枠組みを次頁に示す)
33. 33 人工知能 (AI) 規制の枠組み 社会と政府 健康管理部門 AI企業 法的倫理 人間主義的倫理 アルゴリズム倫理 情報倫理 法的責任 プライバシー問題 ライセンスと規制 人間的なケア 医師と患者の関係 誠実さ アルゴリズムの偏 り(バイアス) アルゴリズム の責任 透明性と 説明可能性 データの偏り (バイアス) ChatGPTの有効性 ChatGPTの有益性 検証と評価
34. 人工知能 (AI) 規制の枠組み(法的倫理) • 法的責任： • 不適切な医療アドバイスを提示する可能性があるが、その際の法的義 務の担い手が不明確 • OpenAI社は生成されたテキストに関する責任を一切否認 34 • プライバシー問題： • 集められた病歴、検査結果などのデータへの不正アクセスやデータ侵害の 懸念 • 強力な匿名化機能、厳格なアクセス制御だけでなく、責任あるデータ取扱 いのガバナンスが必要 • ライセンスと規制： • 医療におけるChatGPTアプリは関連する規制とライセンス要件を満足する 必要あり • 規制当局はChatGPTなどを臨床現場に導入する前に、安全性などの評価プ ロセスを審査し実行する必要あり
35. 人工知能 (AI) 規制の枠組み(人間主義的倫理) • 人間的なケア： • 医療専門家は患者の健康と感情的要件を優先し、AI生成の推奨事項だ けに頼らない対応が必要 • AIが不得手な共感的サポートを補い、患者の体験を損なわない考慮が 必要 35 • 医師と患者の関係： • 医療専門家は効果的な医療を支える人間的つながりと信頼を維持し ながら、意思決定を支援し、コミュニケーションを促進するツール としてChatGPTを活用 • 誠実さ： • 医療専門家はAIによって生成されたレポートや推奨事項が科学的根 拠に基づき、確立された臨床ガイドラインに沿っていることを誠実 に確認
36. 人工知能 (AI)規制の枠組み(アルゴリズム倫理) • アルゴリズムの偏り(バイアス)： • モデル自体に内在する偏った意思決定プロセスに由来 • 生成AIシステムの透明性欠如に関係(AIアルゴリズムの厳格なテストと規制が必要) 36 • アルゴリズムの責任： • 患者、医師、OpenAI間での明確な責任分担が必要 • ChatGPT側はアルゴリズムが自律的で患者にとって有益であることを保証し設計を 正当化すべき • 透明性と説明可能性化： • 医療専門家は推奨事項の作成プロセスを理解し、推論経過と結果を患者に説明でき ることが必要 • 検証と評価： • 医療専門家は生成された推奨事項の正確性、信頼性、有効性を評価し、確立された 臨床ガイダンスと比較して、最終的に患者ケアの質的向上を図る必要あり
37. 人工知能 (AI) 規制の枠組み(情報倫理) 37 • ChatGPTの有効性： • ChatGPT出力の包括的検証は人間の専門家による大規模で細心な考慮に よってのみ可能 • 但し、アクセス可能なソース情報の欠如により検証が困難な側面あり • ChatGPTの有益性： • ChatGPTには精度(正しく信頼できる応答を生成する能力)と限界(潜在的偏 見、状況理解の欠如、など)の課題が存在 • 結果、ChatGPTは出力テキストの正確さを意識的には評価できない。 • データの偏り(バイアス)： • 生成AIモデル開発に使用されるトレーニングデータにバイアスが存在 • 偏ったデータから学習し、結果に同じ偏りを永続させる懸念
38. 課題と方向性 38 4. ChatGPTとデジタル医療のこれから • 現在、生成AIの基礎モデルであるLLMの出力が正しいこと を保証するメカニズムは無い。 • そのため、エラーや誤った情報が致命的結果をもたらす可 能性があり、臨床現場での生成AI適応は大幅に制限される。 • その一方、生成AIにはさまざまな安全ガードレールを実装 し、医療専門家と生成AIとが連携することによって生成AI の有効性を実現できる可能性がある。 • 医療アプリとして特別に設計され、医療データに基づいて トレーニングされた生成AIアプリも登場している(次頁表)。
39. スタートアップ企業の医療向け生成AIアプリ(例) 39 チャットボットから検索に到る多様な生成AIアプリが登場している。 患者の「デジタルフロントドア」として チャットボット機能を提供 2016年設立, 所在地: サンフランシスコ 上記と類似で、特にメンタルヘルスに特化 したチャットボット機能を提供 2017年設立, 所在地: サンフランシスコ 医療分野での膨大な非構造化データをナビ ゲートする機能を保有し、医療記録レ ビューの自動化機能も提供 2017年設立, 所在地: ニューヨーク 上記と類似で顧客ニーズに対応し易いAPI 提供形態による機能を提供 2019年設立, 所在地: ニューヨーク 生成AIを使用して生物学の秘密解読に挑戦 し、現在は次世代RNA治療薬の開発に注力 2021年設立, 所在地: パロアルト 狙い/ビジネスモデル、等 その他
40. デジタル医療の今後 40 • GPT-4の登場にも見られるように、AI技術は前例のない速 度で進化している。 • この急速な進化はAIがテキストや画像などの情報処理にお いて人間の能力を遥かに超える未来を示している。 • これは規制当局（あるいは規制に関わる全ての関係者）に 対して迅速に行動すべきとの圧力を強めている。 • このような傾向への適切な対応が促進されれば、医療分野 においてAIは医療進化の原動力となり得る。
41. 41 • 但し、そのためには、医療分野にAIが本格的に導入され既 存システムと統合され受け入れられる前に、厳格な倫理面 での審査を受ける必要がある。 • 堅牢な倫理的枠組みを確立することで、個人（患者）の幸 福を守りながらAIの可能性を活用出来る。 • しかし、この条件を充足するためには関係各部門の多方面 に渡る準備と努力が必要になる。 • 全体としては、このような方向に向けて未来を形作る活動 が促進されることが期待される。 デジタル医療の今後(続)
42. 42 • 医療業界ではChatGPT＆生成AI導入の進展で雇用への影響はあり得るが、それよりも 従来タスクの再構成の機会が増大する。 • デジタル化促進とタスク再構成(組織変革)の連動は医療従事者間にAI装備者とAI未装備 者を生成させる側面もある。 • 結果、AI装備で先行する医療従事者で構成される医療機関/医療サービスとそうではな い機関/サービスを登場させるかも？ • しかし、本質的に医療サービスは従来の臨床ガイドラインなどとも整合の取れた厳格 な規制に順守し審査されて登場するものである。 • そして、新サービスは最終的には全ての医療機関に浸透すべき目標のものである。 • このような世界を想定すると、公共性を持つ医療サービスは現行のGPT-4的体系など とは異質のものが想定され、医療向けに最適化された多様なプロセスが必要か？ • 例えば、システムイメージも、実装、運用、コスト、サービスプロバイダー、スキル 教育機関、なども、新たな構成が模索されるか？ • それは、あたかも車社会到来に向けて多様な機関が登場し、種々の整備が行われてき た状況と類似の側面があるかもしれない。 • 道は長いかもしれないが、変化は抜本的ではないかと思われる。 ChatGPT後のデジタル医療世界への影響
43. 文献