看護マネジメントの現場に、生成 AI を迎えるには

© 2025, Amazon Web Services, Inc. or its affiliates. All
rights reserved. © 2025, Amazon Web Services, Inc. or its affiliates. All rights reserved. Senior Machine Learning Developer Relations Takahiro Kubo 看護マネジメントの現場に、生成 AI を迎えるには 1 看護の世界に生成 AI を “引き込む”

rights reserved. 2 自己紹介アマゾンウェブサービスジャパン合同会社 Senior Machine Learning Developer Relations 久保隆宏 (Takahiro Kubo) 技術監修翻訳 AI/ML についての技術的な解説や AWS のサービスの紹介はもちろん、「機械学習の実プロダクトでの活用」を進めるためのワークショップや情報提供、また AWS のサービス改善に取り組んでいます。単著寄稿

rights reserved. 3 本日のゴール生成 AI が効率性と共にもたらすリスクを “マネジメント” するために、今現場で実践しているノウハウが役立つことを知っていただく。これにより、生成 AI ・IT を「新しく」学ぶよりも迅速に院内の関係者や IT ベンダーと対等に会話できるようになる！

rights reserved. 5 自治体病院の約 9 割が経常赤字となり業務効率化に加え安定的な収益源の創出が急務有効求人倍率は医師 1.88、看護師 1.86 と全職業の中でもトップクラス。採用と維持に必要な職員給与は 2023 年から 2024 年にかけて 5.2% 上昇。給与に次いで多い材料費も物価高の影響で前年比 3.1% 上昇。生産年齢人口の減少や物価高の傾向を考慮すると、今後も給与・材料共に価格は上昇すると見込まれる。費用の上昇限定・固定的な収益源令和 7 年「全国自治体病院開設者協議会・公益社団法人全国自治体病院協議会緊急要望活動報告」より「職業別＜中分類＞常用計有効求人・求職・求人倍率（令和6年5月）」より収益の 9 割近くを占める入院・外来の保険診療は公定価格である診療報酬に依存。日本の財政状況を考えると、大幅な引き上げは困難。また、機会は 2 年に一回。補助金も一時的であり、根本的な問題解決とはならない。 2010 年代時点ですでに半数以上が経常赤字であった。昨今の赤字増加は十数年来の構造的問題の表出にすぎず根本的解決が危急。

rights reserved. 6 持続的な医療の実現に向け、迅速に 3 Step を進める必要がある直近の給与上昇幅 5% に見合う生産性の向上が必要。つまり、より少ない時間・人で業務が遂行できる環境と仕組みへの変化が必要。 Step1.業務効率化 Step2. 収益源の創出 Step3. 持続的成長介護事業者・自治体・医療機器/製薬企業等を含めたエコシステムの形成データの電子化と連携病床の利用率・利用期間を能動的に把握し治療の密度を高め、治療体験と収益性を高める。未病の対処と定期的収益につながる検診事業、地理的制約に縛られない遠隔診療、医療機器や医薬の共同開発・研究など新規事業の創出。技術革新や社会変化から生まれる機会と脅威を継続的に観測し、絶えず病院経営の効率化と収益源の創出を図る。業務効率化のノウハウ共有経営と現場での目標共有共同研究の起案と連携次世代型の医療拠点構築連携範囲拡大による高効率化

rights reserved. 7 生成 AI の導入は、Step1 の実現に欠かせない 1. 私を楽に生成 AI を活用し個人の業務を楽にできるようになること 2. 助け合い楽に院内・院外のグループと共同で学び連携することで仲間を得る 3. 仕組みを変える仲間と共に、持続的な病院経営にひもつく仕組みの改訂を行う ⇒ “Step2. 収益源の創出” へ私を楽に助け合い楽に仕組みを変える Step1.業務効率化 Step2. 収益源の創出 Step3. 持続的成長

rights reserved. 8 利用と導入の間にある壁を超える必要がある個人で利用するのと、組織で導入するのとでは考慮事項に大きな差がある。 • 情報のセキュリティは大丈夫か ? • 職員が使いこなせるか ? • 情報は信じられるか ? どのようなガイドを出すべき ?? ⇒ IT、生成 AI について専門でない中でガイドラインを作り周知徹底し運用するなんて・・・

rights reserved. 9 どうすれば生成 AI の導入を私でも迅速に進められるだろうか ?

rights reserved. 11 看護医療の現場は、リスク対策に知見を持つはず医療安全管理者お役立ちミニ情報より 2026/2/7 日本臨床看護マネジメント学会学術研究大会

rights reserved. 12 P-mSHELL : 医療・介護現場に特化したヒューマンエラー分析のフレームワーク臨床看護マネジメント学会でも登壇された河野先生が提唱されているフレームワーク。ヒューマンエラーの背景を要素分解する SHELL にマネジメント要因の m、さらに患者の状態 P を独立させた形式。引用 : P-mSHELL分析の書き方と具体事例｜介護事故を防ぐ仕組みづくり

rights reserved. 13 P-mSHELL の分析例事例夜勤帯、看護師 A が患者 B へ投与予定のインスリンを、隣ベッドの患者 C に誤投与。患者 C は低血糖状態となり ICU 搬送が必要となった。患者 B とC のベッドが隣接・外見が類似。患者 C が糖尿病治療中との情報共有が不足夜間は 1 名で複数病室を担当。ダブルチェック手順が形骸化し実施率が低下していた電子カルテの投薬指示画面に患者照合アラートなし。6R 確認が業務フローと乖離薬剤ラベルのフォントが小さく夜間照明下での判読が困難。バーコード照合未導入夜勤帯で相談相手が少ない。薬剤準備エリアが暗く狭い連続 12 時間勤務の終盤。類似インシデントの研修を受けておらず認知不足担当医に確認しにくい雰囲気。申し送りが口頭のみで文書化されていなかった P（患者） m（管理） S（手順） H（機器） E（環境） L（当事者） L₂（周囲）

rights reserved. 14 “P” (患者) を “PI” (患者情報) に置き換える P-mSHELL : 人に関わるリスク P（患者） S：投薬・看護手順 H：輸液ポンプ・モニター E：病室の照明・騒音・物理環境 L：看護師本人の知識・体調 L₂：医師・同僚 PI-mSHELL : 情報に関わるリスク PI（患者情報） S：AI 利用ポリシー・匿名化手順 H：PC・スマホ・AI サービス E：ネットワーク・システム的環境 L：情報を扱った人の知識・判断 L₂：同僚・ベンダー・情報管理部門 m：病棟管理・安全文化 m：アカウント管理・オプトアウト運用

rights reserved. S （手順） 15 PI-mSHELL：各要素の定義患者にまつわる情報固有の特性法的性質（要配慮個人情報か）・識別可能性（匿名化済みか）形式（転記容易か） PI を扱う手順・ポリシー AI 利用ガイドライン・匿名化手順・プロンプトガイドライン PI が処理・送受信される機器 PC・スマートフォン・AI サービス（ChatGPT、Claude 等） PI が置かれるシステム・ネットワーク環境例：院内 LAN・クラウド・外部サービス側のサーバー環境 PI を直接扱った人の知識・判断例：IT リテラシー・要配慮情報の認識・オプトアウトへの理解 PI を扱った人の周囲の人・組織例：同僚・情報管理部門・AI ベンダー・法務定義具体例要素 PI （患者情報） H （機器） E （環境） L （当事者） L₂ （周囲） PI を管理、利用するための組織的体制と手続きアカウント管理・サービス契約形態・コスト管理 m （管理）

rights reserved. 16 PI-mSHELL の分析例シナリオ夜勤帯、看護師 A が退院サマリー作成を効率化しようと、個人スマートフォンの無料版 ChatGPT に患者の氏名・病名・経過を入力。翌日、師長がラウンド中に発覚しインシデントレポートが提出された。氏名・病名・経過を含む要配慮個人情報であり、特定個人を識別できる状態にある。テキストとしてコピー・転記が容易な形式 AI 利用ポリシーが未整備。退院サマリー作成手順に AI 利用の可否が明記されていなかった個人スマートフォン＋無料版 ChatGPT（組織契約外・オプトアウト未設定）個人スマートフォンから外部サービスへのアクセスが技術的に可能な状態だった。院内 PC は外部サービスへのアクセスが制限されていなかった要配慮個人情報の第三者提供制限やオプトアウトの必要性を認識していなかった情報管理部門から AI 利用に関する周知がなかった。同僚も同様の利用をしていた可能性組織として正式な AI サービスの契約・配布がなく、個人利用を禁止も許可もしていない状態 PI（患者情報） S（手順） H（機器） E（環境） L（当事者） L₂（周囲） m（管理）

rights reserved. 17 よく心配されるリスク • m (管理) : 職員へのアカウント配布と利用管理 • S (手順) : 院内での利用ポリシー • H (機器) : AIサービス側でどう処理されるか • E (環境) : インターネット経由での利用

rights reserved. 18 m (管理) 1/3: 契約形態患者情報の誤った利用が起きえないよう契約を確認 ①個人情報保護法下記 2 点を確認 • 医療サービス提供の目的沿った利用であること • サービスの改善 (モデルの改善含む) に利用されないこと個人情報保護委員会生成AIサービスの利用に関する注意喚起等について医療情報システムの安全管理に関するガイドライン第 6.0 版多くの “無料” のサービスはデフォルトでサービスやモデルの改善に使用する ※本人がどれだけ IT に詳しいかは関係なく、設定されているか否かが問題有料版は使用されないことが多い

rights reserved. 19 補足 : オプトアウト設定の方法参考 : オプトアウト設定 ChatGPT Claude 導入時は必ず有償で契約し、オプトアプトされることを確認することを推奨

rights reserved. 20 m (管理) 2/3: 利用者管理生成 AI の利用アカウントの管理こちらは既存の電子カルテや PHS など既存の貸与物管理と同様 1 発行（配布台帳） 2 利用記録（通話ログ） 3 ルール遵守（私用禁止） 4 回収（退職時） 1 アカウント発行台帳 (※サービスの機能として提供されていることは多い) 2 利用ログ（誰がいつ） 3 業務外利用禁止ルール (独自にガードレールを設定することが可能な場合もあり) 4 退職時即時無効化 PHS / 院内スマホ管理サイクル AIサービスアカウント管理サイクル

rights reserved. 21 m (管理) 3/3 : コスト管理ベンダーからの見積もり、費用試算結果は妥当か ? 基盤モデル① アプリケーション (Web 等) 基盤モデル② ・・・例 GPT5, Gemini, Claude・・・データベース等例 Copilot、 ChatGPT、GenU、 Amazon Q・・・基盤モデルアプリケーションモデルの利用費用 (API 料金) アプリケーション開発費用運用費用アカウント登録、管理 etc… 通常一回数円~ 数十円程度医療機関用カスタマイズ、ガードレール設定等アカウント管理、ログ管理 etc

rights reserved. 22 m (管理) 3/3: コストのイメージ個人的な資料で計測 : 原価となるモデルの利用費用 • 1 時間の議事録を作成 : 2,000~ => 1,000~ token • 日本語論文 (9p) を要約: 20,000~ token => 2,000~ token 入力したテキストのトークン数、出力したテキストのトークン数に応じて価格が計算される。左の場合、100 万トークン当たりの値段なので議事録の場合約 3 円/回、論文の場合 13 円ぐらい。モデルの精度が上がるほど基本高い。

rights reserved. 23 補足 : トークンとは ? テキストを含む様々なデータを「トークン」に分割して、現在のトークンから次のトークンを高い精度で予測できるように予測機を学習させている。マルチモーダル基盤モデルと教育への応用質問に対する回答 (トークン列) を生成できるよう学習

rights reserved. 24 S (手順) : 生成 AI を利用するガイド医療 AI プラットフォーム技術研究組合より、生成 AI 利用ガイドラインが公開 https://haip-cip.org/assets/documents/nr_20241002_02.pdf m (管理) についてのガイドも記載あり。 • 医師法や薬医療機器等法にて “医師”・”薬剤師” が行うことになっている業務を代替することは不可 • 著作権侵害になるような既存著作物に類似する出力を促す入力への注意 • 不正確な情報が発生しうることを前提とした出力の確認ガイド

rights reserved. 25 補足 : ハルシネーションの例正解は急性期一般入院料１ = 1,688 点など。357 に該当する項目は、実際には存在しない。検索と組み合わせると、正確に回答できる確率が飛躍的に高まる。 • 院内のデータ、外部の検索を組み合わせた形で利用ができるサービス (H : 機器)、契約 (m : 管理) でリスクを抑制できる

rights reserved. 26 H (機器) : 利用する生成 AI サービスよくある不安： Q : 私が入力した内容でAIが賢くなって、他の利用者に漏れるのでは？ A : 生成 AI は学習と推論 (利用) のフェーズがあり、推論の段階で学習されることはない学習フェーズ ― AIが出荷される前に完了済み膨大な文書学習処理生成 AI モデル完成・固定（皆さんに届く前）推論フェーズ ― 皆さんが使うのはここだけあなたの質問入力 AIモデル参照のみ AIからの回答モデルは変わらない教科書を「書く」プロセスと「読む」プロセスが異なるように、読んでいる途中に書き換わるようなことは原理的にないポイント

rights reserved. 27 補足 : でも以前のことを覚えていたりする！モデル自体は変化しないが、外からデータを入れることはできる。会話内容や要約をデータベース等に保存前回の会話内容をデータベースから読み込んだうえで会話を開始

rights reserved. 28 E (環境) : インターネット経由での利用「公道」を通る点で物理の配送とインターネットの送信は近しい。自院（送り手）封筒郵便局配達経路相手院（受け手）自院の PC・端末データ暗号化インターネット AIサービス（受け手）紹介状を他院に送るケースインターネット経由のサービス利用医療情報システムの安全管理に関するガイドライン第 6.0 版クライアント認証 + TLS 1.3+ VPN/IPsec 医療情報を扱う場合、クライアント認証 + TLS 1.3 以上による暗号化したうえでの通信、もしくはインターネット上に仮想的に専用の経路を作れる VPN/IPSec の利用が必要 (詳細はガイドラインを参照)

rights reserved. 29 補足 : 熊本中央病院様事例 ANGEL Dojo 2025 に参加いただき生成 AI 活用を進められている熊本中央病院様では (参考 :地方病院が生成 AI の活用環境を2日で構築し内製化へ踏み出す : 黒字経営を続ける組織力にうったまがった！)、ネットワークとして ispec 様の CloudSail を使用 : 院外に出る通信をセキュアな経路で代行する設置容易な機器

rights reserved. 31 想定問答 • 上長 : 患者情報がAIに学習されて、他の病院に漏れるのでは？大丈夫かね? • 経理 : 無料で便利なツールが沢山ある。無料版でコストを抑えられないか ? • ベンダ : 病院でのシステムは安全戦第一。だから月額 XXX 万は必要です • 同僚 : 生成 AI で業務効率化したいんだけど何に気をつければよいの？

rights reserved. 32 回答例 Q 上長 H 「患者情報がAIに学習されて、他の病院に漏れるのでは？」 A AIを使う時は「推論」モードのみ。入力データでAIが「学習（書き換え）」されることはありません。さらに、組織契約では学習不使用がデフォルト設定です。 Q 経理 m/H 「無料版のAIを使ってはいけないのか？」 A 個人版の無料サービスは組織のアカウント管理外ですし、多くの場合モデルの学習に利用する条件を付けており患者情報の入力は個人情報保護法に抵触する可能性が高いです。院内で配布している組織契約版をお使いください。 Q ベンダ m 「XX 円かかるのは当たり前」 A AI利用料自体は（数十円/回）のはずです。機能性を高めるためにどんな開発をしていて、運用性を高めるためどのようなサポートや機能を提供しているのですか? それらが費用対効果に合うかを私たちで検証します。 Q 同僚 S/L 「自分でAIを使って業務効率化したいが、何に気をつければよいか？」 A まず、院内で配布しているサービスを利用してください。目的外の利用と、医師法等人間が行うべき業務において修正なしに利用しないこと、そして間違うことを前提に確認の上利用しましょう。

rights reserved. 33 PI-mSHELL 実践導入を検討している利用方法に対してリスクを分析する ①あなたの病棟で生成 AI を使うなら？ ▪ 想定シーン（例を1つ選ぶ or 自分で書く） □ 退院サマリーの下書き作成 □ 勤務表作成のたたき台 □ 患者家族への説明文書の作成 □ 院内研修資料の作成 □ その他（） ②PI-mSHELL でリスクを分析する PI（扱う情報）： m （管理）： S （手順）： H （機器）： E （環境）： L （当事者）： L₂（周囲）：一番リスクが高いと思う要素はなにか？その対策として何ができそうか？

rights reserved. 34 PI-mSHELL 分析の回答例 : ① シナリオ看護記録の AI 下書き生成 :日勤帯、看護師 A が受け持ち患者 5 名分の看護記録作成を効率化するため、組織契約の AI サービスに患者の経過観察メモ（手書き）を転記し SOAP 形式看護記録の下書きを生成経過観察メモには患者氏名・病室番号・バイタル値・症状の記述が含まれ、要配慮個人情報に該当手書きメモからの転記時に複数患者の情報が混在するリスクがある SOAP の各項目のうち A（アセスメント）は看護師の専門的判断であり、AI 出力をそのまま採用すべきでない旨の注意がない AI サービスは手書き文字も読み取れるが、読み取り精度はそれほど高くない生成 AI サービス利用のための回線は医療情報ガイドラインに即して実装済み AI が生成した文章を「もっともらしい」と感じ、観察事実との照合を省略した同僚も同様に AI を利用し始めており、「AI が書いたものをそのまま入力」する業務が浸透しつつあった。組織契約の AI サービスは導入済みで看護記録作成への利用は可能 PI（患者情報） S（手順） H（機器） E（環境） L（当事者） L₂（周囲） m（管理）

rights reserved. 35 PI-mSHELL 分析の回答例 : ② シナリオ会議議事録の AI 自動作成: 看護師長 B が病棟カンファレンスの録音データを AI 文字起こしサービスにアップロードし、議事録を自動生成した。カンファレンスでは特定患者の氏名・病名・家族の意向が録音に含まれていた。録音データに患者氏名・病名・家族の意向・治療方針が音声として含まれる。音声データはテキストと異なり、どの範囲に個人情報が含まれるか事前に把握しにくい議事録を使用する場合、端末側文字起こしをして生成 AI サービスに作成を依頼することになるがマニュアル上で端末側機能の利用可否と方法について記載していなかった個人スマートフォンで録音と文字起こしを実施生成 AI サービス利用のための回線は医療情報ガイドラインに即して実装済み「議事録作成の効率化」という業務目的に意識が集中し、録音データに含まれる個人情報の範囲を事前に精査しなかった。音声データも個人情報保護法の対象であるという認識が薄かったカンファレンス参加者（医師・他の看護師）が、議事録担当者が録音しているかどうかそもそも認識していなかった文字起こしについて、サービス側の機能利用は未契約であった。端末での文字起こしデータの分類や取り扱いを整理できていなかった。また、サービス側の文字起こし機能利用時の音声データ保存場所を把握できていなかった PI（患者情報） S（手順） H（機器） E（環境） L（当事者） L₂（周囲） m（管理）

rights reserved. 36 まとめ 1. 生成AIの導入に必要なマネジメント的視点は、すでに皆さんが持っているもの。 ITの世界にも応用できる • 基礎的な理解（インターネットの仕組み・学習と推論の違い）を加えれば、十分な土台となる 2. “すでに持っているもの” を応用することで、自分だけでなく組織の中にも浸透しやすくなる 3. IT ベンダーと対峙する際も、IT の用語で会話するより ”自分たちの言語” をベースに会話する方が正確に意図を伝えられる生成 AI のために特別な対応をするよりは、生成AIを自分たちの日常に引き込む

rights reserved. 37 Next Step • 実際検討しているユースケースで PI-mSHELL を実践してみる • 既存の仕組みでカバーできている点、政府や団体等が発行している文書でカバーできる点を確認する • : 生成 AI を使用し、これらの資料をベースに自病院用の資料を下書きする

看護マネジメントの現場に、生成 AI を迎えるには

看護マネジメントの現場に、生成 AI を迎えるには

More Decks by Takahiro Kubo

Other Decks in Education

Featured

Transcript