260719AI in Pharmacists symposium

In Miyazaki

Transcript

1. AISIJapan AI Safety Institute AISI Japan AI Safety Institute AIが変える社会と、 安心してAIを活用するための環境つくりについて 平本 健二 AIセーフティ・インスティテュート 副所⾧ IPA デジタル基盤センター センター⾧
2. AISIJapan AI Safety Institute AISI Japan AI Safety Institute AIが変える社会 2
3. AISIJapan AI Safety Institute 2050年には様々な技術が進展し、 社会の活動に埋め込まれてくる 3 資料:AIST Energy Robotics Communication AI 2050年に、あなたは自在にAIが活用できていますか? そのためのデータはそろっていますか?
4. AISIJapan AI Safety Institute  変化速度の加速  多様化（Agent）  未知なる脅威の登場  制度の遅れ  グローバル化  コストの適正化 4 冷静に俯瞰することが重要
5. AISIJapan AI Safety Institute AIと付き合わないという選択肢はない それならば、安全に使いこなそう 5 Edge AI（IoT） Edgeサーバー Cloud AI あらゆるところにAIがある（EmbeddedAI）
6. AISIJapan AI Safety Institute  技術や社会の変化に、社会がついていけなくなっている。 • このギャップが、大きなビジネスチャンスを生み出している。 6 社会の変化が、加速度をもっている アナログ時代 のやり方 変化は悪 周囲に対して 相対的に急降下 技術が ジャンプアップ GAP 法律、標準、意識が ついていけない Annualではなく Quarterでの考えが重要に
7. AISIJapan AI Safety Institute アップデートする社会への対応が求められる 7 Technology updates Rule updates Business and life updates HR updates • 新技術の登場と頻繁 なアップデート • 技術や社会の変化 に対応したルールの アップデート • 技術やルールの アップデートによる ビジネスや生活の アップデート • 技術やビジネスの 変化による ワーク スタイルや要求さ れるスキルのアップ デート AI アップデートによりデータへの要求が変わる データによりアップデートが求められる 社会の仕組みが 年単位から四半期に 根本的に変わってくる ・制度 ・認証 ・予算 ・調査
8. AISIJapan AI Safety Institute 8 AIによるイノベーションとは 類似・関連するAI活用例 ユーザー例 分野 - スマート駐車アシスト（自動で駐車） - AIナビアプリ（渋滞予測やルート最適化） 自動車の自動運転 移動・交通 - 顔認証／指紋認証 - 空港の入出国ゲート パスポートの顔認証 セキュリティ・本人認証 - 需要予測、発注支援 - 商品選別（画像解析） - パーソナライズ、リコメンデーション - AI-OCR 販売 サービス業務 業務 - レポート、メール返信、議事録、契約書ドラフト支援 レポート素案の作成 文書作成支援 - リアルタイム音声翻訳、字幕自動生成 - AI電話通訳サービス 翻訳 言語・ コミュニケーション - AI写真補正・背景ぼかし - ビデオや音楽のレコメンド ChatBot 日常生活 - 睡眠／運動のAI解析 - 疾患の画像診断アプリ - オンライン問診・症状チェック スマホ健康管理 健康・医療 - AI英語学習アプリ、- AI添削ツール - ChatGPTによる学習質問・要約支援 パーソナライズ学習 教育・学習  あらゆる領域でAIが活用され始めている
9. AISIJapan AI Safety Institute 9 AI等のデジタル技術は、 1.伸ばせる力、人の可能性を最大化できる。 2.人の仕事を奪うものではない。 3.誰にも優しい。
10. AISIJapan AI Safety Institute  冷やし中華にマーマレード • 過去データの組み合わせから提案しているが、おいしいらしい。 • 但し、すべての提案がおいしいとは限らない 今までにない製品が開発される可能性がある 10 AIは創作はできないが、可能性の提示は得意
11. AISIJapan AI Safety Institute 安心してイノベーションを起こすには、安全性が重要  その製品やサービスは安心して使えるのか?  暴走してしまったらどうするのか?  止まってしまったらどうするのか?  事故が起こったらだれの責任なのか? 11
12. AISIJapan AI Safety Institute 技術的リスク 経済的リスク 社会的リスク 心理的リスク ＋ レピュテーションリスク 12 考えなければいけないリスク
13. AISIJapan AI Safety Institute 13 AIガバナンス（リスク管理）の重要な視点  AIリスクの状況は常にアップデートされる  AIガバナンスの目的は、リスクをゼロにするこ とではない  AIリスクは提供する側・開発する側だけでな く、あらゆる組織、個人がAIリスクと対面する  AIガバナンスはグローバル視点で考える必要 がある
14. AISIJapan AI Safety Institute 1.生産性と効率の飛躍的向上 • 繰り返し業務やデータ分析を自動化し、行政・企業・医療・教育などあらゆる分野で効率化を実現。 • 例:自動翻訳、要約、カスタマーサポート、画像診断支援。 2. 新たな価値創造と産業革新 • 生成AIやマルチモーダルAIが、新しい創作・開発・デザインの可能性を開く。 • スタートアップから大企業まで、AIを基盤とした新規事業が急増。 例:AI創作支援ツール、AI探索、スマートシティなど。 3.人間の意思決定支援 • 膨大なデータをもとに、リスク分析・需要予測・政策立案支援など、より客観的で迅速な意思決定を可能にする。 • 政策形成や災害対応、気候変動予測などでも活用。 4.社会包摂・アクセシビリティの拡大 • 音声認識や自動字幕、視覚支援AIなどにより、高齢者や障がい者も含めたインクルーシブ社会の実現を後押し。 • 教育・医療へのアクセス改善。 5.知識の民主化 • 専門的知識へのアクセスが容易になり、個人が自分のペースで学び、創造できる環境が拡大。 • 教育・リスキリング・研究支援への寄与。 14 プラス面（ポジティブインパクト）
15. AISIJapan AI Safety Institute 1.雇用構造の変化と職業喪失リスク • 単純業務だけでなく、知的労働（文書作成、設計、分析）もAIによって自動化され、職の再定義が必要。 • 新しいスキル（AI活用・プロンプト設計・データ理解）が求められる。 2.情報の信頼性・誤情報問題 • 生成AIによるフェイクニュース、ディープフェイク、誤ったコンテンツの拡散。 • 「誰が」「何を」「どのように」作った情報かを検証するトラスト技術（プロビナンス、ウォーターマークなど）の重要性が増す。 3.プライバシー・セキュリティの懸念 • 学習データや生成結果から個人情報が漏れるリスク。 • 大規模モデルのブラックボックス性による不透明な意思決定。 4.倫理・法制度の未整備 • 著作権、責任所在、AIによる差別・バイアスなど、法制度が追いついていない。 • 「AIガバナンス」「AI安全性（AI Safety）」の国際的な枠組みが求められる。 5.格差の拡大 • AIを使える国・企業・個人と、使えない層の間で情報・経済格差が拡大。 • データやコンピューティングリソースへのアクセス不均衡が新しいデジタル格差を生む。 15 マイナス面（課題・ネガティブインパクト）
16. AISIJapan AI Safety Institute AISI Japan AI Safety Institute リスクは顕在化しているのか 16
17. AISIJapan AI Safety Institute 17 AIの課題はデータに起因することが多い Malicious actors Misinformation AI system safety, failure & limitations Privacy & Security Discrimination & Toxicity False or misleading information Lack of capability or robustness Fraud, scam and targeted manipulation https://airisk.mit.edu/ai-incident-tracker#explore-dashboard Incident Numbers by Risk Domain (MIT Incident Tracker(2026-07-01))
18. AISIJapan AI Safety Institute 薬学関連のインシデント例（OECD AIM: AI Incidents and Hazards Monitor） 18
19. AISIJapan AI Safety Institute AISI Japan AI Safety Institute AIに関する国際、国、業界の取り組み 19
20. AISIJapan AI Safety Institute 2019年に制定され2024年に 改定されたグローバルな基本原則 20 OECDのAI原則 https://oecd.ai/en/ai-principles アカウンタビリティ ロバスト性、セキュリティ、 セーフティ 透明性、説明可能性 人権、民主主義の価値 （公平性やプライバシーを含む） 包括的成⾧、持続的 開発、ウェルビーイング 信頼できるＡＩのため の国際協調 人材能力開発と雇用 市場の変化への対応 AIのための相互運用性のある ガバナンスと政策環境の形成 AIによるエコシステムの 形成 AIへの研究開発投資 価値ベースの原則 政策担当者への提言
21. AISIJapan AI Safety Institute 自律性の保護:医療システムおよび医療上の意思決定については、人間が主導権を握り続けるべきである。医療提供者は、AI システムを安全かつ効果的に利用するために必要な情報を有している。患者は、自身のケアにおいてAIシステムが果たす役割を理 解している。データのプライバシーと機密性は、データ保護に関する適切な法的枠組みを通じた有効なインフォームド・コンセントに よって保護される。 人間の福祉、安全、および公共の利益の促進:AIの設計者は、明確に定義された用途または適応症について、安全性、正確 性、有効性に関する規制要件を満たすものとする。実務における品質管理の措置およびAI利用の継続的な品質改善策が講じら れるべきである。代替的な手法やアプローチを用いることで回避可能な精神的または身体的な危害をもたらす場合、AIは使用して はならない。 透明性、「説明可能性」、および理解可能性の確保:AI技術は、開発者、医療従事者、患者、ユーザー、および規制当局に とって理解可能でなければならない。AIの設計または導入に先立ち、十分な情報が公開または文書化され、その情報は、AIの設 計方法や、その使用の可否に関する有意義な公的協議や議論を促進するものである。AIは、説明を受ける側の理解能力に応じ て説明可能でなければならない。 責任と説明責任を促進:AIが適切な条件下で、適切な訓練を受けた人々によって使用されることを確保する。患者や臨床医が AIの開発および導入を評価する。アルゴリズムの上流および下流において、人間の監督ポイントを設けることで、規制原則が適用 される。AIに基づく決定によって不利益を被った個人や集団が、異議を申し立てたり救済を受けたりするための適切な仕組みが整 備されている。 包摂性と公平性の確保:AIは、年齢、性別、性自認、所得、人種、民族、性的指向、能力、その他の特性にかかわらず、可能 な限り広範かつ適切で公平な利用とアクセスを促進するよう設計・共有される。AIは、高所得国だけでなく、低・中所得国でも利 用可能である。AIには、特定可能な集団を不利にするような偏見が組み込まれていない。AIは、避けられない権力の格差を最小 限に抑える。AIは、特定の集団に対する不均衡な影響を特定するために、監視および評価が行われる。 対応力があり持続可能なAIの推進:AI技術は、医療システム、環境、および職場の持続可能性の広範な推進と整合している。 21 WHO Ethics and governance of AI for Health 保健分野におけるAIの利用に関するWHOの合意に基づく倫理原則
22. AISIJapan AI Safety Institute 基本構想 • 急伸するエージェント型ＡＩに適応し、計算資源 や電力から、制度・政策まで日本のＡＩ実装能 力を抜本強化 • ＡＩを前提として意思決定や業務の進め方を根 底から見直す「ＡＩトランスフォーメーション」（Ａ Ｘ）を推進 • 人が人として創造すべき価値を探求し、「人間 力」を増進しながら、「人とＡＩが協働する社会」 を率先して実現 • 「信頼できるＡＩ」で社会全体を駆動し、課題解 決と国力強化を探求、日本独自の価値を創出 ４つの原則 • イノベーション促進とリスク対応の両立 • アジャイル（柔軟かつ迅速）な対応 • 挑戦と学習 • 内外一体での政策推進 22 AI基本計画 ＡＩ利活用の加速的推進 「ＡＩを使う」 : エージェント型ＡＩ等の積極適用、政府における率先導入 ＡＩ開発力の戦略的強化 「ＡＩを創る」 : ＡＩ実装能力を高め、「ＡＩ主権」を確保する ＡＩガバナンスの主導 「ＡＩの信頼性を高める」 : ＡＩエコシステムにおける「信頼」の構築で世界をリード ＡＩ社会に向けた継続的変革 「ＡＩと協働する」 : 人が意思決定への責任を持ちながら、ＡＸで日本を駆動 ４つの施策
23. AISIJapan AI Safety Institute １．市場性を有する領域別戦略:産業構造改革、競争力のあるＡＩシステムの創出、海外展開の推進 • 創薬領域:基礎研究から臨床研究、製造工程開発等の創薬の迅速化・高 度化に必要なＡＩ駆動型共用自律ラボ等の整備・運用 23 バーティカルAI領域別戦略 中間とりまとめ ＡＩ駆動型共用自律創薬ラボの構築支援 創薬ＡＩの学習データの規格化・標準化 国際的視野での創薬・医療ＡＩの人材育成・事業化の推進 ＡＩ駆動型臨床試験・治験の推進 ＡＩ前提の薬事審査体制の確立 ＡＩ創薬のための学術研究基盤の機能強化
24. AISIJapan AI Safety Institute ２．公共性のある領域別戦略:ＡＩで人手不足を解消、我が国の供給力の維持 • 医療・介護・福祉領域:看護記録等の文書作成や福祉相談業務 の支援等の現場の負担軽減のためのＡＩ開発普及 24 バーティカルAI領域別戦略 中間とりまとめ 【医療・介護・福祉領域共通施策】 対人サービスにおけるＡＩセーフティ • 高度な安全性を求められる医療・介護・福祉等の公共・準公共分野の対人サービス におけるＡＩの意図しない動作に対する安全性確保に関する検討・研究開発を推進 する。 ＡＩ開発における医療・介護・福祉等の個人情報の取扱い • 統計作成等、特定の個人との対応関係が排斥された一般的・汎用的な分析結果の 獲得と利用のみを目的とした取扱いを実施する場合の本人同意の在り方を検討する。 医療・介護・障害福祉分野でのＡＩ開発・普及支援 電子カルテのエージェント型ＡＩ対応推進と医療機関用ＡＩ開発・利用支援 薬局でのＡＩ活用モデルの構築・横展開 • 患者の治療離脱の検知、服薬指導記録の作成、ポリファーマシー対策、医薬品在庫管理等の分 野でＡＩの導入を進めるとともに、その効果を検証する。また、横展開に向けた課題整理を行い、 これらを踏まえて、薬局におけるＡＩ活用モデルを構築し、横展開を図る。 ＡＩ活用医療機器の普及支援 福祉分野における相談対応等へのＡＩ活用: 【医療・介護・福祉】
25. AISIJapan AI Safety Institute 25 AI事業者 ガイドライン 総務省、経済産業省 社会と連携した 取組が期待さ れる事項 各主体が取り組む事項
26. AISIJapan AI Safety Institute 26 AI利用者に 関する事項
27. AISIJapan AI Safety Institute  AIセーフティ評価観点ガイドをヘルスケア領域に適用しチェックリスト化 27 AISI 事業実証WG ヘルスケアSWG ヘルスケア領域におけるAIセーフティ評価観点ガイド
28. AISIJapan AI Safety Institute 28 AISI 事業実証WG ヘルスケアSWG ヘルスケア領域におけるAIセーフティ評価観点ガイド
29. AISIJapan AI Safety Institute 29 ヘルスケア領域において生成 AIを活用したサービスを提供 する事業者が参照するための 自主ガイドライン（第2版） （ヘルスケア生成AI活用ガイド） 日本デジタルヘルス・アライアンス 医療機関等、法人で生成AIサービスを導入する際の内規（院内ポリシー）のひな形を 参考として添付
30. AISIJapan AI Safety Institute 30 医療・ヘルスケア分野 における生成AI利用ガ イドライン（第2版） 医療AIプラットフォーム技術研究組 合（HAIP）
31. AISIJapan AI Safety Institute AISI Japan AI Safety Institute • 基本が重要 安全・安心な活用を支える環境づくり 31
32. AISIJapan AI Safety Institute  国内では、多くの企業がオープンにつながない基盤の整備をしている。  世界の潮流はつなぐことを前提とした基盤になっている 32 AIの価値を大きくするには、つながることを意識する クローズな基盤の時代は終わった クローズだと、 データが限定され、 イノベーションが限定される （閉じこもったまま取り残される） オープンな環境で、 多種多様で品質の高いデータが交換できることで、 イノベーションが促進される 守りの基盤 オープンイノベーションへの基盤
33. AISIJapan AI Safety Institute  AI以前に、まずは、システムの基礎を固める。 33 つながることを前提にセキュリティ対策をする 被害に遭わない、被害を抑えるために 警察庁パンフレット抜粋 https://www.npa.go.jp/bureau/cyber/pdf/R7countermeasures_leaflet.pdf 侵入、漏洩、流出を防ぐ
34. AISIJapan AI Safety Institute  AIの学習データ、処理データ、評価データが違っていたら、答えは正確にならない。  データの品質確保が必要 • 最新性 • 正確性 • 網羅性 等  データの意味や来歴も重要  データをクレンジングすればよいというのは大きな誤解。設計を正しくする。 34 データが重要（Garbage in, garbage out） A B A B A B A B A B Exact match Close match Related match Not match Narrow Match Broad Match A B
35. AISIJapan AI Safety Institute  AIは、与えられたデータ、参照する知識、接続されたシステムに強く依存する。 AIの賢さは、組織のデータ基盤を超えられない。  AIを組織で使いこなすには、ASOT、すなわち信頼できる唯一の参照点となる データ基盤が不可欠である。（ASOT: Authoritative Source of Truth） • ただし、ASOTは単に「正本」や「権威あるデータ」という意味だけでは不十分であり、最新 性、完全性、整合性、来歴、利用条件などのデータ品質が確保されていなければならない。 • ASOTが整備されていない組織では、AIの出力を検証できない。 • AIの回答が正しいかどうかを判断するためには、比較対象となる信頼できるデータが必要である。ASOT は、AI活用の入力基盤であると同時に、AI出力の検証基盤である。 35 AIを使いこなすためのデータ基盤
36. AISIJapan AI Safety Institute AISI Japan AI Safety Institute 今後に向けて 36
37. AISIJapan AI Safety Institute  AIに関してアンテナを高くして、次に出てくる新技術が、自社や社会に どのようなインパクトを与えるのか、予見する力が重要になる。  インパクトが出現してから対応するのでは間に合わない。  グローバル動向をつかみ続ける必要がある • 海外ニュース • OECDインシデントモニター、MITインシデントトラッカー 等 37 予見する力も重要
38. AISIJapan AI Safety Institute AISI 各種ガイドラインの提供、マンスリーレポートなど 38 変化が早く、多様な情報に対しアンテナを高くする OECD Incident and Hazard monitor 世界中のインシデント関連情報を収集 MIT Incident tracker https://airisk.mit.edu/ai-incident-tracker
39. AISIJapan AI Safety Institute  世界の知見を活用する • 事務効率化 • パーソナライズ • センサー連携（薬物動態等） 39 国外の情報例 https://nabp.pharmacy/news/blog/ai-in-pharmacy-how-artificial-intelligence-is- transforming-patient-care/ https://ukclinicalpharmacy.org/profession/leadership/the-evolving-role- of-ai-in-pharmacy/ https://www.rcpharm.org/campaigns/artificial-intelligence-ai-in-pharmacy/
40. AISIJapan AI Safety Institute AIと付き合わないという選択肢はない それならば、安全に使いこなそう 40 Edge AI（IoT） Edgeサーバー Cloud AI あらゆるところにAIがある（EmbeddedAI）
41. AISIJapan AI Safety Institute  目的を明確にする  環境（リソース）をそろえる  スパークする仕組みを作る 41 AIを使ってトランスフォーメーションを起こすには
42. AISIJapan AI Safety Institute AISI Japan AI Safety Institute 42