2025年度ICT職専門研修（海外派遣研修）報告書 No.5

Transcript

1. 欧州における先端技術等の調査報告 デジタルサービス局 総務部総務課 （GovTech東京 AI・イノベーション室 派遣） 水野 雅也 202５年度ICT職専門研修（海外派遣研修）
2. 1 01 研修概要 渡航テーマ 渡航先と日程 02 研修内容 ・The Hague ・Amsterdam ・Cambridge ・London 03 まとめ 都政に還元したいこと
3. 2 03 まとめ 都政に還元したいこと 02 研修内容 ・The Hague ・Amsterdam ・Cambridge ・London 01 渡航テーマ 渡航先と日程 研修概要
4. • 研修テーマ 「欧州で先端技術等を学ぶ」 ～最先端技術を活用した「都政の質的進化」と、未来に通用する「イノベーションモデル」の創出～ 3 01 研修概要 渡航テーマ •行政を取り巻く環境 〇構造的なリソース 不足 ・人口、職員減少 ・業務量増大 〇社会課題の複雑化 ・従来手法では 解決困難な最適 化問題の増加 •欧州で重点的に学ん だこと 〇最先端技術の積極 活用 ・AIによる自動化 ・量子技術による 最適化 〇実装の障壁克服 ・英語圏基準バイ アス解消 ・HNDL(*1)等の対策 •都政への還元 〇最適化されたAI ・「日本の商習慣・ 文化に『適応させ て使いこなす』行 政AI活用」 〇イノベーションの 継続性の確保 ・リスクを克服し、 最先端技術を「安 全に使い続けられ る」環境の確立 背景・課題 調査アプローチ 目指すべき姿 ※1 HNDL…Harvest Now, Decrypt Later（内容は後述）
5. 4 01 研修概要 渡航先と日程 【アムステルダム（オランダ）】 ▪World Summit AI 日程：10/8-10/9 ▪Startup Village 日程：10/7 【ハーグ（オランダ）】 ▪オランダ政府 日程：10/6 【ケンブリッジ（イギリス） 】 ▪Toshiba Europe Limited 日程:10/14 １ ２ ３ ４ ４ 【ロンドン（イギリス）】 ▪Ada Lovelace Institute 日程：10/15 ▪Incubator for Artificial Intelligence (i.AI) 日程：10/16 ▪King's Institute for Artificial Intelligence 日程：10/16 １ ２ ３ ４ 非公開 非公開 非公開
6. 5 03 まとめ 都政に還元したいこと 01 渡航テーマ 渡航先と日程 研修概要 02 ・The Hague ・Amsterdam ・Cambridge ・London 研修内容
7. 研修内容 6 02 訪問先１：オランダ内務・王国関係省 デジタル社会局 ➢ 基本情報 • オランダ内務・王国関係省(BZK) デジタル社会局 （Digital Society Department, Ministry of the Interior and Kingdom Relations） ※BZK オランダ語略称 Ministerie van Binnenlandse Zaken en Koninkrijksrelaties（内務・王国関係省） ➢ 訪問部署役割: • オランダ政府のデジタル戦略（NDS）推進 • AIガバナンス枠組み整備 • 公共部門でのAI実装支援 ➢ 訪問目的 • 国家レベルのAIガバナンス整備の実態把握 • 省庁横断のデータ連携と共通基盤の理解 • 公共部門での生成AI活用の運用知見収集 標 準 化
8. 研修内容 7 02 訪問先１：オランダ内務・王国関係省 デジタル社会局 標 準 化 ➢ 印象に残ったこと • GPT-NLの設計思想（公共目的・規制適合・言語文化の反映） 英語圏偏重によるバイアスの強い危機感を背景に、方言まで「行政 自らがモデルで守る」という能動的な姿勢に感銘を受けた点 • 共通基盤への徹底した集約 東京とほぼ同規模の人口を、BZKが強いリーダーシップで共通化・ 標準化を進め、「一つの政府」を目指している姿勢 ➢ 学び • 透明性の制度化が“前提” 政府アルゴリズム登録簿や監督枠組みで公開と説明責任を担保。 過去の給付関連アルゴリズムの失敗（差別的影響・不当判断が社会問題化） を踏まえた仕組み化の意義が大きい • EU AI法を見据えた実装 高リスクAIの要件や透明性義務への対応を前提に、プロセスや文書化、 監督の受け皿を整備する動きが加速 • 「一つの政府」を支える標準化と共通基盤 NDSの方針の下、政府主導で政府横断的なデータ標準や共通サービスを トップダウンで整備し再利用性とコスト効率を向上
9. 研修内容 8 02 訪問先２：Startup Village ➢ 基本情報 • Startup Village （アムステルダム・サイエンスパーク内） ➢ 役割: • コミュニティ運営による協業促進 • PoC→事業化の伴走 • 技術・インフラ案内は任意提供 ➢ 訪問目的 • 協業・学習の実務把握 • PoCから事業化への支援設計の把握 • 技術スタック方針と運営体制（主権・規制配慮）の理解 • 量子コンピュータ分野のエコシステム把握 標 準 化 量 子 の 現 実 化
10. 研修内容 9 02 訪問先２：Startup Village ➢ 印象に残ったこと • 量子を「実用ツール」と捉えるリテラシー 「これからの経営層は量子を理解すべきだ」という 現場の問題意識から、量子クラウドの社会実装に はリーダー層への「教育」が不可欠だと痛感した点 • 「ビッグテックを避ける」に見るデジタル主権 このエコシステムのスタートアップは、利便性より データの自律性を重視し、巨大プラットフォーム への依存を避ける技術選定をしている姿勢 ➢ 学び • PoCを事業化へ繋げる「アクション設計」 PoCの露出機会（量子含むハンズオン、 1分ピッチ→周回）を意図的に設計し 商談化を後押し • 協業・失敗知共有を回す「運営基盤」 週次ランチ、月例会、AIサロン、 WhatsApp／ニュースレターで日常化 • 共通スタックは任意提供 必要時に周辺DCへ接続できる導線を用意 標 準 化 量 子 の 現 実 化
11. 研修内容 10 02 訪問先3:World Summit AI ➢ 基本情報 • World Summit AI （WSAI） アムステルダム ➢ 内容: • 世界のAIエコシステム（エンタープライズ、 ビッグテック、スタートアップ、投資家、学術） が集い、プロダクト発表、最新動向議論、 ネットワーキングを行う年次サミット ➢ 訪問目的 • 自律型AIエージェント技術及び マルチモーダル化の最新動向調査 • 生成AIの社会実装・スケーリング における世界的潮流の把握 • イノベーションと安全を両立させる ガバナンス・規制の国際比較 標 準 化
12. 研修内容 11 02 訪問先3:World Summit AI ➢ 印象に残ったこと • 規制観の差異が実装速度を左右 EUはリスク起点、米・アジアは可能性起点。 スピードと安全の両立設計が競争力に直結 している点 • 組織サイロ越えの連携 部門横断的なデータ連携と自律型エージェ ントによるタスク実行の自動化で全社展開 の壁を崩そうとしている点 • 本番化の鍵はガバナンス×運用 品質監視、相互評価＋HITL(*1)、 権限・監査、レート・コスト統制を一体運用し、 本番展開のスピードと安全性を両立している点。 ➢ 学び • データ戦略は「海を沸かさない(small start)」 ユースケース起点で最小データから着手。将来拡張（権限・監査、構造化＋ベクトル）を前提化 • 評価指標 & 信頼性の標準化 相互評価＋人検証、説明可能性、逸脱監視、コスト×効果KPIを定常運用への組み込み *1 HITL（Human-in-the-Loop） 重要な局面で人が介在してAIの出力を確認・ 修正・承認する運用設計のこと 標 準 化
13. 研修内容 12 02 訪問先4:Toshiba Europe Limited ➢ 基本情報 • Toshiba Europe Limited （ケンブリッジ研究所、量子技術センター） ➢ 訪問部署役割: • 量子技術（QKD／PQC／量子インターネット 構想）、エンボディドAI（現場実装志向） ➢ 訪問目的 • 量子通信の社会実装に関する 取り組み状況の理解 • 研究から事業への移管プロセスと 連携体制の実態把握 • 生成AI・エンボディドAIの研究テーマ と実装上の課題把握 量 子 の 現 実 化
14. 研修内容 13 02 訪問先4:Toshiba Europe Limited *1 Harvest Now, Decrypt Later（HNDL） • 攻撃者が「今」暗号データを盗み、「将来」の量子技術で 解読を狙う攻撃手法。インフラ情報や戸籍など長期間の機 密性が必要なデータは、今からQKDやPQC等で対策する必 要がある。 *2 ローカルワールドモデル • 現場環境をAI内に再現した「脳内シミュレーター」。特定 の空間・作業に絞ることで計算を軽量化し、クラウドに依 存せず現場（エッジ）での高速な学習・適応を実現する技 術。 量 子 の 現 実 化 ➢ 印象に残ったこと • 量子暗号の重要性 HNDL(*1)踏まえ、QKD（物理法則ベース）とPQC （計算困難性ベース）をハイブリッド運用し量子コン ピューター時代まで見据えた防御を図っている点。 • 欧州で導入され始めている量子暗号 ロンドン（BT）やパリ（Orange）では、QKD網 が稼働し、EU全体としては「EuroQCI」計画が 進んでおり、量子暗号を研究ではなく「国家イン フラ」として位置づけていると感じた点 • エンボディドAI ローカルワールドモデル×継続学習により、 少ないセットアップで現場に出し、その場で学ばせる 前提の実装が広がっていると感じた点 ➢ 学び • 組織・人材 社長主導の研修によるレベル指標と育成KPIで人材を 底上げしつつ、展示会や社内ピッチで研究⇄事業連携を加速。
15. 研修内容 14 02 訪問先５:Ada Lovelace Institute ➢ 基本情報 • Ada Lovelace Institute（エイダ・ラブレス研究所） ➢ 訪問部署役割: • AIとデータが人々と社会のために機能すること を使命とする独立系リサーチ機関。 - 主な担当領域： - 市民参加・熟議の設計と評価 - AI倫理・評価フレームワークの適用・検討 - 法政策・ガバナンス（EU AI法等に関する分析） ➢ 訪問目的 • 倫理的リスク評価の実務手法とフレームワークの使い分け • 市民参加を実装する具体的メソッド • 公共サービスにおけるAIの社会的影響評価指標・測定アプローチ • EU AI法の強み・実装上の課題に関する見解 実 装 の 機 動 力 と 評 価
16. 研修内容 15 02 訪問先５:Ada Lovelace Institute *1 HRIA（Human Rights Impact Assessment） • AIや制度・サービスが人権に与える潜在的な負の影響と便益を、導 入前後で特定・評価・軽減するための枠組み。 実 装 の 機 動 力 と 評 価 ➢ 印象に残ったこと • 市民参加の事前教育 事前教育で前提知識の差をならし、熟議の質と公 平性を高める設計（before／afterで理解の変 化も確認する）が、市民参加を「形だけ」で終わら せず実質的なものにする鍵の一つだと感じた点 • EU AI法 標準化を進めつつも、文書ベース評価の客観性や 実装ガバナンスは未成熟で、コーディングや論点 フラグ付けで平準化を図っているという視点 ➢ 学び • フレームは“組み合わせて適用” 既存の評価枠（例：人権影響評価＝HRIA(*1)）をそのまま当てはめるのではなく、 案件の目的やリスクに応じて必要部分を選び、足りない論点は補うという「組み合わせ」発想。 • 事前事後の検証を核にした「評価デザイン×運用ガバナンス」 文献・インタビュー・市民対話で仮説を立て、前後比較で影響と政策反映を検証する「評価デザイン」と、 シャドウAIを抑えるため組織のポリシーや正式ルート等、運用ガバナンスをセットで考える必要がある。
17. 研修内容 16 02 訪問先６:Incubator for Artificial Intelligence (i.AI) ➢ 基本情報 • i.AI （GDS(*1)内 AIインキュベーターチーム） ➢ 訪問部署役割: • スタートアップ的でフラットな体制。研究・開発・実装支 援を横断し、迅速にプロトタイピングと展開を推進 ➢ 訪問目的 • 運営モデルと役割分担の実態把握 • モデル選定の判断基準と安全運用の実態把握 • 横展開を支える意思決定と公開の実態把握 • 人材獲得・育成・定着の要点整理 *1 Government Digital Service （英国政府デジタルサービス） 実 装 の 機 動 力 と 評 価 非公開 非公開
18. 研修内容 17 02 訪問先６:Incubator for Artificial Intelligence (i.AI) ➢ 印象に残ったこと • フラットで機動的な運営 “理にかなったトップダウン”と、ユースケース公 開＋AI知識ハブによる可視化で横展開を加速 していると感じた。 • 分担の明確さ 研究・開発・実装支援はi.AI、価値観・安全性は別 組織が担う役割分担が、ガバナンスと実装の両立 という意味で印象に残った。 ➢ 学び • 用途別モデル選定＋運用ガードレール 自国製に固執せず、グローバルやOSS等のモデルを適材適所で採用。 完全な言語適合を待たず、運用上の工夫（ガードレール等）でリスクを最小化する考え方を学んだ • フィードバック循環の設計 アイデアの棚卸し基準と短時間サーベイで継続的に改善へ反映。 人気化後は自発的追加要望が集まる設計。 • タレントフライホイール 「意義ある公共インパクト×優秀な同僚」で次の人材を惹きつける循環。採用と定着の双方を強化。 実 装 の 機 動 力 と 評 価 非公開 非公開
19. 研修内容 18 02 訪問先７:King's Institute for Artificial Intelligence ➢ 基本情報 • King’s Institute for Artificial Intelligence ➢ 訪問部署役割: • 産学官連携の橋渡し（学生プロジェクト・研究の社会実装） • オープンデータ・スマートシティ応用 • AIガバナンス向けメタデータ標準 ➢ 訪問目的 • 人間×AI協働の有効事例と設計原則の把握 • 効率以外の価値を測る評価枠組（安全性・公平性・多言語性等） • 低資源言語対応の技術課題と倫理配慮の要点整理 • データ相互運用性（Croissant(*1)等）による 再利用・透明性確保の実例収集 *1 Croissant （クロワッサン） • データセットのメタデータ標準。所在・スキーマ・来歴を機械可読化し、発見性・相互運 用性・再利用性・追跡性を高める。データ本体に手を入れずに別ファイル等に“データとそ の構造・所在・来歴”を記述してマッピングを可能にする。 実 装 の 機 動 力 と 評 価
20. 研修内容 19 02 訪問先７:King's Institute for Artificial Intelligence ➢ 印象に残ったこと • LLM評価は多次元（HELM(*1)）を前提 真実性・有害性・バイアス・多言語を併置し、単一 スコアに依存しないことが大事だと感じた • 低資源言語(*2)は技術×倫理の同時設計 データ不足と偏り管理、合意・代表性の確保を同 時に設計する必要があるという整理 ➢ 学び • Croissantで発見性と再利用性を底上げ メタデータ標準化で横展開とトレーサビリティ を同時に実現し、行政内のサイロは「メタデータによる接続戦略」で解消する可能性がある • 生成AIサービスは多次元評価を組織KPIへ 安全性・公平性・多言語性等の多次元評価を、組織KPIや定常モニタリングに落とし 込む必要があると学んだ • HITLで軽量プロトタイピングを継続 HITLを前提に小さく早く回し、現場検証で磨いて いくプロトタイピングの設計が有効だと理解した *1 HELM（Holistic Evaluation of Language Models） • LLMを単一スコアでなく多次元で評価する枠組み。真実性・有害性・バイアス・ 多言語など複数軸を併置。 *2 低資源言語（Low-resource languages） • 学習・評価に用いるデータが少ない言語や方言。分布の偏りや評価基準の不足が 課題。日本語はデータ量としては「高資源」に分類されるが、英語圏中心のAIモ デルにおける「文化的バイアス」や「価値観の不適合」という点では、同様の構 造的課題を抱えている。 実 装 の 機 動 力 と 評 価
21. 20 01 渡航テーマ 渡航先と日程 研修概要 02 研修内容 ・The Hague ・Amsterdam ・Cambridge ・London 03 都政に還元したいこと まとめ
22. 21 03 まとめ 都政に還元したいこと 項目・提言 関連する主な訪問先（根拠） 重要キーワード １. 持続可能な守り 提言1：「守りのDX」 ・Toshiba’s Cambridge Research Laboratory ・Startup Village ・オランダ内務・王国関係省 (BZK) デジタル社会局 ・Harvest Now, Decrypt Later (HNDL) ・量子耐性（PQC/QKD） ・デジタル主権 ２．信頼と公平性 提言２：「信頼の基盤」 ・オランダ内務・王国関係省 (BZK) デジタル社会局 ・Ada Lovelace Institute ・King's Institute for Artificial Intelligence ・透明性の制度化 ・多次元評価（HELM） ・人間による判断(HITL) ３．攻めの運用と体制 提言３：「攻めのDX」 ・Incubator for Artificial Intelligence (i.AI) ・World Summit AI ・Startup Village ・運用ガードレール ・プロトタイプ環境(サンドボッ クス) ・調達品質の向上 ➢ まとめ 標 準 化 標 準 化 標 準 化 量 子 の 現 実 化 実 装 の 機 動 力 と 評 価 実 装 の 機 動 力 と 評 価 非公開
23. 22 03 まとめ 都政に還元したいこと ➢ 提言1 「守りのDX」：HNDL（Harvest Now, Decrypt Later）への備え ➢ 現状: 戸籍、税務、インフラ図面など、行政データ は数十年の保存義務がある。 ➢ 脅威（HNDL）: 攻撃者は「今」暗号化データを盗み、保存し ている。「将来（数年〜10年後）」量子コン ピュータが実用化された瞬間に、全て解読 されるリスクがある 。 ➢ 結論: 「量子技術ができてから」では手遅れである。 脅威はすでに始まっているため、「現在のデー タ」を守るための耐量子インフラ検討を加速すべきである。 ※1 RSA（RSA暗号） 現在のインターネット通信や行政システムで最も広く使われている暗号技術。「巨大な数字の素因数分解（割 り算）は、スーパーコンピュータでも何万年もかかる」という数学的な難問を安全性の根拠にしている。 ※2 ショアのアルゴリズム（Shor's algorithm） 量子コンピュータを用いて、素因数分解を劇的に高速化する計算手順。これが実用化されると、何万年もか かるとされたRSA暗号の解読が「数時間〜数日」で完了してしまうことが数学的に証明されている。 RSA(*1)の 安全性崩壊 ハーベストアタック （現時点の脅威） 機密データの漏洩 量子コンピュータ時代 古典コンピュータ時代 インターネット ショアのアルゴリズム による解読 (*2)
24. 23 03 まとめ 都政に還元したいこと ➢ 提言2 「信頼の基盤」：許認可・行政処分における生成AI使用による「公平性」の担保 ➢ 先行事例の教訓: 海外における自動化判断の失敗事例（社会的差別の 助長等）を教訓とし、ブラックボックス化による信頼 失墜を未然に防ぐ。 ➢ 潜在的リスク: 英語圏中心のモデル等は、日本の文化的文脈や公平 性基準と乖離する可能性があるため、そのまま適用 しない。 ➢ 基本方針: 効率性だけでなく、「公平性・説明可能性」を 担保する多層的なチェック体制を実装の要件とする。 GATE1：技術評価（HELM） 正確性・バイアス等の性能テスト Phase１ LLM、アプリ導入審査 GATE２：影響評価（HRIA） 社会的リスク・人権侵害の事前予見。 Phase２ 運用規律 GATE３：人間による判断（HITL） AIの回答はあくまで「参考案」。 最終決定は職員が実施。 運用中のミスや違和 感は、Phase 1へ フィードバックする
25. 24 03 まとめ 都政に還元したいこと ➢ 提言３ 「攻めのDX」：イノベーションと安全を両立する「プロトタイプ環境」構築 ➢ 現状の課題: 既存の生成AI基盤（ローコード）は汎用利用には適し ているが、PythonやLLM-API等を用いた高度な 「プロトタイプ作成」を行う環境が存在しない。 ➢ 解決策: 外部サービスへの送信前にセキュリティチェックを 行う「APIガードレール（プロキシ）」を導入し、安全 な「プロトタイプ検証環境（サンドボックス）」を整備する。 ➢ 調達品質と交渉力の向上: 職員は「動く仕様（プロトタイプ）」の作成に集中できる。 自ら手を動かし要件の解像度を高めることで、ベンダー 交渉力を強化し、手戻りのない高効率な開発を実現する。 機能一例 ・入力制御：個人情報の自動マスク化や検知 ・ログ監査：全プロンプトの記録や監視 等 安全地帯（サンドボックス） グローバル標準モデル マルチモーダル生成モデル その他外部APIサービス 試作 （プロトタイピング） 検証 （テスト） 防護壁 （APIガードレール） 外部リソース
26. EoF 公開 202６年３月 連絡先 デジタルサービス局総務部デジタル人材戦略課 S1100104@section.metro.tokyo.jp