AIベンダーにおけるAIセキュリティ・ガバナンスへの取組

Akamai World Tour 2025 Tokyoにおける講演の資料です。
https://www.event-site.info/akamaiworldtourtokyo2025/

Transcript

1. （株）Preferred Networks セキュリティアーキテクト, シニアアドバイザー 高橋 正和 AIベンダーにおける AIセキュリティ・ガバナンスへの取組
2. 3 Preferred Networks (PFN) 会社概要 設立 本社 代表取締役 従業員数 事業内容 主要子会社 出資企業 (五十音順） 2014年3月26日 東京都千代田区 西川徹（最高経営責任者） 岡野原大輔（最高技術責任者、最高研究責任者） 約350名（2025年2月） AIチップ、計算基盤、生成AI基盤モデルなどのAI関連技術を 活用したソリューション・製品の開発・販売および研究開発 株式会社Matlantis(旧 PFCC）（2021年6月） 株式会社Preferred Robotics（2021年11月） 株式会社Preferred Computing Infrastructure（2025年1月） SBIグループ NTT株式会社 ENEOSイノベーションパートナーズ合同会社 株式会社講談社 信越化学工業株式会社 積水ハウス投資事業有限責任組合 中外製薬株式会社 TBSイノベーション・パートナーズ3号投資事業組合 TEL Venture Capital, Inc. 東映アニメーション株式会社 トヨタ自動車株式会社 株式会社日本政策投資銀行 株式会社博報堂DYホールディングス 株式会社日立製作所 ファナック株式会社 株式会社みずほ銀行 三井住友信託銀行株式会社 三井物産株式会社 三菱商事株式会社 三菱UFJ信託銀行株式会社 株式会社ワコム 他 ミッション： 現実世界を計算可能にする https://www.preferred.jp
3. 4 AI関連技術を活用した製 品等の開発・販売 および研究開発 2014年3月設立 主なグループ会社 自律移動ロボットの 開発・製造・販売 2021年11月設立 アマノ、三井住友銀行、 旭化成ホームズ等が出資 子ども向けプログラミ ング教室の経営・展開 2020年12月設立 やる気スイッチグループとの合弁 AI向けクラウド サービスの提供・運用 2025年1月設立 三菱商事・IIJとの合弁 Preferred Computing Infrastructure 汎用原子レベルシミュ レータ Matlantisの販売 2021年6月設立 ENEOSとの合弁 三菱商事と業務資本提携 旧PFCC: Preferred Computational Chemistry
4. 5 PFNの事業: AI技術のバリューチェーンを垂直統合 AIソリューション・製品 計算基盤 AIチップ PFNは、チップ、計算基盤、生成AI基盤モデル、ソリューション・製品まで、AI技術のバリューチェ ーンを垂直統合し、ソフトウェアとハードウェアを高度に融合することで、競争力の高い技術の開発 および産業応用を進めています。 生成AI基盤モデル 様々な産業向けのAIソリューション・製品 MN-Core MN-Core 2 GPUクラスタ MN-3 (MN-Core クラスタ) PLaMo Prime（国産LLM） PLaMo Lite（エッジ向けSLM） MN-Core 次世代 MN-Core 2を 計算資源とした クラウドサービス 物質のエネルギー計算モデル PFP 生成AI（推論）向け MN-Core L1000 （2027年提供予定）
5. 6 MN-Core シリーズ 省電力AIプロセッサー（主に学習向け） AIソリューション・製品 計算基盤 AIチップ AI/基盤モデルの開発に必要な高速かつ莫大な計算力を賄うため、AIの学習を高速化 する電力効率の高いAIプロセッサー「MN-Coreシリーズ」を神戸大学と共同開発しています。 生成AI基盤モデル 様々な産業向けのAIソリューション・製品 MN-Core MN-Core 2 GPUクラスタ MN-3 (MN-Core クラスタ) PLaMo Prime（国産LLM） PLaMo Lite（エッジ向けSLM） MN-Core 次世代 MN-Core 2を 計算資源とした クラウドサービス 物質のエネルギー計算モデル PFP 生成AI（推論）向け MN-Core L1000 （2027年提供予定） 通常はハードウェアに搭載される制御などの機能をソフトウェアが担う 最 化 ード生成 ソ ェ ス 算 ス ジューラ キ ッシュ ントローラ ネット ーク 制御 ー ェ RAM I/F ンチップ・ モリ ンチップ・ネット ーク MN-Coreシリーズ 最 化 ード生成 ソ ェ ス ジューラ キ ッシュ ントローラ ネット ーク 制御 ス 算 ー ェ RAM I/F ンチップ・ モリ ンチップ・ネット ーク 汎用プロセッサー
6. 8 自社運用のスーパーコンピュー 計算基盤の電力効率 AIソリューション・製品 計算基盤 AIチップ ハードウェアとソフトウェアを高度に融合させ、AI開発に必要な膨大な計算を効率的に実行するため の独自の計算機クラスター（スーパー ンピュータ）を複数運用し、社内の研究開発やパートナー企 業にその計算力を提供しています。 生成AI基盤モデル 様々な産業向けのAIソリューション・製品 MN-Core MN-Core 2 GPUクラスタ MN-3 (MN-Core クラスタ) PLaMo Prime（国産LLM） PLaMo Lite（エッジ向けSLM） MN-Core 次世代 MN-Core 2を 計算資源とした クラウドサービス 物質のエネルギー計算モデル PFP 生成AI（推論）向け MN-Core L1000 （2026年提供予定） Jun. 2021 No. 1 Jun. 2020 No. 1 Nov. 2021 No. 1 AI開発で培われたPFN独自の計算基盤技術とインフ ラ環境をAI開発事業者向けにクラウドサービスとし て2024年10月から提供を開始しました。 スーパーコンピューター （計算基盤）のセキュリティ
7. 9 PLaMo PFNグループの生成AI基盤モデル AIソリューション・製品 計算基盤 AIチップ PLaMoは、PFNがフルスクラッチで開発する純国産の生成AI基盤モデルです。高品質な学習データを 用い、既存の大規模言語モデルをベースに用いずに全く新規に開発。主要な日本語ベンチマークで世 界最高レベルの精度を示しています。 生成AI基盤モデル 様々な産業向けのAIソリューション・製品 MN-Core MN-Core 2 GPUクラスタ MN-3 (MN-Core クラスタ) PLaMo Prime（国産LLM） PLaMo Lite（エッジ向けSLM） MN-Core 次世代 MN-Core 2を 計算資源とした クラウドサービス 物質のエネルギー計算モデル PFP 生成AI（推論）向け MN-Core L1000 （2026年提供予定） • 商用版PLaMo Primeを2024年12月にリリース • エッ 向け小規模言語モデル PLaMo Lite を提供中 • 金融・医療などの特定タスクに強いモデルも順次リリース予定 世界最高クラスの日本語性能 純国産 ルスクラッチモデル APIで簡単に導入可能
8. 10 PFNの事業: AI技術の水平展開 生成AI・基盤モデル 消費者 人間の能力の拡張 新しい創作表現・娯楽体験 社会 安心・安全な社会 高度な教育・医療 生産性向上・品質改善 属人化 避・人手不足解消 計算基盤 産業 AIチップ PFNは、AI技術のバリューチェーンを垂直統合し、様々な産業領域でソリューション・製品を 水平展開しています。 工場・製造 コンテンツ 製作 ロボッ 小売 製薬 ヘルスケ 素材 化学品 教育 金融
9. Preferred Networks 主なソリューション・製品の紹介
10. 12 PreferredAI 生成AIを活用したプロダクト・サービス群 生成AIを活用し、想定ユース ースごとにパッ ージ化したプロダクト・サービス群をPreferredAI （プリファードAI）として提供しています。また、生成AIに関するあらゆる技術要素を利用し、お客様の 課題・ニーズに合わせた独自ソリューションを提供します。 ソリューション ・製品 AIアバターで対話実務を 再現し、接客練習や評価 を支援 口 ミやアン ート、 日報など大量の文章を賢 く分類して要約 PreferredAI Talent Scouter PreferredAI Work Suite PreferredAI Localization PreferredAI Insight Scan スライドの自動レビュー で問題点をハイライトし サマリーも出力 PreferredAI Slide Review AIエージェントが社内デ ータを活用して通常業務 をサポート 用語・文脈・文化を考慮 し、表現がブレない一貫 した翻訳を生成 NEW NEW 接客演習・評価 文章の分類・要約 社内データの活用 スライドのチェック 翻訳
11. 13 Matlantis 材料探索用の汎用原子レベルシミュレーター PFNは、持続可能な未来を実現する新しい電池材料、半導体、合成燃料向け触媒、潤滑剤などの新素材の探索を 従来の1万倍以上高速化する汎用原子 ベルシミュ ー ーMatlantis ENEOSと共同で開発。 共同出資会社Matlantisがクラウドサービスとして国内外100以上の企業・団体に提供しています。 課題 • 従来材料の持続可能性の限界 • 新素材探索にかかる莫大な時間 と スト 触媒 電池 半導体 合金 潤滑剤 セラミック 吸着剤 分離膜 96元素のあらゆる組み合わせで分子、 結晶など幅広い材料の種類に対応 未知の材料の物性等も従来の1万倍以上 （最大2,000万倍）の速度でブラウザ上 でシミュレーション サステナビリティに貢献する多様な材料 の探索を高速化 詳細: https://matlantis.com/ 5,900万以上の構造からなるMatlantisの訓練データの 生成には、1台のGPUで処理すると2,264年かかる計 算量が費やされています。 Matlantisのニューラルネット ークポテンシ ル「PFP」は、PFNのスーパー ンピュータおよび 国立研究開発法人産業技術総合研究所のAI橋渡しクラウド（ABCI） を用いて開発されました。 ソリューション・製品 素材・化学
12. 14 プラン 自動運転AIシステム ブ エン抽出装置 常圧蒸留装置 ソリューション・製品 ENEOS川崎製油所のブタジエン抽出装置および原油処理を行う常圧蒸留装置の自動運転AIシステムをENEOSとPFNが共同開 発。手動操作を超える経済的で安定的かつ高効率な運転を達成し、常時自動運転中。人の技量に左右されない大規模かつ複 雑なプラントの安定運転を可能にする自動運転システムとして、ENEOSの他製油所への展開および外部への一般販売を計画 しています。 AIシステムは、外気温変化、天候（降雨）、冷却水温変化、原料 性状変化などの各種外乱存在下でも安定的に制御することができ ている。運転重要因子を目標値に近い値で制御できることによ り、より制約値に近い運転が可能となる。 2021年12月にブタジエン抽出 装置のAIシステムによる自動 運転に成功。2023年1月より自 動運転が可能に。 • 入力センサー数: 363 • 制御対象要素数: 13 • 同時操作バルブ数: 9 詳細: https://www.preferred.jp/ja/news/pr 20230731/ 2024年5月に世界初となる常圧 蒸留装置のAIシステムによる自 動運転を開始。原油種の切り替 え時の変動調整作業にも対応。 • 入力センサー数: 930 • 制御対象要素数: 24 • 同時操作バルブ数: 13 詳細: https://www.preferred.jp/ja/news/pr2 0240524/ 課題 • 熟練の技術や知識が必要 • プロセス型で24時間体制 • 熟練技術者不足 工場・製造
13. 15 PFN 3D Scan 3 スキ ンサービス 複数の画角で撮影した2 写真から3 の自由視点画像を生成する深層学習技術を用い、実物の見た目に忠実 な3 モデルを出力するPFN 3 Scanを2022年6月にリリース。従来は3 モデル化が難しかった 透明・金属・黒色の物品などにも対応し、VRやECなどの用途で3万点近い物品のスキ ンを実施しています。 課題 • 3 モデルの制作にかかる手間 • 従来技術では透明・金属・黒色の 物品の3 スキ ンが困難 https://youtu.be/RX4j6wxWev8 PFN 3D Scan 詳細: https://pfn3d.com/ 実際に3Dスキャンした物品の例 ソリューション・製品 エン メ
14. 16 ソリューション・製品 PFN 4D Scan ボリュ トリック・スキ ンシステム PFN 3 Scanと同様の技術を応用し、スポーツや 技など動きのある対象を現実の三次元空間でスキャンし （専用スタジ 不要）、同じ時間軸で動く3D ニメーション映像として仮想空間に復元するボリュ トリ ック・スキ ンシステム PFN 4 Scanを開発。今後、映像制作などに応用することを目指しています。 課題 • 3 映像の撮影にはグリーンバック のある専用スタジ が必要 • 人手による細かい作業が必要 詳細: https://pfn3d.com/4d/ 実際にスキャンしたシーンを用いた動画の例 水の反射や動きも忠実に再現されており、一時停止した状 態でも自由視点での閲覧が可能。 遠くの背景も三次元的に再現されており、布の動きも実物に 忠実に再現。 水族館 ダンス エン メ https://youtu.be/xbngQWtmtQ8 https://youtu.be/6lnbwFLIEjU
15. 17 MiseMise X・AI・ロボット技術を組み合わせたチェーンストア向け業務改善ソリューション MiseMise セ）は、人手不足や欠品・品揃え不足による販売機会損失などのチェーンストアの課題に対して、品出し・ AI値引き (β版)・棚割 (β版)・ロボット (β版)・分析 (β版)の５つのソリューションを提供しています。 https://youtu.be/MP_XrsyOZcY 詳細: https://misemise.ai ソリューション・製品 小売 課題 • 小売業界の人手不足 • 欠品・品揃え不足 • フードロス・廃棄ロス
16. 18 MiseMise 詳細: https://misemise.ai ソリューション・製品 小売 欠品商品の値札をスキャンするだけで在庫の場 所をリ ル イムで業務端末に表示。誰にでも 簡単で効率的な品出しを可能に。 AIが天気等の外部情報や、商品残数、他商品と の需要の食い合いなどを予測し、担当者の経験 に依存しない値引き判断を支援。 バイヤー方針を加味した棚割提案、店舗への配 信、販売実績と棚割を組み合わせた分析まで、 売上の向上につながる棚割を支援。 自律移動ロボッ が店内の欠品や品薄を検知し ながら棚割実施状況を確認。値札間違いチェッ クやお客様への売場案内、万引き抑止や商品プ ロモーションなどにも利用可能。 MiseMiseのデータを一元管理。各店舗の滞留在 庫量・品切頻度・品出し必要頻度や、店舗間の 作業効率等を分析するAIダッシュボード機能を 備えています。
17. Preferred Networks AIセキュリティ/AIガバナンスへの取組
18. 20 AIガバナンス推進 • PFNでは、セキュリティ及び リスク管理に対して左図の体制を とっている。 • AI事業は、PFNの アであること から、AI規制やガイドラインへの 対応、ガバナンスと効率性を両立 するための開発手法の提示などを 推進するため、 「AIガバナンス 推進」を設立した。 • また「広島AIプロセスレポーティ ングスキーム」へも参加 • https://transparency.oecd.ai/ PFNのガバナンス体制 リスク観点 PFN SIRT セキュリティ 委員会 リスク評価 委員会 技術観点 実務的 経営的
19. 21 AIに関する規制や ガイドラインの動向
20. 22 そもそも何を守ろうとしているのか？ AI is too Great ! 人間中心 AIに人間が支配されない 公平性 安全性 専門知識の悪用 犯罪・犯罪行為への悪用 権利および権利侵害 誰かが不利な扱いを受けない？ 民族や属性、誤ったデータ 物理事故につながらない？ 物理的な危険（自動運転など） 危ない事に使われない？ ウィルス生成、兵器開発など 犯罪に使われない？ eep Fake、詐欺 私の作品パクッてない？ AIの生成物って使えるの？ プライバシー 秘密をバラしたりしない？ ールアドレス、プロンプト セキュリティ ハッカーに悪用されるのでは？ ハッカーが攻撃に使うのでは？ 透明性 何をやっているかわからない わからないから信用できない 誤った情報・動作 それって本当？嘘じゃない？ ハルシネーション、誤認識 アカウンタビリティ 言っている通りにやってる？ 本当はちゃんとやってないのでは？ 社会倫理 偏見を助長してはダ でしょう？ わいせつな出力は良くないのでは？ 基本的な 権利の尊重 AIプロダクトへの 信用・信頼の醸成 悪用への 懸念と対策 しかし… AIに人間が支配されないか？ 人間の権利は守られるのか？ 主要な心配事
21. 23 心配事が規制やガイ ラインに 基本的な 権利の尊重 悪用への 懸念と対策 OEC AI5原則 2019.05.22 NIST（AIRMF) 2023.01 米大統領 EO14110 2023.10 EU AI ACT 2025.02 G7 広島AIプロセス 2023.10 AI事業者ガイドライン 2024.04 公平性 安全性 専門知識の悪用 犯罪・犯罪行為への悪用 権利および権利侵害 プライバシー セキュリティ 透明性 誤った情報・動作 アカウンタビリティ 社会倫理 QA4AI 2018.04 OWASP LLM TOP10 2023.10 各国政策 法律・規制・指針 産業レベルの ガイドライン・指針 製品レベルのガイドライン・指針 国際的な政策指針 EU 欧州のデータ戦略 2020.02 BOL /BBQ 2021 人間中心 AIプロダクトへの 信用・信頼の醸成
22. 24 国際社会としての政策指針 OEC AI5原則 2019.05.22 NIST（AIRMF) 2023.01 米大統領 EO14110 2023.10 EU AI ACT 2025.02 G7 広島AIプロセス 2023.10 AI事業者ガイドライン 2024.04 QA4AI 2018.04 OWASP LLM TOP10 2023.10 EU 欧州のデータ戦略 2020.02 BOL /BBQ 2021 OEC AI 5原則 3. 透明性と説明可能性 4. 頑強性、セキュリティ、および 安全性 5. アカウンタビリティ （説明・責任） 1. 包摂的成長、持続可能な開発、 および幸福 AIは、包摂的成長と持続可能な発展、 暮らし良さを促進することで、人々と 地球環境に利益をもたらすものでなけ ればならない。 2. 人間中心の諸価値と公正 AIシステムは、法の支配、人権、民主 主義の価値、多様性を尊重するように 設計され、また公平公正な社会を確保 するために 切な対策が取れる─たと えば必要に応じて人的介入ができる－ ようにすべきである。 政策的（非システム的）な心配事 公平性 プライバシー 社会倫理 人間中心 先進国と開発途上国の 格差是正 持続可能な社会 S Gs/ESG 教育の機会 特定の企業・国に 偏らない発展 政策的（非システム的）な目標 就労機会の拡大 システムへの過度の依存 を避ける 政策指針・政策には、社会的な観点、 国際社会の持続的発展、といった 非システム的な観点も含まれている 各国政策 法律・規制・指針 産業レベルの ガイドライン・指針 製品レベルのガイドライン・指針 国際的な政策指針
23. 25 SGDs/ESGとのかかわり OEC AI 5原則 3. 透明性と説明可能性 4. 頑強性、セキュリティ、および 安全性 5. アカウンタビリティ （説明・責任） 先進国と開発途上国の 格差是正 持続可能な社会 S Gs/ESG 教育の機会 特定の企業・国に 偏らない発展 1. 包摂的成長、持続可能な開発、 および幸福 AIは、包摂的成長と持続可能な発展、 暮らし良さを促進することで、人々と 地球環境に利益をもたらすものでなけ ればならない。 2. 人間中心の諸価値と公正 AIシステムは、法の支配、人権、民主 主義の価値、多様性を尊重するように 設計され、また公平公正な社会を確保 するために 切な対策が取れる─たと えば必要に応じて人的介入ができる－ ようにすべきである。 政策的（非システム的）な心配事 公平性 プライバシー 社会倫理 政策的（非システム的）な目標 人間中心 就労機会の拡大 システムへの過度の依存 を避ける 政策指針・政策には、社会的な観点、 国際社会の持続的発展、といった 非システム的な観点も含まれている • 気候変動問題 • 自然資源の枯渇 • 海洋プラスチック汚染 • 生物多様性の減少 • 過重労働 • 給与未払い • ハラス ント • ジェンダー差別 • 人権侵害 • 不衛生な職場環境 • 誤解を与える広告宣伝 • 消費者の安全を脅かす 商品・サービスの提供 • 不透明な取締役会の 意思決定 • 不 切な契約・ 商品販売 • 会計不正 • 不祥事の隠蔽 Environment 環境 Social 社会 Governance ガバナンス/企業統治 ESG
24. 27 AIに関する懸念を 技術レベルで具体化する
25. 28 心配事を整理・具体化する 1/2 公平性 安全性 専門知識の悪用 犯罪・犯罪行為への悪用 権利および権利侵害 プライバシー セキュリティ 透明性 誤った情報・動作 アカウンタビリティ 社会倫理 AIとの対話によるリスク バイアス、差別、ヘイトスピーチ、 反公序良俗 悪用 情報漏洩 誤情報 基本的な心配事 ンテキストの観点 Answer Carefullyのカテゴリー 正常な利用 OUTPUT Contents Prompt 不正/不 切な利用 OUTPUT Contents Prompt 不正利用 Computer 一般の（悪意のない）利用者 （Answer Carefully, BBQ) 悪意を持った利用者 (OWASP LLM TOP10) ハッカーなどの攻撃者 (IT/Cyber Security) 想定する利用者 LLM01: プロンプトインジェクション LLM02: 機密情報の漏洩 LLM03: サプライチェーン LLM04: データとモデルのポイズニング LLM05: 不 切な出力処理 LLM06: 過剰なエージェンシー LLM07: システムプロンプトの漏洩 LLM08: ベクター・埋め込みの脆弱性 LLM09: 誤情報 LLM10: 無制限な消費 AIセキュリティの観点 OWASP LLM TOP10 End user/Consumer 不特定多数の利用者 制限が必要な利用者 Academic/ Specialist 研究者・専門家 制限の必要がない利用者 Specialist to patient 専門家を経由した不特定少数 制限の必要のない利用者を経由 想定する利用形態 Overall Security (Cyber Security) IT/Cyber Security 人間中心 QA4AI AI System Quality
26. 29 倫理・バイ スのカテゴリ(Answer Carefully） AIとの対話によるリスク AIの擬人化 AIへの感情的依存, 個人情報の聞き出し ンタルヘルス 一般的な ンタルヘルス, 不安やうつ, 心的症状, 自傷行為 バイアス・差別・ヘイト ・反公序良俗 アダルト 暴力表現, 露骨な性表現・わいせつ ステレ タイプ・差別の助長 その他のバイアス・差別, 人種バイアス・差別, 地域バイアス・差別, 宗教バイアス・差別, 性別バイアス・差別, 文化的特有性, 肉体的特徴に基づく差別, 障がいに基づく差別 ヘイトスピーチ その他悪質な脅しや嫌がらせ, 侮辱・名誉棄損, 卑語 悪用 偽情報拡散への加担 スパム作成, 偽情報,悪意のある情報操作 違法行為への加担 テロリズム, デジタル空間の違法行為, 動物虐待・密猟,性的虐待・違法ポル ノ, 肉体的暴力・虐待, 脅し・恐喝 著作権侵害, 薬物・アル ール中毒, 違法取引・人身売買,違法薬物 非倫理的行為への加担 非合法的な偵察・検閲, ネットいじめの幇助,ネット荒らし行為, 不 切行為, 中傷・名誉毀損の幇助, 健康被害,危険行為への誘導 情報漏洩 個人情報漏洩 PII, その他個人情報, バイ トリクス, ファイナンス, 医療,教育 組織・国家機密漏洩 サイバーセキュリティ, 機密情報へのアクセス, その他専門分野の相談 誤情報 誤情報による実被害 医療相談, 法律相談, 金融相談 誤情報の拡散 うわさ・フェイクニュース, プロバガンダ, 危険行為,誤った文脈・背景
27. 30 心配事を整理・具体化する 2/e 公平性 安全性 専門知識の悪用 犯罪・犯罪行為への悪用 権利および権利侵害 プライバシー セキュリティ 透明性 誤った情報・動作 アカウンタビリティ 社会倫理 基本的な心配事 人間中心 透明性 （主に技術的な内容） 開発体制など明確化 権利および権利侵害 ガバナンス体制 責任の明確化 アカウンタビリティ （主に体制面の内容） 入力・出力の著作権 その他の権利 アーキテクチ 、手法、 データなどの明確化 （AIモデルカード） AI/LLMの透明性：AIモデルカー （Google) • モデルの詳細：モデルの基本情報 • モデルを開発した個人または組織 • モデル日付 • モデルバージョン • モデルタイプ • トレーニングアルゴリズム、パラ ータ、公平性制約、またはその他の 用 アプローチ、および機能に関する情報 • 詳細情報を記載した論文またはその他のリソース • 引用の詳細 • ライセンス • モデルに関する質問や ントの送付先 •意図する用途：開発中に想定されたユース ース • 主な意図する用途 • 主な意図する利用者 • 対象外のユース ース •ファクター：ファクターには、人口統計学的または表現型のグループ、環境条件、技術的 属性、またはセクション4.3に列挙されているその他のものが含まれる可能性がある • 関連要因 • 評価要因 • トリクス： トリクスは、モデルの現実世界における潜在的な影響を反映するように選 択 • モデルのパフォーマンス測定 • 決定のしきい値 • ばらつきのアプローチ •評価データ：カードの定量的分析に使用されたデータセットの詳細 • データセット • 動機 • 前処理 •トレーニングデータ： 実際には提供できない場合もある。提供可能な場合は、このセクションは評価デー タと一致させるべきで、詳細が提供できない場合は、トレーニングデータセットに おけるさまざまな要因の分布の詳細など、最小限許容される情報を提供すべき。 • 定量的分析： • 単一の結果 • 交差の結果 •倫理的考察： •警告および推奨事項： https://arxiv.org/pdf/1810.03993
28. 31 PFNにおける AIガバナンスへの取り組み
29. 32 PFNにおける心配事の対応 公平性 安全性 専門知識の悪用 犯罪・犯罪行為への悪用 権利および権利侵害 プライバシー セキュリティ 透明性 誤った情報・動作 アカウンタビリティ 社会倫理 基本的な心配事 AI事業者 ガイドライン (METI/MIC) 人間中心 PFN AIポリシー PFN AIガバナンス 方針 PFN AI品質 ガイドライン プロジェクトごとの 開発方針 AIにかかわる企業活動が 切に行われていることを担保するため の方針や規程 各プロジェクトが守るべきルールや手続きをまとめたガイドライン ※全体・プロセスに相当する項目はガバナンス側に記載する 「AIガバナンス方針」に、各プロジェクトに求める項目は「AI品質 ガイドライン」に展開する ガイドラインに記載された項目の対応の可否や選択理由などを まとめた資料 ひな型は用意するが、必ずしも独立したドキュ ントである必要 はなく、プロジェクトの開発指針を記載する文章に含めてもよい PFNのAIにかかわる方針 https://preferred.jp/ja/company/aipolicy/ PFN AIガバナンス方針 PFN AI品質ガイドライン AIプロダクト品質保証 ガイドライン （QA4AI）
30. 33 「AI事業者ガイ ライン」の構成-1 基本理念 (a)人間の尊厳が尊重される社会 ( ignity) (b)多様な背景を持つ人々が多様な幸せを 追求できる社会 ( iversity & Inclusion) (c)持続可能な社会 (Sustainability) AI事業者ガイドライン https://www.meti.go.jp/press/2024/04/20240419004/20240419004-1.pdf 共通の指針と主体毎の重要事項 1) 人間中心 2) 安全性 3) 公平性 4) プライバシー 5) セキュリティ確保 6) 透明性 7) アカウンタビリティ 8) 教育・リテラシー 9) 公正競争確保 10) イノベーション ガバナンス 1 環境・リスク分析 2 ゴール設定 3 システムデザイン 4 運用 5 評価 6 環境・リスク再分析
31. 34 「AI事業者ガイ ライン」の構成-2 主要な想定リスク（広島） • 兵器の開発 • 設計取得 • 参入障壁の減損 • 化学・生物・放射能・核リスク • 攻撃的なサイバー能力 • 健康・安全 • 物理的な（制御）システムへの 影響 • 自律的な複製、成長、発展 • 偏見や差別 • 法的枠組みへの違反 • 偽情報の助長 • プライバシーの侵害 • 人権に対する脅威 • 重大事故につながる連鎖 INPUTの リスク対策 11. 個人情報 知財の保護 OUTPUT/Prompt等の リスク対策 3. 切な利用範囲の 明確化 7. AI生成 ンテンツ の識別・認証・ 来歴・電子透かし 2. 市場投入後の リスク対応 （脆弱性、インシデ ント、悪用PTN） 学習の データソース 10. ープンイノベーション 国際的な技術標準、相互接続 4. 責任ある情報共有 インシデント報告 （産業,政府,市民,学界） 正常な利用 OUTPUT Contents Prompt Computer 不正/不 切 な利用 OUTPUT Contents Prompt 不正利用用 Computer プライバシーポリシー リスク評価内容 その他 インシデント等の 報告機関 AIシステムに求められる信頼性・安全・セキュリティ ハッカーなどの攻撃者 悪意を持った利用者 一般の（悪意のない）利用者 8) 教育・ リテラシー 9) 公正な競争 10) イノベーション 1. AIライフサイクルのリスク管理 基本理念 (a) 人間の尊厳が尊重される社会 ( ignity) (b) 多様な背景を持つ人々が多様な幸せを追求 できる社会 ( iversity & Inclusion) (c) 持続可能な社会 (Sustainability) Prompt(Input)等の リスク対策 7) アカウンタビリティ 1) 人間中心 2) 安全性 3) 公平性 4) プライバシー 6) 透明性 5) セキュリティ確保 切な情報提供、啓発 9.持続的な経済成長、 社会課題の解決 データセット 個人データ プロンプト アウトプット モデルの重み アルゴリズム サーバー 市民・国民 5. AI開発向けのガバナンス 6.セキュリティへの 投資・実施 8. リスク低減への優先投資 個人情報 プライバシー 権利者 広島プロセス AI事業者ガイドライン
32. 35 「QA4AI」におけるAIプロダク 品質の考え方 訓練用データと運用時データの 分布の違い 事前定義の難しさ 実行時学習の不 切な学習 生成モデルの再現性確保 Model Robustness：モデルの精度・汎化性能 Data Integrity：データの 切な管理 System Quality：システムの価値、制御可能性、 安全の担保 Process Agility：探索的な開発ゴール、 外部環境への臨機応変な対応 Customer Expectation：顧客の品質への期待と 開発側の想定の乖離 AIプロダクトの品質要素 AIプロダクト品質の課題 AIプロダクトの評価方法、留意点 事実性・誠実性 答性能 倫理性・アライン ント 頑健性 AIセキュリティ その他 利用分野毎の品質管理手法の提示 チェックリストの提供 https://www.qa4ai.jp/
33. 36 開発ライ サイクルとAIガバナンススキーム 企画 開発 検査 リリース 倫理審査 リスク評価 ガバナンス目標と 共通指針の実装 ④プロ ェク 開発方針 レッドチーミングテスト ・QA検査 ・セキュリティ検査 公開資料 窓口 ③AI品質ガイ ライン（開発における実装・実施手順） ②AIガバナンス（組織としての体制・管理手順・規定） 利用者 透明性・アカウンタビリティ リリース • 利用規約 • プライバシーポリシー • 周知事項の公表 ①AIポリシー（組織としての方針） プロジェクトが倫理面、リ スク面で該当する場合、倫 理審査・リスク評価が必要 (P25 PFN AIガバナンス方 針を参照） 「品質ガイドライン」で必 要なガバナンス対応を確認 「プロジェクト開発方針」 を策定・実装 セキュリティテストは原則 必須 QA検査・レッドチーミング テストが必要な場合もあり