近似のAIをめぐる法・ソフトローの動向

Transcript

1. 近時のAIをめぐる法・ソフトローの動向 生成AI登場前後の諸外国の動向を踏まえて 2025年1月6日 ※本資料はAIを巡る議論の変遷を把握するために、基本的にテーマ別でなく 時系列順にしています。
2. 生成AI登場前（概ね2010年～2020年） • ディープラーニングとGPUによる活用拡大。 • ただしAIの活用は企業の用途特化分野（生産ラインでの検査、画像診断な ど）に限定的。 • AIでできるのは「分類」と「予測」 • 分類： 画像診断（医療、製造）、人物検知（防犯、事故防止）、顔認証 セキュリティ、会計システム（自動仕訳）　etc • 予測：需要予測による在庫調整、使用率や環境情報などからの故障予測　 etc
3. 生成AI登場前（概ね2010年～2020年） • システム開発を外注することがほとんどの日本において、企業のAIに関し ては開発の委託、学習用データの取扱い、学習済みモデルの帰属や利用が 主な注目点。 経産省　契約ガイドラインなど https://www.meti.go.jp/policy/mono_info_service/connected_industries/sharing_and_util ization.html • 平成30年著作権法改正により著作物の利用に関しては機械学習の進展を 促す。 https://www.bunka.go.jp/seisaku/chosakuken/hokaisei/h30_hokaisei/ • AI需要のある製造業を中心に、データを抱え込む動きが多かった。 平成30年不正競争防止法改正によりデータの共有・活用を促す。 https://www.meti.go.jp/shingikai/mono_info_service/sports_content/pdf/002_s01_00.pd f
4. 生成AI登場前（概ね2010年～2020年） • 一部IT企業ではソフトウェア開発自動化に取り組んでいたが、生成AIとい うより「プログラム合成」。 NTTデータ「ZIPC Testerで加速するNTTデータのソフトウェア生産技術革新」（2014年10月10日） https://www.zipc.com/jp/assets/download/watchers/vol17-04.pdf ※画面項目や画面遷移などの設計情報を入力すると、ソースコードのひな形・設定ファイルを自動生成。 • そもそも論の「生成AI」の特異点は「学習アプローチ」と「適用の汎用 性」。 • NTTデータ「大規模言語モデルを用いた自動プログラミング最新動向」（2021年10月25日） https://www.nttdata.com/jp/ja/data-insight/2021/1025/ 「GPT-3のアプローチは、このような従来のやり方とはまったく異なります。GPT-3はインターネット上にあるウェブコンテ ンツを大量に学習するのみで、プログラミング言語がもつ構文や意味を明示的に教える必要はありません。しかも、GPT-3が 生成するのは一般的なプログラミング言語を用いたプログラムであり、従来の自動プログラミング技術と比較すると破格とい えるのです。」
5. 継続的、多角的な検討会議 • 総務省　AIネットワーク社会推進会議（2016年～） https://www.soumu.go.jp/main_sosiki/kenkyu/ai_network/index.h tml • 初期のAIシステムの開発、AIガバナンス、利活用推進などから、最近は 生成AI、AI戦略、新たなAI原則まで議論。
6. 監視カメラAIはいち早く議論 • 監視されることへの気持ち悪さ（とイメージのしやすさ）。 • 総務省・経産省「カメラ利活用ガイドブックver1.0」（2017年1月31日） ※最新はVer3.0 • 渋谷書店万引対策共同プロジェクトは概ね反発無く受け入れられた（2020年）。 https://www.manboukikou.jp/shibuyaprj/about/ • JR東の監視カメラによる出所者検知は取りやめまで至った（2021年9月21日）。 • IDEAのAIカメラ設置は一部で物議（2023年7月）。 https://prtimes.jp/main/html/rd/p/000000056.000048250.html • 違いは、万引き対策は犯罪行為への対策という正当性がわかりやすいが、IDEAはマーケティング 目的となっているため？書店とJR東の違いは？ • 目的・理由の正当性、社会的な受容性の見定めが必要。
7. マスメディアの取り上げ方のさじ加減？ • JR東が駅構内で服役した出所者や仮出所者を監視カメラで検知する仕組み を導入していたことに関し、この仕組みを用いた検知は取りやめることに なった問題。（2021年9月21日） • 最初の報道である読売新聞の記事と見出しからは、実際に出所者の検知と 対応が行われた実績があるかのような記述、しかし、これらは実際には行 われていなかった（登録データがなく実績なし）。 • 「JR東が発表していた導入目的、情報」と、「方法、対象」の対応関係が 相当でなかった（読み取れなかった）という点が最大の問題。 • 犯罪者への更生への配慮と、広報の仕方が教訓。
8. 主にアルゴリズムの透明性とバイアス問題が指摘される • アメリカにおいて、アルゴリズムが不透明（正確性が担保されず、検証可 能性もない）な再犯予測システムを用いて量刑判断されることは不公正で あり、憲法が保障するヂュープロセスの権利を侵害すると裁判が提起され る（state v. Loomis, 881 N. W. 2d 749(Wis. 2016)　COMPAS事件） 。 黒人の再犯予測率が高く出ることも指摘。 • 警察が用いている犯罪予測システムには、訓練データの恣意的な選別があ るとの指摘もされている。 Police across the US are training crime-predicting AIs on falsified data(2019年2月13日) https://www.technologyreview.com/2019/02/13/137444/predictive-policing-algorithms- ai-crime-dirty-data/
9. 主にアルゴリズムの透明性とバイアス問題が指摘される • State v, Loomis判決は、COMPASの正確についての検証、判決前調査報告書へ の注意記載などの制限をする限り、その利用はデュープロセス上の権利を侵害す るものではないと判断。（利用すること自体は合法） • 「最終的に人間である裁判官が量刑判断を行う限り、アルゴリズムによる予測評 価の利用・参照を認める」ということ自体は妥当。（医療プログラムと同じ） • 学習用データにバイアスがあると、AIもバイアスを持ってしまうことには注意が 必要（学習データ、限界・リスクの分析の説明が透明性となる）。 • しかし、「公正」とは？どのような検証をすれば公正といえるか？ • アルゴリズムの透明性と結果の公正性は別の問題。そもそも裁判官の判断という 人間の思考そのものに透明性・公正性はあるのだろうか？
10. 企業の対応　Microsoft • 責任あるAI　コンセプト発表（2016年6月28日） Microsoft’s CEO explores how humans and A.I. can work together to solve society’s greatest challenges. https://slate.com/technology/2016/06/microsoft-ceo-satya-nadella-humans-and-a-i-can- work-together-to-solve-societys-challenges.html • AI原則発表（2018年1月17日） https://news.microsoft.com/ja-jp/2018/01/24/180117-future-computed-artificial- intelligence-role-society/ • 責任あるAI https://www.microsoft.com/ja-jp/ai/responsible-ai?activetab=pivot1%3aprimaryr6 • 顧客への誓約（2023年6月8日） https://blogs.microsoft.com/blog/2023/06/08/announcing-microsofts-ai-customer- commitments/
11. 企業の対応　Microsoft • Microsoft の責任ある AI の基本原則 • 公平性 • 信頼性と安全性 • プライバシーとセキュリティ • 包括性（多様な人々のニーズに対応できること） • 透明性（理解しやすさ） • アカウンタビリティ（説明責任）
12. OECD　AI原則 • Recommendation of the Council on Artificial Intelligence（2019年5月22日） https://legalinstruments.oecd.org/en/instruments/OECD-LEGAL-0449 • 1.1. 包括的な成長、持続可能な開発、幸福 • 1.2. 人間中心の諸価値と公正 • 1.3. 透明性と説明可能性 • 1.4. 堅牢性、セキュリティ、安全性 • 1.5. 説明責任 • （2024年5月3日改訂） https://legalinstruments.oecd.org/en/instruments/OECD-LEGAL-0449
13. EU GDPR(2016年5月24日発効、2018年5月25日適用） • 直接的なAIの言及はなく、個人データを用いることの手段としては考慮が 必要。 • 「自動化された意思決定」に関する言及。 データポータビリティ権（20条） 異議申立権（21条） プロファイリングからの除外権（22条） • プロファイリングに関する規制は今後要注意。
14. EU AI規則（Artificial Intelligence Act） • 2021年規則案提出、2023年6月に欧州議会で可決。 • 提出案 LAYING DOWN HARMONISED RULES ON ARTIFICIAL INTELLIGENCE (ARTIFICIAL INTELLIGENCE ACT) AND AMENDING CERTAIN UNION LEGISLATIVE ACTS https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=celex%3A52021PC0206 • 仮訳　https://www.soumu.go.jp/main_content/000826706.pdf • 2023年12月8日トリローグ最終合意、2026年上期施行見込み • 規則案 https://www.europarl.europa.eu/doceo/document/TA-9-2024-0138_EN.html • 2024年5月21日成立 https://www.consilium.europa.eu/en/press/press-releases/2024/05/21/artificial-intelligence-ai-act-council- gives-final-green-light-to-the-first-worldwide-rules-on- ai/?utm_source=x.com&utm_medium=social&utm_campaign=20240521-ai&utm_content=visual-carousel
15. EU AI規則が適用される「AI」とは • 3条(1) 「人工知能システム」（AI システム）とは、 a machine-based system designed to operate with varying levels of autonomy, that may exhibit adaptiveness after deployment and that, for explicit or implicit objectives, infers, from the input it receives, how to generate outputs such as predictions, content, recommendations, or decisions that can influence physical or virtual environments; （様々な自律性レベルで動作し、明示的または暗黙的な目的のため、受け取った入力か ら、物理環境またはヴァーチャル環境に影響を与えうる予測、コンテンツ、提案、また は意思決定のような出力を生成する方法を推論するよう設計された機械ベースシステム）
16. EU AI規則が適用される「AI」とは • 3条(1) 「人工知能システム」（AI システム）とは、 (a)ディープラーニングを含む様々な方法を用いた教師あり、教師なし及び強化学習を含 む機械学習によるアプローチ (b) 知識表現、帰納（論理）プログラミング、知識ベース、推論及び演繹エンジン、 （記号）推論及びエキスパートシステムを含む論理ベース及び知識ベースのアプローチ (c) 統計的アプローチ、ベイズ推定、検索及び最適化手法 の一つ又は複数をもって開発されたソフトウェアであって、人間が定めた一定の一連の 目的のために、これらが相互作用する環境に影響を与えるコンテンツ、予測、推奨又は 決定などのアウトプットを生成することができるものをいう。 • 一般的な「AI ＝ ディープラーニング」を超える過去のAI技術を全部詰め込んだかのよ うな広範囲さ。
17. EU AI規則の4分類 • リスクベースアプローチで分類、規制の強度を区別。 禁止AI（5条） サブリミナル技法 子ども・障害者の脆弱性を利用するもの 公的機関のソーシャルスコアリング 法執行目的の公開場所におけるリアルタイム遠 隔生態識別システム（例外あり） 禁止 ハイリスクAI（6 条） 生態識別、インフラ管理、雇用関係 など リスクマネジメントシステムの構 築、データガバナンス、記録の保 持、情報提供、セキュリテ、自動 生成ログの維持、EU代理人の選 任ィetc 限定リスクAI（52 条） 自然人と相互作用することを意図さ れた AI システム（チャットシステム など？） AIを相手にしていること、AIによ り生成されたものを明らかにする 義務 ※ハイリスクAIの要件の適用推奨 最小リスクAI 規制なし
18. 「MADE WITH(BY) AI」の非現実さ • AIで出力されたものに人間が少しでも手を加えれば「人間製」なのか？ （目入れだけやる漫画家のような） • 手の加え方の多少はどう線引すべきなのか？ • 機械が殆ど作って人間が仕上げだけすることと何が違うのか？（人間の検 査によって品質担保されているから人間製？）
19. AI倫理 • 内閣府「人間中心のAI社会原則（2019年3月29日）」 https://www8.cao.go.jp/cstp/aigensoku.pdf AI社会原則 ・人間中心（基本的人権の非侵害） ・教育・リテラシー ・プライバシー確保 ・セキュリティ確保 ・構成競争確保 ・公平性、説明責任及び透明性 ・イノベーション • 人間中心のＡＩ社会原則検討会議議論の経過 https://www8.cao.go.jp/cstp/tyousakai/humanai/index.html
20. アメリカ　AI権利章典ブループリント • 2022年10月4日発表 https://www.whitehouse.gov/ostp/news- updates/2022/10/04/blueprint-for-an-ai-bill-of-rightsa-vision-for- protecting-our-civil-rights-in-the-algorithmic-age/ • 5原則 ・安全で効果的なシステム ・アルゴリズムによる差別からの保護 ・データのプライバシー ・ユーザーへの通知と説明 ・人による代替手段、配慮、フォールバック
21. AI原則の比較 Microsoft 日本 アメリカ 公平性 人間中心（基本的人権の非侵 害） アルゴリズムによる差別から の保護 包括性（多様な人々のニーズ に対応できること） 信頼性と安全性 プライバシーとセキュリティ プライバシー確保 セキュリティ確保 安全で効果的なシステム データのプライバシー 透明性（理解しやすさ） アカウンタビリティ（説明責 任） 公平性、説明責任及び透明性 イノベーション ユーザーへの通知と説明 構成競争確保 教育・リテラシー 人による代替手段、配慮、フ ォールバック
22. 通知・公表による透明性の疑問 • 「その規約、読みますか？」（2022年5月27日） • 「我々の主張は、開示義務をなくしたところで何かを失う人はほとんどないほど開 示義務が果たしてきたことはわずかであるということである。（221頁）」 • （同書223頁以下の仲介者の役割を読んでの私見） 長大な開示情報を個々の利用者が読むよりも、権威あるコンサルタントやアドバイ ザー機関の評価や格付けが重要視されるかも。
23. 標準化 • 経産省委託報告書「令和３年度産業標準化推進事業委託費（戦略的国際標 準化加速事業：海外標準化動向の把握・分析）（2022年3月23日）P347 ～ https://www.meti.go.jp/meti_lib/report/2021FY/000161.pdf • 2021年3月、ISO/IEC TR 24029-1:2021 （人工知能（AI）－ニューラ ルネットワークの堅牢性の評価ー第1部：概要） • 2021年5月、ISO/IEC TR 24030:2021（人口知能（AI）－ユースケース） • 2021年11月、ISO/IEC TR 24027:2021（人口知能（AI）－AIシステム とAI支援の意思決定におけるバイアス）
24. AIと製造物責任 • 日本の製造物責任法ではソフトウェア自体はPL法の対象である製造物にならない。 ただしソフトウェアが組み込まれた機器であれば全体として製造物になりうる。 • 消費者のデジタル化への対応に関する検討会AIワーキンググループ（第4回）（2020年5月25日） https://www.caa.go.jp/policies/policy/consumer_policy/meeting_materials/assets/consumer_poli cy_cms101_200525_04.pdf • 欧州委員会では司令レベルで検討が進む。 「Product Liability Directive(製造物責任に関する司令)改正案」 （2022年9月28日） https://single-market-economy.ec.europa.eu/document/3193da9a-cecb-44ad-9a9c- 7b6b23220bcd_en 「Proposal for anArtificial Intelligence Liability Directive(AIに関する開発事業者の民事責任に関す る司令案)」を発表（2022年9月28日） https://commission.europa.eu/document/f9ac0daf-baa3-4371-a760-810414ce4823_en
25. 生成AIの登場 ◆音楽・音声生成系 • 2018年頃、Amper Music • AI美空ひばり（2019年）、おしゃべりひろゆきメーカー（2023年） • ※片寄晴弘「音楽生成とAI」（2004年1月）https://www.jstage.jst.go.jp/article/jjsai/19/1/19_21/_pdf ◆画像生成系 • 2021年1月　DALL-Eリリース • 2022年7月13日　Midjourneyリリース ◆自然言語生成系 • 2021年7月　AIのべりすとリリース • 2022年11月30日　ChatGPTリリース
26. 悪用事例：ディープフェイク • AIを用いたオバマ大統領のフェイク動画が物議。 • You Won’t Believe What Obama Says In This Video! ࣥ（2018年4月18日） https://youtu.be/cQ54GDm1eL0 • 湯淺 墾道「ディープフェイクに関する各国の法規制の動向」（2022年1 月6日） https://jilis.org/report/2022/jilisreport-vol4no1.pdf
27. 中国は法令制定 • インターネット情報サービス深層合成管理規定（2023年1月10日施行） • インターネット情報サービスのアルゴリズム推奨管理規定（2022年3月1 日施行） • 生成系人工知能サービス管理暫定規則（2023年8月15日施行）　 参考：森・濱田松本法律事務所2023年8月10日 https://www.mhmjapan.com/content/files/00068019/20230810-020728.pdf • ※中国ではChat GPTの利用は禁止
28. 生成系人工知能サービス管理暫定規則 • 生成系人工知能サービスに対する法令遵守義務 • 社会主義的価値観の堅持（反政府的な出力の禁止） • 学習における差別の発生防止措置 • 知的財産権、商業道路区の尊重、営業秘密の保持、プラットフォーマーの独占的不正競争行為の禁 止 • 肖像権、名誉、プライバシーの非侵害 • 透明性の向上、生成コンテンツの正確性向上措置 • 世論系勢力・社会動員能力を有する生成系人工知能サービス（とは？）を 提供する場合は、安全評価を実施し、当局に届出が必要。
29. 利用者側の対応：生成AI利用ガイドライン • 日本ディープラーニング協会「生成AIの利用ガイドライン」（2023年5 月） https://www.jdla.org/document/#ai-guideline ※最新は2023年10月版 • 禁止用途（各自で考える） • 入力時に注意すべき事項（著作物、商標、顔写真や氏名、個人情報、秘密情報） • 生成物利用時の注意事項（虚偽内容、権利侵害、商用利用可否など）
30. 個人情報の観点 • 個人情報保護委員会の「生成AIサービスの利用に関する注意喚起等につい て」（2023年6月2日） https://www.ppc.go.jp/news/press/2023/230602kouhou/ • Open AIが入力データを機械学習に用いることを踏まえ、個人情報を入力する際は利用目的の範囲 内であるか確認すること（「機械学習利用目的」は個人情報取得時の利用目的に入っているか？）。
31. 生成AI提供者に対する訴訟提起（アメリカ） • 2023年1月：著作権侵害訴訟（Andersen v. Stability AI Ltd、Midjourney Inc、DeviantArt Inc） • 2023年2月：著作権侵害訴訟（Getty Images v. Stability AI） • 2023年6月：プライバシー侵害訴訟(P.M. v. OpenAI) • 2023年7月：著作権侵害訴訟(J.L. v. Alphabet) • Open Legal Community「増えつつあるAI関連訴訟：米国におけるジェネレーティブAI訴訟の最 新動向」（2023年9月24日） https://openlegalcommunity.com/ai-related-litigation-current-state/ • JETRO「生成系 AI に対する著作権侵害等の訴訟の動き」（2023年7月14日） https://www.jetro.go.jp/ext_images/_Ipnews/us/2023/20230714.pdf
32. 生成AI提供者に対する訴訟提起（アメリカ） • Andersen v. Stability AI Ltd、Midjourney Inc、DeviantArt Inc 2023 U.S. Dist. LEXIS 194324(2023/11/27時点) • 原告の画像を機械学習に際して無断複製したことによる侵害→継続審理 • 出力画像（二次的著作物と主張）が原告の著作権を侵害するか→類似の主張不十分のため却下 • 著作権登録のない原告２名→原告適格なし • Thomson Reuters Enter. Ctr. GmbH v. Ross Intel. Inc., 2023 U.S. Dist. LEXIS 170155
33. 著作権の観点　日本政府の動き • 内閣府・文化庁「ＡＩと著作権の関係等について」（2023年5月） https://www8.cao.go.jp/cstp/ai/ai_team/3kai/shiryo.pdf AI開発／学習段階は著作権法30条の4、生成・利用段階は通常の著作権侵害判断と同様（侵害かど うかは都度判断） • 文化庁「AIと著作権（2023年6月）」 https://www.bunka.go.jp/seisaku/chosakuken/pdf/93903601_01.p df • 文化審議会著作権分科会法制度小委員会（2023年7月26日～） 第1回、第2回、第3回、第4回、第6回、第7回 第5回（2023年12月20日）、第6回（2024年1月15日）、パブコメを経 て「AIと著作権に関する考え方について」が2024年3月15日公表。
34. 著作権の観点　表現とアイディアの区別 • 「アイディア」は著作権法で保護されない。 • 例①　画風 「ゴッホの油絵っぽい」だけでは侵害にならず、「ゴッホの『ひまわり』 を模倣した画像」になって侵害。 • 例②　キャラクターの設定 いわゆる同人問題と同じ（ポパイネクタイ事件、ドラえもん最終話問題） ※ドラえもん最終話問題著作権侵害として和解したが、厳密には侵害だっ たのだろうか？またそれ自体が引き起こす社会的な影響は別問題。
35. 著作権の観点　表現と事実の区別 • 「事実の伝達」は著作権法で保護されない。 • 事実の伝達：社説などの創作性があるものを除く新聞報道など。 • 日本新聞協会、日本書籍出版協会などは共同声明を発表。（2023年8月 17日） 生成AIに関する共同声明 https://www.pressnet.or.jp/statement/copyright/230817_15114.html • 日本新聞協会は著作権法改正を働きかけ中（2023年10月時点）。 ※現行法での対抗はムリと判断？
36. 生成AI提供者の対応 • Google、Adobe、Microsoftは提供する生成AIに関連して著作権侵害で訴 えられた場合の損害を補償すると発表。 • Microsoft(2023年9月7日): https://blogs.microsoft.com/on-the-issues/2023/09/07/copilot- copyright-commitment-ai-legal-concerns/ • Google(2023年10月13日): https://cloud.google.com/blog/products/ai-machine- learning/protecting-customers-with-generative-ai-indemnification?hl=en • Adobe(2023年9月13日): https://www.adobe.com/jp/news- room/news/202309/20230913_commercial-release-of-gen-ai.html • プライバシー侵害の場合は？
37. 知的財産権の議論状況（2023年10月時点） • 内閣府「AI時代の知的財産権検討会」 https://www.kantei.go.jp/jp/singi/titeki2/ai_kentoukai/kaisai/index. html • 現在の検討課題 ・生成AIと知財をめぐる懸念・リスクへの対応等について（検討課題Ⅰ） ・AI技術の進展を踏まえた発明の保護の在り方について（検討課題Ⅱ）
38. 生成AI利用者の創作的寄与とは • 一定の複雑さ、長さや試行錯誤があると、生成物や入力プロンプト自体に 著作物性を認められるのではないかという論もある。 • しかし単なる指の境目をどうつけるか、具体的な事例は現状ない。 ※イラストレーターにイラスト作成を発注する際の要望レベルでは創作性 は認められない。東京地判昭和39年12月26日〔高速道路パノラマ地図事 件〕を参照するなら、受託者（画家）の「図形、図柄により具体的に表現 するにあたって（は） …その画家としての芸術的な感覚と技術を駆使し て」いることを創作性の手がかりにしている。
39. 生成AI利用者の創作的寄与とは • アメリカ著作権当局では、AI生成物に対して「人間の関与」を欠くため著 作物とは認められないとの判断（2022年2月14日）。 ※本人が「その作品は『機械上で実行されるコンピュータアルゴリズムに よって自動的に生成された』という説明を著作権局に提出し、自身はその 作品を『Creativity Machine』の所有者に対する『雇用契約に基づく仕事』 として登録しようとしている」と述べている。 https://www.copyright.gov/rulings-filings/review-board/docs/a- recent-entrance-to-paradise.pdf • 連邦裁判所で“職務発明”を主張したが、判断変わらず。
40. 特許ではAIの発明者性を否定した日本の司法判断が出る • 東京地判令和6年5月16日 • 原告は発明者の氏名にダバス（DABUS）と記載した特許出願に対し、補正命令 に応じなかったことから出願却下処分を受け、審査請求も棄却されたことから取 消訴訟を提起。 裁判所は、 • 知的財産基本法2条1項は知的財産について「人間の創作的活用により生み出されるもの」と 定義していること • 特許法66条、29条1項は、「発明をした者」が特許を受けることができるとしており、AIは （自然人ではなく）法人格も有さないから、「発明をした者」は、特許を受ける権利の帰属主 体にはなり得ないAIではなく、自然人をいうものと解するのが相当であること を理由として、原告の主張を退けた。
41. 主にイラストコンテンツ産業の反応 • Midjourneyは日本ではあまり否定的な反応はない。一方でmimicは猛批 判を受けた。 • その差を学習済みかそうでないかを挙げるものもあるが、個人的には生成 物が馴染みがある類（いわゆる美少女イラスト）かどうかだったかの差で しかないように思う。つまり、出力側の市場の目立ち具合、反応の違い。 https://www.itmedia.co.jp/news/articles/2209/06/news117.html
42. AI生成物が氾濫することに関して • 既にゲーム、イラスト集などのコンテンツダウンロード販売サイトでは生 成AIを用いた商品が溢れており、サジェストアルゴリズムと組み合わされ ることでそれ以外が圧迫されている。 ※この背景と問題点については、例えば以下。 【要注意】SwitchのニンテンドーeショップにAIの怪しいソフトが増加している件について…実際に買って調 べてみた https://www.youtube.com/watch?v=n3zCffRqZmw&ab_channel=KENTfor%E4%BB%BB%E5%A4%A 9%E5%A0%82%E3%82%B2%E3%83%BC%E3%83%A0%E3%83%AC%E3%83%93%E3%83%A5 %E3%83%BC
43. AI生成物が氾濫することに関して • これらは現状、違法や規約違反ではない。また生成AIを用いていること自体がクリエー ター性を否定するものではない（優れた脚本やゲーム性を作れるがイラストは自作でき ない者にチャンスを与える側面はある）。 • では何を批判すべきか？排除すべき基準は何か？ • Pixiv「AI生成に関わる問題と、対応についてご報告」（2023年5月9日）では、 問題① 特定のクリエイターが不利益を被ること • 問題② プログラムなどで、クリエイターの作品が不当に収集されること • 問題③ AI生成作品を見たくないユーザーにも、AI生成作品が多く表示されること https://www.pixiv.net/info.php?id=9524 • 「見たくない」という需要側とのアンマッチングも重要。
44. 次は音声生成AI？ • 読売新聞オンライン「コナン君に「#歌わせてみた」流行曲、実はＡＩ偽 音声…困惑する声優たち「対処しようがない」　」 https://www.yomiuri.co.jp/national/20230926-OYT1T50040/ • 福岡真之介「【AI】声優と生成AIの法的論点」 https://note.com/shin_fukuoka/n/n33a915e312e9 • 特定のキャラクターが歌っているかのような動画はセリフ部分の切り貼り や音声調整により以前から存在。AIを用いていることとの違いは？
45. 不適切事例：ハルシネーション、誤情報 • アメリカにおける弁護士が裁判所に提出した書面に挙げられた裁判例が、 ChatGPTによる誤った情報で、存在しなかった。（2019年） • 大阪府の生成ＡＩチャット『大ちゃん』が「万博は中止」…府は正確性に ついて注意文を強調（2023年10月17日） https://news.yahoo.co.jp/articles/adf7893c22f80b58948878c1f77337adb8614e2d ※対応が「「内容の正確性などを保証するものではない」との文言を色をつけて強調した」は得策でないので は・・・。
46. AIと規制法の関係 • AIによる診断サービスと医師法における医行為の問題。 • 人工知能（AI）を用いた診断、治療等の支援を行うプログラムの利用と医師法第 17 条の規定との 関係について（2018年12月19日） https://www.mhlw.go.jp/content/10601000/000468150.pdf • 契約書審査サービスと弁護士法における非弁行為の問題。 • 法務省「ＡＩ等を用いた契約書等関連業務支援サービスの提供と弁護士法第 72 条との関係につい て」（2023年8月） https://www.moj.go.jp/content/001400675.pdf
47. AIの品質 • 通常のシステム品質と概ね同じ点と、異なる点がある。 • 同じ点：セキュリティ、信頼性 • 異なる点：リスク回避性（ガードレール）、パフォーマンス、公平性、プ ライバシー 国立研究開発法人産業技術総合研究所「機械学習品質マネジメントガイドライン 第3版」（2023 年1月20日3.2.1版） https://www.digiarc.aist.go.jp/publication/aiqm/guideline-rev3.html AIプロダクト品質保証コンソーシアム「AIプロダクト品質保証ガイドライン2023.06版」 https://www.qa4ai.jp/QA4AI.Guideline.202306.pdf
48. AI人材のスキル • 経産省「生成AI時代のDX推進に必要な人材・スキルの考え方」（2023年 8月7日） https://www.meti.go.jp/press/2023/08/20230807001/202308070 01.html
49. Google、Amazon、Meta、MicrosoftなどのAI適正開発原則 • 自発的な取り決め。 • FACT SHEET: Biden- Harris Administration Secures Voluntary Commitments from Leading Artificial Intelligence Companies to Manage the Risks Posed by AI（2023年7月21日） https://www.whitehouse.gov/briefing-room/statements-releases/2023/07/21/fact-sheet- biden-harris-administration-secures-voluntary-commitments-from-leading-artificial- intelligence-companies-to-manage-the-risks-posed-by-ai/ • 公開前の安全性確保 • 信頼性のあるセキュリティが最優先 • 信頼獲得
50. 新ＡＩ事業者ガイドラインの検討 • 2023年9月 https://www8.cao.go.jp/cstp/ai/ai_senryaku/5kai/gaidorain.pdf 内閣府　ＡＩ戦略会議（第5回～） https://www8.cao.go.jp/cstp/ai/ai_senryaku/ai_senryaku.html
51. 国際的なAI原則（広島AIプロセス） • International Draft Guiding Principles for Organizations Developing Advanced AI systems（2023年10月11日） https://digital-strategy.ec.europa.eu/en/library/international-draft-guiding-principles-organizations-developing-advanced-ai-systems 1. AIシステムの開発、導入、市場への配置において、リスクの特定、評価、軽減のための適切な対策を講じる。 2. 導入後、市場配置後に脆弱性の特定と軽減、必要な場合には誤用の事例とパターンの対処を行う。 3. 高度なAIシステムの能力、制約、適切なおよび不適切な使用の領域を公に報告し、透明性を確保するためサポートする。 4. 高度なAIシステムを開発する組織間で、業界、政府、市民社会、学術界を含む組織間でインシデントの情報共有と報告に向けた責任ある取り組み を進める。 5. リスクベースのアプローチに基づくAIガバナンスおよびリスク管理ポリシーの開発、実施、公開。特に高度なAIシステムを開発する組織に対する プライバシーポリシーや軽減策を含む。 6. AIライフサイクル全体にわたる堅牢なセキュリティコントロール、物理セキュリティ、サイバーセキュリティ、内部脅威対策の導入。 7. ユーザーがAI生成コンテンツを識別できるように、信頼性のあるコンテンツ認証と出典情報のメカニズム、ウォーターマーキングなどの技術の開 発と導入。 8. 社会的、安全、セキュリティリスクの軽減に向けた研究を優先し、有効な軽減策への投資を優先する。 9. 高度なAIシステムの開発を進め、気候危機、国際的な健康、教育など、世界の最大の課題に取り組む。 10. 国際的な技術規格の開発と、適切な場合には採用を進める。 11. 適切なデータ入力制御と監査の実施。
52. 英国フロンティアAIに関する報告書 Frontier AI: capabilities and risks – discussion paper（2023年10月25日） https://www.gov.uk/government/publications/frontier-ai-capabilities-and- risks-discussion-paper frontier AI For the purposes of the Summit we define “frontier AI” as highly capable general-purpose AI models that can perform a wide variety of tasks and match or exceed the capabilities present in today’s most advanced models (see Figure 1). （広範なタスクを実行可能で、現在最も進んだ人工知能（AI）のモデルが有する 能力に匹敵、またはそれを超える能力を持つ高性能な汎用型AIモデル）
53. 広島AIプロセスに関するG7首脳声明 高度な AI システムを開発する組織向けの広島プロセス国際指針 高度な AI システムを開発する組織向けの広島プロセス国際行動規範 （2023年10月30日） https://www.mofa.go.jp/mofaj/ecm/ec/page5_000483.html
54. 高度な AI システムを開発する組織向けの広島プロセス国際指針 高度な AI システムを開発する組織向けの広島プロセス国際行動規範 1. AI ライフサイクル全体にわたるリスクを特定、評価、軽減するために、高度な AI システムの開発全体を通じて、 その導入前及び市場投入前も含め、適切な措置を講じる 2. 市場投入を含む導入後、脆弱性、及び必要に応じて悪用されたインシデントやパターンを特定し、緩和する 3. 高度な AI システムの能力、限界、適切・不適切な使用領域を公表し、十分な透明性の確保を支援することで、アカ ウンタビリティの向上に貢献する 4. 産業界、政府、市民社会、学界を含む、高度な AI システムを開発する組織間での責任ある情報共有とインシデント の報告に向けて取り組む 5. 特に高度な AI システム開発者に向けた、個人情報保護方針及び緩和策を含む、リスクベースのアプローチに基づく AI ガバナンス及びリスク管理方針を策定し、実施し、開示する 6. AI のライフサイクル全体にわたり、物理的セキュリティ、サイバーセキュリティ、内部脅威に対する安全対策を含 む、強固なセキュリティ管理に投資し、実施する 7. 技術的に可能な場合は、電子透かしやその他の技術等、ユーザーが AI が生成したコンテンツを識別できるようにす るための、信頼できるコンテンツ認証及び来歴のメカニズムを開発し、導入する 8. 社会的、安全、セキュリティ上のリスクを軽減するための研究を優先し、効果的な軽減策への投資を優先する 9. 世界の最大の課題、特に気候危機、世界保健、教育等（ただしこれらに限定されない）に対処するため、高度な AI システムの開発を優先する 10. 国際的な技術規格の開発を推進し、適切な場合にはその採用を推進する 11. 適切なデータインプット対策を実施し、個人データ及び知的財産を保護する
55. アメリカ大統領令2023年10月30日 FACT SHEET: President Biden Issues Executive Order on Safe, Secure, and Trustworthy Artificial Intelligence（2023年10月30日） https://www.whitehouse.gov/briefing-room/statements-releases/2023/10/30/fact-sheet-president-biden-issues-executive- order-on-safe-secure-and-trustworthy-artificial-intelligence/ 1. 安全とセキュリティの新基準作成 2. プライバシーの保護 3. 公平性と市民権の確保 4. 消費者、患者、教育の保護 5. 労働者の支援 6. イノベーションと競争の促進 7. 国際的なAIリーダーシップの推進 8. 政府によるAIの責任ある効果的な利用の保証 長島・大野・常松法律事務所「AIに関する米国大統領令の公表と日本企業への影響」 https://www.noandt.com/wp-content/uploads/2023/11/technology_no43_1.pdf 福岡真之介「AIに関するアメリカの大統領命令の解説」 https://note.com/shin_fukuoka/n/n1006e8350805?sub_rt=share_pb 大統領府　主要なAI対策状況（2024年4月29日） https://www.whitehouse.gov/briefing-room/statements-releases/2024/04/29/biden-harris-administration-announces-key-ai- actions-180-days-following-president-bidens-landmark-executive-order/
56. 経産省「AI事業者ガイドライン検討会」 第1回 は非公開資料ばかり（2023年10月31日） https://www.meti.go.jp/shingikai/mono_info_service/ai_shakai_jisso/2023_001.h tml 2023年12月15日の第2回を経て、AI事業者ガイドライン案のとりまとめとパブリックコメ ント実施 （2024年1月20日～2024年2月19日） https://www.meti.go.jp/shingikai/mono_info_service/ai_shakai_jisso/20240119_r eport.html パブコメ結果（2024年4月19日） https://www.meti.go.jp/press/2024/04/20240419004/20240419004.html AI事業者ガイドライン（第1.0版） https://www.meti.go.jp/shingikai/mono_info_service/ai_shakai_jisso/20240419_r eport.html
57. CISA Roadmap for Artificial Intelligence セキュリティ向上のための人工知能 (AI) の利用促進や、重要インフラ組織への AI 導入支援に関す る取り組みを詳述する、初のロードマップ（2023年11月14日） https://www.cisa.gov/resources-tools/resources/roadmap-ai ５つの努力ライン 1. Responsibly use AI to support our mission. 2. Assure AI systems. 3. Protect critical infrastructure from malicious use of AI. 4. Collaborate and communicate on key AI efforts with the interagency, international partners, and the public. 5. Expand AI expertise in our workforce.
58. 内閣府NISC「セキュア AI システム開発ガイドライン」 セキュア AI システム開発ガイドラインについて（2023年11月28日） https://www.nisc.go.jp/pdf/press/press_Guidelines_for_Secure_AI_ System_Development.pdf 本件文書は広島 AI プロセスを補完するものであり、参考文書として、高度な AI システムを開発す る組織向けの広島プロセス国際指針及び国際行動規範が記載されて います。 セキュアな AI システム開発のためのガイドライン（仮訳） https://www.nisc.go.jp/pdf/policy/kokusai/Provisional_Translation_J P_Guidelines_for_Secure_AI_System_Development.pdf
59. Data Act（EUデータ法） 2023年12月22日EU官報掲載、2025年9月上旬施行 https://eur-lex.europa.eu/legal- content/EN/TXT/?uri=OJ:L_202302854 • ユーザが生み出したデータはユーザのもの。アクセスも共有もできるす る必要がある。 • 最終的には、ユーザ自身がそのデータにアクセスし、共有できるように する必要がある • どんなデータを生み出しているのか、ユーザへの通知が必要 →仕様にかかるところで、開発や従前の事業者がデータを独占して活用す るようなビジネスモデルそのものに影響
60. 自動運転とAI AI時代における自動運転車の社会的ルールの在り方検討 サブワーキンググ ループ（2023年12月25日～） https://www.digital.go.jp/councils/mobility-subworking- group/3ea22bc3-9938-479a-b7b5-f45438d02081
61. 内閣府NISC　AI使用に関する国際ガイダンスへの共同署名 https://www8.cao.go.jp/cstp/stmain/20240124.html （2024年1月24日） AIシステムの「使用」に関するガイダンスを示す目的で作成されたもの。 AIシステムに対する脅威を6つ列挙の上、これに対する12の緩和策を注意喚起。 脅威： ①データポイズニング、②インプット改ざん攻撃（プロンプトインジェクション・敵対的サンプル）、③生成AIハルシネーシ ョン、④プライバシー・知的財産に関する懸念、⑤モデル窃取攻撃・学習データ漏えい、⑥匿名化データの再特定 緩和策： ①サイバーセキュリティ枠組みの実施、②プライバシー・データ保護義務への影響評価、③多要素認証の実装、④特権アクセスの管理、 ⑤バックアップ、⑥試行、⑦サプライチェーンを含むセキュアバイデザイン確保、⑧限界や制限の理解、⑨関係スタッフの能力・資格、 ⑩検査・ヘルスチェック、⑪ログ監視、⑫インシデント対応
62. OECD　AIとデータガバナンス、プライバシー AI, data governance and privacy（2024年6月27日） https://www.oecd-ilibrary.org/science-and-technology/ai-data-governance -and-privacy_2476b1a4-en 参考和訳 http://maruyama-mitsuhiko.cocolog-nifty.com/security/2024/07/post- 199b6b.html
63. オープンソースAI （2024年7月1日） https://shujisado.com/2024/07/01/open-source-ai-definition-008- commentary/ オープンソースAIとは下記のような自由を与える条件の下で利用できるAIシステムのこと 使用：どのような目的であれ、許可を得ることなくシステムを使用すること。 研究：システムがどのように動作するかを研究し、そのコンポーネントを検査すること。 改変：出力を変更することを含め、どのような目的であれシステムを改変すること。 共有：どのような目的であれ、改変の有無に関わらず、他者が使用できるようにシステム を共有すること。
64. 経産省　コンテンツ制作のための生成AI利活用ガイドブック （2024年7月5日） https://www.meti.go.jp/policy/mono_info_service/contents/aiguidebook.html 留意点はこれまでのガイドラインをコンテンツ産業向けに焼き直したもの
65. EU AI Actの施行 （2024年7月12日官報掲載、2024年8月1日施行） https://eur-lex.europa.eu/legal- content/EN/TXT/?uri=OJ:L_202401689
66. 文化庁　AIと著作権に関するチェックリスト＆ガイダンス （2024年7月31日） https://www.bunka.go.jp/seisaku/bunkashingikai/chosakuken/seisak u/r06_02/pdf/94089701_05.pdf
67. AIセーフティインスティチュート 2024年2月14日設立｡AIの安全性の評価手法の検討等を行う機関として、独立行政 法人情報処理推進機構（IPA）に設置｡ AIセーフティに関する評価観点ガイド（2024年9月18日） https://aisi.go.jp/2024/09/18/evaluation_perspectives/ AIセーフティに関するレッドチーミング手法ガイド(2024年9月25日) https://aisi.go.jp/2024/09/25/rt_methodology/
68. カリフォルニア州でAI関連法が立て続けに成立 The California Artificial Intelligence Transparency Act (CAITA)が発効。大規模 な生成 AI 企業に AI 生成コンテンツにラベルを付けることを義務付け。（2024 年9月19日） ほか7つ｡ tomo「カリフォルニア州のAI規制（2024年9月）」 https://note.com/tomo_legal/n/nf74410b6bc97
69. インターネット上のデータのAI学習利用の検討 2022年ごろのCleaview AIへのGDPR違反による罰金制裁ではインターネット上の 自撮り写真を収集し、顔識別AIモデルを作成していたことが問題視（GDPR6条の 適法性根拠違反、12条ほかの個人の権利の尊重違反など）。 一方でスクレイピングデータを用いているChat GPTの検討で、 ・スクレイピングしたデータの学習利用に適法性根拠は正当な利益が適用できる か（Open AIはプライバシーポリシーで契約履行、不正使用防止・サービス開発 などの正当な利益、同意と並列的に記述） ・特別カテゴリデータの9条(2)除外が適用できるか(「(e)データ主体によって明 白に公開のものとされた個人データに関する取扱いの場合」が適切か) の指摘がなされる。 https://academic.oup.com/idpl/advance- article/doi/10.1093/idpl/ipae013/7816718?login=false
70. EDPBが「AIモデルの開発と展開における個人データの使用に関する意見」 を採択」 1) AIモデルが匿名であるとみなされる状況と方法 2) AIモデルの開発または使用の法的根拠として正当な利益を使用できるかどうか、 どのように用いるか 3) 違法に処理された個人データを使用してAIモデルが開発された場合に何が起こ るか を検討（2024年12月18日）。 https://www.edpb.europa.eu/news/news/2024/edpb-opinion-ai-models- gdpr-principles-support-responsible-ai_en
71. 韓国でAI基本法が成立（EU AI Actに続いて2番目） 「ＡＩの発展と信頼基盤の造成に関する基本法（ＡＩ基本法）」が国会で議決（ 2024年12月26日）、2026年1月施行予定。 https://likms.assembly.go.kr/bill/billDetail.do?billId=PRC_R2V4H1W1T2K5 M1O6E4Q9T0V7Q9S0U0