AIエージェント公開前に 押さえておきたい法務

Transcript

1. 1 AIエージェント公開前に 押さえておきたい法務 弁護士 前田拓郎 ©Takuro Maeda Law Firm
2. 2 弁護士略歴  ２００５年  ２００７年～ 早稲田大学法学部卒 都内出版社数社にて編集・営業職として勤務  ２０１２年 東京大学法科大学院入学  ２０１５年 同大学院卒  ２０１９年 弁護士登録、都内法律事務所勤務  ２０２２年 前田拓郎法律事務所設立 主な取扱分野：クリエイター向け法務、先端技術法務（生成AI・web3・メタバー ス）、知的財産分野（著作権・商標が中心）、一般企業法務 例）漫画・アニメーション・出版物などの契約処理・権利関係処理、VR・AI・メタ バースなどの先端技術に関する法律整備やスキーム設立業務、企業経営者の日々のお 悩みに対する法的助言 ©Takuro Maeda Law Firm
3. 3 本日のテーマ １．AIエージェントの公開前の法務上のリスクの全 体図 ２．法務上の注意点（１）著作権法上のポイント ３．法務上の注意点（２）個人情報及び機密情報 ４．法務上の注意点（３）利用規約 ５．その他まとめ ©Takuro Maeda Law Firm
4. 1 １．AIエージェントの公開前の法務上のリスク ① リスクの全体図 情報の取得から外部への実行まで、工程ごとに確認する 取得・参照 判断・生成 操作・実行 保存・改善 Web／社内文書 モデル／RAG 送信／予約／発注 ログ／追加学習 著作権・取得権限 誤回答・情報漏えい 権限逸脱・契約責任 目的外利用・保管 本講義でいうAIエージェント 目的に応じて処理を計画し、外部ツール等を使って作業するシステム。 共通の検討例 資料を検索し、顧客への提案メールを作成・送信するエージェント。 2026年10月19日 大阪経済大学 AIエージェント公開前の法務 弁護士 前田拓郎 ©Takuro Maeda Law Firm
5. 2 関係者と責任の全体図 ① リスクの全体図 利用者との規約だけでは、権利者や外部サービスを拘束できない 利用者とサービス提供者 操作範囲、承認方法、料金、データ利用、事故時の対応を合意する。 モデル提供者・開発委託先・ツール提供者 利用条件、学習利用、再委託、障害対応、補償の範囲を確認する。 権利者・本人・取引相手 著作物、個人情報、送信先・発注先の権利や利益への影響を確認する。 公開前に残す資料 データの流れと契約関係の図、権限一覧、担当者、停止・連絡手順。 出典：民法／経産省「AIの利用・開発に関する契約チェックリスト」 AIエージェント公開前の法務 ©Takuro Maeda Law Firm
6. 3 実行権限で変わる公開条件 ① リスクの全体図 閲覧、下書き、送信・決済を区別して設計する 情報提示型：検索・要約まで 参照権限、根拠表示、誤情報の検証方法を確認する。 承認型：下書き後に人が実行を承認 宛先・本文・金額を実行直前に表示し、承認した内容を固定する。 自動実行型：条件内で継続的に操作 許可する操作、対象、金額・回数の上限、失効時期、停止方法を定める。 公開判断 取り消せない操作や影響の大きい操作は、承認を必須にする等の制限を検討。 出典：経産省「AIエージェント利活用に伴うリスクへの対応」／講義用の設計例 AIエージェント公開前の法務 ©Takuro Maeda Law Firm
7. 4 ２．法務上の注意点（１）著作権法上のポイント ※学習済みモデルの選定 ② 著作権法上のポイント モデルの利用条件と、組み込むソフトウェアの条件を確認する API型のモデル 商用提供、組込み・再提供、禁止用途、出力の利用条件を確認する。 公開ウェイト型のモデル 商用利用、改変・追加学習、再配布、表示義務、利用規模の制限を確認する。 学習データの説明と権利侵害への対応 開示情報、苦情窓口、補償の有無・除外条件を調べ、採用理由を記録する。 公開前の成果物：部品と条件の台帳 モデル・版・SDK・ライブラリ・ライセンス・採用日を一覧化する。 出典：文化庁「AIと著作権に関するチェックリスト＆ガイダンス」ほか AIエージェント公開前の法務 ©Takuro Maeda Law Firm
8. 5 学習データと著作権法30条の4 ② 著作権法上のポイント 非享受目的、必要な限度、権利者への不当な不利益を確認する 原則となる考え方 情報解析など、作品の表現を味わう目的のない利用は権利制限の対象となり得る。 対象外となり得る学習 特定作品の創作的表現を出力させる目的が併存する追加学習等は要注意。 ただし書の検討 情報解析用データベースの販売市場と衝突する利用などは、適用されない場合がある。 公開前の成果物：データの利用根拠 入手元、取得方法、学習目的、許諾・権利制限の根拠、利用条件を記録する。 出典：著作権法30条の4／文化審議会「AIと著作権に関する考え方について」 AIエージェント公開前の法務 ©Takuro Maeda Law Firm
9. 6 追加学習・RAG・実行時入力 ② 著作権法上のポイント データを「どの工程で、何のために使うか」で切り分ける 追加学習：モデルのパラメータを更新 利用目的とデータの権利を確認し、特定表現の再現や過度な記憶を検証する。 RAG：検索した資料を生成時に参照 複製・検索・回答への表示を分けて検討。30条の4が当然に適用されるわけではない。 引用・軽微利用・許諾 32条や47条の5は要件付き。出典を書けば全文を利用できるというものではない。 実行時入力と出力の確認 利用者が投入する資料の権限も確認。類似性・依拠性等を踏まえ、送信前の検証を設ける。 出典：著作権法32条・47条の5／文化庁「AIと著作権に関する考え方について」 AIエージェント公開前の法務 ©Takuro Maeda Law Firm
10. 7 ３．法務上の注意点（２）個人情報及び機密情報 ※個人情報の取得と利用目的 ③ 個人情報・機密情報管理 入力、参照資料、外部送信、ログを一つのデータフローで把握する 何が個人情報・個人データに当たるか 氏名以外も対象。会話履歴、識別子、検索用データも識別可能性に応じて判断する。 利用目的を具体化する 回答生成、顧客対応、品質改善、追加学習を区別し、通知・公表等を整える。 取得方法と同意の要否 適正取得、目的外利用の制限、要配慮個人情報の取得時の原則同意等を確認する。 公開前の成果物：データ管理表 項目、利用目的、取得元、提供先、保管期間、削除方法、担当者を記録する。 出典：個人情報保護法17〜23条等／個情委ガイドライン（通則編） AIエージェント公開前の法務 ©Takuro Maeda Law Firm
11. 8 外部モデル・クラウドへの提供 ③ 個人情報・機密情報管理 「学習に使わない」という設定以外にも確認が必要 委託か、第三者への提供か 提供先の独自の学習・改善利用も確認。委託なら委託先の監督を整える。 外国にある第三者への提供 28条の要件を別途確認。サーバーの所在地だけで結論を出さない。 契約と設定の確認項目 保存期間、運用者の閲覧、再委託先、削除、漏えい時の連絡、学習利用を照合する。 実装上の確認項目 送信データの最小化、利用者ごとの検索権限、認証、ログの閲覧制限を設ける。 出典：個人情報保護法23〜28条／個情委 通則編・外国第三者提供編・生成AI注意喚起 AIエージェント公開前の法務 ©Takuro Maeda Law Firm
12. 9 機密情報を守る制度と運用 ③ 個人情報・機密情報管理 入力禁止の注意書きを、権限・承認・削除の仕組みに落とし込む 情報の区分と投入の判断者 公開可・社内限定・機密を区分。顧客資料や認証情報を誰が投入できるか定める。 従業員・委託先・AIのアクセス権限 許可サービスと連携先を限定し、秘密表示、教育、契約、権限の失効を組み合わせる。 保持期間と検証用ログ ログにも機密が残る。証跡の必要性とデータ最小化を調整し、削除範囲を決める。 事故対応の責任者 連携停止・鍵の失効、証拠保全、影響調査、報告・本人通知等の要否判断を準備する。 出典：経産省「営業秘密管理指針」／個人情報保護法23〜26条等 AIエージェント公開前の法務 ©Takuro Maeda Law Firm
13. 10 ４．法務上の注意点（３）利用規約 ※条項案① 実行範囲と承認 ④ 利用規約 例：顧客向けメールを作成する、承認型サービス サービス範囲・承認の条項案 「本サービスはメールの下書きを作成します。利用者が確認画面に表示された宛先、本文及び添 付資料を承認した場合に限り、当該内容で送信します。」 確認・禁止操作の条項案 「利用者は送信先及び内容を確認してください。本サービスによる購入、決済及びファイル削除 は提供対象に含まれません。」 対応する設計・合意 承認内容を固定し、送信直前に権限を検証。規約の版・同意・承認内容を記録する。 講義用の条項案。実際の提供機能との整合が前提／出典：民法548条の2等 AIエージェント公開前の法務 ©Takuro Maeda Law Firm
14. 11 条項案② 入力データの利用 ④ 利用規約 利用許諾、秘密保持、個人情報の取扱いを整合させる 入力権限・利用範囲の条項案 「利用者は、入力データの提供に必要な権限を有するものとします。当社は、本サービスの提供 に必要な範囲で入力データを取り扱います。」 学習利用の条項案 「当社は、入力データを汎用モデルの学習に利用しません。学習を目的として外部モデル提供者 へ提供することもありません。」 対応する設計・開示 提供先の条件・設定を確認し、保存と削除、再委託先、プライバシー通知を整える。 講義用の条項案。学習不利用を実現できる構成を想定／出典：個情委 生成AI注意喚起等 AIエージェント公開前の法務 ©Takuro Maeda Law Firm
15. 12 条項案③ 停止・責任・変更 ④ 利用規約 安全な停止を可能にし、全面免責に依存しない 緊急停止の条項案 「当社は、不正な実行又は情報漏えい等のおそれがあるとき、必要な範囲で本サービスを一時停 止できます。緊急の場合を除き事前に、緊急の場合は停止後速やかに利用者へ通知します。」 責任の条項案 「当社は、当社の責めに帰すべき事由により利用者に生じた損害について、法令に従い賠償責任 を負います。」 追加の確認事項 消費者向けの免責・賠償上限には制約。料金・解約・返金、規約変更の要件と周知も確認。 講義用の条項案／出典：消費者契約法8条・10条、民法415条・548条の4等 AIエージェント公開前の法務 ©Takuro Maeda Law Firm
16. 13 ５．その他まとめ AIエージェント特有のリスク ⑤ その他・まとめ 外部の情報が、実際の操作を変えてしまう 間接的なプロンプトインジェクション 閲覧したWebやメールの悪意ある指示に従い、秘密を送信するおそれ。 過剰な権限と連鎖する操作 誤った判断が複数のAPI・別のエージェントへ伝わり、被害が拡大するおそれ。 不確実な判断と反復実行 誤情報による発注、二重送信、再試行による課金や削除の累積を想定する。 公開前の検証 攻撃を想定した試験、操作の許可リスト、上限、重複防止、停止と追跡を用意する。 参考：経産省 AIエージェント関連資料・AI民事責任の手引き／対策は設計例 AIエージェント公開前の法務 ©Takuro Maeda Law Firm
17. 14 技術上の課題を法務と運用につなぐ ⑤ その他・まとめ 契約・担当者・試験結果をそろえて、残るリスクを判断する 誤回答・判断の偏り 対象用途と禁止用途、検証方法、人の確認範囲、苦情対応を仕様・規約に反映する。 外部APIの障害・モデル更新 監視、通知、代替手段、再試験、復旧の分担を契約と運用手順に定める。 事故後の原因調査 承認・権限・実行・版の記録をそろえ、委託先の調査協力や連絡期限を合意する。 公開後の管理 責任者が残るリスクを把握。機能・連携先・モデルの変更時に再評価する。 出典：経産省 AI契約チェックリスト／総務省・経産省 AI事業者ガイドライン1.2版 AIエージェント公開前の法務 ©Takuro Maeda Law Firm
18. 15 公開前の最終チェック ⑤ その他・まとめ 担当者・確認日・証拠を残し、未解決の重大事項は公開条件に反映する 01 モデルとデータ 02 個人情報と秘密 利用条件、取得元、利用根拠 目的、提供先、権限、保存・削除 03 実行の制御 04 規約と画面 承認、対象操作、上限、失効 機能・同意・通知・責任の整合 05 試験と事故対応 06 公開判断と再評価 攻撃・誤操作の試験、停止・連絡 責任者、未解決事項、変更時の確認 使う権利、任せる範囲、止める方法を説明できる状態で公開する。 本講義のチェックリスト（講義用整理）／法令・資料確認基準日：2026年10月15日 AIエージェント公開前の法務 ©Takuro Maeda Law Firm