NEDO AI担当者によるクリエイター向け研究紹介

Transcript

1. NEDO AI担当者によるクリエイター向け研究紹介 芝田 兆史 1 AI・ロボット部 「人と共に進化する次世代人工知能に関する技術開発事業」 プロジェクトマネージャー 国立研究開発法人 新エネルギー・産業技術総合開発機構（NEDO） 2024/07/19 LT会「創作屋の茶の間 vol.1」 本日の発言は芝田個人の責に帰し、NEDOを代表する見解ではないことご理解ください
2. 2 人と共に進化する次世代人工知能に関する技術開発事業 高い説明性を持ち 安全かつ容易に構築できる「友となるAI」の実現 人の意図を理解できる AIの判断を説明できる 容易に構築できる 品質管理が明確である （共進化プロジェクト） AI・人工知能 得たいの知れない他人 内面まで理解し 信頼し合える友 https://www.nedo.go.jp/activities/ZZJP_100176.html https://www.nedo.go.jp/activities/ZZJP_100176.html https://www.youtube.com/watch?v=m16iYWiIMjE https://www.youtube.com/watch?v=9D4hzxnAI2U https://www.youtube.com/watch?v=9D4hzxnAI2U NEDO YouTubeチャンネルでの共進化プロジェクト紹介（前編、後編）
3. 発話や間、表情を分析し 会話内容を柔軟に変更 3 共進化プロジェクト：20の研究テーマを実施中 説明・人の意図理解・構築容易・品質／安全管理を軸に研究を実施 人間の創作支援 AI品質マネジメントガイドライン ガイドラインは公開し、NEDO特別講座開講中 数式生成教師画像 AI対話語学学習 TEZUKA2023で実証制作 権利・プライバシー侵害のな い大量の教師データの生成 人の運動モデルを持つ ヒューマノイドロボット 弓状面でのスケートボード走行を実現 稀少疾患診断AI 数式画像 × 少数の実症例 画像で高精度の推定を実現 AIの機能安全に関する国際標準 ISO/IEC TR5469
4. 4 クリエイターの創作を助けるAIの実証実験：TEZUKA2023 人とAIの対話は物語構築に有効、「心情」表現はクリエイターが補う TEZUKA 2023 お披露目会資料より引用 詳しく正確に説明してくださっているサイト モリカトロンAIラボ https://morikatron.ai/2023/11/tezuka2023/ https://morikatron.ai/2023/11/tezuka2023/ AIはクリエイターを助けるもの、 「心」を描けるのは人間のみ 読者に訴える/感動を与える 作品となるには人の力が必須 制作作品もこちらでお読みいただけます https://www.nedo.go.jp/news/other/ZZCD_100061.html https://www.nedo.go.jp/news/other/ZZCD_100061.html
5. 5 教師データの権利問題を解決する数式生成教師データ 生成AIへの研究開始 → 数式画像 + クリエイター作品での個作AI? 数式生成教師データを利用し、 専門医に匹敵する膀胱内視鏡診断支援AIを実現 （2024/07/19 産総研が国際学会EMBCで発表） 大量に必要になる教師データを 機械的に生成 個別企業等が持つ少数のデータで 追加学習する 著作権やプライバシーなどの 権利侵害は原理的に起きない https://www.nikkei.com/article/DGXZQOUA3045L0Q4A130C2000000/ https://www.nikkei.com/article/DGXZQOUA3045L0Q4A130C2000000/ Big Data !! 現在、この技術で生成AIの教師データ を創る研究が始まっている 画像・音声で権利侵害のない生成AI基盤、産総研が開発へ (2024/02/19 日本経済新聞電子版） 図はNEDOプレスリリースより引用 （基盤モデル）
6. 6 AIシステムの「品質マネジメントガイドライン」の公開 現在は識別/認識AIが対象だが、今後生成AI利用システムにも拡大 図は機械学習品質マネジメントガイドライン第4版より引用 今後の課題は生成AI利用システムの品質管理 本ガイドラインの内容が多く反映された国際標準 AIの機能安全に関する技術報告書 ISO/IEC TR 5469 が公開された (2024/01/08） 民間企業への普及のため、NEDO特別講座を 開講中 （現在第2期開講中で、第3期受講生募集中） 合宿形式で議論することとし、現在参加者募集中 （テーマはLLM利用AIシステム） https://www.nedo.go.jp/events/CD_100201.html https://www.digiarc.aist.go.jp/publication/aiqm/ https://www.digiarc.aist.go.jp/publication/aiqm/ 現在のところ強制力はないが、企業の発注/受注時にガイド ラインに準じたAI品質管理が行われることが期待される
7. 7 経産省による生成AI利活用ガイドブックの公開（2024/7/5） 権利・利益の保護に配慮した コンテンツ制作における適切な利活用 図と文章は 経済産業省 「コンテンツ制作のための生成AI利活用ガイドブック」 より引用 「AIとうまく付き合い、共生する」 方針の下でまとめられた ガイドブックの表紙も生成AIを 利用して制作されている https://www.meti.go.jp/policy/mono_info_service/contents/aiguidebook.html https://www.meti.go.jp/policy/mono_info_service/contents/aiguidebook.html （ガイドブック P.05） （ガイドブック P.62） （ガイドブック P.04）
8. 上記はNEDO「成果報告書データベース」にて公開されている 8 生成AI利用時のリスク低減のために開発が期待される技術 「権利侵害のリスクを低減させるために開発すべき技術」を調査した 特に優先すべきリスク低減技術 概要 ヒューマン・イン・ザ・ループ 生成AIのモデルの学習や開発のループの中に人間による評価判断基準を フィードバックすることで、リスクを低減しつつモデルの性能を向上さ せる。 除外リストフィルタ （入出力データ） 除外リスト(権利侵害などの恐れがある除外候補のデータのリスト)と類 似しているデータを生成A Iの入出力データから除外する。 プロンプト・エンジニアリング 主にテキスト入力に従ってデータを生成するAIにおいて、入力するテキ ストの変更や再帰的な生成AIの実行など実行方法を工夫するなどの方法 により生成AIから目的に沿った出力を得られるようにする。 寄与推定 生成に寄与した学習データを推定する。 不可視的透かし 人間に知覚できない形でデータに情報(生成に使用したサービス名など) を埋め込み、所定の方法に従うことでその情報を抽出できるようにする。 NEDO 「ＡＩと著作権に関する技術動向調査（2023年度）」 報告書より 単なる類似性による判断ではなく、生成過程のアル ゴリズムに立脚した寄与度の判断が可能になれば、 著作権侵害の「依拠性」の推定に利用できる また、逆に権利者への利益の還元などを行う際の 判定にも利用できる可能性がある https://www.nedo.go.jp/library/database_index.html https://www.nedo.go.jp/library/database_index.html （成果報告書 P.83 No.15 寄与推定より引用）