FCCテクノ_AIリテラシー研修_リスク回避.pdf

Transcript

1. 第2回AIリテラシー研修：リスク回避/ガイドライン説明会 2025年7⽉25⽇
2. イントロダクション 1
3. プロンプトエンジニアリング研修後… 2 イントロダクション ⽣成AI活⽤促進できていますか？ 以前より意識して活⽤し始めた⽅はリアクションをお願いします！
4. 3 皆さんの声 リスクを回避して安全に利⽤できるための基礎研修 ホワイトリストが あると嬉しい 何をして良い/ダメなの かがわからない
5. 4 本⽇のゴール/アジェンダ ü ⽣成AIを活⽤するうえでのリスクと回避策を理解する ü ⽣成AIガイドラインの内容を理解し、安全に活⽤できる⼟壌を作る • イントロダクション：5分 • ⽣成AIの3⼤リスクと回避策：10分 • ⽣成AIガイドライン/⼿続き関連の説明：30分 • まとめ：5分 ▼アジェンダ 本⽇のゴール
6. ⽣成AIの3⼤リスクと回避策 5
7. 6 ⽣成AIのリスク ⽣成AIの利⽤において どのようなリスクがあると思いますか？ チャットでお答えください！
8. ⽣成AIのリスクは「情報リスク」「法的リスク」「品質リスク」の3つに⼤別されます。 7 ⽣成AIの3⼤リスク ①情報リスク ⽣成AIは⼊⼒内容を学習基盤へ送信 する場合があり、再利⽤・漏洩の恐 れ。 ②法的リスク ⼊⼒も出⼒も権利者の許諾有無が問 われる。特に⽣成物の⼆次利⽤時は 再帰的に責任が発⽣。 ③品質リスク LLMはもっともらしい嘘や偏⾒を⽣ 成する。利⽤者が鵜呑みにすると業 務へ直接ダメージ。 • 仕様書をコピペ → 機密漏洩 • 顧客情報⼊りメールを翻訳 → 個⼈情報漏洩 • 未公開プロジェクト名を⼊⼒ → 情報流出 • 有料記事を貼付 → 著作権侵害 • 有名キャラ⾵画像 → 商標・著作権侵害 • 芸能⼈の写真使⽤ → 肖像権侵害 • 存在しない法令⽣成 → 誤情報拡散 • 性別で応答差 → 差別・炎上 • 株価誤掲載 → 市場混乱
9. • ⽣成AIに⼊⼒した情報が、AIの学習データに使わ れてしまう危険性 • 第三者がAIを利⽤した際に学習された情報が出⼒ されてしまう恐れ • 特に無料AIは、設定/仕様によっては⼊⼒内容が AIの学習対象となるため要注意。 リスク概要 8 ⽣成AIの3⼤リスク：①情報リスク ①情報 ②法的 ③品質 情報リスク
10. 情報リスク発⽣の仕組み 9 ⽣成AIの3⼤リスク：①情報リスク ①情報 ②法的 ③品質 無料版は初期設定でオン
11. 10 XX株式会社と〜〜 の契約を結び… XX株式会社はFCC テクノと〜〜の契 約を結んでいる。 学習 出⼒
12. 法的リスク概要 11 ⽣成AIの3⼤リスク：②法的リスク ①情報 ②法的 ③品質 権利 法律 ⽣成AI リスク 例 個⼈情報保護法 特定個⼈を識別できる情報の取 扱いを制限・規制。 商標権 登録されたロゴや商品名など を独占的に使う権利。 不正競争防⽌法（営業秘密） 秘密管理された営業情報など を不正使⽤・開⽰する⾏為を 禁⽌。 権利侵害/違法⾏為 企業ロゴなど商標登録された ものに似ている画像の利⽤で 侵害の可能性。 偶然似た場合でも権利侵害と なる可能性。 ⽒名・メール・顔写真をプロ ンプトに⼊⼒ → 違法処理になる可能性。 学習済モデルに個⼈情報が含 まれることも問題視されてい る。 社内マニュアル・取引情報 などをAIに⼊⼒し、外部 サーバに送信＝漏洩リスク。 競合による再利⽤で問題化。
13. 法的リスクの仕組み 12 ⽣成AIの3⼤リスク：②法的リスク ①情報 ②法的 ③品質 ⼊⼒情報 出⼒情報 ⽣成物 ⼊⼒情報の内容が不適切な場合でも、出⼒結果が偶然⼀致した場合でも 権利侵害/違法⾏為となるの可能性がある
14. 法的リスクの事例と影響 13 Samsung、従業員がChatGPTに社内情報を流出させるトラブル | 財経新聞 ⽣成AIの3⼤リスク：①情報リスク ①情報 ②法的 ③品質 不正競争防⽌法（営業秘密） サムスン半導体部⾨のエンジニア3名が、 ソースコードや会議議事録をChatGPTに⼊ ⼒し外部サーバに送信 → 機密情報が流出 公表された賠償額はないものの、営業秘密 の不正提供は刑事罰（最⼤10年懲役・3000 万円罰⾦）の対象 Samsungの営業秘密流出
15. Geminiの例 14 ⽣成AIの3⼤リスク：①情報リスク ▼Google Gemini ヘルプページより ①情報 ②法的 ③品質
16. リスク概要 15 ⽣成AIの3⼤リスク：③品質リスク ①情報 ②法的 ③品質 FCCテクノの代表 取締役は緒⽅伸⼀ ⽒であり、、 • ハルシネーション（幻想） • ⽣成AIが事実に基づかない誤った情報を⽣成 する現象 • バイアス（偏り） • AIが学習データの偏りに影響されて不公平ま たは歪んだ結果を⽣み出す 例）⼈種/性別など 品質リスク
17. 原因（再掲） 16 ⽣成AIの3⼤リスク：③品質リスク • ⽣成AIのベースとなる技術 • インターネット上の⼤量のテキストデータを使っ て、単語や⽂の出現パターンを統計的に学習する ことで作られる • ⽂脈に応じた意味理解や⽣成ができるようになる LLM（Large Language Model：⼤規模⾔語モデル） 【LLMは⽂脈に応じて次に来る確率の⾼い⾔葉を⽣成する】 例） 明⽇は天気がいいので… 公園に⾏こうと思います。 洗濯をしようと思います。 会議があります。 35% 20% 0.1% ⽣成確率 ⽣成テキスト 晴れ⇒外出 の⽂脈 晴れ⇒乾く の⽂脈 天気と会議発⽣の関係は薄い（⼀般論では） このランダム性が ハルシネーションを起こす要因に ①情報 ②法的 ③品質
18. 想定事例と影響 17 ⽣成AIの3⼤リスク：①情報リスク ①情報 ②法的 ③品質 ⽣成物 ⽣成物の内容を鵜呑みに… 社会的信⽤の低下 誤情報の拡散・企業や政府の利⽤不振・誤った結果への依存…
19. 18 ⽣成AIのリスク回避策 情報リスク 法的リスク 品質リスク 3⼤リスク 回避策 ①技術的回避 ②組織的回避 ③⼈的回避 ？？
20. 19 ⽣成AIのリスク回避策 情報リスク 法的リスク 品質リスク 3⼤リスク 回避策 ①技術的回避 ②組織的回避 ③⼈的回避
21. 20 ▪技術的回避 • ツールホワイトリスト • ChatGPT Teamプランの推奨 • 学習Offの設定徹底 ▪組織的回避 • ガイドラインの制定 ▪⼈的回避 • リテラシー研修
22. ⽣成AIガイドライン/⼿続き関連の説明 21
23. 22 ⽣成AIガイドライン ガイドライン作成しました 詳細はガイドラインを⾒ながら説明します。