炎上しないためのパーソナル データの扱い方 Actionable AI 第３回 by かみしー 2019/11/27 1

発表内容について • コンプライアンス遵守に関する、何らかの法的見解を示すも のではありません。 • 発表内容はすべて個人の見解であり、発表者の勤務先の見解 や、参加する団体の見解と一致するものではありません。 2

発表者 自己紹介 • かみしー a.k.a. プロフェッサー • マクニカネットワークス・AIソリューション部所属 • 昨年７月まで、事務機器メーカーでサービスソフトウェア開発に従事 • 転職後しばらく、ソフトウェア開発パイロットプロジェクトに参画 • 本年６月以降は、AIソリューション提供におけるコンプライアンス・ガバナンスな どの調査にあたる • JDMC（日本データマネージメントコンソーシアム）の活動にも参加 • 6月より「AI・データ活用のためのコンプライアンス研究会」メンバー 3 イラスト提供（以降別記なき場合） イラストイメージ ©DESIGNALIKIE, Limited. https://illustimage.com/

炎上しない秘訣！ずばり！ • すみません！そんな秘訣はありません… • こんなことしていると炎上するよ！ • そもそもコンプライアンスってなんで重要なんでしたっけ？ 誰だって炎上はしたくないけど、それだけが目的ですか？ • ということを考え直すきっかけとしてもらいたいと思い、炎 上という表現を使わせてもらいました。 4

本日お伝えしたいこと • サービスを安心して使ってもらうこと。 コンプライアンスとは • 直接的・間接的な便益を利用者に感じてもらうこと が必要。 安心してもらうには • サービスのデザイン全般において、プライバシーに 配慮することが必要。 便益を感じてもらうには • サービスデザインの取り組みとして、エンジニアが 主導すべき余地が多分にある。 それを実現するには 5

AI・データ活用とコンプライアンス • AI・データ活用に携わる中で、コンプライアンスは悩ましい。 • 「やらされ感」や 「もやもや」を感じたりしていませんか？ • 特に、システムを開発・運用する上でのパーソナルデータの取り扱い。 • コンプライアンスに不備があると… 「事故」 発生！ 社会的信用の失墜、業 務停止、賠償被害など あまり付き合いたくな い、と思われる 6

法令遵守についても一応見ておくか • 個人情報保護法*1は、活用と保護の両立を図ることを基本方針 として、そのための適正な取り扱いを求めています。 • 適正な取り扱いの中心にあるのは、目的に沿った利用です。 • 個人情報を取得する際には目的を明示したうえで、必要な範囲の情報 のみを取得し、明示したもの以外の目的で利用しないこと。 • この考え方は、EUのGDPR*2での原則でも同様です。 7 *1 個人情報の保護に関する基本方針 link *2 GDPR（一般データ保護規則）の参考訳 link

コンプライアンス大事、わかったけれども… • コンプライアンス？法務部門が考えればいいよね。 • そう考えていた時代が私にもありました！ • でも開発や運用で苦労するのは自分たちエンジニアだし… • 調べてみると、エンジニアこそ、知るべき・取り組むべきコ ンプライアンスもあるらしい？ 8

コンプライアンスの目的 • 「法令のみならず、定款・社内規定などの社内法規、ひいて は社会常識や倫理観に則って行動すること」zzz… • 皆さんの願いは、つまるところ、苦労して作ったサービスを たくさんの利用者に使っていただきたいのでは？ • コンプライアンス＝サービスを利用者に安心して使っていた だくこと、と考えるとどうでしょう？ 9 いま寝た！？

受容されやすいデータの活用についての調査 • 消費者によるパーソナルデータの提供意向に関する調査結果*。 • 情報の提供のみを直接的に求められると抵抗が大きい。 • 一方、便益を感じられる場面では、関心・ニーズに応じて提 供もやぶさかではない。 • 便益には、サービス利用や金品の受領といった直接的なものも、防災 のためといった公共的な貢献を通じた間接的なものも含む。 10 * 首相官邸 ＩＴ総合戦略本部 官民データ活用推進基本計画実行委員会 データ流通・活用ワーキンググループ link

コンプライアンス本来の目的を実現するための サービス・デザイン • 利用者に安心して使っていただくことを第一に考え、実現す ることこそがコンプライアンス本来の目的。また、その上で 便益を感じてもらえば、そのサービスは広く受け入れられる はず。 • でもどうすれば、そういったサービスが実現できるか？ • そうやって調べていって行き当たったのが、プライバシー・ バイ・デザインという考え方。 11

プライバシー・バイ・デザイン • Ann Cavoukian博士＊1が1990年代に提唱した概念。 • 「技術の設計仕様にプライバシーの考え方を内包する哲学と、 その手法」 • 国内外の規制当局も参照しているため、プライバシー・バ イ・デザインを実践することが、規制への準拠にもつながる。 12 *1 前 カナダオンタリオ州 情報＆プライバシーコミッショナー © 2013 Laurelrusswurm CC BY 3.0

プライバシー・バイ・デザインの適用範囲と基本原則 適用範囲 「プライバシー・バイ・デザイン は、幅 広く適用されるべき三つの側面に拡大する。 それらは、 １）ITシステム ２）責任あるビジネス・プラクティス ３）物理的設計とネットワーク基盤 である。 」 7つの基本原則 1. 事後的ではなく、事前的; 救済的でなく予防的 2. 初期設定としてのプライバシー 3. デザインに組み込まれるプライバシー 4. 全機能的 — ゼロサムではなく、ポジティブサム 5. 最初から最後までのセキュリティ — すべてのライ フサイクルを保護 6. 可視性と透明性 — 公開 の維持 7. 利用者のプライバシーの尊重 — 利用者中心主義を 維持する 13 http://www.soumu.go.jp/main_content/000196322.pdf

プライバシー・バイ・デザインの実践例 • Webサイトデザインでの実践的なヒント：明確な通知、ジャ ストインタイム通知、デフォルトで安全、データの最小化 • GDPR準拠 ＝ ユーザーに安心感を与えること PbDのUIデザイ ン戦略への統合* 14 * Integrating Privacy by Design Into Your UI Design Strategy link パブリック・ドメイン ジャストインタイム通知の例

プライバシー・バイ・デザインの実践例 • 混雑状況をカメラ映像から確認 • 認識した人物に移動方向を示すアイコンを合成 カメラ映像による 人流分析システム* 15 * パーソナルデータの利活用における日立のプライバシー保護の取り組み link

あの事件も防げたかも！？ •ビジネス検討・商品設計からリリースまで〈のフローで〉学生の視点やリス クの観点を盛り込んだ複眼的なチェックポイントを設ける【対応策①】 •「プライバシーポリシー改定を行う本来の目的」〈…〉について把握し〈統 合的に判断する〉プライバシー責任者を設置【対応策③】 プレスリリース*1より •AIプロファイリングを拒否するユーザーに対して、サービスを使えないとする のではなく、サービスを利用継続できるような仕組み •プロファイリングを実施することがユーザーの利益につながることを、あら かじめユーザーに理解してもらう 外部法律専門家による指摘*2より 16 1. 事前的; 予防的 2. 初期設定としての～ 3. デザインに組み込ま れる～ 4. ポジティブサム 5. すべてのライフサイ クルを保護 6. 公開 の維持 7. 利用者中心主義 *1 『リクナビDMPフォロー』に係る当社に対する勧告等について *2 リクナビ「内定辞退率」データ提供の法的論点まとめと、プロファイリングの法的問題について | STORIA法律事務所

おさらい • コンプライアンスとは、サービスを安心して使ってもらうこと。 • 安心してもらうには、便益を利用者に感じてもらうことが必要。 • そのためには、サービスのデザイン全般において、プライバシーに 配慮することが必要。 • エンジニアのみなさんも、取り組んでみるのはどうでしょうか。 17

そういえば炎上しない秘訣、どうなった？ • 冒頭で炎上しない秘訣などないと述べましたが… • でも、ここまでお伝えしたことは、炎上しないためのヒント にもなっていないでしょうか？ • 利用者の立場に立って、安心を与えるサービスを誠実にデザ インして運用すること、これこそが秘訣だとも言えます。 18

ありがとうございました！ 19