死後の個人データのビジネス化 中川裕志 理化学研究所・革新知能統合研究センター IPSJ EIP研 2021年9月9日

Service URL Content Platform Emailfromd eath http://emailfromdeath.com/index.php Pre- recorded Email Dead Social http://deadsocial.org/ Pre- recorded Social Lives On https://twitter.com/_liveson?lang=en Algorithm Twitter Eterni.me eterni.me Algorithm n/a Futuris.tk Futuris.tk Pre- recorded Social Deathswitc h http://www.deathswitch.com/ Pre- recorded Email Great Goodbye http://www.greatgoodbye.com/ Pre- recorded Email AssetLock http://www.assetlock.net/ Pre- recorded Email Afternote http://www.afternote.com/ Pre- recorded Email Bcelebrate d http://www.bcelebrated.com/ Pre- recorded Email/Web Boxego http://www.boxego.com/ Pre- recorded Web Ghostmem o www.ghostmemo.com Pre- recorded Social GoneNotGo ne www.gonenotgone.com Pre- recorded Social Last Words 2 Love www.lastwords2love.com Pre- recorded Social MyWonder fulLife www.mywonderfullife.com Pre- recorded n/a MyGoodby eMessage www.mygoodbyemessage.com Pre- recorded n/a Postumo postumo.info Pre- recorded n/a Remember -Me www.remember-me.co Pre- recorded n/a SafeBeyon d www.safebeyond.com/ Pre- recorded n/a SayGoodb ye.Online saygoodbye.online/ Pre- recorded n/a Wishes Keeper www.wisheskeeper.com Pre- recorded n/a Xarona www.xarona.com Pre- recorded n/a If I Die https://twitter.com/ifidie Pre- recorded Social Virtual Eternity VirtualEternity.com Algorithm n/a Project Elysium - Algorithm n/a Loggacy www.loggacy.com Pre- recorded n/a Meminto meminto.com Pre- recorded n/a Leg8cy www.leg8cy.com Pre- recorded Social LifeNaut lifenaut.com Back-up n/a LifePosts www.lifeposts.com Pre- recorded n/a Öhman & Luciano Floridi(2017)に掲載されている死後の 個人データに関するサービスの約60個のリストの一部

Digital immortality Savin-Baden and David Burden 2017,2019 • Basic idea: 故人の生前のオンラインの利用履歴から故 人のパーソナリティに基づく行動をするAI • 故人のスタイルによるコメント生成もする • 運営している企業に金を払えば、 Digital immortalityとして生 き続ける • Self vs Identity : Self は固定されていない。多面的＋context依存な流 動的 Identities は、contextを追いかけかつオーバーラップ （時間的に積分）されていく

Recent developments in the area of digital immortality • Memory, Avatar, Persona: • 製作者は、生前の意図的／無意識的な行動を長期間観察、収 集して identithyを構築し • 死後はより広い外界に働きかける digitally immortal persona を 作成する

推論 計画 動機 感情 記憶 AIシステム 電子メール， SNS，画像，ビデオ， チャットなどでのやり とり データ収 集 人間のよ うな表示 電子メール， SNS，購買履歴，行動 履歴，購読したeBook 銀行口座の扱い， 購買や契約など 他の不死な ディジタル人 格 自然言語処理シ ステム 双方向インタラク ション An overview of digital immortality system

One way vs Two ways • One-way immortality ~ Facebook memorial. • 故人のオンラインのディジタル存在感は残るが、read-only • Two-way immortality ～ digital identity が外界とやりとりする • immortal “identity” が既成のルールと違う点 • ＝時々刻々と変化できる＋多様なやりとり手段(email, APIs, text chat)と 手段の間での情報共有 • 悪用対策法令：親が死んだ子供のimmortal “identity” を悪用（詐欺な ど）したら詐欺罪 (Fraud Act 2006),

A digital immortal を外部攻撃から守る手段 1. 複数コピー 2. モジュール構造 3. バックアップコピー：Identityの変化履歴を記憶 4. firewalls and anti-virus software 5. 利用者の認証 6. 統一かつ一貫 こういった手段は賢いdigital immortal は自動的に実施

Lifenaut (https://www.lifenaut.com/)

Lifenaut (https://www.lifenaut.com/) • Lifenaut は ‘mindfile(個人に関する詳細情報)’を構築する手段を提供. • Mindfile 構築法: • パーソナルプロファイルを486個の質問を行って validateする。 • 用心深さ，意識の高さ，気配り，協調性，社交性，面倒見の良さ • avatar との会話を通して、訂正機能付きの学習。 • Botで自動的収集できない本人の好みのモノ、URLなどを学習

Eternime (http://eterni.me/)

Eternime (http://eterni.me/) • 個人は、システムとの日常の相互作用を通じて、生前に自身の immortal を訓練する • 個人のpersonalityは、Facebook、Fitbit、Twitter、電子メール、写真、ビデ オ、および位置情報などの個人データからマイニングされ、パターンマッ チングとデータマイニングによるアルゴリズムで形成される

Virtual Barry

Virtual Barry • Virtual Barryは、約2年間にわたって反復的に構築される。 以下の 方法によって手動で情報を収集する 1. 対面インタビューとそれに続く音声文字変換 2. Skypeの音声とテキストチャットのインタビュー 3. 被験者が好きな時にいつでも質問に回答できるように、インタビューアプ リケーションにロードされた質問を蓄積し，これを使って回答する 4. 顧客、プロジェクト、従業員などのトピックに関する一貫したデータ収集 を確実にするためのスプレッドシートグリッドを完成させる 5. 被験者の携帯電話、ウェブブラウザ、名簿、カレンダーから厳選された データをインポートする 6. 本人によって投稿されたSNSでのエンティティ抽出 • これらの目的には機械学習が使用される

• 個々のデジタルレガシーの記憶と呼び出しは、以下の3方法 1. 死者のコンテンツは、故人の意図なしに活性化される． その結果、「デジタルゾンビ」または「落ち着きのない死者」が作成され ます。 2. 基本的なオンラインアカウントは、個々の死後のイメージを保持する「デ ジタルレガシー」として管理 • より高度なサービスは完全な自己文書化を提供します。 • 例：Lifenaut（ digital ‘one-way immortality’ ） 3. デジタルテクノロジーは、データと機械学習を組み合わせて、 digital ‘two- way immortality’を提供する仮想アバターを作成 • このようなdigital immortalityは、人間を単に「データのパターン」またはcybersoul とし て表現する Priscilla ULGUIM 2018 Internet ghost  memorialized

Priscilla ULGUIM 2018 Internet ghost  memorialized An example of the impact of ‘live’ user accounts for deceased users – a.k.a. “Internet Ghosts” (Facebook) An example of a memorialized Facebook profile as of 2018.

• デジタル手段を使用した死者に関する考古学的コンテンツの扱いを参考に する ‘Digital public mortuary archaeology’ (DPMA) • 人間の遺体をオンラインで公開するための倫理的慣行は、激しい議論の対 象 • たとえば2013年の高等教育アカデミー（HEA）イベント、2015年のヨーロッパ考古 学者協会 • 多くのモデルにコンテキスト化データがほとんどない Ulguim（2018） • 3D画像の一部には数千のビューがあり、パブリックダウンロードでき、 • 再利用、自由な変更、3D印刷 が可能 • このような「文書化が不十分な」コレクションは、「研究や教育での使用、 および一般市民の関与のためのツールとしての価値がほとんどないため、 悪用ができる • このようなコレクションの価値が低いと、一般的な倫理ガイドラインが損なわれる

Tero Karppi: DEATH PROOF 2013 • Facebookは、死んだユーザーアカウントが削除されることを望まない • 実際、Facebookは、サイト上の故人のすべてのユーザーアカウントを削除 するのではなく、メモリアライズすることを望む • 参加型Webビジネスモデルにとって、単なる死者のデータは無駄 • 故人のデータに何が起こり、それがどのようにプラットフォームの一部に なるかが問題 • (Wikipedia)Noopolitics is an informational strategy of manipulating international processes through the forming in the general public, by means of mass media, of positive or negative attitudes to the external or internal policies of a state or block of states, to create a positive or negative image of ideas and promulgated moral values.

• オンラインで死者を悼むプラットフォームは、他のノードや他のagency に開放さ れたノード。 • ユーザープロファイルの導入以来、故人のMemorial pages とmemorialized user accountsは、自分自身ではなく、関連付けられている接続のネットワークによって 定義される一時的な通過点 • 死んだユーザープロファイルのmemorial accountsへの変換は、それらを「物事 化」 経済的価値や交換可能な価値になる • 死者自身は行動に参加したり、物事を共有したり、ユーザー情報の蓄積に直接 貢献しないが、他のユーザーが参加するためのナビゲーションポイントになる． • ときにはユーザとの対話アクションによって死者を表現する記憶も変わっていく．

Carl Öhman & Luciano Floridi: The Political Economy of Death in the Age of Information: A Critical Approach to the Digital Afterlife Industry  現状に超批判的 • Digital Afterlife Industry（DAI）=オンラインの死を収益化するための デジタル遺産のオンライン使用を伴う商品またはサービスを生産す る事業 • DAIのインセンティブ＝故人の情報的身体（ informational bodies） と呼ばれるものを改変すること • これは、人間の尊厳の原則に違反とみなされる

A) 情報管理サービス、 • デジタル資産管理 B) オンラインメモリアルサービス、 • ユーザーが死亡した場合は、指定された受信者にオンラインメッセー ジまたはその他のデジタル通信コンテンツを配信 C) 死後のメッセージングサービス • 亡くなった個人またはグループが喪に服したり、思い出したりするた めのオンラインスペースを提供します。 D) 再作成サービス。 • 死んだ人の社会的行動を複製する新しいコンテンツを生成 （Eter9）

企業Aが故人の真実に沿ったバージョンを表示し、 一方、企業Bが最も「消耗品」のバージョンを表示す る。  どう見ても企業Bがより大きな市場での成功を収め るだろう • DAIの倫理的側面と経済的側面は、 情報的身体を保持することと対立する ことあり • 故人が価値生成の過程で使用されるとき、死んだインターネットユーザー は、生きている人々から稼ぐための生命活動（すなわち労働）を行う不死 のagencyとなる

嘆かわしい実態 • Unilad.com • 開いた棺桶を撮った写真を用いた葬儀が公開された • 自分の顔を故人と交換するためのSnapchatフィルター（Roberts 2016） • 犬の鼻と耳も同じアプリケーションを使用して冗談めかして追加された • 2日足らずで、この記事は大きな注目を集めた。7500を超えるシェアがあり、 • 質問‘‘how fucked up is this on a scale of one to absolutely fucked?’’ に対して、ほぼ 46,000票が投票されました。 Unilad.comにとっての大きな収益となった • 故人の肉体は手つかずのままでしたが、 情報的身体の一部（デジタル画像）が 変更され、商取引の名の下に配布された  死者の尊厳の冒涜

The ‘new(ish)’ property, informational bodies and postmortality: Harbinja 2018 広義の死後の プライバシー 基本的価値：プライバ シー，尊厳，自律性， 整合性 情報的身体 代理サイトによる不死 狭義の死後の プライバシー

Post-mortem(al) privacy laws • 2018年英国データ保護法では、個人データを「生きている個人 に関連するデータ」と定義、死後の権利を否定 • （GDPR）、 Recital 27では、加盟国が故人のデータの保護を導 入することを許可 • The US Electronic Communications Privacy Act of 1986 (ECPA)は、 裁判所の命令なしにユーザーの個人的な通信の開示を禁止 • 一部の州では、いわゆる「人格権」の保護を規定 • The Revised Uniform Fiduciary Access to Digital Assets Act (RUFADAA) • 故人のPFのサービスを介した指示は遺言を上回る． • この法律は、故人の代理人に、連邦プライバシー法によって保護され ていない電子通信およびその他のデジタル資産の「カタログ」へのデ フォルトのアクセスを許可

ご清聴ありがとうございました JST-RISTEXの人と情報のエコ領域の日英共同受託研究「PATH-AI] 代表者 中川と 科研費基盤（B) 「情報ネットワーク社会における「死」の再定義」 代表者 折田明子 の研究の一環として行った．

３.ディジタル不死 関連論文 • Tero Karppi: DEATH PROOF: ON THE BIOPOLITICS AND NOOPOLITICS OF MEMORIALIZING DEAD FACEBOOK USERS. CULTURE MACHINE VOL 14 • 2013. https://culturemachine.net/wp-content/uploads/2019/05/513-1161-1-PB.pdf •Maggi Savin-Baden, David Burden, Helen Taylor: THE ETHICS AND IMPACT OF DIGITAL IMMORTALITY. Knowledge Cultures 5(2), 2017. pp. 11–29, ISSN 2327-5731, eISSN 2375-6527 • Maggi Savin-Baden and David Burden: Digital Immortality and Virtual Humans. Postdigital Science and Education (2019) 1:87–103 https://doi.org/10.1007/s42438-018- 0007-6 • この論文が中川のパーソナルAIエージェントに一番近いアイデアのアバターを生 前から学習して構築する。サービスやプログラムの実例 Lifenaut, Eternime, Virtual Barry • • Priscilla ULGUIM: Digital Remains Made Public:Sharing the Dead Online and our Future Digital Mortuary Landscape. AP: Online Journal in Public Archaeology Special Volume 3 - 2018 p. 153-176

３.ディジタル不死 関連論文 • Sandi S. Varnado: Your Digital Footprint Left Behind at Death: An Illustration of Technology Leaving the Law Behind. Louisiana Law Review, Volume 74 Number 3, Article 7. Spring 2014. https://digitalcommons.law.lsu.edu/lalrev/vol74/iss3/7 • Luciano Floridi: On Human Dignity as a Foundation for the Right to Privacy. Philos. Technol. (2016) 29:307–312. DOI 10.1007/s13347-016-0220-8 • Carl O¨ hman, Luciano Floridi: The Political Economy of Death in the Age of Information: A Critical Approach to the Digital Afterlife Industry. Minds Machines (2017) 27:639–662 • https://doi.org/10.1007/s11023-017-9445-2 • Edina Harbinja: The ‘new(ish)’ property, informational bodies and postmortality. in Maggi Savin-Baden and Victoria Mason-Robbie, eds, Digital Afterlife : Death Matters in a Digital Age, chap 4. (2020) Taylor and Francis Ltd,

１．故人のプライバシーの保護 関連論文 • Robert P. Kennedy：The Right to Privacy in the Name, Reputation and Personality of a Deceased Relative, Notre Dame Law Review,40(3) Article 6, p.324-329. 1965 • Edina Harbinja:Does the EU Data Protection Regime Protect Post-Mortem Privacy and What Could Be The Potential Alternatives? – SCRIPTed, A Journal of Law, Technology Society, p.19-38. 2013. https://script-ed.org/article/eu-data-protection-regime-protect- post-mortem-privacy-potential-alternatives/ 1/21 • Edwards, L., and E. Harbinja. 2013a. “Protecting Post-mortem Privacy: Reconsidering the Privacy Interests of the Deceased in a Digital World.” Cardozo Arts Entertainment Law Journal 32 (1): 83–129. • Winter, S. :Against posthumous rights. Journal of Applied Philosophy, 27(2), p.186–199. 2010. doi: 10.1111/j.1468-5930.2009.00477.x • Molly Wilkens, Note – Privacy and Security During Life, Access After Death: Are They Mutually Exclusive?, 62 Hastings L.J. 1037 -1064,. (2011).

１．故人のプライバシーの保護 関連論文 • Edina Harbinja:Post-mortem privacy 2.0: theory, law, and technology, INTERNATIONAL REVIEW OF LAW, COMPUTERS TECHNOLOGY, 31(1), p. 26–42, 2017. http://dx.doi.org/10.1080/13600869.2017.1275116 • Elaine Kasket: Being-Towards-Death In The Digital Age. Existential Analysis 23.2: p.249-262.July 2012 • J. C. Buitelaar: Post-mortem privacy and informational self-determination, Ethics and Information Technology, 19(2), p. 129-142. 2017. https://link.springer.com/article/10.1007/s10676-017-9421-9 • Natasha Chu: Protecting Privacy after Death, Northwestern Journal of Technology and Intellectual Property,Volume 13 | Issue 2 Article 8, 2015 • Sofka, A. Gibson and D. Silberman: Digital immortality or digital death? Contemplating digital end-of-life planning, in Postmortal Society Towards a Socilogy of Immortality, edit. M.H. Jaccbsen, Routledge, NY, p.173-196. 2017. • Akiko Orita: Victim's Social Media on Television: Examining the privacy of the deceased,14th International Conference on the Social Context of Death, Dying and Disposal, University of Bath, Sep.2019.

２.ペルソナ、AIエージェントの法的位置づけ 関連論文 • Lawrence B. Solum, Legal Personhood for Artificial Intelligences, 70 N.C. L. Rev. 1231 (1992). • Burkhard Schafer: ZOMBAIS: LEGAL EXPERT SYSTEMS AS REPRESENTATIVES“BEYOND THE GRAVE”Scripted Volume 7, Issue 2, 384-393. August 2010 • Gunther Teubner: Rights of Non-humans? Electronic Agents and Animals as New Actors. Max Weber Lecture Series, MWP 2007/04 in Politics and Law Lecture Delivered January 17th 2007 • Samir Chopra and Laurence F. White: A Legal Theory for Autonomous Artificial Agents. THE UNIVERSITY OF MICHIGAN PRESS. Ann Arbor. 2011 • Ugo Pagallo: The Laws of Robots-Crimes, Contracts, and Torts, Springer, 2013

２.ペルソナ、AIエージェントの法的位置づけ 関連論文 • Solum, Lawrence B., Artificially Intelligent Law (February 14, 2019). Available at SSRN: http://dx.doi.org/10.2139/ssrn.3337696 or http://dx.doi.org/10.2139/ssrn.3337696 • Hartini Saripan, Nurus Sakinatul Fikriah Mohd Shith Putera: Are Robots Human? A Review of the Legal Personality Model. World Applied Sciences Journal 34 (6): 824-831, 2016. ISSN 1818-4952 • The IEEE Global Initiative on Ethics of Autonomous and Intelligent Systems. Ethically Aligned Design (first edition):A Vision for Prioritizing Human Well- being with Autonomous and Intelligent Systems. 2019. (https://ethicsinaction.ieee.org/)

研究の流れ 1. 故人のプライバシーの保護  故人の個人データを管理するペ ルソナへの流れ • Facebook の レガシーコンタクトとmemorial account は一つの成果 2. 故人の個人データを管理運用するペルソナあるいはAIエー ジェントの法的位置づけの議論 • AIエージェントの人格、法人格などを与える必然性の議論 3. ディジタル不死の実現と開発状況と商業主義への批判

Digital Immortality • 運営している企業に金を払えば、 Digital immortalityとして生き続ける • 故人に整合するモデルとしての illusion を維持し続ける • 必ずしも「意識」を生成しなくてもよい • 個人のデータは (emails, voicemails, blog posts, global positioning traces, bank transactions)などを追跡、収集して形成され、それを使って個人のモデルの パラメタが学習されていく

• digital immortalityを個人が行使する資産の管理に関するものと 見なすと、個人は無期限に管理と影響力を行使できる。 お金があればですが、 digital immortalityによってお金を稼ぐことも可能

A digital immortal あるはその作成者が外部 攻撃から守る手段 1. Multiple copies and high levels of redundancy 2. A modular, federated structure to minimise any damage 3. Back-up copies 4. High levels of firewalls and anti-virus software. Monitoring and defences 5. High levels of user authentication for those with privileged access to the digital immortality 6. High levels of integrity/consistency checking to ensure that no code or data has become corrupted. こういった手段は賢いdigital immortal は自動的に実施

• オンラインで死者を悼むプラットフォームは、他のノードや他のagency に開放さ れたノード。 • Memorial pages とmemorialized user accountsは、Latour の actor networkの概 念と協調する。ユーザープロファイルの導入以来、個人は、自分自身ではなく、 関連付けられている接続のネットワークによって定義される一時的な通過点 • Memorial pages とmemorialized user accountsのpoliticsは、個人を代表する politicsではなく • 個人は、Facebookやソーシャルメディアプラットフォームが機能し続けるための、 このデータの集合とメモリの活性化のほんの一部分 • 死んだユーザープロファイルのmemorial accountsへの変換は、それらを「物事 化」 • ユーザープロファイルが物事になると、個人的または文化的な価値だけでなく、 使用価値や交換可能な価値になる • 死者自身は行動に参加したり、物事を共有したり、ユーザー情報の蓄積に直接 貢献しないが、他のユーザーが参加するためのナビゲーションポイントになる

• Biopolitics and Noopolitics. • Biopoliticsは、人口の経済的、生物学的、精神的な生活に取り組むpolitics • Noopoliticshaは、政治と、仲介されたテクノロジーを通じて生き方、感情、考え方、行動に取り組 むpolitics Noopoliticsの目的は集団行動を制御し、集団的知性を構築すること • 故人は大衆を一つにまとめるためのもの • memorial accounts や memorial pagesを、ユーザーが集まって喪に服するための 単なる場所としてとらえるべきではなく、ユーザーの行動、思考、行動に影響を 与える能力を持つagencyとして解釈べき • 本質的なことは、 • 故人を思い出す際にそれらの閲覧者をガイドするのではなく、 • 故人のメモリと閲覧者の対話によってメモリの変容 • この記憶の変容とそれを利用して新しいものを作り出すことは、 Noopoliticsの 最も重要な機能

Carl Öhman & Luciano Floridi: The Political Economy of Death in the Age of Information: A Critical Approach to the Digital Afterlife Industry  現状に超批判的 • Digital Afterlife Industry（DAI）=オンラインの死を収益化するためのデジ タル遺産のオンライン使用を伴う商品またはサービスを生産する事業 • DAIのインセンティブ＝故人の「 informational bodies 」と呼ばれるもの を改変すること • これは、人間の尊厳の原則に違反とみなされる • ほとんどのユーザー生成コンテンツは、それが保存されているプラット フォームによって共有されている •  インターネット企業は、多くの場合、死亡時にユーザー情報に対する完全な権利 を取得 •  デジタル政策学者は、データ遺産をめぐる紛争に対処するために必要な法律の欠 如を繰り返し強調してきた • （Carrolletal。2015; Laouris 2015; McCallig 2013;Mayer-Scho¨nberger2009）

嘆かわしい実態 • 死んだユーザーがいわゆる「Niners」と呼ばれてソーシャルネットワーク 上で生き続ける • Ninersはユーザーの行動を複製し、ユーザーがオフラインまたは死亡した ときにアカウントを管理するAIエージェント（Eter9.com2016） • 死者のデジタル遺体との相互作用を増やすために（Niners） • その相互作用を可能な限り消費可能にするため。

• 故人が価値生成の過程で使用されるとき、死んだインターネットユーザー は、生きている人々から稼ぐための生命活動（すなわち労働）を行う不死 のagencyとなる • 企業Aが故人の真実に沿ったバージョンを表示し、 • 一方、企業Bが最も「消耗品」のバージョンを表示する。 •  どう見ても企業Bがより大きな市場での成功を収めるだろう • Floridian ethics: 人間は自身に関する情報であり、人間の個人データはそ の人の私たちのinformational body • 死者の存在を仲介する技術の役割は人間の慣行に埋め込まれ、 •  人間の慣行は倫理的意思決定の問題 • DAIの倫理的側面と経済的側面は、 informational bodyで交差している

The ‘new(ish)’ property, informational bodies and postmortality: Harbinja 2018 • 財産および「新しい」新しい財産と してのデジタル資産の古典的な概念 化 • Floridiの概念：informational bodies と の新しいリンクを導入 • 人間は、記憶、生体情報、検索履歴、 ソーシャルメディアデータなど、ア イデンティティを定義する情報を通 じて構成され、存在する • 死後の人体の扱いとの類推から、 dignity and autonomyに支えられた informational bodiesにも同じ扱いを する必要あり 広義の死後の プライバシー 基本的価値：プ ライバシー，尊 厳，自律性，整 合性 情報的身体 代理サイトによ る不死 狭義の死後の プライバシー