本人死後のサイバネティック・ アバターに関する考察 中川裕志 理化学研究所・革新知能統合研究センター 2022年9月1日 情報処理 学会 EIP研究会にて発表

Service URL Content Platform Emailfromd eath http://emailfromdeath.com/index.php Pre- recorded Email Dead Social http://deadsocial.org/ Pre- recorded Social Lives On https://twitter.com/_liveson?lang=en Algorithm Twitter Eterni.me eterni.me Algorithm n/a Futuris.tk Futuris.tk Pre- recorded Social Deathswitc h http://www.deathswitch.com/ Pre- recorded Email Great Goodbye http://www.greatgoodbye.com/ Pre- recorded Email AssetLock http://www.assetlock.net/ Pre- recorded Email Afternote http://www.afternote.com/ Pre- recorded Email Bcelebrate d http://www.bcelebrated.com/ Pre- recorded Email/Web Boxego http://www.boxego.com/ Pre- recorded Web Ghostmem o www.ghostmemo.com Pre- recorded Social GoneNotGo ne www.gonenotgone.com Pre- recorded Social Last Words 2 Love www.lastwords2love.com Pre- recorded Social MyWonder fulLife www.mywonderfullife.com Pre- recorded n/a MyGoodby eMessage www.mygoodbyemessage.com Pre- recorded n/a Postumo postumo.info Pre- recorded n/a Remember -Me www.remember-me.co Pre- recorded n/a SafeBeyon d www.safebeyond.com/ Pre- recorded n/a SayGoodb ye.Online saygoodbye.online/ Pre- recorded n/a Wishes Keeper www.wisheskeeper.com Pre- recorded n/a Xarona www.xarona.com Pre- recorded n/a If I Die https://twitter.com/ifidie Pre- recorded Social Virtual Eternity VirtualEternity.com Algorithm n/a Project Elysium - Algorithm n/a Loggacy www.loggacy.com Pre- recorded n/a Meminto meminto.com Pre- recorded n/a Leg8cy www.leg8cy.com Pre- recorded Social LifeNaut lifenaut.com Back-up n/a LifePosts www.lifeposts.com Pre- recorded n/a Öhman & Luciano Floridi(2017)に掲載されている死後の 個人データに関するサービスの約60個のリストの一部 死後の個人データを対象 にしたの公開利用の ビジネスが既に多数存在 背景

登場するエンティティ（自然人とAIソフト） • 本人 • 本人の代理のAIエージェントやアバター：本体 • インターネット越しの他者エンティティ

トラスト トラスト 本人 事業者 Internet CAのいない世界 エンティティ間のトラストはID認証のよって作られる アイデンティ（IDと略記）はエンティティを同定できる情報 アイデンティティーの認証は以下の国際標準などによる エンティティ認証：FIDO 2.0 ID連携認証：OpenID Connect 1.0 アクセス認証：OAuth 2.0

トラスト 本人 CA 他者エンティティ インター ネット トラスト トラスト トラスト 本人死後のサイバネティック・アバター 本人生存中  ディジタル アイデンティティー  エンティティ認証：FIDO 2.0  ID連携認証：OpenID Connect 1.0  アクセス認証：OAuth 2.0  仮名や匿名の本人認 証は面倒  CAは仮名でID登録

トラスト 本人 CA 他者エンティティ インター ネット トラスト トラスト トラスト 自己イメージコントロール権 １００％保護してよいか？ 本人の認証があれば、化粧しているだけと思っては マズいのか？

トラスト 本人 CA 他者エンティティ インター ネット トラスト トラスト トラスト 自己イメージコントロール権 １００％保護してよいのか？ でも警察官などを装ったらどうなのか？

推論、 計画、 動機、 感情、 記憶 AIシステム による学習 データ収集 電子メール，SNS，購買履歴，行動 履歴，購読したeBook、銀行口座の 扱い，購買や契約など 他のエンティ ティ 自然言語処理 システム 本人の要請などによる 双方向のやりとり 本人 CAの外見 CA 本体 本人のサイバネティック・アバターの構造

推論、 計画、 動機、 感情、 記憶 AIシステム による学習 データ収集 電子メール，SNS，購買履歴，行 動履歴，購読したeBook、銀行口 座の扱い，購買や契約など 他のエンティ ティ 自然言語処理 システム 本人 CAの外見 CA 本体 サイバネティック・アバターの構造 本人死後

ということは、本人の死後も本人と偽装する なりすましや乗っ取りは横行するかもしれない zombie CA トラスト 本人 なりすまし トラスト

トラスト 他者エンティティ CA トラスト 匿名、仮名CAだと、そのCAの背後の操作者が不明 CA自体をアイデンティティ認証に頼る CAと他者エンティティのインタフェースは本人の死んで も、CAが本人の死を認識しない限り変わらない 本人のいないzombie CAはなりすましや乗っ取りの餌食 になりやすい 他者エンティティも被害者になりえる zombie CA

 個人がCAを使うとき、CAが行う本人認証の問題  （パスワードや生体認証）による i.e. FIDO2.0  スマホなどがなりすまし人に乗っ取られることは常に起きうる問題  ログインするときには正しい利用者しか知らない鍵を用いる2段階認証が 効果的だが．．．  CAが個人のなりすましを認識できればよいのだが，実はこの部分は困難． AI技術の応用が待たれる。（通常とは違う行動パタンのチェックとか） トラスト CA 本人 なりすまし or なりすまし spoofing

 CAがPF（Meta)の個別ユーザインタフェースの場合．  本人が死んだかどうかをCAやPFが知る効果的な方法がないこと  悪意のある人が本人になりすましてCAを操る場合  通常の正しい本人と違う行動をしているかどうかをPFが監視する（AI 技術の応用）  難しい  正しい利用者でも，いつもと違う行動をするかもしれないし，考え方 を変えることもありえる． CA トラスト 本人 なりすまし

CAの開発，販売会社との利用契約 CAがPFの個別ユーザーインタフェースである場合は利用契約が さらに重要 CAがマルウェアに乗っ取られる問題 本人が気が付けるか？ 死んでいたら気が付くことは不可能 本人の意思と離れた行動をしてしまうかもしれない CAが外部に見せる自己イメージを本人がコントロールでき ない状態 トラスト AIエージェ ント、CA 本人 乗っ取り

乗っ取られたCAが本人になりすまして、本人の思惑と違う行 動をした場合 このような行動を本人が遅滞なく認識できるか？ CAを監視するAIが必要かもしれない．技術課題は何 か？ CA監視AI自体が乗っ取られる トラスト AIエージェ ント、CA 本人 監視AI

 CAを監視するAIが必要かもしれない．技術課題は何か？  スマホやPC内 vs PFやCA開発者が遠隔監視  動作停止させることはできるが，既に行った行動（例えば，第3 者との契約）を廃棄できるかという法的問題を解決しておく必要 がある．  CAの行為に対するの免責事項を予め決めておくこと法的問題 点は石井先生が指摘している トラスト AIエージェ ント、CA 本人 監視AI PFやCA開 発者の監 視AI

 CA開発管理企業が監視AIを使って全CAを監視し続けられる か？ トラスト AIエージェ ント、CA 本人 監視AI CAの開発、管理事 業者が全CAを監視 し続ける 本人 本人

 複数のCAが相互監視（CAの村社会） このほうが死んだときに気付 きやすいかもしれない AIエージェ ント、CA トラスト 本人 なりすまし 他のAIエージェ ント、CAたち 相互監視

本人たち 家族、 トラスト AIエージェ ント、CA 他者 インター ネット トラスト トラスト トラスト 本人が死んでも家族は気が 付くならよさそう

trust AIエージェ ント, CA エンティティ internet トラスト トラスト trust 同じ会社の社員たち 本人が死んでも別の社員は 知っているのでよさそう

本人の死後に残るCAの扱い • 本人の死亡確認と同時に消滅 • 本人の死亡後も期間限定で存続 • 本人の遺族などが相続 • 本人のメモリアルとして永続的に存続

本人の死後に残るCAの扱い • 1) 本人の死亡時のCAのプログラムの変更の可否． • 2-a) 他者はCAの外見（振る舞いも含む）を見ることに限定される． • 2-b) 他者はCAの外見に変化（別の髪型）を与えるともできる． • 3) CAは他者からの呼びかけに対して言語や表情による応答するか 否か

CAに永続性はない •CAに会いに来る人もだんだんと減ってしまい 社会的に消滅しそう •CAは若干の変容を遂げつつも物理的には存在し続 けると想定してきた． •しかし，この想定が成り立たないことも十分にありえる．

CAに永続性はない • CAを管理し運用している事業者はCAの永久保存を確約 できないとし，存続期間として例えば20年を提示すると いう調査結果Basset[10] • CAの管理会社における不慮に事故，経営方針の変更， 管理会社の倒産などによってCAが消滅する可能性は常 に存在

著作権 • 故人がCAの著作権者 • 著作人格権は一身専属性  本人の死後，相続人，CA開発な いし運用事業者などの他人が引き継げない． • その結果，著作人格権の一部である改変を許さない権利すなわ ち同一性保持権が存続する． •  自律したCAが外部環境とのやり取りで学習しプログラムが 変更されるという改変はできなくなってしまう．

著作権 • 本人とCA開発・運用事業者の共同著作権としても，著作権の執 行には，共同著作者全員の賛同が必要なので，この事情は同じ． ただし，プログラムにおける同一性保持権の制約は緩和される 可能性がある．この緩和をCAにどこまで適用できるかは今後の 司法判断の動向によることになる．

No content