本人死後のサイバネティック・アバターに関する考察

自然人の代理的振舞いをするサイバネティック・アバター（CA）が重要視され始めている．これらは，メタバースの構成要素として位置付けることができる．CAには自然人の外見だけを変更するものから，自律的な行動を行うものまである．本報告では，CAが代理していた自然人の死後に残されたCAのあり方に関する技術的，社会的，法制度的の観点から考察する．

Transcript

1. 本人死後のサイバネティック・
   アバターに関する考察
   中川裕志
   理化学研究所・革新知能統合研究センター
   2022年9月1日 情報処理
   学会 EIP研究会にて発表
   

   View Slide

2. Service URL Content Platform
   Emailfromd
   eath
   http://emailfromdeath.com/index.php Pre-
   recorded
   Email
   Dead Social http://deadsocial.org/ Pre-
   recorded
   Social
   Lives On https://twitter.com/_liveson?lang=en Algorithm Twitter
   Eterni.me eterni.me Algorithm n/a
   Futuris.tk Futuris.tk Pre-
   recorded
   Social
   Deathswitc
   h
   http://www.deathswitch.com/ Pre-
   recorded
   Email
   Great
   Goodbye
   http://www.greatgoodbye.com/ Pre-
   recorded
   Email
   AssetLock http://www.assetlock.net/ Pre-
   recorded
   Email
   Afternote http://www.afternote.com/ Pre-
   recorded
   Email
   Bcelebrate
   d
   http://www.bcelebrated.com/ Pre-
   recorded
   Email/Web
   Boxego http://www.boxego.com/ Pre-
   recorded
   Web
   Ghostmem
   o
   www.ghostmemo.com Pre-
   recorded
   Social
   GoneNotGo
   ne
   www.gonenotgone.com Pre-
   recorded
   Social
   Last Words
   2 Love
   www.lastwords2love.com Pre-
   recorded
   Social
   MyWonder
   fulLife
   www.mywonderfullife.com Pre-
   recorded
   n/a
   MyGoodby
   eMessage
   www.mygoodbyemessage.com Pre-
   recorded
   n/a
   Postumo postumo.info Pre-
   recorded
   n/a
   Remember
   -Me
   www.remember-me.co Pre-
   recorded
   n/a
   SafeBeyon
   d
   www.safebeyond.com/ Pre-
   recorded
   n/a
   SayGoodb
   ye.Online
   saygoodbye.online/ Pre-
   recorded
   n/a
   Wishes
   Keeper
   www.wisheskeeper.com Pre-
   recorded
   n/a
   Xarona www.xarona.com Pre-
   recorded
   n/a
   If I Die https://twitter.com/ifidie Pre-
   recorded
   Social
   Virtual
   Eternity
   VirtualEternity.com Algorithm n/a
   Project
   Elysium
   - Algorithm n/a
   Loggacy www.loggacy.com Pre-
   recorded
   n/a
   Meminto meminto.com Pre-
   recorded
   n/a
   Leg8cy www.leg8cy.com Pre-
   recorded
   Social
   LifeNaut lifenaut.com Back-up n/a
   LifePosts www.lifeposts.com Pre-
   recorded
   n/a
   Öhman & Luciano Floridi(2017)に掲載されている死後の
   個人データに関するサービスの約60個のリストの一部
   死後の個人データを対象
   にしたの公開利用の
   ビジネスが既に多数存在
   背景
   

   View Slide

3. 登場するエンティティ（自然人とAIソフト）
   • 本人
   • 本人の代理のAIエージェントやアバター：本体
   • インターネット越しの他者エンティティ
   

   View Slide

4. トラスト
   トラスト
   本人
   事業者
   Internet
   CAのいない世界
   エンティティ間のトラストはID認証のよって作られる
   アイデンティ（IDと略記）はエンティティを同定できる情報
   アイデンティティーの認証は以下の国際標準などによる
   エンティティ認証：FIDO 2.0
   ID連携認証：OpenID Connect 1.0
   アクセス認証：OAuth 2.0
   

   View Slide

5. トラスト
   本人
   CA
   他者エンティティ
   インター
   ネット
   トラスト
   トラスト
   トラスト
   本人死後のサイバネティック・アバター
   本人生存中
    ディジタル アイデンティティー
    エンティティ認証：FIDO 2.0
    ID連携認証：OpenID Connect 1.0
    アクセス認証：OAuth 2.0
    仮名や匿名の本人認
   証は面倒
    CAは仮名でID登録
   

   View Slide

6. トラスト
   本人
   CA
   他者エンティティ
   インター
   ネット
   トラスト
   トラスト
   トラスト
   自己イメージコントロール権 １００％保護してよいか？
   本人の認証があれば、化粧しているだけと思っては
   マズいのか？
   

   View Slide

7. トラスト
   本人
   CA
   他者エンティティ
   インター
   ネット
   トラスト
   トラスト
   トラスト
   自己イメージコントロール権
   １００％保護してよいのか？
   でも警察官などを装ったらどうなのか？
   

   View Slide

8. 推論、
   計画、
   動機、
   感情、
   記憶
   AIシステム
   による学習
   データ収集
   電子メール，SNS，購買履歴，行動
   履歴，購読したeBook、銀行口座の
   扱い，購買や契約など
   他のエンティ
   ティ
   自然言語処理
   システム
   本人の要請などによる
   双方向のやりとり
   本人
   CAの外見
   CA 本体
   本人のサイバネティック・アバターの構造
   

   View Slide

9. 推論、
   計画、
   動機、
   感情、
   記憶
   AIシステム
   による学習
   データ収集
   電子メール，SNS，購買履歴，行
   動履歴，購読したeBook、銀行口
   座の扱い，購買や契約など
   他のエンティ
   ティ
   自然言語処理
   システム
   本人
   CAの外見
   CA 本体
   サイバネティック・アバターの構造
   本人死後
   

   View Slide

10. ということは、本人の死後も本人と偽装する
    なりすましや乗っ取りは横行するかもしれない
    zombie CA
    トラスト 本人
    なりすまし
    トラスト
    

    View Slide

11. トラスト
    他者エンティティ CA
    トラスト
    匿名、仮名CAだと、そのCAの背後の操作者が不明
    CA自体をアイデンティティ認証に頼る
    CAと他者エンティティのインタフェースは本人の死んで
    も、CAが本人の死を認識しない限り変わらない
    本人のいないzombie CAはなりすましや乗っ取りの餌食
    になりやすい
    他者エンティティも被害者になりえる
    zombie CA
    

    View Slide

12.  個人がCAを使うとき、CAが行う本人認証の問題
     （パスワードや生体認証）による i.e. FIDO2.0
     スマホなどがなりすまし人に乗っ取られることは常に起きうる問題
     ログインするときには正しい利用者しか知らない鍵を用いる2段階認証が
    効果的だが．．．
     CAが個人のなりすましを認識できればよいのだが，実はこの部分は困難．
    AI技術の応用が待たれる。（通常とは違う行動パタンのチェックとか）
    トラスト
    CA 本人
    なりすまし
    or
    なりすまし
    spoofing
    

    View Slide

13.  CAがPF（Meta)の個別ユーザインタフェースの場合．
     本人が死んだかどうかをCAやPFが知る効果的な方法がないこと
     悪意のある人が本人になりすましてCAを操る場合
     通常の正しい本人と違う行動をしているかどうかをPFが監視する（AI
    技術の応用）
     難しい
     正しい利用者でも，いつもと違う行動をするかもしれないし，考え方
    を変えることもありえる．
    CA
    トラスト
    本人
    なりすまし
    

    View Slide

14. CAの開発，販売会社との利用契約
    CAがPFの個別ユーザーインタフェースである場合は利用契約が
    さらに重要
    CAがマルウェアに乗っ取られる問題
    本人が気が付けるか？ 死んでいたら気が付くことは不可能
    本人の意思と離れた行動をしてしまうかもしれない
    CAが外部に見せる自己イメージを本人がコントロールでき
    ない状態
    トラスト
    AIエージェ
    ント、CA
    本人
    乗っ取り
    

    View Slide

15. 乗っ取られたCAが本人になりすまして、本人の思惑と違う行
    動をした場合
    このような行動を本人が遅滞なく認識できるか？
    CAを監視するAIが必要かもしれない．技術課題は何
    か？
    CA監視AI自体が乗っ取られる
    トラスト
    AIエージェ
    ント、CA
    本人
    監視AI
    

    View Slide

16.  CAを監視するAIが必要かもしれない．技術課題は何か？
     スマホやPC内 vs PFやCA開発者が遠隔監視
     動作停止させることはできるが，既に行った行動（例えば，第3
    者との契約）を廃棄できるかという法的問題を解決しておく必要
    がある．
     CAの行為に対するの免責事項を予め決めておくこと法的問題
    点は石井先生が指摘している
    トラスト
    AIエージェ
    ント、CA
    本人
    監視AI
    PFやCA開
    発者の監
    視AI
    

    View Slide

17.  CA開発管理企業が監視AIを使って全CAを監視し続けられる
    か？
    トラスト
    AIエージェ
    ント、CA
    本人
    監視AI
    CAの開発、管理事
    業者が全CAを監視
    し続ける
    本人
    本人
    

    View Slide

18.  複数のCAが相互監視（CAの村社会） このほうが死んだときに気付
    きやすいかもしれない
    AIエージェ
    ント、CA
    トラスト
    本人
    なりすまし
    他のAIエージェ
    ント、CAたち
    相互監視
    

    View Slide

19. 本人たち
    家族、
    トラスト
    AIエージェ
    ント、CA
    他者
    インター
    ネット
    トラスト
    トラスト
    トラスト
    本人が死んでも家族は気が
    付くならよさそう
    

    View Slide

20. trust
    AIエージェ
    ント, CA
    エンティティ
    internet
    トラスト
    トラスト
    trust
    同じ会社の社員たち
    本人が死んでも別の社員は
    知っているのでよさそう
    

    View Slide

21. 本人の死後に残るCAの扱い
    • 本人の死亡確認と同時に消滅
    • 本人の死亡後も期間限定で存続
    • 本人の遺族などが相続
    • 本人のメモリアルとして永続的に存続
    

    View Slide

22. 本人の死後に残るCAの扱い
    • 1) 本人の死亡時のCAのプログラムの変更の可否．
    • 2-a) 他者はCAの外見（振る舞いも含む）を見ることに限定される．
    • 2-b) 他者はCAの外見に変化（別の髪型）を与えるともできる．
    • 3) CAは他者からの呼びかけに対して言語や表情による応答するか
    否か
    

    View Slide

23. CAに永続性はない
    •CAに会いに来る人もだんだんと減ってしまい
    社会的に消滅しそう
    •CAは若干の変容を遂げつつも物理的には存在し続
    けると想定してきた．
    •しかし，この想定が成り立たないことも十分にありえる．
    

    View Slide

24. CAに永続性はない
    • CAを管理し運用している事業者はCAの永久保存を確約
    できないとし，存続期間として例えば20年を提示すると
    いう調査結果Basset[10]
    • CAの管理会社における不慮に事故，経営方針の変更，
    管理会社の倒産などによってCAが消滅する可能性は常
    に存在
    

    View Slide

25. 著作権
    • 故人がCAの著作権者
    • 著作人格権は一身専属性  本人の死後，相続人，CA開発な
    いし運用事業者などの他人が引き継げない．
    • その結果，著作人格権の一部である改変を許さない権利すなわ
    ち同一性保持権が存続する．
    •  自律したCAが外部環境とのやり取りで学習しプログラムが
    変更されるという改変はできなくなってしまう．
    

    View Slide

26. 著作権
    • 本人とCA開発・運用事業者の共同著作権としても，著作権の執
    行には，共同著作者全員の賛同が必要なので，この事情は同じ．
    ただし，プログラムにおける同一性保持権の制約は緩和される
    可能性がある．この緩和をCAにどこまで適用できるかは今後の
    司法判断の動向によることになる．
    

    View Slide

27. View Slide