その情報は信用できる？ AI時代のネット情報の信ぴょう性 山本 祐輔 データサイエンス学部 准教授 yusuke_yamamoto@acm.org 名古屋市立大学 秋のオープンキャンパス2023 2023年11月11日

今やネット（ウェブ）は重要な情報源の1つ ニュース 健康 エンタメ 学術 文化 政治 ウェブ 2 膨大な情報の中から見たい情報に簡単にアクセス可能

⽟⽯混淆のウェブ情報 医療専門家のチェックを受けているウェブサイト 50%未満* * E. Sillence et al., “Trust and Mistrust of Online Health Sites”, ACM CHI, pp.663-670, 2004 4 https://minnakenko.jp より https://www.dermatol.or.jp/qa/ より

既存メディアとウェブメディアの違い § 情報の発信主体は、社会的に認められたメディア企業・機関 § 発信されるまでに、情報は取捨選択され、品質チェックを受ける マスメディア(新聞，ラジオ，ニュースなど) § 一般に、いつでも誰でも情報を発信することができる § 内容の品質のチェックを受けずに発信されていることが多い ウェブメディア

Wikipediaも誰でも編集できる

୭Ͱ΋ฤूՄೳͰ͋Δ͜ͱҙຯ 都合の良い内容に書き換えたり、 都合の悪い内容を消すことが可能

「チョコレート」編集合戦 Fernanda B. Viégas, Martin Wattenberg, and Kushal Dave. Studying cooperation and conflict between authors with history flow visualizations. In Proceedings of the ACM CHI 2004

ELYZA Pencil (https://www.pencil.elyza.ai) キーワードに関する文章を自動生成する国産サービス

GAN (Generative Adversarial Network) ディープラーニング（AI技術）を用いた画像の生成 https://thispersondoesnotexist.com より

覚えておいてほしいこと ウェブの情報は玉石混淆である ワザと嘘をついている場合もあるし、知らない間に 間違ったものが発信されている場合もある

注意していないと、気付かないうちに 間違った情報を鵜呑みにしてしまう!!

情報の信ぴょう性を検証する工夫 2 私たち、研究者ができること

情報の質を評価するための観点 from UC Berkeley Library http://guides.lib.berkeley.edu/evaluating-resources 発信者はどんな人物？ 1. 情報発信の目的（意図）は？ 2. どんな形式で情報発信されている？ 3. 内容は深い？ 4. 証拠はついている？ 6. 情報は新しい？ 5.

ݴ࿦Ϛοϓɿରཱ͢ΔओுͱࠜڌΛநग़͢ΔγεςϜ Koji Murakami, et. al, “Statement Map: Assisting Information Credibility Analysis by Visualizing Arguments”, In Proceedings of the 3rd Workshop on Information Credibility on the Web (WICOW2009). pp.43-50. Madrid. Spain. 2009

信頼性判断に重要な指標の スコアを分析・提示 ユーザの信頼性基準に基づく 検索結果のランキング 1. 2. 3. 4. ᱥᱏᰬ᭑ᱯଢ଼ᬶٸശ௸ ΕᏜᱥᱏᰬ᭑ᱯଢ଼ٸശ сଢ଼ɬṞᱥᱏᰬ᭑ᱯଢ଼ वӂ૟Ṟṫ ᱥᱏᰬ᭑ᱯଢ଼ ᱥᱏᰬᱯଢ଼ԃЩڑ ࠂ᯦͕ ӿȿ ಋ೸ߺ ࡚ৼ Еζߺ ࠂ᯦͕ ӿȿ ಋ೸ߺ ࡚ৼ Еζߺ ࠂ᯦͕ ӿȿ ಋ೸ߺ ࡚ৼ Еζߺ ࠂ᯦͕ ӿȿ ಋ೸ߺ ࡚ৼ Еζߺ ೸ ࠂ᯦͕ ӿȿ ಋ೸ߺ ࡚ৼ Еζߺ 1. 2. 3. 4. ᱥᱏᰬ᭑ᱯଢ଼ᬶٸശ௸ ΕᏜᱥᱏᰬ᭑ᱯଢ଼ٸശ сଢ଼ɬṞᱥᱏᰬ᭑ᱯଢ଼ वӂ૟Ṟṫ ᱥᱏᰬ᭑ᱯଢ଼ ᱥᱏᰬᱯଢ଼ԃЩڑ ࠂ᯦͕ ӿȿ ಋ೸ߺ ࡚ৼ Еζߺ ࠂ᯦͕ ӿȿ ಋ೸ߺ ࡚ৼ Еζߺ ࠂ᯦͕ ӿȿ ಋ೸ߺ ࡚ৼ Еζߺ ࠂ᯦͕ ӿȿ ಋ೸ߺ ࡚ৼ Еζߺ ೸ ࠂ᯦͕ ӿȿ ಋ೸ߺ ࡚ৼ Еζߺ Ϣʔβͷ৴ጪੑϞσϧ Λ༻͍ͯ࠶ϥϯΩϯά 2. 1. 4. 3. ᱥᱏᰬ᭑ᱯଢ଼ᬶٸശ௸ ΕᏜᱥᱏᰬ᭑ᱯଢ଼ٸശ сଢ଼ɬṞᱥᱏᰬ᭑ᱯଢ଼ वӂ૟Ṟṫ ᱥᱏᰬ᭑ᱯଢ଼ ᱥᱏᰬᱯଢ଼ԃЩڑ ࠂ᯦͕ ӿȿ ಋ೸ߺ ࡚ৼ Еζߺ ࠂ᯦͕ ӿȿ ಋ೸ߺ ࡚ৼ Еζߺ ࠂ᯦͕ ӿȿ ಋ೸ߺ ࡚ৼ Еζߺ ࠂ᯦͕ ӿȿ ಋ೸ߺ ࡚ৼ Еζߺ ೸ ࠶ϥϯΩϯάલ ࠶ϥϯΩϯάޙ Ґˠ Ґ Ґˠ Ґ Ґˠ Ґ Ґˠ Ґ ユーザ基準で信頼性が高いウェブページを 効率よく検索することを支援するウェブ検索エンジン 信頼性指向のウェブ検索エンジンCowSearch . . . . ᱥᱏᰬ᭑ᱯଢ଼ᬶٸശ௸ ΕᏜᱥᱏᰬ᭑ᱯଢ଼ٸശ сଢ଼ɬṞᱥᱏᰬ᭑ᱯଢ଼ वӂ૟Ṟṫ ᱥᱏᰬ᭑ᱯଢ଼ ᱥᱏᰬᱯଢ଼ԃЩڑ ࠂ᯦͕ ӿȿ ಋ೸ߺ ࡚ৼ Еζߺ ࠂ᯦͕ ӿȿ ಋ೸ߺ ࡚ৼ Еζߺ ࠂ᯦͕ ӿȿ ಋ೸ߺ ࡚ৼ Еζߺ ࠂ᯦͕ ӿȿ ಋ೸ߺ ࡚ৼ Еζߺ ೸ ࠂ᯦͕ ӿȿ ಋ೸ߺ ࡚ৼ Еζߺ 参照重要度 評判 典型度 専門性

信ぴょう性指向のウェブ検索エンジンCowSearch Y. Yamamoto and K. Tanaka, “Enhancing Credibility Judgment on Web Search Results”, Proceedings of the ACM CHI 2011, pp.1235-1244, 2011

CowSearch 信ぴょう性を判断するための便利ツールの 研究開発が進めば、問題は解決!? 言論マップ

情報探索行動における認知バイアス 3 冷静な信憑性判断を阻む壁

様々な認知バイアス 確証バイアス*1 自分が信じている・考えていることを支持する情報を 探そうとし、反証する情報を無視してしまう傾向 見た目バイアス*2 見た目が良いウェブサイトは信頼できるという思い込み *2 Gitte Lindgaard, Cathy Dudek, Devjani Sen, Livia Sumegi, and Patrick Noonan. An exploration of relations between visual appeal, trustworthiness and perceived usability of homepages. ACM Transactions on Computer-Human Interaction. 18(1), 2011. *1 D. Kahneman. A perspective on judgment and choice: mapping bounded rationality. American psychologist, 58(9):697, 2003.

DHMOに反対しよう？ 出典：https://www.komazawa-u.ac.jp/~kazov/Nis/etc/DHMO.html

DHMOに反対しよう？ 出典：https://www.komazawa-u.ac.jp/~kazov/Nis/etc/DHMO.html

フレーミング効果 出典：https://www.komazawa-u.ac.jp/~kazov/Nis/etc/DHMO.html 情報の意味する内容が同じでも、 記述の仕方によって理解のされ方が異なる

便利な情報アクセスシステムがもたらすもの 30 大量のユーザログを解析し、 クリックされやすい情報を並べる 検索エンジン 個人アクティビティを解析し、 好まれそうな情報を表示する ＳＮＳ AI技術によって個人個人にあった情報を配信

便利な情報アクセスシステムがもたらすもの 31 ユーザのニーズに合ったコンテンツを システムが自動的に提示してくれるから最高!! AI技術によって個人個人にあった情報を配信

便利な情報アクセスシステムがもたらすもの 32 機械学習技術の発達による情報配信の最適化、個人化 本当に良いことなのか?

フィルターバブル & エコーチャンバー効果 情報提示が個人に最適化されることで知的孤立に陥る

フィルターバブル & エコーチャンバー効果 情報提示が個人に最適化されることで知的孤立に陥る あなたが好む情報 = 偏った情報

AI技術 x ソーシャルメディア = 社会の分断？ Figure 1: The political retweet (left) and mention (right) networks, laid out using a force-directed algorithm. Nod cluster assignments (see § 3.1). Community structure is evident in the retweet network, but less so in the mentio show in § 3.3 that in the retweet network, the red cluster A is made of 93% right-leaning users, while the blue cl Conover, Michael D., Jacob Ratkiewicz, Matthew R. Francisco, Bruno Gonçalves, Filippo Menczer, and Alessandro Flammini. 2011. “Political Polarization on Twitter.” In Proceedings of the Fifth International AAAI Conference on Weblogs and Social Media, 133:89–96. Twitterで政治情報を 共有した人のつながり ⾚⾊：共和党寄り ⻘⾊：⺠主党寄り 同じ意見を持つグループ の情報しか入ってこない 自分は正しいと思う Twitterビッグデータの解析

情報精査の必要性を感じていないユーザの存在 怪しい情報の存在に 気づいていない 情報の精査をしない・安易な判断をする （有益なはずの判断支援システムを使わない） 意思決定に潜む不注意や先入観の 存在を意識した支援が必要 自分は大丈夫 という自信

さいごに 「豊かな」社会を築いていくためには 基礎と応用のバランスが大事． そのためには，データサイエンスの技術だけでなく 応用先の知見をフル活用する必要があります． 本学データサイエンス学部は データサイエンスの理論と様々な応用分野の 専門家が揃っています．みなさんと一緒に 勉強・研究できることを楽しみにしています．