Slide 1

Slide 1 text

その情報は信用できる? AI時代のネット情報の信ぴょう性 山本 祐輔 データサイエンス学部 准教授 [email protected] 名古屋市立大学 秋のオープンキャンパス2023 2023年11月11日

Slide 2

Slide 2 text

今やネット(ウェブ)は重要な情報源の1つ ニュース 健康 エンタメ 学術 文化 政治 ウェブ 2 膨大な情報の中から見たい情報に簡単にアクセス可能

Slide 3

Slide 3 text

⽟⽯混淆のウェブ情報 医療専門家のチェックを受けているウェブサイト 50%未満* * E. Sillence et al., “Trust and Mistrust of Online Health Sites”, ACM CHI, pp.663-670, 2004 4 https://minnakenko.jp より https://www.dermatol.or.jp/qa/ より

Slide 4

Slide 4 text

既存メディアとウェブメディアの違い § 情報の発信主体は、社会的に認められたメディア企業・機関 § 発信されるまでに、情報は取捨選択され、品質チェックを受ける マスメディア(新聞,ラジオ,ニュースなど) § 一般に、いつでも誰でも情報を発信することができる § 内容の品質のチェックを受けずに発信されていることが多い ウェブメディア

Slide 5

Slide 5 text

Wikipediaも誰でも編集できる

Slide 6

Slide 6 text

୭Ͱ΋ฤूՄೳͰ͋Δ͜ͱҙຯ 都合の良い内容に書き換えたり、 都合の悪い内容を消すことが可能

Slide 7

Slide 7 text

「チョコレート」編集合戦 Fernanda B. Viégas, Martin Wattenberg, and Kushal Dave. Studying cooperation and conflict between authors with history flow visualizations. In Proceedings of the ACM CHI 2004

Slide 8

Slide 8 text

ELYZA Pencil (https://www.pencil.elyza.ai) キーワードに関する文章を自動生成する国産サービス

Slide 9

Slide 9 text

GAN (Generative Adversarial Network) ディープラーニング(AI技術)を用いた画像の生成 https://thispersondoesnotexist.com より

Slide 10

Slide 10 text

覚えておいてほしいこと ウェブの情報は玉石混淆である ワザと嘘をついている場合もあるし、知らない間に 間違ったものが発信されている場合もある

Slide 11

Slide 11 text

注意していないと、気付かないうちに 間違った情報を鵜呑みにしてしまう!!

Slide 12

Slide 12 text

情報の信ぴょう性を検証する工夫 2 私たち、研究者ができること

Slide 13

Slide 13 text

情報の質を評価するための観点 from UC Berkeley Library http://guides.lib.berkeley.edu/evaluating-resources 発信者はどんな人物? 1. 情報発信の目的(意図)は? 2. どんな形式で情報発信されている? 3. 内容は深い? 4. 証拠はついている? 6. 情報は新しい? 5.

Slide 14

Slide 14 text

ݴ࿦Ϛοϓɿରཱ͢ΔओுͱࠜڌΛநग़͢ΔγεςϜ Koji Murakami, et. al, “Statement Map: Assisting Information Credibility Analysis by Visualizing Arguments”, In Proceedings of the 3rd Workshop on Information Credibility on the Web (WICOW2009). pp.43-50. Madrid. Spain. 2009

Slide 15

Slide 15 text

信頼性判断に重要な指標の スコアを分析・提示 ユーザの信頼性基準に基づく 検索結果のランキング 1. 2. 3. 4. ᱥᱏᰬ᭑ᱯଢ଼ᬶٸശ௸ ΕᏜᱥᱏᰬ᭑ᱯଢ଼ٸശ сଢ଼ɬṞᱥᱏᰬ᭑ᱯଢ଼ वӂ૟Ṟṫ ᱥᱏᰬ᭑ᱯଢ଼ ᱥᱏᰬᱯଢ଼ԃЩڑ ࠂ᯦͕ ӿȿ ಋ೸ߺ ࡚ৼ Еζߺ ࠂ᯦͕ ӿȿ ಋ೸ߺ ࡚ৼ Еζߺ ࠂ᯦͕ ӿȿ ಋ೸ߺ ࡚ৼ Еζߺ ࠂ᯦͕ ӿȿ ಋ೸ߺ ࡚ৼ Еζߺ ೸ ࠂ᯦͕ ӿȿ ಋ೸ߺ ࡚ৼ Еζߺ 1. 2. 3. 4. ᱥᱏᰬ᭑ᱯଢ଼ᬶٸശ௸ ΕᏜᱥᱏᰬ᭑ᱯଢ଼ٸശ сଢ଼ɬṞᱥᱏᰬ᭑ᱯଢ଼ वӂ૟Ṟṫ ᱥᱏᰬ᭑ᱯଢ଼ ᱥᱏᰬᱯଢ଼ԃЩڑ ࠂ᯦͕ ӿȿ ಋ೸ߺ ࡚ৼ Еζߺ ࠂ᯦͕ ӿȿ ಋ೸ߺ ࡚ৼ Еζߺ ࠂ᯦͕ ӿȿ ಋ೸ߺ ࡚ৼ Еζߺ ࠂ᯦͕ ӿȿ ಋ೸ߺ ࡚ৼ Еζߺ ೸ ࠂ᯦͕ ӿȿ ಋ೸ߺ ࡚ৼ Еζߺ Ϣʔβͷ৴ጪੑϞσϧ Λ༻͍ͯ࠶ϥϯΩϯά 2. 1. 4. 3. ᱥᱏᰬ᭑ᱯଢ଼ᬶٸശ௸ ΕᏜᱥᱏᰬ᭑ᱯଢ଼ٸശ сଢ଼ɬṞᱥᱏᰬ᭑ᱯଢ଼ वӂ૟Ṟṫ ᱥᱏᰬ᭑ᱯଢ଼ ᱥᱏᰬᱯଢ଼ԃЩڑ ࠂ᯦͕ ӿȿ ಋ೸ߺ ࡚ৼ Еζߺ ࠂ᯦͕ ӿȿ ಋ೸ߺ ࡚ৼ Еζߺ ࠂ᯦͕ ӿȿ ಋ೸ߺ ࡚ৼ Еζߺ ࠂ᯦͕ ӿȿ ಋ೸ߺ ࡚ৼ Еζߺ ೸ ࠶ϥϯΩϯάલ ࠶ϥϯΩϯάޙ Ґˠ Ґ Ґˠ Ґ Ґˠ Ґ Ґˠ Ґ ユーザ基準で信頼性が高いウェブページを 効率よく検索することを支援するウェブ検索エンジン 信頼性指向のウェブ検索エンジンCowSearch . . . . ᱥᱏᰬ᭑ᱯଢ଼ᬶٸശ௸ ΕᏜᱥᱏᰬ᭑ᱯଢ଼ٸശ сଢ଼ɬṞᱥᱏᰬ᭑ᱯଢ଼ वӂ૟Ṟṫ ᱥᱏᰬ᭑ᱯଢ଼ ᱥᱏᰬᱯଢ଼ԃЩڑ ࠂ᯦͕ ӿȿ ಋ೸ߺ ࡚ৼ Еζߺ ࠂ᯦͕ ӿȿ ಋ೸ߺ ࡚ৼ Еζߺ ࠂ᯦͕ ӿȿ ಋ೸ߺ ࡚ৼ Еζߺ ࠂ᯦͕ ӿȿ ಋ೸ߺ ࡚ৼ Еζߺ ೸ ࠂ᯦͕ ӿȿ ಋ೸ߺ ࡚ৼ Еζߺ 参照重要度 評判 典型度 専門性

Slide 16

Slide 16 text

信ぴょう性指向のウェブ検索エンジンCowSearch Y. Yamamoto and K. Tanaka, “Enhancing Credibility Judgment on Web Search Results”, Proceedings of the ACM CHI 2011, pp.1235-1244, 2011

Slide 17

Slide 17 text

CowSearch 信ぴょう性を判断するための便利ツールの 研究開発が進めば、問題は解決!? 言論マップ

Slide 18

Slide 18 text

情報探索行動における認知バイアス 3 冷静な信憑性判断を阻む壁

Slide 19

Slide 19 text

様々な認知バイアス 確証バイアス*1 自分が信じている・考えていることを支持する情報を 探そうとし、反証する情報を無視してしまう傾向 見た目バイアス*2 見た目が良いウェブサイトは信頼できるという思い込み *2 Gitte Lindgaard, Cathy Dudek, Devjani Sen, Livia Sumegi, and Patrick Noonan. An exploration of relations between visual appeal, trustworthiness and perceived usability of homepages. ACM Transactions on Computer-Human Interaction. 18(1), 2011. *1 D. Kahneman. A perspective on judgment and choice: mapping bounded rationality. American psychologist, 58(9):697, 2003.

Slide 20

Slide 20 text

DHMOに反対しよう? 出典:https://www.komazawa-u.ac.jp/~kazov/Nis/etc/DHMO.html

Slide 21

Slide 21 text

DHMOに反対しよう? 出典:https://www.komazawa-u.ac.jp/~kazov/Nis/etc/DHMO.html

Slide 22

Slide 22 text

フレーミング効果 出典:https://www.komazawa-u.ac.jp/~kazov/Nis/etc/DHMO.html 情報の意味する内容が同じでも、 記述の仕方によって理解のされ方が異なる

Slide 23

Slide 23 text

便利な情報アクセスシステムがもたらすもの 30 大量のユーザログを解析し、 クリックされやすい情報を並べる 検索エンジン 個人アクティビティを解析し、 好まれそうな情報を表示する SNS AI技術によって個人個人にあった情報を配信

Slide 24

Slide 24 text

便利な情報アクセスシステムがもたらすもの 31 ユーザのニーズに合ったコンテンツを システムが自動的に提示してくれるから最高!! AI技術によって個人個人にあった情報を配信

Slide 25

Slide 25 text

便利な情報アクセスシステムがもたらすもの 32 機械学習技術の発達による情報配信の最適化、個人化 本当に良いことなのか?

Slide 26

Slide 26 text

フィルターバブル & エコーチャンバー効果 情報提示が個人に最適化されることで知的孤立に陥る

Slide 27

Slide 27 text

フィルターバブル & エコーチャンバー効果 情報提示が個人に最適化されることで知的孤立に陥る あなたが好む情報 = 偏った情報

Slide 28

Slide 28 text

AI技術 x ソーシャルメディア = 社会の分断? Figure 1: The political retweet (left) and mention (right) networks, laid out using a force-directed algorithm. Nod cluster assignments (see § 3.1). Community structure is evident in the retweet network, but less so in the mentio show in § 3.3 that in the retweet network, the red cluster A is made of 93% right-leaning users, while the blue cl Conover, Michael D., Jacob Ratkiewicz, Matthew R. Francisco, Bruno Gonçalves, Filippo Menczer, and Alessandro Flammini. 2011. “Political Polarization on Twitter.” In Proceedings of the Fifth International AAAI Conference on Weblogs and Social Media, 133:89–96. Twitterで政治情報を 共有した人のつながり ⾚⾊:共和党寄り ⻘⾊:⺠主党寄り 同じ意見を持つグループ の情報しか入ってこない 自分は正しいと思う Twitterビッグデータの解析

Slide 29

Slide 29 text

情報精査の必要性を感じていないユーザの存在 怪しい情報の存在に 気づいていない 情報の精査をしない・安易な判断をする (有益なはずの判断支援システムを使わない) 意思決定に潜む不注意や先入観の 存在を意識した支援が必要 自分は大丈夫 という自信

Slide 30

Slide 30 text

さいごに 「豊かな」社会を築いていくためには 基礎と応用のバランスが大事. そのためには,データサイエンスの技術だけでなく 応用先の知見をフル活用する必要があります. 本学データサイエンス学部は データサイエンスの理論と様々な応用分野の 専門家が揃っています.みなさんと一緒に 勉強・研究できることを楽しみにしています.