20240624 - なんでもCopilot 登壇資料

Transcript

1. Copilot と AI の倫理 #なんでもCopilot
2. AIの利用者が AIの裏側を知る意味
3. AIの裏側を知る意味 1. ブルーカラー・ビリオネア 2. 「AI事業者ガイドライン」 3. AI時代に生き残れる人になるため
4. 本書(原書)の内容が社会に与えた影響 • アメリカの「AI権利章典」成立を後押し • 欧州AI法の内容にも影響 • 総務省・経産省の「AI事業者ガイドライン」 https://www.amazon.co.jp/dp/429502368X/ 事業としてAI（モデル、アプリ）を 提供する人や 事業のためにAIを利用する人が 守るべきガイドライン！
5. 「AI事業者ガイドライン」の一部 AIに「バイアス」が含まれるって どういうこと？
6. AIの裏側を知る意味 1. ブルーカラー・ビリオネア 2. 「AI事業者ガイドライン」 3. AI時代に生き残れる人になるため
7. AIブームの歴史 1960’s 1970’s 1980’s 1990’s 2000’s 2010’s 2020’s 第一次 AIブーム (推論・探索の時代) 第四次 AIブーム （生成AI） 第二次 AIブーム (知識の時代) 第三次 AIブーム (ディープラーニング) 冬の時代 冬の時代 参考： https://www.soumu.go.jp/johotsusintokei/whitepaper/ja/r06/html/nd131100.html ▲今ここ
8. AIブームの歴史 1960’s 1970’s 1980’s 1990’s 2000’s 2010’s 2020’s 第一次 AIブーム (推論・探索の時代) 第四次 AIブーム （生成AI） 第二次 AIブーム (知識の時代) 第三次 AIブーム (ディープラーニング) 冬の時代 冬の時代 「エキスパートシステム」への期待 人間の知識をコンピューターに すべて教えれば、 AIが実現するのでは？！ 「エキスパートシステム」への失望 「人間の知識をコンピューターに すべて教える」なんて無理じゃん 「ルールからデータへ」の転換 「知識を全部教える」のは無理でも、 データを与えてパターンを学習させる ことはできるのでは？！ ◎ インターネットで大量のデータが 生まれ、入手可能に ◎ コンピューターの性能向上 参考： https://www.soumu.go.jp/johotsusintokei/whitepaper/ja/r06/html/nd131100.html ▲今ここ
9. 人間にできて AIにできないこと 人間の場合 今までこうだった （過去のパターン） 今後もこうしよう （過去のパターンの継承） だから だけど 今後は変えていこう （過去のパターンからの 意図的な脱却） ▲人間はここを 考えて、決められる
10. 人間にできて AIにできないこと データを学んだ AIの場合 今までこうだった （過去のパターン） 今後もこうしよう （過去のパターンの継承） だから だけど 今後は変えていこう （過去のパターンからの 意図的な脱却） ▲AIは、過去のパターンを 意図して変えることが できない
11. 書籍の中身
12. 全米ベストセラー（原題：Unmasking AI） 『AIの仮面を剥いでやる』の翻訳者 ▲表紙イメージ ▲原著者のジョイ・ブオラムウィニ博士 （本書内のエピソードにも登場する美容広告ポスター） https://www.amazon.co.jp/dp/429502368X/ わたし 佐野千紘（さのちひろ） Twitter(現X) @IQ_Bocchi
13. この本の物語のはじまり ▲原書の表紙 ジョイ博士（当時は修士の学生）が授業の課題で、顔認識AIを使ったアプリを作成中に… 自分の顔が AI に 認識されない 仮面をつけたら 認識された。 …なぜ？？
14. 顔認識の精度は、なぜ人種で違うのか？ 白人 30人 有色人種 70人 世界がもし100人の村だったら ▲の世界に対して、顔認識の学習・検証用データセットを作るとしたら？ 白人 30% 有色人種 70% 白人50% 有色人種 50% ※ 多種多様な「有色人種」をひとくくりにしていいのかという問題は残る 実際の学習・検証用データセットの内訳 白人 83.5% 有色人種 16.5%
15. さらに、性別を加えると 人口の比率を考えれば・・・ 白人 83.5% 有色人種 16.5% 男性 女性 実際には・・・ 白人 83.5% 有色人種 16.5% 男性 77.5% 女性 22.5%
16. その結果どうなったか 白人男性に対しては 高い精度が出るが・・・ 有色人種の女性に対しては 精度が出ない 『AIの仮面を剥いでやる』 184ページの図
17. なぜ、こうなったのか？ 白人 83.5% 有色人種 16.5% 女性 22.5% 男性 77.5% このエリア（白人男性）の精度さえよければ・・・ 性能を検証するための “標準” となるテストデータに、白人男性が多く含まれていた。 そのため・・・ このエリア（有色人種女性）の 精度が低くても・・・ ▲全体をおしなべると、精度が高く見えてしまう
18. そもそもなぜ、”標準” のテストデータに このような偏りが生じたのか？ 白人 83.5% 有色人種 16.5% 女性 22.5% 男性 77.5% ・学習やテストに使うデータはインターネットから収集した（利便性） ・インターネットには、有名人の写真が多く集まる ・有名人は、白人男性の比率が高い 教訓：便利で手軽な方法が、中立的とは限らない
19. なぜ、気づけなかったのか？ 白人 83.5% 有色人種 16.5% 女性 22.5% 男性 77.5% 圧倒的に、白人男性が多かった 教訓：技術や制度は、「作る人の視点」から逃れられない → 制度設計・技術設計に多様な人を巻き込む意義 注目：このシステムを作っていたのは誰か？
20. 余談：キャズム理論 https://www.utokyo-ipc.co.jp/column/chasm-theory/ 多くの製品が キャズムを超えら れずに廃れていく キャズムを超えて メインストリームで 生き延びるには？
21. 余談：キャズム理論 答えは出ている https://www.utokyo-ipc.co.jp/column/chasm-theory/ 解：ラガードの 意見を聞いて 設計や広告に 反映させよう 作る人・ 推進する人の 発想は こちらに偏る
22. 翻訳の経緯と思い
23. はじめて翻訳出版した本（共訳） ▲表紙イメージ https://www.amazon.co.jp/dp/4295023159 ゴリゴリの 技術書…！ （原書はオライリー）
24. 翻訳のきっかけ 倫理学 IT / AI 英語 ▲キャリアの二本柱 ▲大学時代の専攻
25. 翻訳にかけた思い① 読みやすさ 物語としての楽しさを伝えたい・・・！ 勉強のために読む本 楽しく小説を読んでいたら、AIの理解も深まった
26. 翻訳にかけた思い② 訳注 昔は教会の力が強かったからさ、 本当に言いたいことを本文に書くと破門 されちゃうかもしれなかったんだよね。 だからスピノザなんかはさ、本当に言い たいことを注に書くっていうテクニック を使ってたわけなんだよね。 恩師・山内志朗先生の教え
27. 本文124ページより 政府のデータセットの構成を、性別や肌のタイプだけでなく、複数の要因を交差させて見てみる と、肌の色の薄い男性はベンチマーク全体の五九・四％を占め、有色人種の女性はベンチマークの 四・四％にすぎないことがわかった。この場合、データセットに含まれるすべての有色人種の女性 をシステムが誤認したとしても、ベンチマーク全体では九五・六％の精度を達成してしまい、実世 界に適していると誤って判断されかねない。 この図があれば わかりやすいが、 注に図は入れられない
28. 124ページの訳注3 データの偏りと精度の信頼性の関係は、機械学習の性能を評価するうえで重要なポイントとなる。 たとえば、日本では非常にまれな気象現象のオーロラを例に考えてみよう。一定の気象条件をもと に「今日は日本にオーロラが出るか」を予測するシステムを作る場合、無条件に「出ない」と判定 するだけで、100%に近い正解率を出せる。しかしこれでは予測システムの意味がない。（後略） オーロラ出ない 99.999999…..% オ ー ロ ラ 出 る 普通にデータを集めると 無条件に「オーロラ出ない」と予測すれば 99.999999% の精度になるが、それって予測の意味ある？
29. オーロラの話の続き オーロラ出ない 99.999999…..% オ ー ロ ラ 出 る 普通に集めたデータで、オーロラを予測するシステムを作れるか？ 普通にテストデータを集めると オーロラが出るケースが稀すぎて学習がうまくいかない なので、こうする オーロラ出る オーロラ出る 稀な方のデータを「水増し」して、だいたい半々くらいの学習・検証データを作る
30. なぜ例に “オーロラ”を 使ったのか？
31. 「稀な事象の検出」といえば 正常（品質適合） 不 良 品 「工場の品質検査」の文脈で使われることが一番多い 普通にテストデータを集めると なので、こうする 正常（品質適合） 不良品
32. 訳者としての悩み すんなり伝わる訳にしたい vs それでいいのか 工場の例なら、 日本の読者の多くに すんなり伝わるはず 白人＝正常＝良い 黒人＝異常＝悪い 私はこういう 思い込みと 命をかけて戦ってきた人の 物語を訳しているん じゃないのか！
34. オーロラだーーー！！！ ・・・と、このように、訳文や訳注にもこだわって訳したのでぜひ読んでみてください！
35. AIの倫理を知る意味
36. 倫理学とは？ 哲学（広義） 倫理学 哲学 （狭義） 美学 真 善 美 “善い” 生き方・ “善い” 社会のありかたを 徹底的に考える学問 “徹底的に考える” ことを学ぶ学問
37. 倫理学がめざすもの よい生き方 よい社会のありかた HOW よい生き方、よい社会を どう実現する？ → 技術 What Why 「よい生き方」「よい社会」って何？ なぜ、それがいいの？ → 倫理学
38. 「いい・悪い」の中身は変遷してきた 時代 あたりまえだった「いい・悪い」の基準 中世ヨーロッパ 天動説が正しい！ 地動説信者は悪い奴だから、つかまえて殺すのが正義！ 19世紀までのアメリカ 古代ギリシャ 奴隷が自由に生きるなんてダメだ！ 奴隷は人間ではないのだから、奴隷らしく主人に仕えるべし！ 戦時中の日本 天皇は神！ お国のために潔く死ぬべし！ それができないのは非国民！ 昭和の日本 社会人たる者、24時間働くべし！ 女性は家庭を守るべし！ 今考えるとけっこうヤバいことが「よい」とされていた時代があった → 10年後、30年後の未来から今を見たときに、 今の私たちが普通に信じていることがヤバくない保証はあるか？
39. 倫理学がめざすもの よい生き方 よい社会のありかた HOW よい生き方、よい社会を どう実現する？ → 技術 What Why 「よい生き方」「よい社会」って何？ なぜ、それがいいの？ → 倫理学 「なぜ」「何」を問う力が めっちゃ重要！！！
40. 人間にできて AIにできないこと 人間の場合 今までこうだった （過去のパターン） 今後もこうしよう （過去のパターンの継承） だから だけど 今後は変えていこう （過去のパターンからの 意図的な脱却） ▲人間はここを 考えて、決められる
41. 人間にできて AIにできないこと データを学んだ AIの場合 今までこうだった （過去のパターン） 今後もこうしよう （過去のパターンの継承） だから だけど 今後は変えていこう （過去のパターンからの 意図的な脱却） ▲AIは、過去のパターンを 意図して変えることが できない
42. 過去のパターンの固定化とは 時代 あたりまえだった「いい・悪い」の基準 中世ヨーロッパ 天動説が正しい！ 地動説信者は悪い奴だから、つかまえて殺すのが正義！ 19世紀までのアメリカ 古代ギリシャ 奴隷が自由に生きるなんてダメだ！ 奴隷は人間ではないのだから、奴隷らしく主人に仕えるべし！ 戦時中の日本 天皇は神！ お国のために潔く死ぬべし！ それができないのは非国民！ 昭和の日本 社会人たる者、24時間働くべし！ 女性は家庭を守るべし！ 今の日本・世界 ？？？ 今考えるとけっこうヤバいことが「よい」とされていた時代があった ▲これを「強化・効率化・自動化」していれば大丈夫な保証はどこに？ → 様々な角度で評価・検討することが大切！ このパターンを 強化・効率化・自動化 すること
43. 過去のパターンの固定化 – 最近の話 過去のパターン 過去のパターンを継承 過去のパターンから脱却 白人が優遇されてきた これからも白人を優遇する 人種に関係なく平等な制度を築 く 男性の給料が高かった これからも男性の給料を高くす る 性別に関係なく給料の査定をす る 東京出身の人が多く採用され ていた これからも東京出身の人を多く 採用する 出身地に関係なく採用を行う 選抜チームには４月生まれが 多い これからも４月生まれを選抜す る 月齢に関係なく選抜を行う ◦◦大学出身者だけが昇進し てきた これからも◦◦大学出身者だけ を昇進させる 出身大学に関係なく昇進させる ▲ こうした「過去のパターン」を、これからも続けていきたいのか？
44. THANK YOU