AIの精度と正義の話

Transcript

1. AIの 精度 と 正義 の話
2. 自己紹介
3. 全米ベストセラー（原題：Unmasking AI） 『AIの仮面を剥いでやる』の翻訳者 ▲表紙イメージ ▲原著者のジョイ・ブオラムウィニ博士 （本書内のエピソードにも登場する美容広告ポスター） https://www.amazon.co.jp/dp/429502368X/ わたし 佐野千紘（さのちひろ） Twitter(現X) @IQ_Bocchi
4. 物語としても楽しく読める 『AIの仮面を剥いでやる』 わりとよく売れていて嬉しい・・・！
5. AIと社会
6. 本書(原書)の内容が社会に与えた影響 • アメリカの「AI権利章典」成立を後押し • 欧州AI法の内容にも影響 • 総務省・経産省の「AI事業者ガイドライン」 https://www.amazon.co.jp/dp/429502368X/ 事業としてAI（モデル、アプリ）を 提供する人や 事業のためにAIを利用する人が 守るべきガイドライン！
7. 「AI事業者ガイドライン」の一部 AIに「バイアス」が含まれるって どういうこと？
8. AIと “バイアス” に なんの関係が？
9. この本の物語のはじまり ▲原書の表紙 ジョイ博士（当時は修士の学生）が授業の課題で、顔認識AIを使ったアプリを作成中に… 自分の顔が AI に 認識されない 仮面をつけたら 認識された。 …なんで？？
10. 顔認識の精度は、なぜ人種で違うのか？ 白人 30人 有色人種 70人 世界がもし100人の村だったら ▲の世界に対して、顔認識の学習・検証用データセットを作るとしたら？ 白人 30% 有色人種 70% 白人50% 有色人種 50% ※ 多種多様な「有色人種」をひとくくりにしていいのかという問題は残る 実際の学習・検証用データセットの内訳 白人 83.5% 有色人種 16.5%
11. さらに、性別を加えると 人口の比率を考えれば・・・ 白人 83.5% 有色人種 16.5% 男性 女性 実際には・・・ 白人 83.5% 有色人種 16.5% 男性 77.5% 女性 22.5%
12. その結果どうなったか 白人男性に対しては 高い精度が出るが・・・ 有色人種の女性に対しては 精度が出ない 『AIの仮面を剥いでやる』 184ページの図
13. なぜ気づけなかったのか？ 白人 83.5% 有色人種 16.5% 女性 22.5% 男性 77.5% このエリア（白人男性）の精度さえよければ・・・ 性能を検証するための “標準” となるテストデータに、白人男性が多く含まれていた。 そのため・・・ このエリア（有色人種女性）の 精度が低くても・・・ ▲全体をおしなべると、精度が高く見えてしまう
14. 日本の我々と なんの関係が？
15. “データの偏り” と精度の問題 オーロラ出ない 99.999999…..% オ ー ロ ラ 出 る 「日本でいつ、オーロラが観測できるか」を予測するシステムを作る場合 普通にテストデータを集めると オーロラが出るケースが稀すぎて学習がうまくいかない なので、こうする オーロラ出る オーロラ出る 稀な方のデータを「水増し」して、だいたい半々くらいの学習・検証データを作る
16. AIの 精度 と 正義 の問題 – 根は共通 AIが扱う中で、学習用のデータに含まれていない （数が少なすぎる）カテゴリがある場合 例：黒人、オーロラ 精度が出ない 不公平・不平等 → 正義 が損なわれる 十分に学習していないデータをAIはうまく処理できない
17. そもそもなぜ、“標準” のテストデータに こんな偏りが生じたのか？ 白人 83.5% 有色人種 16.5% 女性 22.5% 男性 77.5% 書籍に詳しく 描かれているので お楽しみに … !! https://www.amazon.co.jp/dp/429502368X/
18. 精度 がよく 正義 に適った AI社会を築こう