変なデータを与えると変なことに u テキストチャットできるAIサービス p みんなが差別的な言葉を覚えさせた結果,ひどいことに u 人事評価を行えるAIサービス p 既存の評価が女性に厳しめだったため,AIも女性に厳しめに n 人間の気づかない,わずかな差さえ見えてしまう u 画像認識AI p ゴリラの画像にちょっとノイズを加えるとカンガルーと認識 28
と言うわけではない u “きっと公正であるだろう” と 思っていた事柄について, その期待と実態が異なっていたという意味で “変” u むしろ AI は 偏見なく実態を正しく描き出した p 実態に沿わせることが倫理的に正しいかどうか? p 倫理的に正しい…とは?何がどうなれば正しい?(フレーム問題へ) 29 ただ単に,そこにあるデータ を放り込むだけでは解けない問題も多々ある