プロダクトの死角をなくす 技術としての多様性

Transcript

1. Tokyo 2025 Suu プロダクトの死角をなくす 技術としての多様性
2. Suu • 所属コミュニティ ◦ Go conference 運営(2024~) ◦ Technovation Girls Japan運営(2024~) ◦ Women Who Go Tokyo • 興味領域 ◦ サーバーサイドの技術全般 ◦ SRE ◦ 英語、スペイン語 ◦ ジェンダー/セクシュアリティ学、民法 X: @suueng
3. 今日お伝えしたいこと : • DEI（多様性）は「感情論」や「倫理」の話だけではなく、 私たちエンジニアが向 き合うプロダクト品質に関わる「技術的な課題」である こんな人に聞いてほしい : • 「DEIとか多様性、大事そう」とは思う • しかし、自分の「技術」や「コード」「プロダクト」とどう関係するのか、正直ピンと 来ていない…
4. 耳にしたことはありますか？ 「女性のエンジニアを増やそう」 「障がい者採用を進めよう」 「多目的トイレを増やして色んな人が働きやす いようにしよう」
5. DEI • Diversity（多様性）: 年齢、性別、人種、国籍、性的指向、障がいの有 無、経験、価値観など、人々の多様な個性を認め、尊重すること • Equity（公平性）: 全員に同じ機会を与えるだけでなく、個々の特性や状 況に応じて、必要な支援や制度を提供し、公平な処遇を実現すること • Inclusion（包括性）: 多様な個性が組織に活かされ、全ての人が主体的 に貢献できる、心理的にも安全で居心地の良い環境を創り出すこと
6. なんとなく大事そうだけど ... いまいち腑に落ちない・感情論っぽい・ 技術職なのにわざわざやること？
7. 人事・倫理の話 (HR/Ethics) 優しさ 配慮 倫理観 余裕があればやる(Nice to have) 技術・開発の話 (Engineering) 品質保証 (QA) 仕様網羅 リスク管理 やらないとバグる (Must have) これまでのイメージ これからの定義 バグの原因が開発者の属性の偏りだとしたら？
8. 見過ごされた 「死角」というバグ 01
9. • 自動車事故において、女性が重症を負う確率は男性よりも47％高く、中程度の 傷害を負う確率は71％高い • 先天赤緑色覚異常の発生頻度は、日本人では男性の5%、女性の0.2%だが多く の場合強調色に認識が難しい赤が使われる
10. • 自動車事故において、女性が重症を負う確率は男性よりも47％高く、中程度の 傷害を負う確率は71％高い • 先天赤緑色覚異常の発生頻度は、日本人では男性の5%、女性の0.2%だが多く の場合強調色に認識が難しい赤が使われる それ、仕様ですか？
11. • 自動車事故において、女性が重症を負う確率は男性よりも47％高く、中程度の 傷害を負う確率は71％高い → 自動車の安全設計テストで「女性」というテストケースが漏れていた • 先天赤緑色覚異常の発生頻度は、日本人では男性の5%、女性の0.2%だが多く の場合強調色に赤が使われる → UI / UXの考慮漏れ
12. 見過ごされた 「死角」というバグ 02 〜AI編〜
13. • AIによる防犯カメラ照合で黒人の誤逮捕が多発 • 特別な医療サービスの提供が必要な患者を予測するためのアルゴリズムで、白人 患者が黒人患者よりも優先されていた • Amazon社のAIによる履歴書採点では、「女性」と言う単語を含む場合自動で減点 されていることが判明 • 高収入の求人が女性には表示されにくいことが判明
14. • AIによる防犯カメラ照合で黒人の誤逮捕が多発 • 特別な医療サービスの提供が必要な患者を予測するためのアルゴリズムで、白人 患者が黒人患者よりも優先されていた → 開発者の多くが白人男性で、データに偏りがあった • Amazon社のAIによる履歴書採点では、「女性」と言う単語を含む場合自動で減点 されていることが判明 → 用意されたデータに女性の社会進出が積極的でない 10年前のものが多くあった • 高収入の求人が女性には表示されにくいことが判明 → 実際の収入やキャリア志向を差し置き、 AIが男女の収入格差を学習した
15. DEIを進めることが、 プロダクトのバグを減らす「技術」になる
16. 「それ、自分には不便です」 「想定しているユーザーに自分が考慮されていません」 と指摘できる多様な背景を持つ開発者がデバッガー 💡
17. DEIを進めてバグを減らそう！ ご清聴ありがとうございました！
18. 参考資料： - 冊子「色覚異常を正しく理解するために」(日本眼科医師会) - AIバイアスの例(IBM) - 医療アルゴリズムが人種差別、訓練データの偏りを反映(MIT Tech Review)