リクルートのAIリスク担当のお仕事紹介

2023/07/11に、Robust Intelligence Meetup Event in Summer 2023で発表した田中の資料です。

イベント概要はこちらです。
https://rimeetup-summer-2023.peatix.com/

Transcript

1. リクルートのAIリスク担当のお仕事紹介

   株式会社リクルート

   

   プロダクト開発統括室 データ推進室 データガバナンス部

   

   田中 孝昌

   Robust Intelligence Meetup Event in Summer 2023
   

   いま語ろう、「AIリスク」　(2023.7.11)
   

   

   View Slide

2. (C)Recruit Co.,Ltd. All rights reserved. 2
   自己紹介

   田中 孝昌 / Takamasa Tanaka

   Ph.D. in Engineering

   

   ● AIリスク対策のためのシステム開発を担当

   ● 2児の父、趣味はサッカー、地域のスポーツ少年
   団コーチ、社会人サッカー(中央区2部)

   

   View Slide

3. (C)Recruit Co.,Ltd. All rights reserved. 3
   リクルートの事業

   ※弊社新卒採用2024サイトより転載 

   ● 社会にポジティブな機会を生み出すことを志向

   ● AI活用によってより良いユーザー体験を生み出したい

   

   View Slide

4. (C)Recruit Co.,Ltd. All rights reserved. 4
   リクルートのAIリスク担当

   部門連携しながらAIリスクに対応中

   その一部、公平性に関するお仕事をご紹介

   CRO
   リーガル部門 テクノロジー部門
   ※イメージ図(役職、部門名は正式なものではありません) 

   

   View Slide

5. (C)Recruit Co.,Ltd. All rights reserved. 5
   公平性について

   ● 公平性の考え方は1つではない

   (画像引用元,2023.7.10アクセス) 

   https://www.equitytool.org/equity/ 

   

   View Slide

6. (C)Recruit Co.,Ltd. All rights reserved. 6
   公平性について

   ● 一人ひとりのニーズに寄り添うサービスを実現したい

   ● AIが有効活用できる、同時にリスク対応も必要になる

   (画像引用元,2023.7.10アクセス) 

   https://www.equitytool.org/equity/ 

   

   View Slide

7. (C)Recruit Co.,Ltd. All rights reserved. 7
   AIの公平性への対策

   1. 施策レビュー（主にリーガル部門）

   a. 人権侵害、差別の助長につながる可能性を有するデータが用いられてい
   ないか
   b. ユーザーのプライバシー懸念があるようなデータが含まれていないか
   c. AIを用いたサービスをユーザーが利用する際、AIが持つリスクを適切に把
   握した上で利用できるように説明されているか
   d. AIに用いるデータは適法に取得されているか、また、その利用は利用目的
   の範囲内か
   2. フェアネスモニタリング（主にテクノロジー部門）

   a. 施策レビューを経て、サービスがリリースされた後においても、人権侵害、
   差別の助長、多様性の排除が、実際のアルゴリズムやサービスにおいて
   生じていないか、さまざまな段階で検査を実施
   b. モニタリングの設計(*)は、第三者の専門家と議論しながら、常にアップ
   デート
   c. モニタリングの結果は、関係役員で構成するフェアネスモニタリング会議で
   確認しており、リスクがあると疑われた場合には、迅速に対応方針を検討
   (*)モニタリングの設計に関して次スライド以降

   

   View Slide

8. (C)Recruit Co.,Ltd. All rights reserved. 8
   モニタリングの設計で参考にしているもの紹介　その1

   産総研 神嶌先生の公平性チュートリアル資料

   (引用元,2023.7.10アクセス) 

   https://www.kamishima.net/archive/faml.pdf 

   

   View Slide

9. (C)Recruit Co.,Ltd. All rights reserved. 9
   モニタリングの設計で参考にしているもの紹介　その2

   海外のAI規制の動向（添付画像はニューヨーク市のもの）

   (引用元,2023.7.10アクセス) 

   https://www.wellsfargojobs.com/media/afddvztf/t
   eller-impact-ratio-analysis.pdf 

   

   View Slide

10. (C)Recruit Co.,Ltd. All rights reserved. 10
    モニタリングの設計で参考にしているもの紹介　その3

    アカデミアや非営利団体の調査や監査

    (引用元)Le Chen, Ruijun Ma, Anikó Hannák, and Christo Wilson. 2018. Investigating the Impact of Gender on Rank in Resume Search Engines. In
    Proceedings of the 2018 CHI Conference on Human Factors in Computing Systems (CHI '18). Association for Computing Machinery, New York, NY, USA,
    Paper 651, 1–14. https://doi.org/10.1145/3173574.3174225

    

    View Slide

11. (C)Recruit Co.,Ltd. All rights reserved. 11
    

    

    

    

    ご清聴ありがとうございました

    

    本ミートアップには複数名の社員が出席しておりますので

    ぜひ交流させていただければと思います

    

    View Slide