OpenAIとLangChainを活用して ジェンダーバイアス解消ツールを作った話

LangChain Meetup Tokyo #3

https://langchain.connpass.com/event/331827/

Transcript

1. OpenAIとLangChainを活用して ジェンダーバイアス解消ツールを作った話 2024.10.09 LangChain Meetup Tokyo #3
2. 南風原 香奈（はえばる かな） 2018年：大学卒業後、Webエンジニアになる Webサイトの制作（CMS構築）を経験 2019年：建設SaaSの事業会社に転職 システム開発・EM・スクラムマスター・PdMを経験 2023年10月：フリーランスなる 主にWebサービスの開発に携わる bgrass株式会社でエンジニアリングに従事 女性IT/Webエンジニアのためのハイスキル転職サイト 『WAKE Career』の開発に従事 X:@kanasann1106 自己紹介
3. <ミッション> 「なりたい」を解放する <ビジョン> テクノロジーとコミュニティの力で DEIを実現する bgrass株式会社
4. 多様で誰もが働きやすく、 活躍しやすい企業へ 持続的にキャリアを積み、 自分の人生を選択できる女性が増える 目指す世界 バイアスによって選択肢を狭め ず自分の「なりたい」を解放で きる世界を目指す ビジネスで 社会課題を解決 エンジニア 不足解消 組織の多様性 イノベーション 選ばれる 企業に 経済的自立 持続可能 なキャリア 女性の 雇用問題解決
5. 女性IT/Webエンジニアのための ハイスキル転職サービス 「WAKE Career」
6. 特徴（求職者側） 格差を是正し、女性が安心して転職活動できる仕組みに ６項目の指標化で 企業の環境が測りやすい 12
7. 独自の「サステナブル職場診断」で現状可視化 特徴（企業側） ６項目で環境を指標化 現在の立ち位置と ネクストステップの提案 指標基準を クリアした企業のみが 掲載可能
8. 女性エンジニアの背中を押し、キャリアの可能性を広げる 特徴（企業側）
9. 話すこと バイアスチェッカーとは？ プロンプト設計 まとめ LangChainの活用
10. バイアスチェッカーとは？ （ジェンダーバイアス解消ツール）
11. 求人票や求職者とのメッセージの中で ジェンダーバイアスを含む表現や、 女性が応募をためらうような言葉遣い をチェックし、適切な表現を提案
12. ジェンダーバイアスとは？ 男性や女性に対して持っている先入観や偏見のこと 例） ・男性はリーダー、女性はサポート ・育休を取るのは女性 ・技術職＝男性、看護師＝女性
13. バイアスを持つこと自体が問題ではない （だって、人間だもの） ⇩ バイアスを認識し、それを取り除く取り組みが大事
14. 結果を表示 ・不適切なキーワード ・解説 ・提案 5つの観点でチェック
15. プロンプト設計
16. 評価基準 ジェンダー表現の多様性 性別や性の多様性に基づく差別表現が含まれているか アクセシビリティ すべてのユーザーにとって理解しやすい内容か 差別的な表現 人種、性別、宗教などの特徴に基づいた差別表現が含まれているか 排他的な表現 特定の性別や年齢、立場の人々を意図的にまたは無意識に排除している表現 が含まれているか その他 上記のカテゴリに当てはまらない場合の評価
17. 【プロンプト26の原則】 役割を与える（あなたは〇〇〇です。 ） プロンプトのフォーマット化 従うべき要件を提示する ステップバイステップで考えてもらう etc.
18. LangChainの活用
19. JSON形式で出力したい LangChain PydanticOutputParserを活用
20. PydanticOutputParserのメリット 出力のスキーマを明確に定義できる 出力データが扱いやすい、コードの可読性や保守性◎ 型の厳密なチェックをしてくれる リクエストデータが意図しない型やフォーマットであればエラー を返してくれる 例外処理とエラーハンドリングの簡素化 エラー発生時のデバッグが容易になり、安定した処理が可能
21. プロンプトのテンプレート化 LangChain PromptTemplateを活用
22. PromptTemplateのメリット 柔軟なプロンプト生成ができる テンプレートにパラメータを埋め込める コードの簡略化と再利用性 プロンプトをテンプレート化し再利用可能な状態にできる LLMの応答の精度を高められる プロンプトを事前に定義しておくことで、意図通りの応答を得や すくなる
23. まとめ バイアスを持つこと自体が問題ではなく、バイアスを認識しそ れを取り除く取り組みが重要（指摘しづらいことをAIで） プロンプト設計大事（※ここが一番苦労した） LangChain（PydanticOutputParserやPromptTemplate）を活 用することでLLMを活用したアプリケーション開発が容易に
24. Thanks!