AIシステムの品質と成功率を向上させるReflection

AIシステムの品質と成功率を向上させるReflection 機械学習の社会実装勉強会第41回 (2024/11/30) 1

自己紹介名前: 西岡賢一郎 X: @ken_nishi LinkedIn: https://www.linkedin.com/in/kenichiro-nishioka/ Facebook: https://www.facebook.com/kenichiro.nishioka
note: https://note.com/kenichiro YouTube: https://www.youtube.com/@kenichiro-nishioka 経歴東京大学で位置予測アルゴリズムを研究し博士 (学術) を取得東京大学の博士課程在学中にデータサイエンスをもとにしたサービスを提供する株式会社トライディアを設立トライディアを別のIT会社に売却し、CTOとして3年半務め、2021年10月末にCTOを退職株式会社データインフォームド (CEO)・株式会社ディースタッツ (CTO)・CDPのスタートアップ (Sr. CSM) 自社および他社のプロダクト開発チーム・データサイエンスチームの立ち上げ経験 2

本日の課題認識 1. 通常のAIの課題単一の応答に依存回答の修正に人間が介入 2. 解決の方向性人間の学習プロセスからヒントを得る振り返り（Reflection）の重要性システマティックな改善プロセス
3

人間の学習プロセスに学ぶ 1. 行動のみする人の特徴とにかく行動するが、振り返りをしないタイプ結果：アウトプットは早いが品質が低い 2. 自己反省をして改善する人の特徴行動後に結果を振り返り、次に活かすタイプ結果：徐々に改善・成長を実現 AIにもこの能力を実装することが重要
4

なぜAIにReflectionが必要か？ AIの自己評価による品質向上 AIが自信の生成した回答を評価し，それを元に修正人間が介入せずに回答を修正することができる回答に応じて評価を柔軟に修正可能初期プロンプトにすべての条件を書く必要がない生成された回答に応じて評価・修正が可能 5

Reflection Agentのアーキテクチャ生成された回答をLLMに評価させ修正する 6

エッセイ改善の例初期エッセイ（抜粋）環境保護は私たちの未来にとって重要です。地球温暖化は深刻な問題です。私たちは行動を起こす必要があります。 Reflectionプロセス 1. 評価：具体性不足、データ欠如 2. 改善案：統計データ追加、具体例提示
改善後環境保護は、人類の持続可能な未来に不可欠です。 IPCC の2023 年報告によると、過去10 年で世界の平均気温は1.1 ℃上昇し、生態系に深刻な影響を及ぼしています。例えば、北極圏の氷床面積は年間約13% の割合で減少し... 7

デモ: ビジネスアイディア生成Agent Reflection Agentのやることテーマに沿ってビジネスアイティアを生成投資家目線で批評・修正点の提示投資家からのフィードバックを元にビジネスアイディアを修正ソースコード https://github.com/knishioka/machine-learning- workshop/blob/main/langchain/reflection_agent.ipynb
8

Reflection Agentの実務活用例 1. カスタマーサポート Before: 一般的な応答 After: 過去の類似ケース参照による最適解提示 2. 技術文書作成
Before: 基本的な仕様書 After: エッジケースを考慮した包括的文書 3. コードレビュー Before: 表面的なチェック After: セキュリティ面も含めた多角的レビュー 9

今後の展望：Reflectionの進化 1. 現在のReflection（反省者型）行動後の振り返りと改善エラー検出と修正品質向上の実現 2. 将来の発展（戦略的行動者型）事前の仮説設定と計画立案結果予測に基づく最適化
自律的な意思決定と改善 10

結論：ReflectionがもたらすAIの進化 1. 品質向上エラー率の低減や一貫性の向上や文脈理解の深化が期待できる 2. 効率化人間が介入する必要がなくなり，作業時間の短縮ができる 3. 発展の可能性戦略を練る高度な自己改善能力などを設けることにより，より人間に近いシステ
ムとなる 11

お問い合わせお仕事の依頼・機械学習・LLMの実装のご相談は、X, LinkedIn, Facebookなどで DMをください機械学習を社会実装する仲間も募集中!! 12

AIシステムの品質と成功率を向上させるReflection

AIシステムの品質と成功率を向上させるReflection

西岡賢一郎 (Kenichiro Nishioka)

More Decks by 西岡賢一郎 (Kenichiro Nishioka)

Other Decks in Technology

Featured

Transcript