Slide 9
Slide 9 text
© DMM
9
6. 生成AIの機能や事例
● 自動診断・報告
○ アラート発生時に生成AIがクエリ発行、ログ集約、内部状態を分析し、レポート 📊
○ Observabilityの向上:ログ・監視系の会社が力を入れていた
● Prompt Caching
○ 過去に使用したプロンプトをキャッシュし、コストを1/10に削減
○ プロンプトの静的部分をキャッシュ、動的部分のみを更新
● Prompt Routing
○ タスクの難易度に応じて適切な生成AIモデルを自動選択
○ 簡単なタスクには低コストモデル、複雑なタスクには高性能モデル