Slide 1

Slide 1 text

5W1H ~LLM活用プロジェクトを推進するうえで考えるべきこと~ 2024/06/28 【LT大会】生成AI・LLMを活用した業務効率化・課題解決について語る会

Slide 2

Slide 2 text

プロフィール natsuume Twitter(X): @_natsuume - 株式会社オプト AIソリューション開発部 (2019~) - NLP・生成AI・LLMに関するPoC, プロダクト開発 ChatGPT(OpenAI API)を活用した広告制作支援ツール 「CRAIS for Text」にてテックリード担当 https://optipschannel.opt.ne.jp/solutions/crais-for-text

Slide 3

Slide 3 text

※今回の発表では技術的な内容は あまり含まれません

Slide 4

Slide 4 text

突然ですが 生成AIの活用、順調ですか?

Slide 5

Slide 5 text

「生成AI以外のところで時間がかかる」 「PoCが思ったように進まない」 ・・・

Slide 6

Slide 6 text

もし心当たりがあるなら…… 技術検証の前 に 決めるべきことを決められていないかも

Slide 7

Slide 7 text

①When(いつ) その取り組みの期限は? - 1ヶ月後 / 半年後 / 1年後 / … - 1年後を見据えた取り組みなら、現時点のLLMモデルに合わせてプロンプ トを頑張ってチューニングする必要はない 成果物はいつまで使う(耐用年数は)? - (前提として不確実性は非常に高い) - 類似機能がSaaSとして提供されたらどうする? - どの程度先までを見据えて作り込むか

Slide 8

Slide 8 text

②Where(どこで) 業務フローのどこで LLMを使う? - ユーザが直接使う / 何らかの中間処理として生成AI・LLMを使う どこで/どこの生成 AI・LLMを使う - ChatGPT:OpenAI API / Azure Open AI - Claude:Amazon Bedrock / Anthoropic Cluade API - Gemini:Google AI Studio / Vertex AI 法務確認, セキュリティ, …etc

Slide 9

Slide 9 text

③Who(誰が) この取り組みで誰が恩恵を受ける / 誰が使う? - 相談者・発案者は必ずしも直接的な受益者ではない場合がある ユーザ側の業務スキルの差は? スキルの差で得られる恩恵に差がある? - ジュニア / ミドル / エキスパートなど ユーザのリテラシーは? - 素のChatGPT/LLMをどれくらい使いこなせる? - プロンプトエンジニアリングに関する知識は? - ハルシネーションなどAIの特性に関する理解は?

Slide 10

Slide 10 text

④What(何を) そもそも何を解決したい? - LLM・生成AIが得意なこと / 苦手なこと - 要約, 翻訳, 情報抽出, フォーマット変換, 分析, 提案, 壁打ち, 検索 ビジネスインパクト・ニーズは十分か? - ヒアリングは大事だが、鵜呑みにしてはいけない - 御用聞きにならない 何を達成したら成功? - どの程度の精度を求める? - やらないことを決める

Slide 11

Slide 11 text

⑤Why(なぜ) なぜ生成AI・LLMを使うのか - ルールベースの処理 or 人手ではだめ? - (会社としてのアピールのために「生成 AI・LLMを使っていること」が重要な場合もある) - 既存の機械学習手法ではだめ? - RAG・ChatBotにする必要はある? - 検索結果を一覧で表示する場合との差分は? (特に既存業務改善の場合は)既存の手法との比較方法を考える必要がある

Slide 12

Slide 12 text

⑥How(どのように) 生成AI・LLMをどう使う? - リアルタイム性, インタラクティブ性は必要? - Batch APIの利用など、基本的にリアルタイム性・インタラクティブ性が必要ないほど選択肢の幅は 広い (ユーザが使う機能の場合) UIはどうする? - チャット形式 or フォームに必要事項を入力? → PoCの段階からアプリケーション全体での   ユーザ体験まで含めて考えるのが良い

Slide 13

Slide 13 text

まとめ 生成AI・LLM活用プロジェクト/PoCをスムーズに進めるためには - 「いつまでに」「何を」やるのか - 「どこの」生成AI・LLMを使うのか, 業務フローの「どこで」使うのか - 「なぜ」生成AI・LLMを使うのか - 「誰が」「どのように」生成AI・LLM使うのか を最初に明確化することが大事