SPCS×ローカルLLMで営業担当向け 示唆出しアプリ作りに挑戦してみた

「Snowpark Container Servicesで解き放つ！データアプリケーションの魔法」での登壇資料です。

Transcript

1. 株式会社インテージ 篠崎竜二 SPCS×ローカルLLMで営業担当向け 示唆出しアプリ作りに挑戦してみた
2. 1 1 自己紹介 篠崎 竜二 株式会社インテージ DX部 Snowflakeを活用した新規事業開発に 挑戦しています！
3. 2 2 結論 SPCS×LLMで メーカー営業担当向け商談支援 アプリをつくってみました
4. 3 3 そもそもメーカー営業（消費財）のお仕事とは？（ざっくり） メーカー営業 小売店 小売店販売データ（POSデータ）と 市場データ（弊社データ）を活用して 自社商品の売り込み 商談でのデータ活用をSPCS×ローカルLLM でできないか…？
5. 4 4 デモ
6. 5 5 POS（ダミー） どのような仕組みになっているか？ Snowflake内にLLMを入れ、そこにPOSデータとインテージ保有の市場データ（SRI＋）を 入れることで営業担当が商談で何を提案すべきかがレコメンドされる仕組み LLM (Llama2) Snowpark Container Service Streamlit メーカー 営業担当 ※LLMはllama2（lama-2-13b-chat.Q5_K_M.gguf（量子化モデル））を使用 Prompt テキスト 集計値 サブカテゴリ◦◦を こう売れば良いのか！ GPU S
7. 6 6 このプロトタイプ開発を通じての所感 「できたところ」と「難しかったところ」
8. 7 7 できた｜ローカルのLLMを用いたアプリが作れた SPCSを使うことで、Snowflakeの中だけでLLMを使うことができた データを外だしせずにアプリが作れるので、今後の応用幅が広そう POS（ダミー） LLM (Llama2) Snowpark Container Service Streamlit Prompt テキスト 集計値 ×
9. 8 8 できた｜英語での営業商談示唆出し 不調サブカテ、不調要因、改善方法の順で提案すべきサブカテと提案方法を 英語で出力させることはできた 「ミネラルウォーター」のPOSvs市場の 前年比差が-0.78 pointsで伸び悩んでる 消費者の嗜好の変化や炭酸飲料や果汁飲料など 他の飲料の人気が高まりが要因 品揃えのバリエーションを増やす、低価格で 販売、ミネラルウォーターの健康上の利点を 強調などしてほどうか？
10. 9 9 難しかった｜日本語の入出力の精度が悪い 日本語版Llama2を用いて回答を作成すると数値ミスをしたり、解釈のクオリティが低い印象 →最新の日本語特化モデルを使って実験してみたい 日本語版Llama2 回答例 ～～省略～～ 「コーヒー飲料」の「前年差増減」は-1.58ポイント ～～省略～～ 改善策としては、「集計期間」を変更することが考えられます。 ただし、「集計期間」を変更すると、他のサブカテゴリーに影響を与えてしまう可能性がありま す。 ※モデルELYZA-japanese-Llama-2-7bを使用した結果 正解：+1.58ポイント 集計期間を変えたら 数値は変わる…
11. 10 10 難しかった｜継続的に正しい答えを出し続けることが難しい 英語で出力したとしても、数値の間違えを起こしてしまうことが多かった →モデルのfine-tuningをSPCS上で試してみたい 数値間違えあり
12. 11 11 まとめ SPCS×LLMは営業担当の業務を変えるポテンシャルを持っている… 今後もSPCS×LLMでさらに面白いものを作っていきたい！