LayerXにおける ChatGPTを活用したPoC事例 / layerx-poc-with-chatgpt

2023年3月23日 ChatGPT選手権！エンジニアリングに組み込んでみたらこうなりました LT大会
(https://findy.connpass.com/event/276736/) における5分LTの資料です。

機械学習技術を利用する必要があるようなPoCを誰でも・低コストで行えるようになったインパクトが大変大きいと感じています。その事例を簡単にいくつか紹介しました。

Transcript

1. LayerXにおける ChatGPTを活用したPoC事例 23.Mar.2023 ChatGPT選手権！エンジニアリングに組み込んでみたらこうなりました LT大会 Yuya Matsumura (@yu-ya4)
2. Confidential © 2023 LayerX Inc. 2 画像を入れてね 自己紹介 松村 優也（Yuya Matsumura） - 株式会社LayerX ML/OCR Team Lead - ウォンテッドリー株式会社 技術顧問 - その他、大学の非常勤講師やスタートアップの技術支援等 共著 『推薦システム実践入門』 趣味 お酒・インターネット地獄巡り・音楽 @yu___ya4 @yu-ya4
3. © 2023 LayerX Inc. 3 MLエンジニア・PdMとしての感想 • PoC、あるいはとりあえず動くものを作ってデモをすることの重要性はご存知の通り • 一方で、機械学習技術を利用するようなものは比較的大変なことが多かった ◦ 最低限の性能を持つモデルを作成する、事前学習モデルを利用するにしても fine-tune するた めにもある程度のデータセットを作成する必要があった。 ◦ モデリングやデータの前処理など高い専門性が要求されるため、機械学習エンジニアやデータサイ エンティストが行うしかなかった。一方で、そのような専門職のリソースが潤沢にあるケースは... ◦ ある程度のスペックのマシンリソースを用意する必要があった。 機械学習技術を利用する必要があるようなPoCを誰でも・低コストで行えるようになったインパク トが大変大きいと感じています。 データやモデルの準備せずともプロンプトエンジニアリングにより実現 + Web UI やAPIの提供により 自前の環境は最低限で可
4. とにもかくにも事例紹介
5. © 2023 LayerX Inc. 5 プロダクトPoC事例① 請求書内容からの必要項目抽出
6. © 2023 LayerX Inc. 6 プロダクトPoC事例② 請求書内容からの勘定科目の推定
7. © 2023 LayerX Inc. 7 プロダクトPoC事例③ 勘定科目からカテゴリの推定（Webエンジニアがシュッと開発環境に組み込んで検証！）
8. © 2023 LayerX Inc. 8 採用活動PoC事例① 候補者の方の事前準備をサポートするための模擬面接bot （streamlitでWebアプリ化） 行動指針に沿った質問項目候補の作成 ＊直接的に合否を判定することに使うべきではないことに注意 採用活動のサポートツール
9. © 2023 LayerX Inc. 9 ※ChatGPTやNotion AIという特定のツールの使い方を問いたいわけではなく、当社の行動指針とマッチする方に来ていただきたいという意図 新卒採用選考の課題への導入 採用活動PoC事例②
10. ここまでほとんどMLエンジニア以外がやったものです
11. © 2023 LayerX Inc. 11 どうやって進めているか • 社内のMLエンジニア含め、数名をLLMの活用・検証プロジェクトにアサインしてリソースの確保 • 社内から広くアイデアを集め、優先度を決めてどんどんPoC • 加えて、会社の予算を確保して organization を作成し希望するメンバーを招待。自身でAPI Keyを発行 して自由に検証できるように。 → 各チームでハッカソンが開催されたり、勝手にメンバーが遊んでいたり
12. © 2023 LayerX Inc. 12 最後に • 改めてですが、機械学習技術を利用する必要があるようなPoCを誰でも・低コストで行えるようになっ たインパクトが大変大きいと感じています。 ◦ 実際に毎日たくさんのプロダクトPoCや活用事例が社内の専用slackチャンネルで共有されてお り、ほとんどがMLエンジニア以外によるものです（事業部のMLエンジニアは現在３名） ◦ コストもAPIコストくらい（クラウドでGPUインスタンス立てて...とか考えると微々たるもの） • もちろん実際にプロダクトに導入する際には、出力の正確性や可用性、コスト面など考えることが様々あ りますが、PoCを行う・デモを作成するという点では十分過ぎると思います。 • また、技術はすごいスピードで進歩していくため、そこを見越した動きでもあります。 ◦ たとえば画像をVision API にかけた結果をChatGPTに入力する例も紹介しましたが、まもな く画像なども入力として扱えるようになりますし、APIのコストもどんどん下がっていくだろう。 • いろいろ話しましたが、単純にめちゃくちゃ面白い技術だと思うのでエンジニアとしてもっともっと遊ん でいきたいと考えています！