生成AIプロジェクトで「失敗しないための開発Tips」 3/18 生成AI勉強会&交流会 -

Transcript

1. 生成AIプロジェクトで「失敗しないための開発Tips」 - 3/18 生成AI勉強会&交流会 - 1 COPYRIGHT© 2024 QuackShift inc. ALL RIGHTS RESERVED.
2. Profile -自己紹介- 2 平野佑樹（X：enterrocken） ▪キャリア 大阪生まれ。同志社大学卒。 新卒でNewsPicksに入社。NewsPicksでは、データエンジニアリン グやAWSツールを使ったMLOps、関連記事レコメンドに携わる。 過去にはデータサイエンティストとして、大手銀行アプリのレコメ ンド開発など、機械学習を使った案件に複数携わる。 2023年から、株式会社QuackShiftを共同創業/ CTOを務める。 その他、IAAEというアカデミア組織で技術顧問を務めている。 COPYRIGHT© 2024 QuackShift inc. ALL RIGHTS RESERVED.
3. BackGround -登壇内容- 3 COPYRIGHT© 2024 QuackShift inc. ALL RIGHTS RESERVED. その技術要件で大丈夫？な生成AIプロジェクトが多い
4. BackGround -登壇内容- 4 COPYRIGHT© 2024 QuackShift inc. ALL RIGHTS RESERVED. ざっくりAI手法のカオスマップ 自然言語処理 ・コンテンツベースレコメンド ・感情分析 ・チャットボット ・検索 ・文章要約 ・LLM 画像、動画系 ・OCR ・物体検知 ・画像生成AI 数値データ ・分析 ・予測 ・最適化タスク 音声系 ・音声認識 ・音楽生成
5. BackGround -登壇内容- 5 COPYRIGHT© 2024 QuackShift inc. ALL RIGHTS RESERVED. 自然言語処理 ・コンテンツベースレコメンド ・感情分析 ・チャットボット ・検索 ・文章要約 ・LLM 画像、動画系 ・OCR ・物体検知 ・画像生成AI 数値データ ・分析 ・予測 ・最適化タスク 音声系 ・音声認識 ・音楽生成 どれでも生成AIで対応できそう？
6. BackGround -登壇内容- 6 COPYRIGHT© 2024 QuackShift inc. ALL RIGHTS RESERVED. １ ２ 平野的に捉えている生成AIプロジェクトの課題 現場サイドの過度な期待値 現場サイド 本番適用を考慮できていない生成AI開発 インフラ/ データ処理/ ユーザー体験/セキュリティ など考慮すべき部分も多い。 本番リリース 「モデル精度」と、 「モデルが与えるユーザー価値」を検証することが多い PoC（実証実験） ・精度は基本100%に近い ・業務は自動化される
7. BackGround -登壇内容- 7 COPYRIGHT© 2024 QuackShift inc. ALL RIGHTS RESERVED. あと4ページなので、少しだけ会社の紹介もさせてください。 
 具体的なAI活用事例とともに、PJを失敗させないための開発Tipsを紹介していきます。 （あくまでも平野の個人的な意見です）
8. Main -失敗しないためのTips- 8 COPYRIGHT© 2024 QuackShift inc. ALL RIGHTS RESERVED. 弊社AIスタートアップをやっていて、画像系やAIモデル開発、コンサル、もちろん生成AIを使った開発も行います。 
 事例１：RAGを採用したChatBot ・社内文書をベクトルストアに格納し検索する ・最新データ/社内データを回答できるようにする ・まるで追加学習したような結果を返す 特徴
9. BackGround -登壇内容- 9 COPYRIGHT© 2024 QuackShift inc. ALL RIGHTS RESERVED. 絶賛人が足りず、経営チーム直下で、ビジネスサイド全てを一緒に推進してくれるメンバーを探しています（エンジニアも絶賛募集中です！） 
 データを整形せずベクトルストアに格納する / システムを制御しない ・ベクトルストアの費用が増える ・検索精度が落ちる ・システム側で出力の制御をせず、ハルシネーション × ・チャンクやオーバーラップをする（500や1000が良い） ・文書を要約してからの格納 ・json_modeや、temperatureによる回答制御 ⭕
10. Main -失敗しないためのTips- 10 COPYRIGHT© 2024 QuackShift inc. ALL RIGHTS RESERVED. AIスタートアップに興味ある人や、チームで動くのが好きな人にはとてもやりがいのある職場だと思います！ 
 事例２：生成AI × レコメンドアルゴリズム ・コンテンツ情報や、ユーザー履歴から情報同士をマッチングする ・AmazonやNetflix、ニュースメディアや人材でも多く活用される技術 ・日本ではWantedlyとかが強いイメージ 特徴
11. BackGround -登壇内容- 11 COPYRIGHT© 2024 QuackShift inc. ALL RIGHTS RESERVED. ぜひご興味のある方は、ぜひご連絡ください！（学生さんも大歓迎です！副業もOK！） 
 レコメンド処理全てを生成AIに任せる ・レイテンシーやfidelity（忠実性）リスクが大きい → 生成AI内部では「ベクトル化→ マッチング→ 回答生成」とい うプロセスが走る × ・アウトプットの制御（json_modeなど） ・OpenAI Embeddingだけ活用して、コサイン類似度で計算させる → ベクトル化・回答生成というプロセスを省き、計算処理だけ実施 ⭕