生成AIの不確実性と向き合うためのオブジェクト指向設計

by takuya kikuchi

Slide 1

Slide 1 text

takuya kikuchi @ Algomatic シゴラクAIカンパニーCTO 2024-03-24 Object-Oriented Conference 2024 ⽣成AIの不確実性と向き合うためのオブジェクト指向設計

Slide 2

Slide 2 text

⾃⼰紹介業務系アプリケーションのソフトウェア開発者モデル駆動設計 Java/Spring Boot/IntelliJ IDEA/JIG 有限会社システム設計代表コミューン株式会社技術顧問 2 増田亨（ますだ　とおる）

Slide 3

Slide 3 text

フィンテックスタートアップにおいて開発リードやVPoEとして開発組織構築を担当したほか、モバイルオーダープラットフォームを⼿がける Showcase GigではVPoTとして技術領域全般を管掌。2024年、AlgomaticにカンパニーCTOとして参画。ソフトウェア開発、設計、ドット絵が好き X: @_pochi Algomatic シゴラクAIカンパニー CTO 菊池琢弥 / Takuya Kikuchi 3 © 2024 Algomatic Inc.

Slide 4

Slide 4 text

Slide 5

Slide 5 text

Slide 6

Slide 6 text

No content

Slide 7

Slide 7 text

Slide 8

Slide 8 text

Slide 9

Slide 9 text

Slide 10

Slide 10 text

Slide 11

Slide 11 text

Slide 12

Slide 12 text

Slide 13

Slide 13 text

13 ❶ ⽣成AIのユースケース ❷ ⽣成AIプロダクトの難しいところアジェンダ

Slide 14

Slide 14 text

Slide 15

Slide 15 text

15 B2Bのシステムを作っていると、「扱いにくいデータ」に出くわすことが多いたとえば: 飲⾷店向けシステム: - 「メイン商品の売り上げを集計したい！」 - 「アイスクリームの売り上げ個数を集計したい！」⽣成AIのユースケースを技術視点で考える © 2024 Algomatic Inc. レストランB ● パンケーキ ● いちごパンケーキ ● アイス ● コーヒー ● 紅茶レストランA ● ハンバーグ定⾷ ● チキン南蛮定⾷ ● コーラ ● パンケーキ ● アイスクリーム

Slide 16

Slide 16 text

Slide 17

Slide 17 text

Slide 18

Slide 18 text

⽣成AIのユースケースを体験から考える ● Automation（⾃動化） ○ ⼈がやりたくない作業（危険、⼼理的にしんどい、など） ○ ⼈ではやりきれない作業（量が多すぎるとか） ● Agent（代⾏） ○ ⼈が持っていない知識、スキルに基づいた作業など ● Advice（助⾔） ○ ⼈が責任を取る必要がある作業 ○ ⼈の内省、成⻑を促す作業など ● Augment（強化） ○ たのしい作業 ○ リアルタイム性が求められる作業 © 2024 Algomatic Inc. 18

Slide 19

Slide 19 text

Slide 20

Slide 20 text

Slide 21

Slide 21 text

⽣成AIプロダクトの難しいところ 21 ● 基盤技術の進歩が早い ○ 2022年 11⽉: ChatGPT (OpenAI) ○ 2023年 7⽉: GPT-4 API (OpenAI) → めっちゃかしこい ○ 2023年 11⽉: GPT-4 Turbo (OpenAI) → （従来⽐）回答が早い ○ 2023年 11⽉: GPT-4-V, DALL-E3 (OpenAI) → テキスト以外の⼊出⼒が可能になった ○ 2023年 12⽉: Gemini (Google) ○ 2024年 2⽉: groq (Groq) → 回答速度が驚くほど早い ○ 2024年 2⽉: Gemini Ultra (Google) ○ 2024年 2⽉: Claude3-Opus (Anthropic) → かしこい、⻑⽂を扱うタスクの精度が⾼い © 2024 Algomatic Inc.

Slide 22

Slide 22 text

⽣成AIプロダクトの難しいところ 22 ● ちなみにそれぞれ何が違うの？ ○ コンテキスト⻑ ■ AIに渡せる⽂字数の⻑さ。GPT-4では8k~32kだったが、 GPT-4 Turboでは128k, Claude 3 Opusでは200k, Gemini1.5 Proは 1M。 ■ 参考: 100ページ程度の説明書: 20k tokenほど ○ 価格 ■ やりとりしたトークン数（⽂字数）による従量制。安いほど嬉しい ○ 速度 ■ 早いほど嬉しい。ただし、賢いモデルほど速度は遅くなりがち ○ 精度 ■ ⾔語処理タスクのスコア。GPT-4が基準にされがち。 © 2024 Algomatic Inc.

Slide 23

Slide 23 text

⽣成AIプロダクトの難しいところ 23 ● シンプルに「遅くて⾼額なAPI」 ○ 何でもかんでも使えるわけではない ○ 使える部分、使えない部分を⾒極める ■ 「⼀時的に⽣成AIで楽をして、あとからちゃんと作る」などもあったりする ○ 体験設計も含めて検討が必要 ● ⽣成AIとの結合度合いをどう考えるか ○ 別のモデルに切り替えることになるかも ○ LLMを使わない実装に切り替えることになるかも ■ →いざとなったら切り離せる設計が必要なことも多い ○ プロダクトのコアはどこか、変わりうる部分、変わらない部分はどこか © 2024 Algomatic Inc.