Slide 1

Slide 1 text

生成AI導入をやってみて 2024年2月27日 清水 れみお

Slide 2

Slide 2 text

自己紹介 清水 れみお • 元:LLM無職 現:LLMフリーランス • ㈱アクセスネットにて生成AI導入コンサル • AI inside㈱にて生成AIエンジニア • 開発経験(半年) • 元通信建設業 10年 趣味 サウナ、ゲーム 、生成AI 2

Slide 3

Slide 3 text

LLM無職から生成AIコンサルへ •全社会で生成AIの成果およびCursorを紹介 •ChatGPT PlusとAPIの稟議 •生成AI利用ガイドライン作成 •利用環境の構築(Cursorの導入) •母校苫小牧高専での生成AI授業 3

Slide 4

Slide 4 text

今日お話しすること •全社会で生成AIの成果およびCursorを紹介 •ChatGPT PlusとAPIの稟議 •生成AI利用ガイドライン作成 •利用環境の構築(Cursorの導入) •母校苫小牧高専での生成AI授業 4

Slide 5

Slide 5 text

生成AI導入を やってみた!!

Slide 6

Slide 6 text

導入稟議 •背景、目的 •他社事例 •導入効果 •コスト、ROI •計画詳細、スケジュール 6

Slide 7

Slide 7 text

導入稟議(他社事例) 8 定量評価されている企業の事例が全然ない!!! • 横須賀市、東京都(ChatGPTのみ) • GMO、ZOZO、サイバー(ほぼGitHub Copilotの成 果) • 導入しましたプレスは死ぬほどあるけども、 定量評価を踏まえた成果報告はネットに少ない!! 導入の悩み①

Slide 8

Slide 8 text

導入稟議(他社事例_横須賀市) 9 横須賀市の例

Slide 9

Slide 9 text

導入稟議(他社事例_横須賀市) 10

Slide 10

Slide 10 text

導入稟議(他社事例_GMO) 11

Slide 11

Slide 11 text

導入稟議(GPT4の優位性) 12

Slide 12

Slide 12 text

導入稟議(コスト) ①全社員にアカウント提供した場合 月額:2,900円×100アカウント=290,000円 年額:348万円 ②APIを利用し、環境構築した場合 月額費用:2,900円×1アカウント= 2,900円 + API費用(概算):約88,000円 =月額約92,000円 年額:約110万円 13 月額費用 ¥70,390 年額費用 ¥844,683 内訳 ChatGPT Plus月額固定料金 1か月あたり $20.00 ¥2,900 ① Cursor Input Output 1回当たり 2 4 APIベース料金(従量課金) 1日当たり 20 Model Input Output 人数 7 gpt-4-1106-preview $0.01 / 1K tokens $0.03 / 1K tokens 単価[$] 0.01 0.03 https://openai.com/pricing#language-models ドル円 145 稼働日 20 Slack bot用API Input[K tokens] Output[K tokens] 1回当たりのやり取り 0.5K tokens 2.0K tokens bot Input Output 1人1日当たり(5回) 2.5K tokens 10.0K tokens 1回当たり 0.5 2 利用人数あたり(33.9人) 28.3K tokens 113.0K tokens 1日当たり 5 利用率 10% 1日の料金[$] $0.28 $3.39 社員数 113 1日の料金[円] ¥41 ¥492 利用人数 11.3 1か月の料金[円] ¥819 ¥9,831 1か月のAPI料金合計[円] ¥10,650 ② Cursor用API Input[K tokens] Output[K tokens] 1回当たりのやり取り 2.0K tokens 4.0K tokens 1人1日当たり(20回) 40.0K tokens 80.0K tokens 受託チーム当たり(7人) 280.0K tokens 560.0K tokens 1日の料金[$] $2.80 $16.80 1日の料金[円] ¥406 ¥2,436 1か月の料金[円] ¥8,120 ¥48,720 1か月のAPI料金合計[円] ¥56,840 ③ ※上記は想定金額でAPI使用料は全く読めないところもあり、導入からの1~2か月でデータを集めたいと考えています。 tokensとは ChatGPTのAPIは従量課金制で、料金計算を文字数ではなく、AIが認識できる分割数のTokenというものを用いている 英語は基本的に1単語1tokenとなるが、日本語は1文字1tokenでも1述語1tokenでもなく特殊な処理計算によって算出される Token計算Webページ: https://platform.openai.com/tokenizer

Slide 13

Slide 13 text

社長に説明してなんとか通した (元から乗り気ではあった)

Slide 14

Slide 14 text

ChatGPT Plusの契約もしたし GPT4のAPIキーも払い出した じゃあ導入だ!!

Slide 15

Slide 15 text

環境構築 16 •まず機能をどこまで提供する? • チャット、ログ、検索、RAG、Whisper、Vision、 DALL-E・・・ •なんの媒体で提供する? • オンプレ?クラウドに構築?Slack?Cursor? ChatGPT本体? 導入の悩み②~③

Slide 16

Slide 16 text

環境構築 17 •技術的な相談ができる人が社内にいない!! 導入の悩み④

Slide 17

Slide 17 text

環境構築 18

Slide 18

Slide 18 text

環境構築 • SESの会社でエンジニアが主なのでとりあえずVSCodeの代わ りにCursorを使うように指導 • Cursorならチャット、チャットログ、Vision、コード生成補助 など環境構築が楽な割に高機能 • まずは社内の1チームだけでスモールスタートして毎週レク チャ会を実施 →今週はPython構築からOpenAIAPIの利用の予定 19

Slide 19

Slide 19 text

環境構築(API使用量) 20

Slide 20

Slide 20 text

環境構築 21 •一般職への導入どうしよう・・・ 導入の悩み Now

Slide 21

Slide 21 text

環境構築 22 • Excelのアドインでサイドバーで使えるようにすればいいので は!? • Cursorと同じで一般職ならExcelを常に開いているはず!! • M365 Copilotは高いのでAPIで使えるものが好ましい

Slide 22

Slide 22 text

環境構築 23

Slide 23

Slide 23 text

環境構築 24 • すでにいっぱいあるけどせっかくだから自分で作ってみよう • Code Interperter的なこともしたい →せっかくだからハッカソンに出そう! →おそらくこのテーマで3月の東京AI祭ハッカソンに提出 予定!

Slide 24

Slide 24 text

全然関係ないけど 25 生成AIよくわからんビジネス マン向け 胡散臭いタイトルですがこの 本の3章から読むといいで す!! 「キーエンス思考」×ChatGPT時代の付加価値仕事術