Slide 1

Slide 1 text

苦しんで向き合う LLM時代の開発 ストックマーク株式会社 hashiba daiki

Slide 2

Slide 2 text

© 2025 Stockmark Inc. 自己紹介 - 羽柴 大生(hashiba daiki) - 大阪出身で現在香川在住 - 元パチンコ屋さんの店長で、現在は web application の開発 に携わっています - 最近はエージェントの開発にしか興味ありません

Slide 3

Slide 3 text

© 2025 Stockmark Inc. 自己紹介

Slide 4

Slide 4 text

© 2025 Stockmark Inc. 前段 - 今日伝えたいこと - 聞き終わった人がこうなると嬉しい

Slide 5

Slide 5 text

© 2025 Stockmark Inc. 前段:今日伝えたいこと - 今日伝えたいこと - 特定のエージェントの話はすぐに陳腐化するので、そうならない話を したい (とはいえ抽象的な話ばかりはしんどいので具体の話もする) - AIスゲー!と実務に取り込む際のギャップ - 聞き終わった人がこうなると嬉しい

Slide 6

Slide 6 text

© 2025 Stockmark Inc. 前段:今日伝えたいことの対象者 - 今日伝えたいこと - 特定のエージェントの話はすぐに陳腐化するので、そうならない話を したい (とはいえ抽象的な話ばかりはしんどいので具体の話もする) - AIスゲー!と実務に取り込む際のギャップ - 聞き終わった人がこうなると嬉しい https://www.utokyo-ipc.co.jp/column/innovation-theory/

Slide 7

Slide 7 text

© 2025 Stockmark Inc. - 今日伝えたいこと - 特定のエージェントの話はすぐに陳腐化するので、そうならない話を したい (とはいえ抽象的な話ばかりはしんどいので具体の話もする) - AIスゲー!と実務に取り込む際のギャップ - 聞き終わった人がこうなると嬉しい 前段:今日伝えたいことの対象者 https://www.utokyo-ipc.co.jp/column/innovation-theory/

Slide 8

Slide 8 text

© 2025 Stockmark Inc. 前段:聞き終わった人がこうなると嬉しい - 今日伝えたいこと - 聞き終わった人がこうなると嬉しい - エージェントを使うことへのハードルが下がる。使い方のコツのような ものを得る - 苦しかったのは自分だけじゃなかったんだという安堵感を得つつ、こ のLLM時代の開発に前向きに取り組める

Slide 9

Slide 9 text

© 2025 Stockmark Inc. 目次 1. はじめに(自己紹介、前段) 2. 実務に取り入れ始めた感想 3. 個人での活用を考える 4. 組織的な活用を考える 5. おわりに はじめに 実務に入れた感想 個人活用 組織活用 おわりに

Slide 10

Slide 10 text

© 2025 Stockmark Inc. 個人のAI利用歴:2022年7月〜 2022年 7月:GitHub Copilot 2022年12月:ChatGPT3.5 2024年 1月:Cursor(すぐにVSCodeへreturn) 2024年12月:Cline 2025年 6月:Claude Code ⇒環境初期からいろんなツールで比較しながら進めてきた はじめに 実務に入れた感想 個人活用 組織活用 おわりに

Slide 11

Slide 11 text

© 2025 Stockmark Inc. 組織的にやったこと:2025年4月〜 1. Devinの導入 2. 利用環境の整備 3. 情報発信 ⇒ざっくりは旗振り役っぽいところを勝手にやっている はじめに 実務に入れた感想 個人活用 組織活用 おわりに

Slide 12

Slide 12 text

© 2025 Stockmark Inc. 実際に導入した僕の感想 はじめに 実務に入れた感想 個人活用 組織活用 おわりに

Slide 13

Slide 13 text

© 2025 Stockmark Inc. 実際に導入した僕の感想 はじめに 実務に入れた感想 個人活用 組織活用 おわりに

Slide 14

Slide 14 text

© 2025 Stockmark Inc. 実際に導入した僕の感想 はじめに 実務に入れた感想 個人活用 組織活用 おわりに 他にも導入時のセキュリティ チェックや、コスパの検討。利用 期間中にtipsが個人に閉じてし まいがちな問題、部門間の連携 …etc

Slide 15

Slide 15 text

© 2025 Stockmark Inc. 社内インタビューの中で聞こえてきた声 「AI使うより自分で書いた方が早い」 「自分たちの仕事はいったいどうなるんだろうか?」 「使い方がわからない」 「上手に使えているかわからない」 「最新情報にキャッチアップできていない」 はじめに 実務に入れた感想 個人活用 組織活用 おわりに

Slide 16

Slide 16 text

© 2025 Stockmark Inc. 社内インタビューの中で聞こえてきた声 「AI使うより自分で書いた方が早い」 「自分たちの仕事はいったいどうなるんだろうか?」 「使い方がわからない」 「上手に使えているかわからない」 「最新情報にキャッチアップできていない」 はじめに 実務に入れた感想 個人活用 組織活用 おわりに ここが1番長 いです

Slide 17

Slide 17 text

© 2025 Stockmark Inc. 個人での活用を考える①ネガティブな反応 「AI使うより自分で書いた方が早い」 「自分たちの仕事はいったいどうなるんだろうか?」 「使い方がわからない」 「上手に使えているかわからない」 「最新情報にキャッチアップできていない」 はじめに 実務に入れた感想 個人活用 組織活用 おわりに

Slide 18

Slide 18 text

© 2025 Stockmark Inc. https://speakerdeck.com/hashibadaiki/bu-zu -zi-liao-llmtoha 個人での活用を考える①ネガティブな反応 はじめに 実務に入れた感想 個人活用 組織活用 おわりに

Slide 19

Slide 19 text

© 2025 Stockmark Inc. 個人での活用を考える①ネガティブな反応 https://speakerdeck.com/hashibadaiki/bu-zu -zi-liao-llmtoha はじめに 実務に入れた感想 個人活用 組織活用 おわりに

Slide 20

Slide 20 text

© 2025 Stockmark Inc. LLMに対する不安 - 次に来る単語を「予測」しているだけ - 知性を持つかのような振る舞いに見える時はあるが、実際に持っている わけではない ⇒非決定論的であり、それと向き合わなければいけないので人によっては不 安になるのは当然の反応 はじめに 実務に入れた感想 個人活用 組織活用 おわりに

Slide 21

Slide 21 text

© 2025 Stockmark Inc. 世間の声(≒Twitter)とのギャップ 長期運用を前提とした既存コードと、そうでないものではAIの利用は全く異な るという前提を忘れない - 爆速アプリ開発しました! - すごい!こんなことまでできるのか! - 〇〇のタスクが数分で終わったんだが ... - エンジニア廃業になりました はじめに 実務に入れた感想 個人活用 組織活用 おわりに

Slide 22

Slide 22 text

© 2025 Stockmark Inc. アイデンティティクライシス https://www.oreilly.com/radar/the-end-of-programming-as-we-know-it/ https://speakerdeck.com/watany/the-end-of-the-special-time-granted-to-engineers - 今まで価値がある(=賃金が発生していた)と思っていたものが、一瞬でできてしまう世界 - 個々人に大なり小なり訪れるもので、この大きな流れとどう向き合うか? 未来は誰にも分からない。自分で決めて自分で選ぶしかない はじめに 実務に入れた感想 個人活用 組織活用 おわりに

Slide 23

Slide 23 text

© 2025 Stockmark Inc. 社内インタビューの中で聞こえてきた声 「AI使うより自分で書いた方が早い」 「自分たちの仕事はいったいどうなるんだろうか?」 「使い方がわからない」 「上手に使えているかわからない」 「最新情報にキャッチアップできていない」 はじめに 実務に入れた感想 個人活用 組織活用 おわりに

Slide 24

Slide 24 text

© 2025 Stockmark Inc. 個人での活用を考える②上手に使うためには? ⇒「エージェントを(うまく)使えるようになるためには、まずエー ジェントを使うことです」 https://speakerdeck.com/kotanin0/with-devin-ainozi-lu-tomenhanozi-li?slide=8 はじめに 実務に入れた感想 個人活用 組織活用 おわりに

Slide 25

Slide 25 text

© 2025 Stockmark Inc. 個人での活用を考える②上手に使うためには? とはいえこれだけだと乱暴すぎるので、汎用的なtipsを具体的な活用方法添 えながら解説します。 https://devin.ai/agents101#introduction https://www.oreilly.co.jp/books/9784814401130/ はじめに 実務に入れた感想 個人活用 組織活用 おわりに

Slide 26

Slide 26 text

© 2025 Stockmark Inc. LLM活用のtips① - RLHF を用いているため、人間のような振る舞いができる - パターン認識が得意 - GitHub copilotの話。応用してpromptの出し方。Few-shot プロ ンプティング - 指示通りに動かない - ピンクの象 - 否定的な指示をしない はじめに 実務に入れた感想 個人活用 組織活用 おわりに

Slide 27

Slide 27 text

© 2025 Stockmark Inc. LLM活用のtips①:パターン認識が得意 コード補完は特にそれが如実にでる はじめに 実務に入れた感想 個人活用 組織活用 おわりに

Slide 28

Slide 28 text

© 2025 Stockmark Inc. Few-shot プロンプティング 例をいくつか提示することで回答精度があがる LLM活用のtips①:パターン認識が得意 はじめに 実務に入れた感想 個人活用 組織活用 おわりに

Slide 29

Slide 29 text

© 2025 Stockmark Inc. LLM活用のtips①:指示通りに動かない - ピンクの象 - 「〇〇するな」という指示ほどしてしまう - 否定的な指示をしない - 「testが通らない時にtestコードを修正するな」ではなく 「testが通らない場合は、変更したコードに不備がないか確認してくだ さい」 はじめに 実務に入れた感想 個人活用 組織活用 おわりに

Slide 30

Slide 30 text

© 2025 Stockmark Inc. LLM活用のtips② - コンテキストウィンドウサイズを意識する - 余計な情報を与えない - 真実バイアス、チェーホフの銃、無関心の谷 - LLMは文字列をみているのではなくトークンを見ている - readme.mdとREADME.mdは違う。現在は学習量でカバーされてい るだけ はじめに 実務に入れた感想 個人活用 組織活用 おわりに

Slide 31

Slide 31 text

© 2025 Stockmark Inc. LLM活用のtips② - コンテキストウィンドウサイズを意識する - ユーザーの入力値だけではなく、LLMが生成しているものも含まれ る - 余計な情報を与えない - 真実バイアス、チェーホフの銃、無関心の谷 - LLMは文字列をみているのではなくトークンを見ている - readme.mdとREADME.mdは違う。現在は学習量でカバーされているだけ はじめに 実務に入れた感想 個人活用 組織活用 おわりに

Slide 32

Slide 32 text

© 2025 Stockmark Inc. LLM活用のtips②:余計な情報を与えない 真実バイアス 入力された情報が正しいと判断してしまう はじめに 実務に入れた感想 個人活用 組織活用 おわりに

Slide 33

Slide 33 text

© 2025 Stockmark Inc. LLM活用のtips②:余計な情報を与えない チェーホフの銃 入力された情報を全て使おうとする 中略... はじめに 実務に入れた感想 個人活用 組織活用 おわりに

Slide 34

Slide 34 text

© 2025 Stockmark Inc. LLM活用のtips②:文字列ではなくトークンを見ている 人間はtypoを読めるが、LLM はtokenで把握している 無駄なtypoや大文字、小文字 の差異はコンテキストウィンドウ の逼迫につながる(微々たるも のではある) はじめに 実務に入れた感想 個人活用 組織活用 おわりに

Slide 35

Slide 35 text

© 2025 Stockmark Inc. エージェント活用のtips - とりあえず任せてみる - 大きいタスクは対話して進める - howを伝える・主語を明確にする はじめに 実務に入れた感想 個人活用 組織活用 おわりに

Slide 36

Slide 36 text

© 2025 Stockmark Inc. エージェント活用のtips - とりあえず任せてみる - 捨てていい。もったいないと思わない - 色々試した方がいい。指示を繰り返し出すことで出し方や出す対象 が最適化されていく - 大きいタスクは対話して進める - howを伝える・主語を明確にする はじめに 実務に入れた感想 個人活用 組織活用 おわりに

Slide 37

Slide 37 text

© 2025 Stockmark Inc. エージェント活用のtips - とりあえず任せてみる - 大きいタスクは対話して進める - メモや調査が必要なタスクは大きいタスク - 数時間かかる場合は大きいタスク - howを伝える・主語を明確にする はじめに 実務に入れた感想 個人活用 組織活用 おわりに

Slide 38

Slide 38 text

© 2025 Stockmark Inc. エージェント活用のtips:大きいタスクの進め方 対話的に進めることでアウト プットを都度確認し、方向修正 の指示も出せる。 指示するというよりコンテキスト ウィンドウを一緒に作り上げる というイメージ。 はじめに 実務に入れた感想 個人活用 組織活用 おわりに

Slide 39

Slide 39 text

© 2025 Stockmark Inc. エージェント活用のtips - とりあえず任せてみる - 大きいタスクは対話して進める - howを伝える・主語を明確にする - どのrepositoryで、どのfileで、どの関数でという対象を誰が見てもわ かるように指示する - 判断の余地を残させない(目標、目的だけを伝えるだけでは不十分 な場合がある) はじめに 実務に入れた感想 個人活用 組織活用 おわりに

Slide 40

Slide 40 text

© 2025 Stockmark Inc. エージェント活用のtips②:苦手なもの - 学習データが古い - Context7 MCPなどの活用が必要 - 視覚情報に弱い - debugスキルには限界がある - 候補のリストアップに留めるといい - エージェントの現在地 - まだまだ自然言語だけで開発できるようにはなっていない - plan modeなどで制御しつつ最終的な決定は人間がやるとよさそう はじめに 実務に入れた感想 個人活用 組織活用 おわりに

Slide 41

Slide 41 text

© 2025 Stockmark Inc. Claude Code 活用のtips(IMO) - 個人的にはMUST。逆にこれだけでもいい - CLAUDE.mdを更新する(`/init` ) - `/clear` を多用する。連続する場合は `/compact` はじめに 実務に入れた感想 個人活用 組織活用 おわりに

Slide 42

Slide 42 text

© 2025 Stockmark Inc. Claude Code の小ネタ(やるといいですよぐらいの温度感) - esc で強制stopができる。差し込める - @でfile指定ができる - drag dropでfileを読み込ませられる - . dirが読めないのでちょこちょこ使う - shift + tab でmode切り替え。plan modeは最近よく使う はじめに 実務に入れた感想 個人活用 組織活用 おわりに

Slide 43

Slide 43 text

© 2025 Stockmark Inc. Claude Code のカスタム(CLAUDE.md) - どうせ長々書いても無視されるし、メンテがしんどいので最小限に - 日本語で返答して - 質問には回答して - バグの対応はまず原因を報告して はじめに 実務に入れた感想 個人活用 組織活用 おわりに

Slide 44

Slide 44 text

© 2025 Stockmark Inc. Claude Code のカスタム(settings.json) - denyだけしっかり書いておいて後は大体 okのruleで運用し ています - コムテさんの記事が非常にわかりやすく網羅的です ( https://izanami.dev/post/d6f25eec-71aa-4746-8c0d-80c67a1459be ) - hooksは通知音を入れると世界が変わります。かなりおす すめです(これ以外はやってない) - 公式にも言及されていますが hooksは必ず実行され てしまうので、ご利用にはご注意を はじめに 実務に入れた感想 個人活用 組織活用 おわりに

Slide 45

Slide 45 text

© 2025 Stockmark Inc. Claude Code のカスタム(slash commands) - 正直使いこなせていない。運用が難しい - pr-tell - prの内容を優しく教えてくれる - 自分の不得意な領域で使う - pr-info - prの内容をサマリーしてくれる - pr-fb - 作ったPRに対してコメントがあれば確認して対 応してくれる - aprvとrequest changeが混ざるとパルプンテ が起きる はじめに 実務に入れた感想 個人活用 組織活用 おわりに

Slide 46

Slide 46 text

© 2025 Stockmark Inc. 「AI使うより自分で書いた方が早い」 「自分たちの仕事はいったいどうなるんだろうか?」 「使い方がわからない」 「上手に使えているかわからない」 「最新情報にキャッチアップできていない」 個人での活用を考える③ はじめに 実務に入れた感想 個人活用 組織活用 おわりに

Slide 47

Slide 47 text

© 2025 Stockmark Inc. 個人での活用を考える③キャッチアップ ⇒今までの情報収集と変わらない。速度が早いことと、少し怪しいアカウント が増えたぐらい。信用できる発信源をいくつかwatchする 継続して使っているAIツールがあると比較ができるしパターンも掴めているの で問題ないと思います。 はじめに 実務に入れた感想 個人活用 組織活用 おわりに

Slide 48

Slide 48 text

© 2025 Stockmark Inc. 組織的な活用を考える 1. 導入までの道のり 2. 活用を広げるための行動 3. 活用できた後の課題 はじめに 実務に入れた感想 個人活用 組織活用 おわりに

Slide 49

Slide 49 text

© 2025 Stockmark Inc. 組織的な活用を考える①導入までの道のり - セキュリティ的な観点 - コスパに見合うのかという話 という壁はありつつも昨今の空気的には話は通しやすい気はしています。組 織的にもAI活用は進めたいところが多いはず とはいえ、それに甘えずに懇切丁寧な説明や運用方法の検討は必要 はじめに 実務に入れた感想 個人活用 組織活用 おわりに

Slide 50

Slide 50 text

© 2025 Stockmark Inc. 組織的な活用を考える②活用を広げるための行動 https://speakerdeck.com/gunta/da-shou-qi-ye-noaiturudao-ru-nobi- woyue-ete-saibaezientonocursorhuo-yong-zhan-lue https://speakerdeck.com/monotaro/monotarounoaiqu-dong-kai-fa-cli nebian-clinewo200-deshi-sitemitajian?slide=10 - ユニット毎に希望があれば進めていくのか、ガッと全体に導入するのか - あとはその振れ幅の問題で組織の形に合わせた方法が必要 - 弊社は前者 はじめに 実務に入れた感想 個人活用 組織活用 おわりに

Slide 51

Slide 51 text

© 2025 Stockmark Inc. 組織的な活用を考える②活用を広げるための行動 - 最初は孤独な歩みでも続けていけば輪は広がる - やったこと - 関連部署との連携 - インタビュー & 好事例の共有、新機能の案内 - 1番いいのは具体的なユースケースを提示すること - まだまだ道半ば はじめに 実務に入れた感想 個人活用 組織活用 おわりに

Slide 52

Slide 52 text

© 2025 Stockmark Inc. 組織的な活用を考える③【WIP】活用を広げた後の課題 - そもそもここに辿り着けていないので、まだ単なる皮算用 - もしくは、活用する前提での業務設計 - AIは責任を取れない問題とどう向き合うか? - 具体的にはおそらく人間のレビューがボトルネックになるであろうと いう話 - AIの力を借りる?? - ガードレールを強化する?? はじめに 実務に入れた感想 個人活用 組織活用 おわりに

Slide 53

Slide 53 text

© 2025 Stockmark Inc. とはいえ課題ばかりでもなく、新たな扉の前に僕たちはいる - 歴代の著名なプログラマーも現状を楽しんでいる - Andrej Karpathy氏の言ったsoftware2.0は訪れているし、software3.0の内容に僕も非常に 共感している https://x.com/iwashi86/status/1933824788847603956 https://www.youtube.com/watch?v=LCEmiRjPEtQ&ab_channel=YCombinator はじめに 実務に入れた感想 個人活用 組織活用 おわりに

Slide 54

Slide 54 text

© 2025 Stockmark Inc. おわりに:あらためて前段の話 - 今日伝えたいこと - 特定のエージェントの話はすぐに陳腐化するので、そうならない話をしたい (とはいえ抽象的な話ばかりはしんどいので具体の話もする) - AIスゲー!と実務に取り込む際のギャップ - 対象者はまだエージェント開発できていない人〜しっかり取り組めていない人 - 聞き終わった人がこうなると嬉しい - エージェントを使うことへのハードルが下がる。使い方のコツのようなものを得る - 苦しかったのは自分だけじゃなかったんだという安堵感を得つつ、 このLLM時代の開発に前向きに取り組める はじめに 実務に入れた感想 個人活用 組織活用 おわりに

Slide 55

Slide 55 text

© 2025 Stockmark Inc. ● LLMをうまく使うには ○ ひたすら試行錯誤して、ベターな方法を身につける ■ 個別のエージェントというよりLLMの特徴のようなもの ■ できることばかりではないので現在地を理解しながら進める ● 苦しみはそこそこある ○ 同じエージェントの話でも比較しにくい ○ 導入前、導入中、導入後それぞれに考えること、やることは多い ○ でも、乗り越えた先にエキサイティングな世界が待ち受けているかもしれない おわりに:まとめ はじめに 実務に入れた感想 個人活用 組織活用 おわりに

Slide 56

Slide 56 text

© 2025 Stockmark Inc. 採用絶賛募集中!!! https://stockmark.wraptas.site/ 全方位で積極的に採用募集中です! - 累計88億の調達を実施 - SaaS、PaaSの複数事業を展開 - 1,000億パラメーターの自社 LLMを開発 …etc 興味ある方いたら 👈 からご連絡ください!