AIエージェント開発用SDKとローカルLLMをLINE Botと組み合わせてみた / LINEを使ったLT大会 #14

Transcript

1. 2025年9月9日 (火) 初心者・初登壇Welcome！LINEを使ったLT大会 #14 @オンライン 豊田陽介（ ） @youtoy AIエージェント開発用SDKとローカルLLMを LINE Botと組み合わせてみた
2. 自己紹介 ▶ IT系イベント主催、 　 登壇や運営なども ▶ 機械学習・IoT関連 　 の書籍を出版 ▶ 子ども向けのIT関連活動など 豊田陽介（ ） @youtoy プライベートでの活動 ▶ ガジェット ▶ 描画系／IoT／AI・機械学習系 ▶ ビジュアルプログラミング ▶ JavaScript 好きな技術など 最近は、生成AI・ ローカルLLMも
3. 【余談】直近の活動の一部 屋形船＠東京湾からLT （屋形船LTは3回目） 見かけたばかりの技術ネタ をブラウザ用に再実装
4. 【余談】ブラウザで動く体験型の作品を作ってます AI・機械学習などを使った 透明マント／光学迷彩のWebアプリ NT東京2025 での体験型展示 100均の 空気ポンプ カスタム シェーダー サオコン＋ Joy-Con ロボット トイ（toio） ルーレット コントローラー ＋ Joy-Con 太鼓の達人用 コントローラー
5. 今日の本題へ
6. 【※自分の環境】ローカルLLMが ノートPCでも動くようになった M4 MacBook Air を入手 （M4 Mac mini は使って 　いたけど、持ち運び 　環境にローカルLLM）
7. 身近になったローカルLLMを LINE Botの応答に使ってみた
8. 今日の話は以下の組み合わせ ・AIエージェント開発用SDK ・ローカルLLM ・LINE Bot
9. 今日の話は以下の組み合わせ ・AIエージェント開発用SDK 　Mastra（＋ プロバイダーで Vercel の AI SDK） ・ローカルLLM 　LM Studio ＋ 軽量モデル（jan-v1-4b／gemma-3-270m-it） ・LINE Bot 　LINE Messaging API SDK for nodejs
10. デモ動画：LINEアプリ上でのやりとり Mac で iPhone の LINEアプリを表示 LM Studio でのローカル サーバー（Bot の応答）
11. デモ動画で行っていたやりとり
12. 応答用サーバーなど 全体構成（作ったのは右側のほう） スマホ LINE アプリ LINE サーバー LINE ＋ 2種の 軽量モデル Microsoft「devtunnel」／ VS Code の「built-in port forwarding」 AIエージェント ＋ Botサーバー PC ローカルの APIサーバー
13. ローカルサーバーの選定 OpenAI互換の API に対応していれば何でも利用可能 GUIベースの LM Studio で
14. ローカルLLMのモデル選択 MacBook Air で試していたものから適当に 2つ選択 応答が超爆速で 超軽量なモデル ツール対応の 軽量モデル
15. AIエージェント開発用SDK（とプロバイダー） Mastra Vercel の AI SDK のプロバイダー （OpenAI互換の API用のもの）
16. 実装などの詳細は Qiita の記事に https://qiita.com/youtoy 今日の話の一部は 間に合ってないものが あるけれど...
17. 今回やりきれていないこと ・処理の簡単化という恩恵はあるものの... ・今だと直接APIをたたくだけでも良いかも 　しれない実装 　⇒ ツール利用や、その他のAIエージェント 　　 ならではの多様な処理を活用したい Mastra（AIエージェント開発用SDK）の活用
18. 終わり！