202607_ローカルAI構築勉強会

Transcript

1. ChatGPTの次へ！ ローカルAI環境構築入門 社内勉強会 60分ハンズオン Ollama + Open WebUI 1
2. 今日のゴール ローカルAIの概要を説明できる クラウドAIとの違いを理解する OllamaでローカルLLMを起動できる Open WebUIでチャット環境を構築できる 自分のPCでローカルAIを使い始められる 2
3. なぜ今ローカルAIか 生成AIは業務で当たり前になりつつある 一方で、クラウド利用には制約もある 手元のPCでAIを動かす選択肢が現実的になってきた ローカルAIは、コスト・通信・情報管理の観点で有力な選択肢です。 3
4. ローカルAIの主なメリット API利用料が不要 オフラインでも使える 機密情報を外部に送らない 用途によっては、クラウドAIより安心して試せる場面があります。 4
5. 今日扱う範囲 扱う内容 ローカルAIとは何か クラウドAIとの違い Ollamaの導入 Open WebUIの導入 ローカルLLMの実行 活用イメージ 扱わない内容 モデル開発 RAG 5
6. アジェンダ 1. ローカルAIとは何か 2. Ollama導入 3. Open WebUI導入 4. ローカルAI体験 5. Q&A 6
7. クラウドAIとローカルAI 観点 クラウドAI ローカルAI 実行場所 外部サーバー 自分のPC 通信 必須 不要でも可 コスト API課金あり 基本無料 情報管理 外部送信あり 手元で完結 性能 高性能になりやすい PC性能に依存 7
8. クラウドAIの特徴 ChatGPT Gemini Claude 特徴: 高性能 すぐ使える API連携しやすい インターネット接続が前提 8
9. ローカルAIの特徴 PC上で直接実行する オフラインで使える データを外部に送らない 動作速度や扱えるモデルはPC性能に左右される クラウドAIの代替というより、使い分ける選択肢として考えるのが実務的です。 9
10. こんな人に向いている 社外に出しづらい情報を扱う API課金を気にせず試したい AIの仕組みを手元で理解したい 開発・検証用に自由な環境が欲しい 10
11. 今日の構成 使うもの Ollama ローカルLLMを起動するためのツール Open WebUI ローカルLLMをブラウザUIで使うためのOSS 11
12. 事前準備 必須 Docker Desktop Ollama 動作確認 docker --version ollama --version Windowsの方は、今回の範囲ではWSL不要です。 12
13. Ollamaとは ローカルでLLMを実行するための代表的なツール コマンドだけでモデルの取得と起動ができる macOS / Windows / Linux で利用可能 まずはCLIでAIが動く状態を作ります。 13
14. Ollamaでモデルを起動する ollama run gemma3:4b ポイント: 初回はモデルのダウンロードが発生する 2回目以降はローカルから起動される 14
15. Ollama動作確認 起動後に次のように入力します。 こんにちは 確認したいこと: モデルが起動しているか 日本語で応答するか 手元のPCで完結している感覚を持てるか 15
16. Open WebUIとは ローカルLLMをChatGPTライクな画面で使うためのOSS 複数モデルの切り替えや会話管理がしやすい CLIに不慣れな人でも扱いやすい 16
17. Open WebUIを起動する docker run -d \ -p 3000:8080 \ -e WEBUI_AUTH=False \ -v open-webui:/app/backend/data \ --name open-webui \ --restart always \ ghcr.io/open-webui/open-webui:v0.9.6 17
18. Open WebUIの後片付け docker rm -f open-webui docker volume rm open-webui ハンズオンでは、作成したコンテナとデータの扱いも把握しておくと再実行しやすくなりま す。 18
19. ブラウザで確認 http://localhost:3000 確認したいこと: 画面が表示されるか Ollamaのモデルが利用できるか ブラウザUIで会話できるか 19
20. ハンズオンで試すテーマ Java学習ロードマップ作成 Spring Boot学習計画作成 業務改善アイデア提案 まずは、正解が1つではない問いを投げるとAIの使いどころが見えやすいです。 20
21. ローカルAI活用のコツ 最初は短い指示で試す 出力が弱ければ条件を追加する 機密情報を扱える強みを活かす クラウドAIと品質・速度を比較して使い分ける 21
22. よくあるつまずき Ollamaが起動していない 初回モデル取得に時間がかかる Docker Desktopが起動していない localhost:3000 にアクセスできない PC性能により応答速度が遅い 22
23. 今日のまとめ ローカルAIは手元のPCでAIを動かす選択肢 強みは 低コスト・オフライン・情報管理 Ollama でモデルを動かせる Open WebUI で使いやすいUIを用意できる 23
24. 勉強会後にできること 自分の用途に合うモデルを試す プロンプトを工夫して精度を比較する 業務メモや学習計画の支援に使う クラウドAIとの役割分担を考える 24
25. Q&A 詰まった点 手元環境での違い 業務活用の相談 必要なら最後に個別のセットアップ確認も行います。 25