20241211_AIミーティング

20241211_AIミーティング「オープンソースな LLM と Ollama を GitHub Codespaces でサッと試すハンズオン資料をつくったよもやま話」の登壇資料です。

◆スライド内の素材は以下を使用させていただいております。ありがとうございます！

・シルエットデザイン http://kage-design.com/
・human pictogram 2.0 http://pictogram2.com
・ICOOON MONO http://icooon-mono.com/
・Adobe Stock https://stock.adobe.com/jp

Transcript

1. 20241211_AIミーティング オープンソースな LLM と Ollama を GitHub Codespaces でサッと試すハンズオン資料をつくったよもやま話 ワンフットシーバス 田中正吾
2. 私の話はスライドを後ほど共有します。 話す内容に注力いただいて大丈夫です！
3. 10 分くらいで話します！
4. 田中正吾（たなかせいご） 屋号：ワンフットシーバス 2004年よりフリーランス。以後、FLASH制作を 中心にインタラクティブコンテンツを主に行い現 在に至る。 最近ではWEBフロントエンドをベースにしなが らも、情報とインターフェースが合わさるアプ ローチという視点でIoTやMixed Realityといった 技術も取り入れながら活動しています。
5. OSS な LLM と Ollama を GitHub Codespaces で サッと試すハンズオン資料をつくりました このイベントの展示する場所でライブコーディングしたりするのでまとめました https://github.com/1ft-seabass/ibm-techxchange24-japan-exhibition-granite-llm
6. こんな雰囲気 自分のまとめ https://togetter.com/li/2471785 イベントまとめ https://togetter.com/li/2471798
7. 軽くライブデモ ダウンロード時間がどうしてもかさんで間延びする（約 3 分かかる）ので途中スタートします 状況によっては出来上がったものを動かすこともあるかも～
8. ➔ GitHub アカウントがあればローカル LLM が触れるとい うことを見せれたのはとてもよかった ➔ IBM がオープンソース LLM を公開してて、しかもすぐ試 せるというのが結構新鮮だった反応。うれしい。 ➔ 一からダウンロード＆インストールする時間が間延びしが ちなので途中からは環境用意済みのもので対応 ➔ ライブデモ観点ではプロンプト例をもっと充実させると魅 力が伝わると思うので頑張りたい ➔ 英語版も作りたくなった！（フリです） ふりかえり
9. 英語版へ翻訳してみました！ 英語の勉強がてらなるべく自前でやりつつ、翻訳ツール使ったり ChatGPT つかったり うまく作れたよかった
10. ➔ 日本語で簡潔に書いておくと英語にも訳しやすかったので 今後も意識していきたい。よかった。 ➔ 英語翻訳は「～してください」ニュアンスを Please をつ けるべきか動詞はじまりでいいか微妙に悩むときがある が、まあ一旦大枠伝わればよい意識で書きました ➔ Ollama で JSON モードや structured outputs （構造化 出力）ができるようになってて可能性広がる！ ◆ https://ollama.com/blog/structured-outputs これが本家さんの記事！ ◆ https://note.com/schroneko/n/n4045ab8350aa この記事とか試されてて素敵！ エクストラ 時間があれば
11. ➔ ライブデモで興味を持ってくれた方に「これやるとできま すよ」ハンズオン資料を用意できたのは体験としてよさそ うと分かったのでやってみてよかった ➔ GitHub Codespaces があれば手元環境気にせず Ollama でいろいろ LLM 試せた。 ➔ LLM もファイルサイズがイイ感じになり、処理速度も結 構動くようになってきている。 ➔ このあたりの進化でより個人に寄った検証やトライができ るので面白そう！やっていきたい！ まとめ