20241211_AIミーティング オープンソースな LLM と Ollama を GitHub Codespaces でサッと試すハンズオン資料をつくったよもやま話 ワンフットシーバス 田中正吾 

私の話はスライドを後ほど共有します。 話す内容に注力いただいて大丈夫です！ 

10 分くらいで話します！ 

田中正吾（たなかせいご） 屋号：ワンフットシーバス 2004年よりフリーランス。以後、FLASH制作を 中心にインタラクティブコンテンツを主に行い現 在に至る。 最近ではWEBフロントエンドをベースにしなが らも、情報とインターフェースが合わさるアプ ローチという視点でIoTやMixed Realityといった 技術も取り入れながら活動しています。 

OSS な LLM と Ollama を GitHub Codespaces で サッと試すハンズオン資料をつくりました このイベントの展示する場所でライブコーディングしたりするのでまとめました https://github.com/1ft-seabass/ibm-techxchange24-japan-exhibition-granite-llm 

こんな雰囲気 自分のまとめ https://togetter.com/li/2471785 イベントまとめ https://togetter.com/li/2471798 

軽くライブデモ ダウンロード時間がどうしてもかさんで間延びする（約 3 分かかる）ので途中スタートします 状況によっては出来上がったものを動かすこともあるかも～ 

➔ GitHub アカウントがあればローカル LLM が触れるとい うことを見せれたのはとてもよかった ➔ IBM がオープンソース LLM を公開してて、しかもすぐ試 せるというのが結構新鮮だった反応。うれしい。 ➔ 一からダウンロード＆インストールする時間が間延びしが ちなので途中からは環境用意済みのもので対応 ➔ ライブデモ観点ではプロンプト例をもっと充実させると魅 力が伝わると思うので頑張りたい ➔ 英語版も作りたくなった！（フリです） ふりかえり 

英語版へ翻訳してみました！ 英語の勉強がてらなるべく自前でやりつつ、翻訳ツール使ったり ChatGPT つかったり うまく作れたよかった 

➔ 日本語で簡潔に書いておくと英語にも訳しやすかったので 今後も意識していきたい。よかった。 ➔ 英語翻訳は「～してください」ニュアンスを Please をつ けるべきか動詞はじまりでいいか微妙に悩むときがある が、まあ一旦大枠伝わればよい意識で書きました ➔ Ollama で JSON モードや structured outputs （構造化 出力）ができるようになってて可能性広がる！ ◆ https://ollama.com/blog/structured-outputs これが本家さんの記事！ ◆ https://note.com/schroneko/n/n4045ab8350aa この記事とか試されてて素敵！ エクストラ 時間があれば 

➔ ライブデモで興味を持ってくれた方に「これやるとできま すよ」ハンズオン資料を用意できたのは体験としてよさそ うと分かったのでやってみてよかった ➔ GitHub Codespaces があれば手元環境気にせず Ollama でいろいろ LLM 試せた。 ➔ LLM もファイルサイズがイイ感じになり、処理速度も結 構動くようになってきている。 ➔ このあたりの進化でより個人に寄った検証やトライができ るので面白そう！やっていきたい！ まとめ