AIを組み込んで自作したWebサービスやツールの紹介

2024/4/10 「AIミーティング」で発表

Transcript

1. Webサービスやツールの紹介 Memetan Tech Tips （ とり子 と memetan の親子チーム） AIを組み込んで自作した
2. ざっくり自己紹介 ▪ とり子 　・平凡なWEBエンジニア主婦 　・電子工作が趣味 ▪ memetan 　・16歳のフリーランス 　・技術全般が大好き
3. AIを使って作ったものの紹介をします memetan氏の作ったものをとり子が概要について 紹介後、本人よりAI部分の詳細説明を行います。 （※わたしはAI詳しくないです…） 【本日ご紹介する作品メニュー】 　　① 謝罪FAXジェネレータ　　Webサービス公開中 　　② カレンダーキャプチャー　Webサービス公開中 　　③ AIコード補完　　　　　　memetanの自分用ツール
4. ① 謝罪FAXジェネレータ 先月開催された「ツクってアソぶハッカソン」で作った作 品、優秀賞受賞 ハッカソンのテーマが 「洗練された無駄のない無駄な機能」 Web画面上のボタンを押して 謝罪文(謝罪案件・理由)を AI自動生成 さらにFaxが送られたかのように 同時印刷の機能も追加 https://apology.tsukuaso. memetan.dev/
5. ここは動画です
6. プロンプトエンジニアリング ・二回投げるといいと踏んだ 　①出来事を作成 　②謝罪文作成 ProtoPediaにも記載しています。 https://apology.tsuku aso.memetan.dev/ ▪説明 ①謝罪FAXジェネレーター 　 https://protopedia.net/prototype/5105
7. ② カレンダーキャプチャー 2022年にとり子が作りかけていたものを memetn氏が2023年に完全リニューアル 紙のおたよりをカメラ読み込みして Googleカレンダーに登録 するWebシステム https://cam2calendar.me metan.dev/
8. ここは動画です
9. ▪説明 ②カレンダーキャプチャー ・Google Vision API、OpenAI API、Google Calendar APIを使用 +---------+ +---------------------+ | Picture | -> | Google Vision API | +---------+ +---------------------+ *1 | +---------+ +-----+ +--------+ | Prompt | -----> |Mux| -----> | Result | +---------+ +-----+ +--------+ *1 プロンプトは固定 ・GPT-4はコスト高い 　3.5 Turboはvisionがない 　　なんちゃって自作 　　　　　　　　　　　　ProtoPediaにも記載しています。 　　　　　　　　　　　　https://protopedia.net/prototype/3819 https://cam2calendar .memetan.dev/
10. ③ AIコード補完 自作のコード作成支援ツール 初版は去年7月に作成、 バージョンアップしながら 現在も元気に稼働中
11. ここは動画です
12. ▪説明 ③AIコード補完 WizardCoder
 • 15B
 • モデルアーキテクチャは starcoder
 • 特殊トークンで補完が可能
 llama.cpp
 llama.cppでQ4_Kに量子化 2023/09時点でLLaMA系列ではないのにllama.cppに サポートが追加[1]
 Q4_Kは12GiBにぎりぎり収まる (= RTX3060で動く) [1]https://github.com/ggerganov/llama.cpp/issues/3076 <fim_prefix>fn helloWorld() { println!(<fim_suffix> } <fim_middle>"Hello world!");
13. VSCodium
 検証環境はVSCodeの派生のVSCodium 
 拡張機能でコードを補完する 
 使うインターフェスは InlineCompletionItemProvider 
 このインターフェスは GitHub Copilot も使っている (だから表示・使い勝手は同 じ) 
 llama.cpp の OpenAI 互換 HTTP API をこのインターフェスに変換するだけ
14. 問題点
 • コンテキストが2048で縛られる
 ◦ 2048を超えるとすごく頭が悪くなる
 
 • WizardCoder 古い
 ◦ このプロジェクト自体古い
 ◦ でも未だに現役、普通に使える
 

15. ありがとうございました