GoとServer-Sent Events

GoとServer-Sent Events shuntaka 2022/04/12 Let's Go Talk #9 (GoのLT会)

自己紹介宜しくお願いします😌 埼玉からお送りしています！ GitHub: https://github.com/shuntaka9576 blog: https://shuntaka.dev 仕事: AWS,IoT,サーバサイド,TypeScript,Pythonなど Go歴:
仕事ではほぼなく、ときどき趣味で書きます、、

目次・そもそもServer-Sent Events ・Server-Sent Eventsを調査した経緯・Goで実装する・作ったツールの紹介

そもそも Server-Sent Events

Server-Sent Events(出典,詳細: MDN) リアルタイム通信をWebアプリケーションに実装するための技術・HTTP/1.1とHTTP/2に対応・単方向通信 WebSocketは双方向で、専用プロトコル

フィールドは複数ある(出典,詳細: MDN) ・event … イベントの種別・data … メッセージ内容(今回はdataだけ知っていればOK) ・id …
EventSourceに設定するイベント ID ・retry … 指定時間待機後再接続要求

Server-Sent Eventsを調査した経緯

OpenAI API ・OpenAIのAPIのサービス・ChatGPTのWeb版(chat.openai.com)の機能がAPIとして提供されている

ChatGPTの課金体系・ChatGPTのサブスクとAPIは課金体系が**別** ・ChatGPT Plusはサブスク$20 ・OpenAI APIは従量課金 ※ Open AI APIのGPT-4は、waitlistに登録しないと使えない。

仮説使い方次第ではサブスクよりAPIを使った方が安くなるケースがありそう。

CLIを作ろう Gopher CLI作りがち問題...

CLI設計・Web版のような徐々に出力される体験にしたい 🤔

参考

Goで実装する

実装方法 1. github.com/sashabaranov/go-openai 2. github.com/r3labs/sse 3. 自前

3を選択 1. github.com/sashabaranov/go-openai => 多分一番穏便(ライブラリ内でSSEは自前実装) 2. github.com/r3labs/sse => GET以外のメソッドで未対応。パッチ当てればOK 3.
自前 => 2.を参考にしつつ実装した

GitHubコード Response.Bodyをリアルタイム逐次読み出し

*bufio.Scanner *Response.Body (io.Reader) ストリーム読み取りgoroutine ① ReadEvent ② Response GitHubコード
改行\n\nで逐次読み出し scanner.Split(splitFunc) メインgoroutine channel ② Response ③ ④ 標準出力 Server-Sent Event

作ったツールの紹介 github.com/shuntaka9576/oax

詳細はZennのブログ記事へ

oax(OpenAI eXecuter) 動作その1 所要2分くらいあれば実演

oax(OpenAI eXecuter) 動作その1

oax(OpenAI eXecuter) 動作その2

使ってよかったライブラリ github.com/alecthomas/kong github.com/itchyny/timefmt-go github.com/ktr0731/go-fuzzyfinder(2つ目Gifは99.9%こちらのライブラリのおかげ)

まとめ SSEのリアルタイムイベントハンドリングは、Goの得意分野・net/httpの豊富な機能・io.Readerのリアルタイムストリームを読み出し・goroutineやchannelを使った並行処理

ご静聴ありがとうございました。

GoとServer-Sent Events

GoとServer-Sent Events

shuntaka

More Decks by shuntaka

Featured

Transcript