Slide 17
Slide 17 text
コア価値に関わるところにはこだわる
WebSpeech APIで不足であれば、STTツールを契約する
WebSocketやSSEなどのストリーム形式でなるべくリアルタイムにする
LLMの限界を超える応答速度が必要であれば待機時間を感じさせない手段を講じ
る
長文生成LLMの間に相槌LLMを流す(特許出願中)
応答中に考え中マークを表示したり、考えているような仕草をさせる
©ROXX, Inc. ALL RIGHTS RESERVED.
17 / 20