薬剤師向けの SOAP ノート作成支援アプリ「SoapVox」の開発を通して得た知見をもとに、Apple の Foundation Models(端末内モデル)と Private Cloud Compute(PCC)を、実際に出荷しているアプリでどう使っているかをまとめました。
SoapVox は、薬剤師の独り言を録音し、端末内で文字起こししてから、SOAP 形式の下書きを作るアプリです。この資料では、下書きを作る部分のコードと、その判断の根拠にした実測値を紹介します。
・端末内モデルの呼び出し方(greedy で出力を固定する/出力の上限を入力の残りから計算する)
・PCC はモデルを差し替えるだけで使えること。使う前に実行時に確かめる 3 点(availability / supportsLocale / contextSize)
・reasoningLevel の指定と、.deep にしても網羅率は 88.4% → 89.5% にとどまった実測
・「端末内のみ」の設定をいちばん先に判定する利用条件と、生成に失敗したときに端末内へ戻す設計
・@Generable で項目ごとに事実を抜き出す方式をやめ、文章を 1 回で書かせてアプリ側で S/O/A/P に分ける方式へ変えた理由(A 欄が空になった件数は 16/16 → 0/16)
・長い入力を 2,000 字ずつ割ると、事実が 83〜96% 残ったこと
・付録:ガードレールの誤検知を、設定を変えた再試行で回避する方法
最後に、ダウンロード数の伸び悩みも正直にお見せしています。ヒントをいただけたらうれしいです。