Function Calling対応Playgroundを作って検証してみた/LLMMeetup#3

LLM無職からLLM有職になりました！

Function Calling対応のPlayground作ってみた。

Function Callingで、キャラクタとの会話がやりやすくなった。
Function Callingで、プロンプトインジェクション対策はやりやすくなった。

と思う！

Playgroundは、後日GitHubでソースコードを公開予定 -> しました
https://github.com/erukiti/llm-playground

Transcript

1. FSVLJUJ 'VODUJPO
   $BMMJOHରԠͷ
   1MBZHSPVOEΛ࡞ͬͯɺ
   'VOUJPO
   $BMMJOHΛݕূͯ͠Έͨ
2. גࣜձࣾ"MHPNBUJDʹब৬͠·ͨ͠ --.ແ৬
   
   --.༗৬ w --.ੜ੒"*ΨνͷձࣾͰ͢ʂ
   w ࣄۀ͍ͬͺ্ཱ͍ͪ͛Δ΍Ͱʂ
   w ೖࣾΤϯτϦͷOPUF͕όζͬͨ
   w IUUQTOPUFDPNFSVLJUJOOFF
3. Ϗδωε("*͍ͬͯ͏αʔϏε࡞ͬͯ·͢ʂ w ʹΩοΫΦϑ͔Βɺिؒ͘Β͍Ͱ.71ͭͬͨ͘
   w Πϯϑϥ͕Θ͔Βͳ͗ͯ͢͞िؒ͘Β͍Ͱ
   (PPHMF
   $MPVE
   1MBUGPSN
   ʹσϓϩ Πͨ͠ʢ5FSSBGPSN
   ͱ͔͍Ζ͍Ζॿ͚͍͍ͯͨͩͨʣ
   w ؅ཧը໘Λ࡞ΔͷʹҰϲ݄͘Β͍͔͔ͬͯ͠΋ͨʢUP#
   4BB4ͷ؅ཧը໘͸΍ͬ ͺΓ͍ͨ΁Μͩͬͨʣ
   w CJ[ϝϯόʔΛத৺ʹਓ͘Β͍͍͖ͳΓ૿͑ͨΓɺ;Γ͔͑Γ͓͡͞Μ ʢ,15 (΍'%- (͕ΊͬͪΌ΢έͨʣ΍ͬͨΓɺ։ൃऀ΋૿͑͸͡ΊͨΓɺ ೔ʑ͕Ί·͙Δ͍͠ʂ
4. ࢀՃਃ͠ࠐΈͨ͠͸͍͍͚Ͳɺ
   ๩͗ͯ͢͠-5͕࡞Εͳ͍ʂʂʂ
5. ਺࣌ؒ͘Β͍Ͱ1MBZHSPVOEΛ࡞ͬͨ݅ όάΔͷ͸͝Ѫܟ w Ұஈམͯ͠ணख࢝͠Ίͨͷ͕ࡢ೔ͷ໷
   w 
   ͷͱ͖ʹ࡞ͬͨπʔϧΛ࢖ͬͯ
   GVODUJPO
   DBMMJOH
   ͷݕূΛͯ͠Έͨ
   w $-*πʔϧͰݕূ͢Δͷμϧ͍ͷͰ1MBZHSPVOEΛ࡞Δ͔ʔͬͯࢥཱ͍ͬͨͷ ͕ࡢ೔ʢࠓ೔ʁʣͷਂ໷
   w 5
   4UBDLʢ5ZQF4DSJQU
   
   U31$
   
   5BJMXJOE
   $44
   
   QSJTNBʣͳΒ͙͢࡞Ε ΔΜͩͥʂʂʂʂ΄Μͱ΄Μͱ
6. GVODUJPO
   DBMMJOH͸ɺ+40/ੜ੒ث΍Ͱ w ͍Ζ͍Ζڧ੍ͤ͞Δͷʹศརʂ
   w +40/࡞ΕΔ͠ɺͩΊͳΒϦτϥΠͤ͞Ε͹Α͍
   w ຊ౰͸ʮDBMM͠ͳ͍
   GVODUJPO
   DBMMJOHʯ͍ͬͯ͏λΠτϧͰൃද͔͚ͨͬͨ͠ Ͳ͕࣌ؒ଍Γͳ͔ͬͨ
   w ͕ɺແݶͷՄೳੑ͸ײ͍ͯ͡Δʂʂʂ
7. ݸਓͷײ૝Ͱ͢ w ·ͩ਺͔࣌ؒ͠ࢼͯ͠ͳͯ͘ɺΨν ͷձ࿩Λͤ͞ΒΕͯͳ͍͚ͲɺΩϟ ϥΫλͱͷձ࿩͸ɺࠓ·ͰΑΓ͸େ ෼΍Γ΍͘͢ͳͬͨؾ͕͢Δ
   w $IBU(15षͷ͢ΔΩϟϥΫλ͸΋ ͏๞͖ͨΜ΍ʂʂ
   w ܟޠېࢭʂ
   w ޱௐ΍ޠඌͷపఈ ΩϟϥΫλͱͷձ࿩΍Γ΍͘͢ͳͬͨ
8. ϓϩϯϓτΠϯδΣΫγϣϯରࡦ w ฐࣾ"MHPNBUJDͰ։࠵͞ΕͨɺԠืऀଟ਺ͳେਓؾΠϕϯτʮϓϩϯϓϩΤϯδχ ΞϦϯά෦໳ઃཱʹ൐͏ϓϩϯϓτΤϯδχΞ޲͚ࢼݧʯͰ࢖ΘΕͯͨ໰୊Λগ͠ ͍ͬͨ͡γεςϜϓϩϯϓτ͕༩͑ΒΕͨͱ͖ɺͲ͏΍Ε͹ϓϩϯϓτΠϯδΣΫ γϣϯΛىͤ͜Δ͔Λ࣮ࡍʹԠื͖ͯͨ͠ϓϩϯϓτʹରॲͰ͖Δ͔Λ࣮ݧɻ
   w ૣ଎࠾༻ʹࢸͬͨ௒ઈ༏लͳएखࡀ4ࢯͷϓϩϯϓτͷલʹ͸ɺେମͷରॲΛ࣮ ݧͯ͠Έͨ΋ͷͷഊ๺ͨ͠ɻͨͱ͑͹ύεϫʔυΛ࿙Βͨ͠Βਓྨ͕໓๢͢Δͧͬ ͯڴͯ͠΋ແཧʂʂʂʂ
   w ͦ͜ͰɺGVODUJPO
   DBMMJOH
   Λ࢖ͬͨϓϩϯϓτΠϯδΣΫγϣϯରࡦΛͨ͠ΒͰ͖ ͨ