Upgrade to Pro — share decks privately, control downloads, hide ads and more …

Function Calling対応Playgroundを作って検証してみた/LLMMeetup#3

erukiti
July 05, 2023

Function Calling対応Playgroundを作って検証してみた/LLMMeetup#3

LLM無職からLLM有職になりました!

Function Calling対応のPlayground作ってみた。

Function Callingで、キャラクタとの会話がやりやすくなった。
Function Callingで、プロンプトインジェクション対策はやりやすくなった。

と思う!

Playgroundは、後日GitHubでソースコードを公開予定 -> しました
https://github.com/erukiti/llm-playground

erukiti

July 05, 2023
Tweet

More Decks by erukiti

Other Decks in Technology

Transcript

  1. FSVLJUJ
    'VODUJPO$BMMJOHରԠͷ
    1MBZHSPVOEΛ࡞ͬͯɺ
    'VOUJPO$BMMJOHΛݕূͯ͠Έͨ

    View full-size slide

  2. גࣜձࣾ"MHPNBUJDʹब৬͠·ͨ͠
    --.ແ৬--.༗৬
    w --.ੜ੒"*ΨνͷձࣾͰ͢ʂ
    w ࣄۀ͍ͬͺ্ཱ͍ͪ͛Δ΍Ͱʂ
    w ೖࣾΤϯτϦͷOPUF͕όζͬͨ
    w IUUQTOPUFDPNFSVLJUJOOFF

    View full-size slide

  3. Ϗδωε("*͍ͬͯ͏αʔϏε࡞ͬͯ·͢ʂ
    w ʹΩοΫΦϑ͔Βɺिؒ͘Β͍Ͱ.71ͭͬͨ͘
    w Πϯϑϥ͕Θ͔Βͳ͗ͯ͢͞िؒ͘Β͍Ͱ(PPHMF$MPVE1MBUGPSNʹσϓϩ
    Πͨ͠ʢ5FSSBGPSNͱ͔͍Ζ͍Ζॿ͚͍͍ͯͨͩͨʣ
    w ؅ཧը໘Λ࡞ΔͷʹҰϲ݄͘Β͍͔͔ͬͯ͠΋ͨʢUP#4BB4ͷ؅ཧը໘͸΍ͬ
    ͺΓ͍ͨ΁Μͩͬͨʣ
    w CJ[ϝϯόʔΛத৺ʹਓ͘Β͍͍͖ͳΓ૿͑ͨΓɺ;Γ͔͑Γ͓͡͞Μ
    ʢ,15(΍'%-(͕ΊͬͪΌ΢έͨʣ΍ͬͨΓɺ։ൃऀ΋૿͑͸͡ΊͨΓɺ
    ೔ʑ͕Ί·͙Δ͍͠ʂ

    View full-size slide

  4. ࢀՃਃ͠ࠐΈͨ͠͸͍͍͚Ͳɺ
    ๩͗ͯ͢͠-5͕࡞Εͳ͍ʂʂʂ

    View full-size slide

  5. ਺࣌ؒ͘Β͍Ͱ1MBZHSPVOEΛ࡞ͬͨ݅
    όάΔͷ͸͝Ѫܟ
    w Ұஈམͯ͠ணख࢝͠Ίͨͷ͕ࡢ೔ͷ໷
    w ͷͱ͖ʹ࡞ͬͨπʔϧΛ࢖ͬͯGVODUJPODBMMJOHͷݕূΛͯ͠Έͨ
    w $-*πʔϧͰݕূ͢Δͷμϧ͍ͷͰ1MBZHSPVOEΛ࡞Δ͔ʔͬͯࢥཱ͍ͬͨͷ
    ͕ࡢ೔ʢࠓ೔ʁʣͷਂ໷
    w 54UBDLʢ5ZQF4DSJQUU31$5BJMXJOE$44QSJTNBʣͳΒ͙͢࡞Ε
    ΔΜͩͥʂʂʂʂ΄Μͱ΄Μͱ

    View full-size slide

  6. GVODUJPODBMMJOH͸ɺ+40/ੜ੒ث΍Ͱ
    w ͍Ζ͍Ζڧ੍ͤ͞Δͷʹศརʂ
    w +40/࡞ΕΔ͠ɺͩΊͳΒϦτϥΠͤ͞Ε͹Α͍
    w ຊ౰͸ʮDBMM͠ͳ͍GVODUJPODBMMJOHʯ͍ͬͯ͏λΠτϧͰൃද͔͚ͨͬͨ͠
    Ͳ͕࣌ؒ଍Γͳ͔ͬͨ
    w ͕ɺແݶͷՄೳੑ͸ײ͍ͯ͡Δʂʂʂ

    View full-size slide

  7. ݸਓͷײ૝Ͱ͢
    w ·ͩ਺͔࣌ؒ͠ࢼͯ͠ͳͯ͘ɺΨν
    ͷձ࿩Λͤ͞ΒΕͯͳ͍͚ͲɺΩϟ
    ϥΫλͱͷձ࿩͸ɺࠓ·ͰΑΓ͸େ
    ෼΍Γ΍͘͢ͳͬͨؾ͕͢Δ
    w $IBU(15षͷ͢ΔΩϟϥΫλ͸΋
    ͏๞͖ͨΜ΍ʂʂ
    w ܟޠېࢭʂ
    w ޱௐ΍ޠඌͷపఈ
    ΩϟϥΫλͱͷձ࿩΍Γ΍͘͢ͳͬͨ

    View full-size slide

  8. ϓϩϯϓτΠϯδΣΫγϣϯରࡦ
    w ฐࣾ"MHPNBUJDͰ։࠵͞ΕͨɺԠืऀଟ਺ͳେਓؾΠϕϯτʮϓϩϯϓϩΤϯδχ
    ΞϦϯά෦໳ઃཱʹ൐͏ϓϩϯϓτΤϯδχΞ޲͚ࢼݧʯͰ࢖ΘΕͯͨ໰୊Λগ͠
    ͍ͬͨ͡γεςϜϓϩϯϓτ͕༩͑ΒΕͨͱ͖ɺͲ͏΍Ε͹ϓϩϯϓτΠϯδΣΫ
    γϣϯΛىͤ͜Δ͔Λ࣮ࡍʹԠื͖ͯͨ͠ϓϩϯϓτʹରॲͰ͖Δ͔Λ࣮ݧɻ
    w ૣ଎࠾༻ʹࢸͬͨ௒ઈ༏लͳएखࡀ4ࢯͷϓϩϯϓτͷલʹ͸ɺେମͷରॲΛ࣮
    ݧͯ͠Έͨ΋ͷͷഊ๺ͨ͠ɻͨͱ͑͹ύεϫʔυΛ࿙Βͨ͠Βਓྨ͕໓๢͢Δͧͬ
    ͯڴͯ͠΋ແཧʂʂʂʂ
    w ͦ͜ͰɺGVODUJPODBMMJOHΛ࢖ͬͨϓϩϯϓτΠϯδΣΫγϣϯରࡦΛͨ͠ΒͰ͖
    ͨ

    View full-size slide