watsonx.ai Dojo #5 ファインチューニングとInstructLAB

第5回目は、質問と答えを用意することで、大規模言語モデルに新しい知識を追加するためのファインチューニングの方法を学びます。また、企業独自の大規模言語モデルの継続的な改良に最適なInstructLABについて学びます。

Transcript

1. ೔ຊΞΠɾϏʔɾΤϜגࣜձࣾ ςΫϊϩδʔࣄۀຊ෦ ΧελϚʔɾαΫηεࣄۀ෦ ϓϦϯγύϧɾϚωʔδϟʔ େ੢ জ "LJSB0OJTIJ!JCNDPN IUUQTMJOLFEJODPNJOPOJBL XBUTPOYBJ %PKP
    ϑΝΠϯνϡʔχϯάͱ*OTUSVDU-BC
2. ࣗݾ঺հ 1SPQFSUZ 7BMVF ࢯ໊ େ੢ জ Y-JOLFE*O POJBL *5ۀքྺ ೥໨ ௚ۙͷ৬ྺ Microsoft ೥
   *#.
   ೥໨🎉 )BTI5BH ͍͍Ͷ͐੩Ԭੜ׆
   RVBOUJD ࠲ӈͷ໏ ౿·Εͯ΋ͳ্ཱ͓͕ͪΔಓͷ૲ Α͘࢖͏ٕ ೴಺ม׵Ͱࣗ෼ΛϙδςΟϒʹ IUUQTXXXGBDFCPPLDPNBLJSBPOJTIJ 'BDFCPPLʮ͓ʹ͋͘ʯͰݕࡧ
3. ໨త ϑΝΠϯνϡʔχϯάʹ͍ͭͯ֓ཁΛ஌Δ *#.
   XBUTPOYBJͷ5VOJOH
   4UVEJPʹ͍ͭͯ஌Δ *OTUSVDU-BCʹ͍ͭͯ஌Δ
   ΰʔϧ 5VOJOH
   4UVEJPΛମݧ͢Δ *OTUSVDU-BC
   $-*ΛΠϯετʔϧ͠ɺ؀ڥͷઃఆɺνϟοτػೳɺ5BYOPNZ Λ֬ೝ͢Δ ˞Ԟ͕ਂ͍ςʔϚͷͨΊɺπʔϧମݧΛத৺ʹਐΊ·͢ ͜ͷηογϣϯʹ͍ͭͯ
4. *#.
   XBUTPOYBJ
   
   ੜ੒"*ɺػցֶशɺ/PUFCPPLͰͷର࿩ॲཧͳͲ 4BB4Λ׆༻͢Ε͹ɺࠓ͙͢ʹখ࢝͘͞ΊΒΕ·͢ *#.
   XBUTPOYBJɺ"*ΞϓϦ༻ͷϓϥοτϑΥʔϜ νϟοτܗࣜͰͷར༻ ϓϩϯϓτ࡞੒πʔϧͱ ֎෦ΞϓϦ͔Βͷϓϩϯϓτ࣮ߦ IUUQTXXXJCNDPNKQKBQSPEVDUTXBUTPOYBJ จॻIUUQTKQUPLEBUBQMBUGPSNDMPVEJCNDPNEPDTDPOUFOUXTKHFUUJOHTUBSUFEXFMDPNFNBJOIUNM DPOUFYUXYBVEJFODFXEQ
5.  ϋϯζΦϯ؀ڥ֬ೝ
   νϟοτʹΑΔճ౴Λ͓ئ͍͠·͢  ࠲ֶฒͼʹϋϯζΦϯͷ಺༰
   %FNP ΋͠؀ڥ͕੔͍ͬͯͳ͍ํ͸ɺ४උΛ͠ͳ͕Β͝ཡ͍ͩ͘͞ ຊ೔ɺͲ͏ͯ͠΋؀ڥΛ੔͑ΒΕͳ͍ํ͸ɺ%FNP
   Λ͝ཡʹͳΓɺ ޙ೔ɺ͓ࢼ͍ͩ͘͠͞  օ͞Μࣗ਎ͰͷϋϯζΦϯ 5VOJOH
   4UVEJPͷମݧ *OTUSVDU-BC
   $-*ͷΠϯετʔϧͱૢ࡞ͷ֬ೝ ຊ೔ͷྲྀΕ
6. %PKP
   ͷ഑෍ࢿྉΛࢀߟʹɺ1ZUIPO
   ͷ؀ڥΛ੔͍͑ͯͩ͘͞ ˞
   ݱ࣌఺Ͱ*OTUSVDU-BC͕1ZUIPO
   ʹରԠ͍ͯ͠ͳ͍͜ͱ͕ཧ༝Ͱ͢ 8JOEPXT؀ڥʹ͓͍ͯ͸ɺ8JOEPXT
   4VCTZTUFN
   GPS
   -JOVYͱ6CVOUVΛ࢖ͬͯ-JOVY؀ڥΛ੔͑ ͯɺͦͷ্ʹ1ZUIPOͷ࣮ߦ؀ڥΛ੔͍͑ͯͩ͘͞ ˞
   8JOEPXT
   .BDͰಉ͡$-*ૢ࡞ͰϋϯζΦϯΛਐΊΒΕΔΑ͏ʹ͢ΔͨΊ ࠓޙɺෳ਺ͷ1ZUIPOόʔδϣϯʹ੾Γସ͑ΒΕΔΑ͏ɺQZFOW
   ʹΑΔԾ૝؀ڥͷߏஙΛਪ঑͠ ·͢ .BD؀ڥͰ1ZUIPOͷϏϧυʹࣦഊ͢Δ৔߹ɺ9DPEF
   $PNNBOE
   5PPMTΛ࠶Πϯετʔϧͯ͘͠ ͍ͩ͞
   
   YDPEFTFMFDU
   JOTUBMM XBUTPOYBJ
   %PKP
   ʹࢀՃ͍ͯ͠ͳ͍ํ΁ͷ͓ئ͍
7. ४උͷͨΊͷࢀߟࢿྉ IUUQTTQFBLFSEFDLDPNPOJBLJCNXBUTPOYBJEPKPQSFSFR ϋϯζΦϯ؀ڥͷ४උ ؀ڥ ର৅ऀ *#.
   5FDIOPMPHZ
   ;POF
   *#.άϧʔϓࣾһ *#.
   1BSUOFS
   1MVTʹొ࿥ࡁΈͷϏδωεɾύʔτφʔ༷ *#.
   XBUTPOYBJ
   ೔ແྉධՁ൛ ҰൠͷࢀՃऀͰɺ*#.
   $MPVEͷΞΧ΢ϯτΛ͓࣋ͪͰͳ͍৔߹ ධՁ൛΁ͷΞΫηεʹ͸ΫϨδοτɾΧʔυ͸ෆཁ ೔ܦաޙ͸ɺΫϨδοτɾΧʔυΛొ࿥͢Δͱैྔ՝ۚΞΧ΢ϯτͱ ͯ͠ɺશͯͷ*#.
   $MPVEͷαʔϏε͕͝ར༻͍͚ͨͩ·͢ *#.
   $MPVE ҰൠͷࢀՃऀͰɺ*#.
   $MPVEͷΞΧ΢ϯτΛ͓࣋ͪͷ৔߹
8. ࢿྉ63-
   IUUQTHJUIVCDPN*#.KBQBOUFDIOPMPHZCMPCNBJOXBUTPOYBJEPKPSFBENFNE ͸͡Ίʹ
   ୈճ΍ୈճʹࢀՃ͍ͯ͠ͳ͍ํ͸ɺඞͣ֬ೝ͍ͯͩ͘͠͞ XBUTPOYBJͷىಈ *#.
   $MPVEίϯιʔϧ XBUTPOYBJͷىಈ *#.
   XBUTPOY
   ηοτΞοϓࡁΈͷ৔߹ ৽نϓϩδΣΫτͷ࡞੒ ϋϯζΦϯࢿྉ
   ؀ڥ͕४උͰ͖ͨΒඞͣ֬ೝ
9. ݴޠϞσϧ͸ɺࣄલʹֶशͨ͠಺༰͔͠஌Βͳ͍ اۀͷ಺෦৘ใͳͲɺֶश͍ͯ͠ͳ͍͜ͱΛ࣭໰͢Δͱɺ èଟ͘ͷ৔߹ɺࣄ࣮ͱҟͳΔจষ͕ฦͬͯ͘Δ
   ϋϧγωʔγϣϯ ͜ͷ՝୊Λղܾ͢Δํ๏͸̎ͭ ɾ3"(Λར༻ͯ͠ɺݴޠϞσϧʹؚ·Ε͍ͯͳ͍৘ใΛՃ͑Δ ɾϑΝΠϯɾνϡʔχϯάʹΑΓௐ੔ΛՃ͑Δ اۀʹ͓͚ΔݴޠϞσϧ׆༻ͷͨΊͷ՝୊
10. 3"( ϑΝΠϯɾνϡʔχϯά ֓ཁ ݴޠϞσϧʹଘࡏ͠ͳ͍ɺ֎෦ͷ৘ใ ΛԿΒ͔ͷํ๏Ͱݕࡧ͠ɺ ͦͷ݁ՌΛจ຺ͱͯ͠ ϓϩϯϓτͷதʹ૊ΈࠐΉɻ ࣭໰ͱ౴͑ͷϖΞͰσʔλΛ༻ҙ͠ɺݴޠϞσ ϧʹಛఆͷλεΫΛ௥ՃͰֶशͤͯ͞ɺϓϩϯ ϓτʹର͢ΔԠ౴ΛΑΓظ଴Ͱ͖Δ݁Ռʹௐ੔ ͢Δ ར఺ ݴޠϞσϧΛมߋ͠ͳͯ͘ྑ͍ ֎෦ͷ৘ใΛܧଓͯ͠ߋ৽͢Δ͜ͱͰɺ ࠷৽ͷ஌ࣝʹରԠͰ͖Δ ௥Ճֶशͨ͠಺༰ʹ͍ͭͯ͸ɺ֎෦৘ใΛ༩͑ ͳͯ͘΋ྑ͍ ଟ͘ͷ৔߹ɺλεΫʹظ଴͞Ε͍ͯΔԠ౴Λฦ ͢ ՝୊ ֎෦ͷ৘ใΛݕࡧ͢Δʮਫ਼౓ʯʹେ͖ ͘ґଘ͢Δ ϓϩϯϓτจࣈྻ͕େ͖͘ͳΓɺੜ੒ ίετ͕૿͑Δ ਖ਼͍͠஌ࣝΛ༩͑ͳ͍ͱɺظ଴͠ͳ͍ ݁Ռ͕ฦͬͯ͘Δ ֶश͕ඞཁʢ࣌ؒ΍ܭࢉػϦιʔεɺಛʹ(16 ͷύϫʔ͕ඞཁʣ σʔλΛ४උ͢Δͷ͕؆୯Ͱ͸ͳ͍ 3"(ͱϑΝΠϯɾνϡʔχϯάͷҧ͍
11. ର৅ͱͳΔϞσϧΛબ୒ ֶश༻ͷσʔλΛ४උ ϓϩϯϓτΛઃఆ ௐ੔͢ΔλεΫΛબ୒ 5VOJOH
    4UVEJP
12. ࢿྉͷ63-
    5VOJOH
    4UVEJP
    ମݧ *#.
    XBUTPOY
    BT
    B
    4FSWJDFͷެࣜจॻʹܝࡌ͞Ε͍ͯΔ 2VJDL
    4UBSU
    5VOF
    B
    GPVOEBUJPOBM
    NPEFM
    Λମݧ͠·͢ɻ 5VOJOH
    4UVEJPͷϋϯζΦϯ
13. *OTUSVDU-BC Φʔϓϯιʔεͷख๏Ͱɺ--.Λ ܧଓతʹίϛϡχςΟʔͷྗͰ ڧԽ͢Δ࢓૊Έɺ*#.ͱ3FE
    )BUʹ ΑΓਪਐத $PNNBOE
    -JOF
    *OUFSGBDFΛ࢖͍ɺ ର৅ͱͳΔϞσϧΛૉૣ͘ϗετɺ Ϟσϧͱνϟοτ͠ͳ͕ΒڧԽ͢Δ ϙΠϯτΛݟ͚͍͚ͭͯΔ ࣗવݴޠ͕Θ͔ΔਓͷखʹΑΓɺ 5BYPOPNZ
    εΩϧͱ஌ࣝ Λ ௥Ճɺߋ৽ ˠ
    ͜ͷ఺ʹ͓͍ͯ*5εΩϧ͸ෆཁ IUUQTXXXSFEIBUDPNKBUPQJDTBJXIBUJTJOTUSVDUMBC
14. ॳظԽ Ϟσϧͷ μ΢ϯϩʔυ Ϟσϧͷ ల։ͱ νϟοτ ʹΑΔ ֬ೝ 5BYPOPNZ ͷ ௥Ճɾฤू ߹੒σʔλͷ ࡞੒ ֶश Ϟσϧ΁ ม׵ (JU)VC΁ 1VMM
    3FRVFTU *OTUSVDU-"#ͷྲྀΕ
    JMBC
    $-* NPEFM
    EPXOMPBE NPEFM
    TFSWF
    
    DIBU EBUB HFOFSBUF UBYPOPNZ
    EJGG NPEFM USBJO
    
    UFTU NPEFM DPOWFSU ˞
    ݱ࣌఺Ͱ͸ɺ"QQMF
    4JMJDPO
    ...
    ౥ࡌͷ.BDCPPLΛ࢖͏ͷ͕ΦεεϝͰ͢ IUUQTHJUIVCDPNJOTUSVDUMBCJOTUSVDUMBC DPOGJH JOJU
15. *OTUSVDU-BC
    $-*ͷΠϯετʔϧ *OTUSVDU-BC
    $-*ମݧͦͷ̍ ॳظԽͱϞσϧͷμ΢ϯϩʔυ *OTUSVDU-BC
    $-*ମݧͦͷ
    Ϟσϧͷαʔϒͱνϟοτ *OTUSVDU-BC
    $-*ମݧͦͷ
    5BYPOPNZͷ֬ೝͱσʔλมߋ *OTUSVDU-BC
    $-*ମݧͦͷ
    ֶश༻ͷ߹੒σʔλͷ࡞੒ɺϞσϧͷֶशʣ *OTUSVDU-BC
    $-*ͷϋϯζΦϯ
16. XBUTPOYBJ
    ͷΑ͏ͳ"*ϓϥοτϑΥʔϜ͕ඞཁͳཧ༝ ΞϓϦʢ8FCϢʔβʔΠϯλʔϑΣΠεʣ ΞϓϦɾϓϥοτϑΥʔϜ "*ΞϓϦ Ϗδωεɾ ϩδοΫ "*Ϟσϧ ϥΠϒϥϦ"1* "*ΞϓϦɾϓϥοτϑΥʔϜ ໰͍߹Θͤ ੜ੒݁Ռ ཤྺ σʔλ ࢖༻ྔ σʔλ "*ͷ࣮ݧ͸ΦʔϓϯιʔεͰ΋Մೳ ҰํɺاۀϨϕϧ΁ͷల։͸՝୊͕ଟ͍ 4BB4൛ͷXBUTPOYBJ
    Λ࢖͑͹ɺ ΞϓϦ։ൃɺల։ɺӡ༻ʹूதͰ͖Δ
17. ϑΝΠϯνϡʔχϯάʹ͍ͭͯͷ֓ཁ 5VOJOH
    4UVEJPମݧ *OTUSVDU-BC
    $-*ମݧ $BMM
    UP
    BDUJPO 5VOJOH
    4UVEJPͰಠࣗͷσʔλΛ࢖ͬͯϑΝΠϯνϡʔχϯάΛࢼͯ͠ΈΔ *OTUSVDU-BCͷެࣜจॻΛಡΈͳ͕Βɺ$-*ͷ࢖͍ํΛֶΜͰΈΔ ·ͱΊ
18. ϫʔΫγϣοϓɺηογϣϯɺ͓Αͼࢿྉ͸ɺ*#.·ͨ͸ηογϣϯൃදऀʹΑͬͯ४උ͞ΕɺͦΕͧΕಠࣗͷݟղΛ൓өͨ͠΋ͷͰ͢ɻͦΕΒ͸৘ใ ఏڙͷ໨తͷΈͰఏڙ͞Ε͓ͯΓɺ͍͔ͳΔࢀՃऀʹରͯ͠΋๏཯త·ͨ͸ͦͷଞͷࢦಋ΍ॿݴΛҙਤͨ͠΋ͷͰ͸ͳ͘ɺ·ͨ*#.੡඼΍αʔϏε͕͓ ٬༷ʹద༻͋Δಛఆͷ๏ྩʹద߹͢Δ͜ͱΛอূ͢Δ΋ͷͰ΋͋Γ·ͤΜɻຊߨԋࢿྉʹؚ·Ε͍ͯΔ৘ใʹ͍ͭͯ͸ɺ׬શੑͱਖ਼֬ੑΛظ͢ΔΑ͏౒ Ί͓ͯΓ·͕͢ɺʮݱঢ়ͷ··ʯఏڙ͞Εɺ໌ࣔ·ͨ͸໧ࣔʹ͔͔ΘΒͣɺ঎ۀੑɺಛఆͷ໨త΁ͷద߹ੑɺඇ৵֐ੑΛؚΊɺ͍͔ͳΔอূ΋൐Θͳ͍ ΋ͷͱ͠·͢ɻຊߨԋࢿྉ·ͨ͸ͦͷଞͷࢿྉͷ࢖༻ʹΑͬͯɺ͋Δ͍͸ͦͷଞͷؔ࿈ʹΑͬͯɺ͍͔ͳΔଛ֐͕ੜͨ͡৔߹΋ɺ*#.͸੹೚ΛෛΘͳ͍ ΋ͷͱ͠·͢ɻ ຊߨԋࢿྉͰݴٴ͞ΕΔ*#.੡඼ɺϓϩάϥϜɺ·ͨ͸αʔϏε͸ɺ*#.͕ϏδωεΛߦ͍ͬͯΔ͢΂ͯͷࠃɾ஍ҬͰ͝ఏڙՄೳͳΘ͚ Ͱ͸͋Γ·ͤΜɻຊߨԋࢿྉͰݴٴ͞ΕΔকདྷͷల๬ʢ੡඼ϦϦʔε೔෇΍੡඼ػೳΛؚΉʣ͸ɺࢢ৔ػձ·ͨ͸ͦͷଞͷཁҼʹج͍ͮͯ*#.ಠࣗͷܾ ఆݖΛ΋͍ͬͯͭͰ΋มߋͰ͖Δ΋ͷͱ͠ɺকདྷͷ੡඼·ͨ͸ػೳ͕࢖༻ՄೳʹͳΔ͜ͱɺ΋͘͠͸ಛఆͷ݁ՌΛ֬໿͢Δ͜ͱΛҙਤ͢Δ΋ͷͰ͸͋Γ ·ͤΜɻຊߨԋࢿྉ͸ɺݴٴ͞ΕΔ *#.੡඼·ͨ͸αʔϏεʹద༻͋Δܖ໿৚݅Λมߋ͢Δ΋ͷͰ΋ɺ௥Ճͷද໌·ͨ͸อূΛҙਤ͢Δ΋ͷͰ΋͋Γ· ͤΜɻ ຊߨԋࢿྉʹؚ·Ε͍ͯΔ಺༰͸ɺࢀՃऀͷ׆ಈʹΑͬͯಛఆͷ݁Ռ͕ੜ͡Δͱड़΂Δɺ·ͨ͸҉ࣔ͢Δ͜ͱΛҙਤͨ͠΋ͷͰ΋ɺ·ͨͦͷΑ͏ͳ݁Ռ ΛੜΉ΋ͷͰ΋͋Γ·ͤΜɻ ύϑΥʔϚϯε͸ɺ؅ཧ͞Εͨ؀ڥʹ͓͍ͯඪ४తͳ*#.ϕϯνϚʔΫΛ࢖༻ͨ͠ଌఆͱ༧ଌʹج͍͍ͮͯ·͢ɻϢʔβʔ ͕ܦݧ͢Δ࣮ࡍͷεϧʔϓοτ΍ύϑΥʔϚϯε͸ɺϢʔβʔͷδϣϒɾετϦʔϜʹ͓͚ΔϚϧνϓϩάϥϛϯάͷྔɺೖग़ྗߏ੒ɺετϨʔδߏ੒ɺ ͓Αͼॲཧ͞ΕΔϫʔΫϩʔυͳͲͷߟྀࣄ߲ΛؚΉɺ਺ଟ͘ͷཁҼʹԠͯ͡มԽ͠·͢ɻ͕ͨͬͯ͠ɺݸʑͷϢʔβʔ͕͜͜Ͱड़΂ΒΕ͍ͯΔ΋ͷͱ ಉ༷ͷ݁ՌΛಘΒΕΔͱ֬໿͢Δ΋ͷͰ͸͋Γ·ͤΜɻهड़͞Ε͍ͯΔ͢΂ͯͷ͓٬༷ࣄྫ͸ɺͦΕΒͷ͓٬༷͕ͲͷΑ͏ʹ*#.੡඼Λ࢖༻͔ͨ͠ɺ· ͨͦΕΒͷ͓٬༷͕ୡ੒ͨ݁͠Ռͷ࣮ྫͱͯࣔ͠͞Εͨ΋ͷͰ͢ɻ࣮ࡍͷ؀ڥίετ͓ΑͼύϑΥʔϚϯεಛੑ͸ɺ͓٬༷͝ͱʹҟͳΔ৔߹͕͋Γ·͢ɻ • *#.ɺ*#.
    ϩΰɺJCNDPNɺ%C
    *#.
    XBUTPOY
    *#.
    $MPVE
    ͸ɺ ੈքͷଟ͘ͷࠃͰొ࿥͞Εͨ*OUFSOBUJPOBM
    #VTJOFTT
    .BDIJOFT
    $PSQPSBUJPOͷ঎ඪͰ͢ɻଞͷ੡඼ ໊͓ΑͼαʔϏε໊౳͸ɺͦΕͧΕ*#.·ͨ͸֤ࣾͷ঎ඪͰ͋Δ৔߹͕͋Γ·͢ɻݱ࣌఺Ͱͷ *#.
    ͷ঎ඪϦετʹ͍ͭͯ͸ɺXXXJCNDPNMFHBMDPQZUSBEFTIUNM Λ͝ཡ͍ͩ͘͞ɻ • %PDMJOH͸
    "QBDIF
    ϥΠηϯεͰެ։͞Ε͍ͯΔΦʔϓϯιʔεͷϥΠϒϥϦʔͰ͢ɻ