LLM Science Examにおけるデータ戦略まとめ

第4回 Data-Centric AI勉強会 -コンペLT大会- 発表資料

Transcript

1. --.
   4DJFODF
   &YBNʹ͓͚Δσʔλઓུ·ͱΊ ୈճ
   %BUB$FOUSJD
   "*ษڧձ
   ίϯϖ-5େձ ೥݄೔
   5BLBTIJ
   4PNFZB
2. ࣗݾ঺հ ໊લɿTPNFZB
   ܦྺɿϙευΫʢ෺ੑ෺ཧֶʣˠ
   "*ΤϯδχΞ
   ࢓ࣄɿը૾ೝࣝɺσʔληϯτϦοΫ"*
   ,BHHMFɿ$7
   /-1
   Ի੠ͳͲษڧ໨తͰࢀՃ ຊ೔࿩͢ίϯϖ
3. --.
   4DJFODF
   &YBN֓ཁ ։࠵ظؒɿ
   
   
   ࢀՃνʔϜ਺ɿ
   UFBNT
   ධՁࢦඪɿ.FBO
   "WFSBHF
   1SFDJTJPO!
   ੍໿ɿ(16ϝϞϦ(#
   ఏग़࣌ؒ࣌ؒ
   ໰୊਺໿໰
   ओ࠵ɿ,BHHMF 2VFTUJPO
   
   
   8IBU
   JT
   UIF
   EFDBZ
   FOFSHZ
   GPS
   UIF
   GSFF
   OFVUSPO
   EFDBZ
   QSPDFTT
   ʢࣗ༝தੑࢠ่յաఔͷ่յΤωϧ Ϊʔ͸ʁʣ 0QUJPO
   
   
   " 
   .F7
   # 
   .F7
   $  
   .F7
   % 
   .F7
   & 
   .F7
   "OTXFS
   
   & (15 ՊֶతͳτϐοΫͷจষ XJLJQFEJBจষΛQSPNQUʹ ࣭໰ɾબ୒ࢶɾղ౴Λੜ੒ ྫ ίϯϖͷλεΫ
   Պֶʹؔ࿈͢Δଟબ୒ࢶ໰୊Λղ͘ IUUQTXXXLBHHMFDPNDPNQFUJUJPOTLBHHMFMMNTDJFODFFYBN
4. Ξϓϩʔν ίϯϖॳظɿੜ੒σʔλͰͷֶश ίϯϖத൫Ҏ߱ɿ3"(ʢ3FUSJFWBM
   "VHNFOUFE
   (FOFSBUJPOʣΞϓϩʔν (15 ੜ੒σʔλ
   d
   L Ϟσϧ EFCFSUB
   --.ͳͲͷ༷ʑͳϞσϧΛࢼ͕͢ είΞ͕ఔ౓Ͱ಄ଧͪʹͳΔ
   ˣ
   ϞσϧֶशʹΑͬͯXJLJQFEJBશͯͷՊֶ஌ ࣝΛ֫ಘ͢Δͷ͸ෆՄೳʁ ֶश ྨࣅจষݕࡧ DPOUFYU 2VFTUJPO 0QUJPO 
   *OQVU
   DPOUFYU
   
   4ZTUFN
   "OTXFS
   UIF
   GPMMPXJOH
   NVMUJQMF
   DIPJDF
   RVFTUJPO
   CZʢলུʣ
   
   2VFTUJPO
   RVFTUJPO
   "
   PQUJPO
   "
   #
   PQUJPO
   #
   $
   PQUJPO
   $
   %
   PQUJPO
   %
   &
   PQUJPO
   &
   
   "OTXFS 1SPNQU
   5FNQMBUF Ϟσϧ ਪ࿦ " είΞdୡ੒
   wσʔλͷ࣭
   wݕࡧਫ਼౓
   ͕ॏཁ .PEFM
   $FOUSJD %BUB
   $FOUSJD ΫΤϦ σʔλιʔε
5. ίϯϖιϦϡʔγϣϯུ֓ ΤϯδχΞϦϯά σʔλ
   wXJLJQFEJB
   UFYU
   EVNQ
   wֶशɾධՁ༻σʔλੜ੒
   wσʔλΫϨϯδϯά
   wΫϥελϦϯά ݕࡧ
   wจষຒΊࠐΈ 
 
   TFOUFODF
   USBOTGPSNFS 
 
   UGJEG 
 
   #.
   wۙ๣୳ࡧ Ϟσϧ
   w&ODPEFS
   NPEFM 
 
   EFCFSUB
   W
   MBSHF
   w%FDPEFS
   NPEFM 
 
   # 
 
   # 
 
   # ςΩετલॲཧ
   0QFO"*
   "1* GBJTT
   FMBTUJD
   TFBSDI
   ϝϞϦ؅ཧ -MBNB
   .JTUSBM
   -P3"2-P3"
   େن໛Ϟσϧͷਪ࿦ ຊ೔࿩͢෦෼
6. ݕࡧઓུ ެ։OPUFCPPLʢϕʔεϥΠϯʣɿXJLJQFEJBͷهࣄ୯ҐͰݕࡧˠީิهࣄΛηϯςϯε୯ҐͰ෼ׂͯ͠࠶ݕࡧ ສهࣄ TFOUFODF
   USBOTGPSNFS ϕΫτϧԽ ςετσʔλ 2VFTUJPO 0QUJPO ʴ ϕΫτϧ%# ΫΤϦ 8IBU
   JT
   UIF
   EFDBZ
   FOFSHZ
   GPS
   UIF
   GSFF
   OFVUSPO
   EFDBZ
   QSPDFTT
   
   .F7
   
   .F7
    
   .F7
   
   .F7
   
   .F7 ީิهࣄ
   ʢ5PQ
   ݅ʣ CMJOH fi SF
   ϥΠϒϥϦ ηϯςϯε෼ׂ ۙ๣୳ࡧ TFOUFODF
   USBOTGPSNFS ϕΫτϧԽ ϕΫτϧԽ ۙ๣୳ࡧ ݕࡧ݁Ռͷηϯςϯε
   ʢ5PQ
   ݅ʣ 'PS
   UIF
   GSFF
   OFVUSPO
   UIF
   EFDBZ
   FOFSHZ
   GPS
   UIJT
   QSPDFTT
   CBTFE
   PO
   UIF
   SFTU
   NBTTFT
   PG
   UIF
   OFVUSPO
   QSPUPO
   BOE
   FMFDUSPO
   JT
   
   .F7 ΫΤϦ ϕΫτϧ%#
7. ݕࡧͷ޻෉ จষͷϕΫτϧԽख๏ w 4FOUFODF
   5SBOTGPSNFS 
 .5&#
   -FBEFSCPSEʢ4FOUFODF
   5SBOTGPSNFSͷ-FBSEFSCPBEʣ͔Β༷ʑͳϞσϧΛࢼͯ͠είΞ্͕͕Δ΋ͷΛબఆ 
 ྫɿHUFTNBMMCBTF
   CHFTNBMMCBTF
   w 5'*%' 
 4FOUFODF
   5SBOTGPSNFS͚ͩͰͳ͘ɺ5'*%'΍#.ͳͲ/-1ͷैདྷख๏΋༗ޮͩͬͨ 
 ʢઐ໳༻ޠͳͲಛఆͷهࣄͰ͔͠࢖ΘΕͳ͍୯ޠ͕ଟ͍ʁʣ จষ෼ׂ w จͷ۠੾Γ 
 ύϥάϥϑ୯ҐɺηϯςϯεʢҰจʣ୯Ґɺ·ͨ͸ͦͷதؒͷෳ਺จΛ·ͱΊͨ୯ҐͳͲɺνʔϜΑ༷ͬͯʑ 3FSBOLFS w ީิจষͷத͔ΒΑΓؔ࿈౓͕ߴ͍จষ্͕ҐʹͳΔΑ͏ฒͼସ͑
8. 3FUSJFWFS3FSBOLFS
   ΞʔΩςΫνϟ IUUQTXXXQJOFDPOFJPMFBSOTFSJFTSBHSFSBOLFST ΑΓਤΛҾ༻ 3FUSJFWFS
   
   TFOUFODF
   USBOTGPSNFS 3FUSJFWFS
   
   SFDBMMॏࢹ
   ˣ
   3FSBOLFS
   
   QSFDJTJPOॏࢹ 3FSBOLFS
   
   #&35
   %FCFSUB 5XP4UBHF
   3FUSJFWBM OE
   SE
   UIͷνʔϜ͕࢖༻ ݕࡧͷ޻෉
9. σʔλઓུ 8JLJQFEJBจষͷલॲཧ w ਺஋ɺ਺ࣜͷద੾ͳύʔε 
 ޿͘༻͍ΒΕ͍ͯΔXJLJQFEJB
   QBSTFS
   XJLJFYUSBDUPSͳͲ ͸Պֶܥͷهࣄʹଟ͍਺஋දݱ΍਺ࣜΛద੾ʹύʔεͰ͖ͳ͍ 
 ্ҐνʔϜ͸͜ͷ͜ͱ͕ݕࡧੑೳɺϞσϧͷਪ࿦ੑೳΛ੍ݶ͍ͯ͠Δ͜ͱʹؾ͖ͮɺಠࣗͷલॲཧΛ૊ΈࠐΜͩΦϦδφϧ σʔληοτΛ࡞੒͍ͯͨ͠ ΫϥελϦϯά 8JLJQFEJBͷશମͰ͸ͳ͘ՊֶܥͷهࣄͰΫϥελϦϯάͨ͠αϒηοτΛ༻͍Δ
   1SPT
   
   
   ՊֶܥҎ֎ͷؔ࿈ͷͳ͍هࣄΛ͋Β͔͡Ίআ֎Ͱ͖Δɺݕࡧର৅͕গͳ͍ͷͰݕࡧϓϩηε͕ߴ଎Խ͢Δ
   $POT
   
   ςετσʔλʹؔ࿈͢ΔจষΛ͢΂ͯΧόʔͰ͖͍ͯͳ͍Մೳੑ͕͋Δ {{val|0.782343|u=MeV}} -VBεΫϦϓτͰຒΊࠐ·Εͨ ਺஋Λద੾ʹલॲཧͰ͖ͳ͍
10. ·ͱΊ w Ϟσϧͷਪ࿦ύϑΥʔϚϯε޲্ʹ͸ೖྗ͢Δσʔλͷ࣭͕େ੾ 
 σʔλࣗମͷ඼࣭վળͱؔ࿈͢ΔจষΛਫ਼౓ྑ͘ݕࡧ͢Δ͜ͱ্͕Ґೖ৆ͷϙΠϯτͩͬͨ 
 w ্ҐͷνʔϜ΄ͲΤϥʔ෼ੳΛపఈ͍ͯ͠Δɻެ։σʔληοτͷ՝୊Λݟ͚ͭಠࣗͷΫϦʔ χϯάख๏Λ༻͍ΔͳͲ࣭ͷߴ͍σʔληοτ࡞੒ʹ࣌ؒΛ͔͚͍ͯͨ
    ʢࢀߟʣ
    ,BHHMF
    
    --.
    4DJFODF
    &YBN
    
    EJTDVTTJPO
    LBHHMF
    --.ίϯϖɹ্Ґղ๏·ͱΊ
    ,BHHMFίϯϖʢ--.
    4DJFODF
    &YBNʣͷৼΓฦΓͱ্Ґղ๏·ͱΊ ʢ༨ஊʣ౰ॳ͸--.Λ܇࿅͢ΔͨΊʹܭࢉϦιʔε͕ඞཁͳίϯϖ͔ͱࢥ͕ͬͨɺ%FCFSUBͷΑ͏ͳʢ--.ͱൺ΂ʣ ൺֱతখ͍͞ϞσϧͷΈͰۚϝμϧΛ֫ಘ͍ͯ͠ΔνʔϜ΋ଟ͔ͬͨˠ%BUB
    $FOUSJDͳΞϓϩʔν͕ޮ͘ίϯϖͩͬͨ