Share
Embed
生成系AIの実応用に向けて
LINE株式会社 Data Scienceセンター AI Dev室 室長 井尻善久
※画像センシング展2023
イメージセンシングセミナー:特別招待講演<ジェネレーティブAI・応用課題>
での発表資料です
https://www.adcom-media.co.jp/seminar/2023SS/session/I-371.html
LINE Developers
July 07, 2023
Transcript
88 slides
-
:PTIJIJTB*KJSJ 1I% -*/&גࣜձࣾ σʔλαΠΤϯεηϯλʔ "*%FWࣨ ࣨɺ$7-Ϛωʔδϟʔ > ઐɿίϯϐϡʔλϏδϣϯɾϩϘςΟΫεɺͦΕΒΛࢧ͑Δػցֶश > झຯɿ
> 0VUEPPSొࢁɾεΩʔɾୌ८ΓɾࣸਅࡱӨɾόΠΫτϥΠΞϧɾɾɾ > *OEPPSϐΞϊԋɾྺ࢙ɾᗉɾίʔώʔᖿઝɾञΛᅂΉ > ΦϜϩϯೖࣾ > إͷݕग़ೝࣝͷσδΧϝɾܞଳిɺࢹΧϝϥԠ༻ > ମݕग़ɾŤŞƄŸƃũŖŢŔƃɾ0$3ͷ'"͚Խ > ͠ͳ͔ͳ੍ޚΛ࣮ݱ͢ΔࣗιϑτϩϘοτݚڀਪਐ > Ϧαʔνϕϯνϟʔ্ཱͪ͛ 0.30/4*/*$9 > -*/&ೖࣾ > $PNQVUFS7JTJPO-BCͷ্ཱͪ͛ɺ"*։ൃࣨͷ৫Խ -
ʮਪʯͷࣗಈԽͷਐల ػցֶशϕʔε `T ϧʔϧϕʔε ؍ݟΛݩʹ ౷ܭϞσϧߏங σʔλ͔Β ༧ଌϞσϧΛֶश ը૾ɾݴޠͳͲ
ଟ࣍ݩσʔλΛѻ͍ͮΒ͘ਫ਼ ղऍੑɾઆ໌ੑ͕͘ ܭࢉ͕େ ղऍੑɾઆ໌ੑ͕ߴ͘ ܭࢉগͳΊ ը૾ɾݴޠͳͲ ଟ࣍ݩσʔλ͕ѻ͑ߴਫ਼ *GUIFOϧʔϧ ϕΠζ౷ܭ χϡʔϥϧωοτϫʔΫ ಛ ܽ ར දख๏ WT -
ج൫Ϟσϧʢ'PVOEBUJPONPEFMʣʹΑΔ൚༻Խ XFC ,OPX MFEHF CBTF 1VSDIBTF SFDPSE 1VSDIBTF SFDPSE 5SBOT
BDUJPO SFDPSE 4QFFDI EPDT "E CBOOFS 4UJDLFS 4FBSDI 2" 4IPQQJOH FYQFSJFODF DIBUCPU $POW X TUJDLFST 4$. %JBMPHVF 0$3 "E PQUJNJ[F ʜ ʜ 4FBSDI NPEFM 2" NPEFM 3FDPN .PEFM %JBMPHVF .PEFM %FNBOE 1SFE NPEFM 4QFFDI 3FDPH NPEFM 0$3 NPEFM &GGFDU 1SFE NPEFM 4UJDLFS 3FDPN NPEFM ʜ ϚϧνυϝΠϯσʔλ 4FBSDI 2" ʜ 0$3 "E PQUJNJ[F ʜ 0OFNPEFM 'PVOEBUJPONPEFM ೖ ྗ ޙ ஈ λ ε Ϋ ॲ ཧ ैདྷ λεΫຖʹϞσϧߏஙɺܾΊͨλεΫͷΈʹར༻ ج൫Ϟσϧ υϝΠϯλεΫʹґଘͤͣ͑Δ ͭͷٕज़ֵ৽ -
̎ͭͷٕज़ֵ৽ɿڭࢣͳ͠ࣄલֶश #&35 (15 Inclusive multi-modal data Search QA …
OCR Ad optimize … Pre-trained model Small data Fine tuning GT XFC ,OPX MFEHF CBTF 1VSDIBTF SFDPSE 1VSDIBTF SFDPSE 5SBOT BDUJPO SFDPSE 4QFFDI EPDT "E CBOOFS 4UJDLFS 4FBSDI 2" 4IPQQJOH FYQFSJFODF DIBUCPU $POW X TUJDLFST 4$. %JBMPHVF 0$3 "E PQUJNJ[F ʜ ʜ 4FBSDI NPEFM 2" NPEFM 3FDPN .PEFM %JBMPHVF .PEFM %FNBOE 1SFE NPEFM 4QFFDI 3FDPH NPEFM 0$3 NPEFM &GGFDU 1SFE NPEFM 4UJDLFS 3FDPN NPEFM ʜ ೖ ྗ ޙ ஈ λ ε Ϋ ॲ ཧ ैདྷ ैདྷλεΫ͝ͱʹೖྗͱਖ਼ղ͕ඞཁ ڭࢣͳ͠ࣄલֶश ਖ਼ղ͕ཁΒͳֶ͍शํ๏ -
ハハ 積もれば 価格 が ⼭となる 塵も積もれば ⽂脈 次に来る⾔葉 ? ⾔語モデルとは、与えられた⽂章の次に来る⾔葉を当てるよう学習させたAIモデル
その性能を最⼤限引き出すため、モデルサイズ(パラメータ)を10億以上に拡⼤ #&35ͰఏҊ͞Εͨɺڭࢣͳ͠ࣄલֶशͷΠϝʔδ ͜ΕΛݴޠੜʹԠ༻͢Δͱɾɾɾʢ(15ʣ -
େنݴޠϞσϧͷ։ൃڝ૪ ։ൃݩ ΞϧΰϦζϜ ύϥϝʔλ ݴޠ 0QFO"* (15 3BEGPSE .
&OHMJTI (15 3BEGPSE # &OHMJTI (15 #SPXO # &OHMJTI (PPHMF #&35 %FWMJO # &OHMJTI NBOZ+1WBSJBOUTBWBJMBCMF 5 3BGGFM 9VF # &OHMJTI 4XJUDI5SBOTGPSNFS 'FEVT # MBOHVBHFT 1B-. .JDSPTPGU .5/-( # &OHMJTI -*/& )ZQFS$-07" ,JN d# # +BQBOFTF /"7&3 )ZQFS$-07" ,JN d# # ,PSFBO .FUB 015 # &OHMJTI -
̎ͭͷٕज़ֵ৽ɿڭࢣͳ͠ࣄલֶश #&35 (15 Inclusive multi-modal data Search QA …
OCR Ad optimize … Pre-trained model Small data Fine tuning GT ڭࢣͳ͠ࣄલֶश ਖ਼ղ͕ཁΒͳֶ͍शํ๏ λεΫదԠͷͨΊͷ ϑΝΠϯνϡʔχϯά͕ඞཁ -
େنͳࣄલֶशϞσϧʹλεΫࢦࣔ͢Δ͜ͱͰɺଟ͘ͷλεΫΛՃֶशͳ࣮͘ݱͰ͖Δ͜ͱ͕ൃݟ͞Εͨʂ ̏ͭͷٕज़ֵ৽ɿϓϩϯϓςΟϯά (15 ೖ ྗ ޙ ஈ λ ε
Ϋ ॲ ཧ *ODMVTJWFNVMUJNPEBMEBUB 4FBSDI 2" ʜ 0$3 "E PQUJNJ[F ʜ 1SFUSBJOFE 'PVOEBUJPONPEFM 'FXTIPUQSPNQUGPSUBTLTQFDJGJDBUJPO *ODMVTJWF NVMUJNPEBMEBUB 4FBSDI 2" ʜ 0$3 "E PQUJNJ[F ʜ 1SFUSBJOFE NPEFM 4NBMMEBUB 'JOF UVOJOH (5 ैདྷ λεΫ͝ͱͷϑΝΠϯνϡʔχϯά͕ඞཁ ϓϩϯϓςΟϯά λεΫࢦࣔͰԿͰͰ͖Δʂ -
ϓϩϯϓςΟϯάͷ6* ղઆ͔Βആ۟Λੜ͠·͢ɻ */͕֝ݹ͍ʹඈͼࠐΜͩ࣌ͷԻͷ༷ࢠΛӵΜͩ۟Ͱ͢ɻ͕֝ʹඈͼࠐΉԻΛදݱͨ͠୯७ͳ۟ Ͱ͋Γ·͕͢ɺपғͷ੩ऐऐΕͨݹͷ༷ࢠɺ͕֝ʹඈͼࠐΉੜͷ༂ಈͷΑ͏ͳܠ͕·͟ ·͟ͱΘͬͯ͘Δɺझͷ͋Δ۟ͱͳ͍ͬͯ·͢ɻ͜ͷ۟ͷقޠʰ֝ʱͰɺ͜Εय़Λදݱͯ͠ ͍ΔقޠͰ͢ɻ 065ݹ֝ඈ͜Ήਫͷ͓ͱ */ࢁܗݝʹ͋ΔཱੴࣉʢΓͬ͠Ό͘͡ʣͰηϛ͕໐͍͍ͯΔ༷ࢠΛӵ·Εͨ۟Ͱ͢ɻ͜ͷ۟໌֬ ͳ۟༁Θ͔͍ͬͯͳ͍ͷͰɺগ͠ϛεςϦΞεͰӵΈղ͘͜ͱʹϩϚϯ͕͋Δആ۟Ͱ͢ɻʮؓ ͞ʯͱʮઊͷʯͱ͍͏Ұݟໃ६͢Δදݱͷҙਤ͕ಛʹߟ͑ͤ͞ΒΕ·͢Ͷɻ
065ؓ͞ؠʹ͠Έೖઊͷ */݄ͷॵ͍ͷޕޙͷձٞʹͱͯେͳγεςϜ։ൃͷΛ͠Α͏ͱ͍ͯ͠Δ༷ࢠΛӵ·Ε ͨ۟Ͱ͢ɻ୯७ͳ۟Ͱ͋Γ·͕͢ɺαϥϦʔϚϯͳΤϯδχΞ͕༷ʑͳݒ೦͕͋ΔதͰɺͦΕͰ ͜ͷٕज़Λܗʹ͢Δ͜ͱͰਓೳٕज़ͷະདྷΛ։͖͍ͨͱ͍͏رΛ͜Ίͨؾ࣋ͪΛදݱͯ͠ ͍Δɻ 065 λεΫ એݴ -
ϓϩϯϓςΟϯάͷ6* ղઆ͔Βആ۟Λੜ͠·͢ɻ */͕֝ݹ͍ʹඈͼࠐΜͩ࣌ͷԻͷ༷ࢠΛӵΜͩ۟Ͱ͢ɻ͕֝ʹඈͼࠐΉԻΛදݱͨ͠୯७ͳ۟ Ͱ͋Γ·͕͢ɺपғͷ੩ऐऐΕͨݹͷ༷ࢠɺ͕֝ʹඈͼࠐΉੜͷ༂ಈͷΑ͏ͳܠ͕·͟ ·͟ͱΘͬͯ͘Δɺझͷ͋Δ۟ͱͳ͍ͬͯ·͢ɻ͜ͷ۟ͷقޠʰ֝ʱͰɺ͜Εय़Λදݱͯ͠ ͍ΔقޠͰ͢ɻ 065ݹ֝ඈ͜Ήਫͷ͓ͱ */ࢁܗݝʹ͋ΔཱੴࣉʢΓͬ͠Ό͘͡ʣͰηϛ͕໐͍͍ͯΔ༷ࢠΛӵ·Εͨ۟Ͱ͢ɻ͜ͷ۟໌֬ ͳ۟༁Θ͔͍ͬͯͳ͍ͷͰɺগ͠ϛεςϦΞεͰӵΈղ͘͜ͱʹϩϚϯ͕͋Δആ۟Ͱ͢ɻʮؓ ͞ʯͱʮઊͷʯͱ͍͏Ұݟໃ६͢Δදݱͷҙਤ͕ಛʹߟ͑ͤ͞ΒΕ·͢Ͷɻ
065ؓ͞ؠʹ͠Έೖઊͷ */݄ͷॵ͍ͷޕޙͷձٞʹͱͯେͳγεςϜ։ൃͷΛ͠Α͏ͱ͍ͯ͠Δ༷ࢠΛӵ·Ε ͨ۟Ͱ͢ɻ୯७ͳ۟Ͱ͋Γ·͕͢ɺαϥϦʔϚϯͳΤϯδχΞ͕༷ʑͳݒ೦͕͋ΔதͰɺͦΕͰ ͜ͷٕज़Λܗʹ͢Δ͜ͱͰਓೳٕज़ͷະདྷΛ։͖͍ͨͱ͍͏رΛ͜Ίͨؾ࣋ͪΛදݱͯ͠ ͍Δɻ 065 ྫ -
ϓϩϯϓςΟϯάͷ6* ղઆ͔Βആ۟Λੜ͠·͢ɻ */͕֝ݹ͍ʹඈͼࠐΜͩ࣌ͷԻͷ༷ࢠΛӵΜͩ۟Ͱ͢ɻ͕֝ʹඈͼࠐΉԻΛදݱͨ͠୯७ͳ۟ Ͱ͋Γ·͕͢ɺपғͷ੩ऐऐΕͨݹͷ༷ࢠɺ͕֝ʹඈͼࠐΉੜͷ༂ಈͷΑ͏ͳܠ͕·͟ ·͟ͱΘͬͯ͘Δɺझͷ͋Δ۟ͱͳ͍ͬͯ·͢ɻ͜ͷ۟ͷقޠʰ֝ʱͰɺ͜Εय़Λදݱͯ͠ ͍ΔقޠͰ͢ɻ 065ݹ֝ඈ͜Ήਫͷ͓ͱ */ࢁܗݝʹ͋ΔཱੴࣉʢΓͬ͠Ό͘͡ʣͰηϛ͕໐͍͍ͯΔ༷ࢠΛӵ·Εͨ۟Ͱ͢ɻ͜ͷ۟໌֬ ͳ۟༁Θ͔͍ͬͯͳ͍ͷͰɺগ͠ϛεςϦΞεͰӵΈղ͘͜ͱʹϩϚϯ͕͋Δആ۟Ͱ͢ɻʮؓ ͞ʯͱʮઊͷʯͱ͍͏Ұݟໃ६͢Δදݱͷҙਤ͕ಛʹߟ͑ͤ͞ΒΕ·͢Ͷɻ
065ؓ͞ؠʹ͠Έೖઊͷ */݄ͷॵ͍ͷޕޙͷձٞʹͱͯେͳγεςϜ։ൃͷΛ͠Α͏ͱ͍ͯ͠Δ༷ࢠΛӵ·Ε ͨ۟Ͱ͢ɻ୯७ͳ۟Ͱ͋Γ·͕͢ɺαϥϦʔϚϯͳΤϯδχΞ͕༷ʑͳݒ೦͕͋ΔதͰɺͦΕͰ ͜ͷٕज़Λܗʹ͢Δ͜ͱͰਓೳٕज़ͷະདྷΛ։͖͍ͨͱ͍͏رΛ͜Ίͨؾ࣋ͪΛදݱͯ͠ ͍Δɻ 065 ྫ -
ϓϩϯϓςΟϯάͷ6* ղઆ͔Βആ۟Λੜ͠·͢ɻ */͕֝ݹ͍ʹඈͼࠐΜͩ࣌ͷԻͷ༷ࢠΛӵΜͩ۟Ͱ͢ɻ͕֝ʹඈͼࠐΉԻΛදݱͨ͠୯७ͳ۟ Ͱ͋Γ·͕͢ɺपғͷ੩ऐऐΕͨݹͷ༷ࢠɺ͕֝ʹඈͼࠐΉੜͷ༂ಈͷΑ͏ͳܠ͕·͟ ·͟ͱΘͬͯ͘Δɺझͷ͋Δ۟ͱͳ͍ͬͯ·͢ɻ͜ͷ۟ͷقޠʰ֝ʱͰɺ͜Εय़Λදݱͯ͠ ͍ΔقޠͰ͢ɻ 065ݹ֝ඈ͜Ήਫͷ͓ͱ */ࢁܗݝʹ͋ΔཱੴࣉʢΓͬ͠Ό͘͡ʣͰηϛ͕໐͍͍ͯΔ༷ࢠΛӵ·Εͨ۟Ͱ͢ɻ͜ͷ۟໌֬ ͳ۟༁Θ͔͍ͬͯͳ͍ͷͰɺগ͠ϛεςϦΞεͰӵΈղ͘͜ͱʹϩϚϯ͕͋Δആ۟Ͱ͢ɻʮؓ ͞ʯͱʮઊͷʯͱ͍͏Ұݟໃ६͢Δදݱͷҙਤ͕ಛʹߟ͑ͤ͞ΒΕ·͢Ͷɻ
065ؓ͞ؠʹ͠Έೖઊͷ */݄ͷॵ͍ͷޕޙͷձٞʹͱͯେͳγεςϜ։ൃͷΛ͠Α͏ͱ͍ͯ͠Δ༷ࢠΛӵ·Ε ͨ۟Ͱ͢ɻ୯७ͳ۟Ͱ͋Γ·͕͢ɺαϥϦʔϚϯͳΤϯδχΞ͕༷ʑͳݒ೦͕͋ΔதͰɺͦΕͰ ͜ͷٕज़Λܗʹ͢Δ͜ͱͰਓೳٕज़ͷະདྷΛ։͖͍ͨͱ͍͏رΛ͜Ίͨؾ࣋ͪΛදݱͯ͠ ͍Δɻ 065 ຊ -
ϓϩϯϓςΟϯάͷ6* ղઆ͔Βആ۟Λੜ͠·͢ɻ */͕֝ݹ͍ʹඈͼࠐΜͩ࣌ͷԻͷ༷ࢠΛӵΜͩ۟Ͱ͢ɻ͕֝ʹඈͼࠐΉԻΛදݱͨ͠୯७ͳ۟ Ͱ͋Γ·͕͢ɺपғͷ੩ऐऐΕͨݹͷ༷ࢠɺ͕֝ʹඈͼࠐΉੜͷ༂ಈͷΑ͏ͳܠ͕·͟ ·͟ͱΘͬͯ͘Δɺझͷ͋Δ۟ͱͳ͍ͬͯ·͢ɻ͜ͷ۟ͷقޠʰ֝ʱͰɺ͜Εय़Λදݱͯ͠ ͍ΔقޠͰ͢ɻ 065ݹ֝ඈ͜Ήਫͷ͓ͱ */ࢁܗݝʹ͋ΔཱੴࣉʢΓͬ͠Ό͘͡ʣͰηϛ͕໐͍͍ͯΔ༷ࢠΛӵ·Εͨ۟Ͱ͢ɻ͜ͷ۟໌֬ ͳ۟༁Θ͔͍ͬͯͳ͍ͷͰɺগ͠ϛεςϦΞεͰӵΈղ͘͜ͱʹϩϚϯ͕͋Δആ۟Ͱ͢ɻʮؓ ͞ʯͱʮઊͷʯͱ͍͏Ұݟໃ६͢Δදݱͷҙਤ͕ಛʹߟ͑ͤ͞ΒΕ·͢Ͷɻ
065ؓ͞ؠʹ͠Έೖઊͷ */݄ͷॵ͍ͷޕޙͷձٞʹͱͯେͳγεςϜ։ൃͷΛ͠Α͏ͱ͍ͯ͠Δ༷ࢠΛӵ·Ε ͨ۟Ͱ͢ɻ୯७ͳ۟Ͱ͋Γ·͕͢ɺαϥϦʔϚϯͳΤϯδχΞ͕༷ʑͳݒ೦͕͋ΔதͰɺͦΕͰ ͜ͷٕज़Λܗʹ͢Δ͜ͱͰਓೳٕज़ͷະདྷΛ։͖͍ͨͱ͍͏رΛ͜Ίͨؾ࣋ͪΛදݱͯ͠ ͍Δɻ 065ീ݄ͷ͍࠭ͷதखΛೖΕΔ -
ϓϩϯϓςΟϯάͷ6* ղઆ͔Βആ۟Λੜ͠·͢ɻ */͕֝ݹ͍ʹඈͼࠐΜͩ࣌ͷԻͷ༷ࢠΛӵΜͩ۟Ͱ͢ɻ͕֝ʹඈͼࠐΉԻΛදݱͨ͠୯७ͳ۟ Ͱ͋Γ·͕͢ɺपғͷ੩ऐऐΕͨݹͷ༷ࢠɺ͕֝ʹඈͼࠐΉੜͷ༂ಈͷΑ͏ͳܠ͕·͟ ·͟ͱΘͬͯ͘Δɺझͷ͋Δ۟ͱͳ͍ͬͯ·͢ɻ͜ͷ۟ͷقޠʰ֝ʱͰɺ͜Εय़Λදݱͯ͠ ͍ΔقޠͰ͢ɻ 065ݹ֝ඈ͜Ήਫͷ͓ͱ */ࢁܗݝʹ͋ΔཱੴࣉʢΓͬ͠Ό͘͡ʣͰηϛ͕໐͍͍ͯΔ༷ࢠΛӵ·Εͨ۟Ͱ͢ɻ͜ͷ۟໌֬ ͳ۟༁Θ͔͍ͬͯͳ͍ͷͰɺগ͠ϛεςϦΞεͰӵΈղ͘͜ͱʹϩϚϯ͕͋Δആ۟Ͱ͢ɻʮؓ ͞ʯͱʮઊͷʯͱ͍͏Ұݟໃ६͢Δදݱͷҙਤ͕ಛʹߟ͑ͤ͞ΒΕ·͢Ͷɻ
065ؓ͞ؠʹ͠Έೖઊͷ */݄ͷॵ͍ͷޕޙͷձٞʹͱͯେͳγεςϜ։ൃͷΛ͠Α͏ͱ͍ͯ͠Δ༷ࢠΛӵ·Ε ͨ۟Ͱ͢ɻ୯७ͳ۟Ͱ͋Γ·͕͢ɺαϥϦʔϚϯͳΤϯδχΞ͕༷ʑͳݒ೦͕͋ΔதͰɺͦΕͰ ͜ͷٕज़Λܗʹ͢Δ͜ͱͰਓೳٕज़ͷະདྷΛ։͖͍ͨͱ͍͏رΛ͜Ίͨؾ࣋ͪΛදݱͯ͠ ͍Δɻ 065༦মϓϩδΣΫτԌ্ͤΓ -
ਓͷհࡏΛ͏·͘׆༻Ͱ͖ΔֶशΞϧΰϦζϜͱͯ͠ͷ3- "*ΛҭͯΔ • ใुؔΛਓͷ؆୯ͳϑΟʔυόοΫʹ ج͍ͮͯϑΟοςΟϯά • ݁Ռతʹେྔͷσʔλʹεέʔϧͤ͞Δ ͜ͱ͕Մೳ • ͜ΕʹΑΓෳࡶͳใुؔදݱͰ͖Δ
• ใुܗʢSFXBSETIBQJOHʣͷҰͭͱߟ ͑ΒΕ͍ͯΔɻ • ࣌ɺ"$ 5310ͳͲͷڧԽֶशΛ༻ ͍ͯɺϩϘςΟΫεͱήʔϜͷλεΫʹ ׆༻ %FFQSFJOGPSDFNFOUMFBSOJOHGSPNIVNBOQSFGFSFODFT<$ISJTUJBOP BS9JW>ΑΓసࡌ -
ͦΕͧΕͷεςοϓʹඞཁͳσʔλྔ *OTUSVDU(15 <0VZBO .BS> 31 4VQFSWJTFEGJOFUVOJOH 3FXBSENPEFM 3-XJUI )VNBO'FFECBDL ,QSPNQUT
IVNBOMBCFMFS ,QSPNQUT IVNBOMBCFMFS ,QSPNQUT -
$IBU(15 ਓͷൣճΛֶश͠ɺैདྷΑΓ·͍͠ճ͕Ͱ͖Δ 33 (15 検索 質問回答 … 推薦 対話 …
Foundation model ؒҧͬͨ͜ͱΛ ಊʑͱ͑Δ ภݟ͕ൃݴ͕ ؚ·ΕΔճΛ͢Δ $IBU(15 Tuned model ࣭ճ ճධՁ ਓͷ࣭ճճධՁʹج͖ͮɺϞσϧΛ͞Βʹ܇࿅ ͢Δ͜ͱͰɺ·͍͠ճΛಘΒΕΔΑ͏ʹͨ͠ ճਫ਼্͕ ෆదճͷݮ ݴ͍ճ͠ɾදݱͷվળ %FFQTQFFE .JDSPTPGU ͳͲͰ࣮ɿ IUUQTXXXBYJPO[POFEFFQTQFFEFYUSFNFTDBMFNPEFMUSBJOJOHGPSFWFSZPOF -
ΞϝϦΧͷ༷ʑͳࢼݧͰɺਓؒͷ্ҐͷΛ͍ͯ͠Δ "*ͷ࣮ྗɿςΩετϕʔεͰطʹਓؒΛ͑ͭͭ͋Δ 35
6OJGPSN#BS&YBN ౷Ұ࢘๏ࢼݧ 4"53FBEJOH8SJUJOH େֶਐֶదੑࢼݧ ϦʔσΟϯά ˍϥΠςΟϯά 4"5.BUI େֶਐֶదੑࢼݧ ֶ (3&2VBOUJUBUJWF େֶӃڞ௨ࢼݧ ֶ (3&7FSCBM େֶӃڞ௨ࢼݧ ݴޠ QFSDFOUJMF -
แׅతͳϞσϧͱͦΕʹΑΔଟ༷ͳʢແݶͷʁʣλεΫͷ࣮ݱɺ͜ΕʹΑΓਓΛ͑ΒΕ ΔՄೳੑ͕ग़͖ͯͨʂ ج൫Ϟσϧ͕ࣔࠦ͢Δ͜ͱ υ ϝ Π ϯ λεΫ λεΫಛԽܕ"* λεΫಛԽܕ"*
ج൫Ϟσϧ ͜ ͷ ෯ ͕ ڭ ࢣ ͳ ͠ ࣄ લ ֶ श Ͱ Մ ೳ ʹ ϓϩϯϓςΟϯά ڭ ࢣ ͳ ͠ ࣄ લ ֶ श ࣗ ݾ ڭ ࢣ ֶ श -
%"--&<3BNFTI BS9JW > $-*1<3BEGPSE BS9JW > ϚϧνϞʔμϧͳੜ 38 3BEGPSE -FBSOJOH5SBOTGFSBCMF7JTVBM.PEFMT'SPN/BUVSBM-BOHVBHF4VQFSWJTJPO
BS9JW 3BNFTI )JFSBSDIJDBM5FYU$POEJUJPOBM*NBHF(FOFSBUJPOXJUI$-*1-BUFOUT BS9JW ΑΓసࡌ 画像と、テキストのエンコーディングの対から、対象学習を⾏うことで、双⽅の共通の埋め込み空間を学習 -
࣍ݩۭؒͰ %JGGVTJPONPEFMΛֶशਪ͢Δ͜ͱͰɺলϦιʔε͔ͭߴͳֶशਪ͕Մೳ 4UBCMFEJGGVTJPO<3PNCBDI "QS> 359 (#ϏσΦϝϞϦʔ Ҏ্ఔͷ(16͕͋ΕࣗͰಈ͔͢͜ͱ͕Ͱ͖ΔΑ͏ʹ ͳͬͨ IUUQTBSYJWPSHBCTΑΓసࡌ ίʔυɿ
IUUQTHJUIVCDPN$PNQ7JTTUBCMFEJGGVTJPO IUUQTIVHHJOHGBDFDPTQBDFTTUBCJMJUZBJTUBCMFEJGGVTJPO -
গͷը૾Ͱաద߹͢Δ͜ͱͳ͘ϑΝΠϯνϡʔχϯά ͞·͟·ͳը૾ϓϩϯϓτͷ׆༻ɿ$POUSPM/FU<;IBOH > 42 基本的な考え⽅はLoRAなどに使われるAdaptorと同 じ考え⽅、0で初期化するZeroConvが特徴的 Zhang+, Adding Conditional Control
to Text-to-Image Diffusion Models, arXiv, 2023より転載 -
(BUPBHFOFSBMJTUBHFOU<3FFE BS9JW > ͞ΒʹϚϧνϞʔμϧʹɾɾɾ 44 3FFE "(FOFSBMJTU"HFOU BS9JW ΑΓసࡌ ҙͷλεΫʹ͓͚Δ؍ଌͱΞΫγϣϯͷܥྻΛਖ਼نԽ͠τʔΫϯԽͯ͠ɺݴޠͱಉ͡Α͏ʹ༩͑ɺ
5SBOTGPSNFSߏͷϞσϧʹ͓͍ͯɺ࣍ͷτʔΫϯΛ༧ଌ͢ΔΑ͏ֶश -
ಛఆͷϞμϦςΟ͔ΒϚϧνϞʔμϧɻͦΕʹ͍ͲΜͳλεΫ͕ߟ͑ΒΕΔ͔ʁ ͲΜͲΜͱυϝΠϯͱλεΫ͕Δɾɾ λεΫ ϓϩϯϓςΟϯά ڭ ࢣ ͳ ͠ ࣄ લ
ֶ श ࣗ ݾ ڭ ࢣ ֶ श υ ϝ Π ϯ ϚϧνϞʔμϧԽ Ϛ ϧ ν Ϟ ồ μ ϧ Խ -
൚༻ਓೳ "(*BSUJGJDJBMHFOFSBMJOUFMMJHFODF <(VCSVE > 49 "(* ਓؒϨϕϧͷ൚༻తͳೳ ঢ়گมԽʹରͯ͠ॊೈ /BSSPX"*
ಛఆͷػೳɾঢ়گΛఆ͠ σʔλʹ࠷దԽͨ͠ػց ϓϩάϥϜͨ͠Ҏ্ͷ͜ͱ͕Ͱ͖Δɻ ૠతʹߟ͍͑ͯΔ͕ɺͦͷൣғ͕ਓஐ Λ͍͑ͯΔ ڭ͑ͨ͜ͱ͔͠Βͳ͍ɻ ڭ͍͑ͯͳ͍͜ͱͰ͖ͳ͍ɻ ਓͷΑ͏ʹҰͭͷ಄Ͱঢ়گʹ߹Θ͍ͤͯΖ͍Ζͳग़ྗ͕Մೳ -
ը૾ʴΩϟονίϐʔʴϨΠΞτͷੜʹΑΔࠂແݶੜ ి௨ɿࠂੜͷԠ༻ Φ Ϧ Τ ϯ ೖ ྗ ి௨ใΑΓసࡌ
IUUQTEFOUTVIPDPNBSUJDMFT ੜ ύ ϥ ϝ ồ λ ग़ ྗ Ϩ Π Ξ τ ੜ Ω Ỿ ỽ ν ੜ ը ૾ ੜ ޮ Ռ ༧ ଌ ίϯςϯπ ੜ -
ੜ"*ͷԠ༻Ωϟϯόε ΤϯλʔςΠϯϝϯ τ ϚʔέςΟϯά Πϯλʔωοτ ڭҭ ҩྍࢱ ϑΝογϣϯɾσβ Πϯ Ұൠۀ
ޮ Խ ใݕࡧ ը૾ɾԻָݕࡧ ใਪનɺࠂ৴ ݕࡧɺϨϙʔςΟϯ άɺཱྀߦܦ࿏ɾҿ৯ ళɾߪങఏҊ ڭࡐࢧԉɺ"*νϡʔ λʔͳͲ ݸਓϨϕϧͰͷॳظ அࢧԉ ίʔσΟϯάࢧԉ ใՃ ฤۂɺΓൈ͖ಈը ੜɺτϨΠϥʔੜ ใΩϡϨʔγϣϯ จॻɾϝʔϧ࡞ ࢧԉɾਤද࡞ ίϛϡχέʔ γϣϯ ΧελϚʔαϙʔτɺ νϟοτϘοτ ձࢧԉ จॻɾϝʔϧ࡞ ࢧԉ ΧελϚʔαϙʔτ ί ϯ ς ϯ π ੜ ίϯςϯπੜ өըɾ57٭ຊੜɺ ಈըɾָۂੜɺ࡞ ࢺ࡞ۂࢧԉɺήʔϜ ΩϟϥΫλʔɾγφ ϦΦੜɺΞχϝੜ ɾࠂจͷੜɺ ࠂੜαΠτ࡞ɺ ϒϩάɾ4/4هࣄੜ ɺ αΠτੜɺϒϩ άɾ4/4هࣄੜɺ ֶशίϯςϯπੜ σβΠϯҊੜɺ"* Ϟσϧੜ Πϥετ࡞ɺϏδ ωεઓཱུҊɾΞΠ σΟΤʔγϣϯࢧԉɺ ύ ồ ι φ ϧ Խ ਪનɾஅࢧԉ ύʔιφϥΠζϓϨ ΠϦετ ࠂ৹ࠪࣗಈԽ ࠂޮՌ࠷దԽɿૌ ٻϙΠϯτɾλʔ ήοτೖΕΕɺ ഔମɾΫϦΤΠςΟ ϒؚΊਪન 5SJQΞγετɿཱྀఔ ߏஙˍ༧ ࠾ɾධՁࢧԉ ڭҭϓϩάϥϜߏ ஙɿڭࡐબఆɾқ બఆɾɾɾ அࢧԉ ݈߁ɾάϧϝΞγε τɿݙཱˍୡ༧ɺ ӡಈϝχϡʔߏங όʔνϟϧτϥΠϯ Φϯɺίʔσਪન ཁɺςετࢧԉ ϨϙʔςΟϯά τϨϯυϨϙʔτ ·ͱΊهࣄੜ ใࠂॻ࡞ࢧԉ ใࠂॻ࡞ࢧԉɺ จɾಛڐࣥචࢧԉ ੜܕݕࡧɿݕࡧ݁ Ռͷ·ͱΊ -
1VCMJDBUJPOTBUUIFUPQUJFSDPOGFSFODFT 3%BDDPNQMJTINFOUT ': $POGFSFODFT *$"441 */5&341&&$)
8"41"" #JH%BUB *$"441 &64*1$0 */5&341&&$) %$"4& "14*1" $713 51%1 '-*$.- -%3$ *$"441 *$3" *6* *$%& *$$7 "14*1" */5&341&&$) *&&&54141- *$-3 *$"441 */5&341&&$) 4*(.0% "14*1" *+$7 4-5 7-%# #JH%BUB 8"$7 """* *$"441 4-5 -
-*/&"*ͷ3%7JTJPO $POTFSWBUJWF %JTSVQUJWF 5JNF *OUFSBDUJWFWJSUVBM FYQFSJFODF
"VUPOPNPVT"* XPSLGMPX %JHJUBM.F .F"7"5"3 %JHJUBM*EFOUJUZ #FUUFS$BSF 5SVTUXPSUIZ"* "*'BJSOFTT &YQMBJOBCMF"* %BSL%BUB 0NOJQPUFOU"* (JHBOUJD-BOHVBHFNPEFM 6OMBCFMFE%BUB %BUB.BSLFUQMBDF (FOFSBUJWF*OUFMMJHFODF /FX&EVDBUJPO %FQFOEBCMF455 1SJWBDZQSFTFSWJOH 4FBN%JTDSJNJOBUPS -*/&ͷ࣋ͭଟ༷ͳ"*ཁૉٕज़Λجʹɺԣஅతͳٕज़Λྗٕज़ͱͯ͠શମײΛ࣋ͬͯݚڀ։ൃ͍ͯ͠·͢ -
世界でも⼤規模⾔語モデルの開発は限られ ⽇本ではHyperCLOVAが最⼤ ˞͜͜Ͱ#ఔҎ্Λେنͱදݱ Alibaba Tongyi Qianwen Cohere.ai Large LM DeepMind
Gopher, Chinchilla, Flamingo Amazon Amazon Titan Baidu Ernie Bot Google T5, PaLM/PaLM-E, LaMDA/Bard MS-Nvidia Megatron-Turing NLG Anthropic Claude Kakaobrain koGPT3, Coyo LINE/WMJ HyperCLOVA NAVER HyperCLOVA OpenAI GPT/ChatGPT EleutherAI pythia Meta/Stanford/UCB OPT/LLaMA/Alpaca/Koala AI21 Labs Jurassic-1 -
จॻ࡞ࢧԉ ཁ݅ͷΈͷϝʔϧͰ࡞จ จॻߍਖ਼ɾܗɾλΠτϧੜ σδλϧϚʔέςΟϯάࢧԉ Ωϟονίϐʔ࡞ࢧԉ େྔͷʹର͢Δઆ໌ ΧελϚέΞʔࢧԉ ސ٬Ұ࣍αϙʔτɾৼΓ͚ ίʔϧηϯλͷ͞ΒͳΔࣗಈԽ ใऩूࢧԉ
େྔͷσʔλʹج࣭ͮ͘ճ จॻͷཁɾϨϙʔτੜݕࡧ ج൫Ϟσϧͷ׆༻ ͦͷଞ ίʔσΟϯάࢧԉɾจ๏νΣοΫɾ༁ɾɾɾ -
5SVTUXPSUIZ"*ʹ͚ͯ What is Trustworthy AI? Expert Quality Explainability Transparency Confidentiality
Fairness Harmless Robustness Compliance Trustworthy AI -
ఏҊख๏ɿ*UFSBUJWF4UPDIBTUJD'FXTIPU(FOFSBUJPO 3FE-. UFTUDBTF UFTUDBTF -JTUPGRVFTUJPOT \UFTUDBTF^
ϓϩϯϓτ 5BSHFU-. 3FE$MG ࢹ ຒࠐ ೖྗ ςετέʔε Ϩεϙϯε Ճ ςετέʔεϦετ -
4BZVSJ • ͷঁੑͷ • গ͠໌Δ͘ɺਓؒΒ͍͠༲ %BJLJ • ͷஉੑͷ • མͪண͍ͨ
/BPNJ@# • /BPNJͷൃελΠϧ֦ு • ϨγϐͳͲΛ͓͢͢Ί͢Δςϯ γϣϯߴ͍ελΠϧ /BPNJ@" • ͷঁੑͷ • ໌Δ͞ͱམͪண͖ͷ͋Δ • ਓؒΒ͍͠༲ 5PNPLP • ͷঁੑͷ • গ͠໌Δ͘ɺਓؒΒ͍͠༲ ଞʹੜ"*͍Ζ͍Ζ -
$0OUSPMMBCMF )JHIRVBMJUZ "OEFYQ3FTT*WF554 ໌Δ͍ ҉͍ 😀 😄 🙂 😐 😢
😰 😥 ײΛॊೈʹ੍ޚՄೳͳԻ߹Λ࣮ݱ ײͷͬͨ͜Ի߹ -
-*/&"*ͷ3%7JTJPO $POTFSWBUJWF %JTSVQUJWF 5JNF *OUFSBDUJWFWJSUVBM FYQFSJFODF
"VUPOPNPVT"* XPSLGMPX %JHJUBM.F .F"7"5"3 %JHJUBM*EFOUJUZ #FUUFS$BSF 5SVTUXPSUIZ"* "*'BJSOFTT &YQMBJOBCMF"* %BSL%BUB 0NOJQPUFOU"* (JHBOUJD-BOHVBHFNPEFM 6OMBCFMFE%BUB %BUB.BSLFUQMBDF (FOFSBUJWF*OUFMMJHFODF /FX&EVDBUJPO %FQFOEBCMF455 1SJWBDZQSFTFSWJOH 4FBN%JTDSJNJOBUPS -*/&ͷ࣋ͭଟ༷ͳ"*ཁૉٕज़Λجʹɺԣஅతͳٕज़Λྗٕज़ͱͯ͠શମײΛ࣋ͬͯݚڀ։ൃ͍ͯ͠·͢ -
ࢲ͕ߟ͑ͨάϥϯυνϟϨϯδ "*ͰղܾͰ͖͍ͯͳ͍ 87 • ίϯύΫτͳ൚༻ਓೳ • লΤωਪɾলΤωֶशʢେنͳܭࢉثΛඞཁͱ ͠ͳ͍ʣ • ώτͷͷΑ͏ͳػೳԽΛ࣮ݱ͢ΔͨΊͷҰൠత
ͳख๏ • ϩδΧϧͳਪࢉज़ԋࢉɾཧԋࢉͳͲ • ϖϧιφɾݸੑɾҰ؏ੑɿֶशͱهԱͷ౷߹ʹؔ͢ ΔҰൠతͳख๏ • తඪΛ࡞Γग़͢ɺαϒΰʔϧઃఆͳͲ • ৽ͨͳυϝΠϯͷదԠʢ[FSPGFXTIPUʣ • Ԡ༻Ϩϕϧͷ՝ • "*ྙཧɾݖརɾϋϧγωʔγϣϯ $IBU(15ͷߟ͑ΔάϥϯυνϟϨϯδ