Upgrade to Pro — share decks privately, control downloads, hide ads and more …

生成系AIの実応用に向けて

 生成系AIの実応用に向けて

LINE株式会社 Data Scienceセンター AI Dev室 室長 井尻善久

※画像センシング展2023
イメージセンシングセミナー:特別招待講演<ジェネレーティブAI・応用課題>
での発表資料です
https://www.adcom-media.co.jp/seminar/2023SS/session/I-371.html

LINE Developers

July 07, 2023
Tweet

More Decks by LINE Developers

Other Decks in Technology

Transcript

  1. :PTIJIJTB*KJSJ 1I% -*/&גࣜձࣾ σʔλαΠΤϯεηϯλʔ "*%FWࣨ ࣨ௕ɺ$7-Ϛωʔδϟʔ > ઐ໳ɿίϯϐϡʔλϏδϣϯɾϩϘςΟΫεɺͦΕΒΛࢧ͑Δػցֶश > झຯɿ

    > 0VUEPPSొࢁɾεΩʔɾୌ८ΓɾࣸਅࡱӨɾόΠΫτϥΠΞϧɾɾɾ > *OEPPSϐΞϊԋ૗ɾྺ࢙ɾᗉ੡ɾίʔώʔᖿઝɾञΛᅂΉ > ೥ΦϜϩϯೖࣾ > إͷݕग़ೝࣝͷσδΧϝɾܞଳి࿩ɺ؂ࢹΧϝϥԠ༻ > ෺ମݕग़ɾŤŞƄŸƃũŖŢŔƃɾ0$3ͷ'"޲͚঎඼Խ > ͠ͳ΍͔ͳ੍ޚΛ࣮ݱ͢Δࣗ཯ιϑτϩϘοτݚڀਪਐ > Ϧαʔνϕϯνϟʔ্ཱͪ͛ 0.30/4*/*$9 > ೥-*/&ೖࣾ > $PNQVUFS7JTJPO-BCͷ্ཱͪ͛ɺ"*։ൃࣨͷ૊৫Խ
  2. ʮਪ࿦ʯͷࣗಈԽͷਐల  ػցֶशϕʔε `T ϧʔϧϕʔε ؍࡯΍஌ݟΛݩʹ ౷ܭϞσϧߏங σʔλ͔Β ༧ଌϞσϧΛ௚઀ֶश ը૾ɾݴޠͳͲ

    ଟ࣍ݩσʔλΛѻ͍ͮΒ͘௿ਫ਼౓ ղऍੑɾઆ໌ੑ͕௿͘ ܭࢉ͕๲େ ղऍੑɾઆ໌ੑ͕ߴ͘ ܭࢉ΋গͳΊ ը૾ɾݴޠͳͲ ଟ࣍ݩσʔλ͕ѻ͑ߴਫ਼౓ *GUIFOϧʔϧ ϕΠζ౷ܭ χϡʔϥϧωοτϫʔΫ ಛ௃ ܽ఺ ར఺ ୅දख๏ WT
  3. ج൫Ϟσϧʢ'PVOEBUJPONPEFMʣʹΑΔ൚༻Խ XFC ,OPX MFEHF CBTF 1VSDIBTF SFDPSE 1VSDIBTF SFDPSE 5SBOT

    BDUJPO SFDPSE 4QFFDI EPDT "E CBOOFS 4UJDLFS 4FBSDI 2" 4IPQQJOH FYQFSJFODF DIBUCPU $POW X TUJDLFST 4$. %JBMPHVF 0$3 "E PQUJNJ[F ʜ ʜ 4FBSDI NPEFM 2" NPEFM 3FDPN .PEFM %JBMPHVF .PEFM %FNBOE 1SFE NPEFM 4QFFDI 3FDPH NPEFM 0$3 NPEFM &GGFDU 1SFE NPEFM 4UJDLFS 3FDPN NPEFM ʜ ϚϧνυϝΠϯσʔλ 4FBSDI 2" ʜ 0$3 "E PQUJNJ[F ʜ 0OFNPEFM 'PVOEBUJPONPEFM ೖ ྗ ޙ ஈ λ ε Ϋ ॲ ཧ ैདྷ λεΫຖʹϞσϧߏஙɺܾΊͨλεΫͷΈʹར༻ ج൫Ϟσϧ υϝΠϯλεΫʹґଘͤͣ࢖͑Δ ͭͷٕज़ֵ৽
  4. ̎ͭ໨ͷٕज़ֵ৽ɿڭࢣͳ͠ࣄલֶश #&35 (15  Inclusive multi-modal data Search QA …

    OCR Ad optimize … Pre-trained model Small data Fine tuning GT XFC ,OPX MFEHF CBTF 1VSDIBTF SFDPSE 1VSDIBTF SFDPSE 5SBOT BDUJPO SFDPSE 4QFFDI EPDT "E CBOOFS 4UJDLFS 4FBSDI 2" 4IPQQJOH FYQFSJFODF DIBUCPU $POW X TUJDLFST 4$. %JBMPHVF 0$3 "E PQUJNJ[F ʜ ʜ 4FBSDI NPEFM 2" NPEFM 3FDPN .PEFM %JBMPHVF .PEFM %FNBOE 1SFE NPEFM 4QFFDI 3FDPH NPEFM 0$3 NPEFM &GGFDU 1SFE NPEFM 4UJDLFS 3FDPN NPEFM ʜ ೖ ྗ ޙ ஈ λ ε Ϋ ॲ ཧ ैདྷ ैདྷ͸λεΫ͝ͱʹೖྗͱਖ਼ղ͕ඞཁ ڭࢣͳ͠ࣄલֶश ਖ਼ղ͕ཁΒͳֶ͍शํ๏
  5. ハハ 積もれば 価格 が ⼭となる 塵も積もれば ⽂脈 次に来る⾔葉 ? ⾔語モデルとは、与えられた⽂章の次に来る⾔葉を当てるよう学習させたAIモデル

    その性能を最⼤限引き出すため、モデルサイズ(パラメータ)を10億以上に拡⼤ #&35ͰఏҊ͞Εͨɺڭࢣͳ͠ࣄલֶशͷΠϝʔδ ͜ΕΛݴޠੜ੒ʹԠ༻͢Δͱɾɾɾʢ(15ʣ
  6. େن໛ݴޠϞσϧͷ։ൃڝ૪ ։ൃݩ ΞϧΰϦζϜ ύϥϝʔλ਺ ݴޠ 0QFO"* (15 3BEGPSE  .

    &OHMJTI (15 3BEGPSE  # &OHMJTI (15 #SPXO  # &OHMJTI (PPHMF #&35 %FWMJO  # &OHMJTI NBOZ+1WBSJBOUTBWBJMBCMF 5 3BGGFM 9VF  # &OHMJTI 4XJUDI5SBOTGPSNFS 'FEVT  # MBOHVBHFT 1B-.  .JDSPTPGU .5/-(  # &OHMJTI -*/& )ZQFS$-07" ,JN  d# # +BQBOFTF /"7&3 )ZQFS$-07" ,JN  d# # ,PSFBO .FUB 015 # &OHMJTI
  7. ̎ͭ໨ͷٕज़ֵ৽ɿڭࢣͳ͠ࣄલֶश #&35 (15  Inclusive multi-modal data Search QA …

    OCR Ad optimize … Pre-trained model Small data Fine tuning GT ڭࢣͳ͠ࣄલֶश ਖ਼ղ͕ཁΒͳֶ͍शํ๏ λεΫదԠͷͨΊͷ ϑΝΠϯνϡʔχϯά͕ඞཁ
  8. େن໛ͳࣄલֶशϞσϧʹλεΫࢦࣔ͢Δ͜ͱͰɺଟ͘ͷλεΫΛ௥Ճֶशͳ࣮͘ݱͰ͖Δ͜ͱ͕ൃݟ͞Εͨʂ ̏ͭ໨ͷٕज़ֵ৽ɿϓϩϯϓςΟϯά (15  ೖ ྗ ޙ ஈ λ ε

    Ϋ ॲ ཧ *ODMVTJWFNVMUJNPEBMEBUB 4FBSDI 2" ʜ 0$3 "E PQUJNJ[F ʜ 1SFUSBJOFE 'PVOEBUJPONPEFM 'FXTIPUQSPNQUGPSUBTLTQFDJGJDBUJPO *ODMVTJWF NVMUJNPEBMEBUB 4FBSDI 2" ʜ 0$3 "E PQUJNJ[F ʜ 1SFUSBJOFE NPEFM 4NBMMEBUB 'JOF UVOJOH (5 ैདྷ λεΫ͝ͱͷϑΝΠϯνϡʔχϯά͕ඞཁ ϓϩϯϓςΟϯά λεΫࢦࣔͰԿͰ΋Ͱ͖Δʂ
  9. ਓͷհࡏΛ͏·͘׆༻Ͱ͖ΔֶशΞϧΰϦζϜͱͯ͠ͷ3- "*ΛҭͯΔ • ใुؔ਺Λਓͷ؆୯ͳϑΟʔυόοΫʹ ج͍ͮͯϑΟοςΟϯά • ݁Ռతʹେྔͷσʔλʹεέʔϧͤ͞Δ ͜ͱ͕Մೳ • ͜ΕʹΑΓෳࡶͳใुؔ਺΋දݱͰ͖Δ

    • ใु੒ܗʢSFXBSETIBQJOHʣͷҰͭͱߟ ͑ΒΕ͍ͯΔɻ • ౰࣌͸ɺ"$ 5310ͳͲͷڧԽֶशΛ༻ ͍ͯɺϩϘςΟΫεͱήʔϜͷλεΫʹ ׆༻  %FFQSFJOGPSDFNFOUMFBSOJOHGSPNIVNBOQSFGFSFODFT<$ISJTUJBOP BS9JW>ΑΓసࡌ
  10. $IBU(15 ਓͷ໛ൣճ౴Λֶश͠ɺैདྷΑΓ΋๬·͍͠ճ౴͕Ͱ͖Δ 33 (15 検索 質問回答 … 推薦 対話 …

    Foundation model ؒҧͬͨ͜ͱΛ ಊʑͱ౴͑Δ ภݟ͕໰୊ൃݴ͕ ؚ·ΕΔճ౴Λ͢Δ $IBU(15 Tuned model ࣭໰ճ౴ ճ౴ධՁ ਓͷ࣭໰ճ౴΍ճ౴ධՁʹج͖ͮɺϞσϧΛ͞Βʹ܇࿅ ͢Δ͜ͱͰɺ๬·͍͠ճ౴ΛಘΒΕΔΑ͏ʹͨ͠ ճ౴ਫ਼౓͕޲্ ෆద੾ճ౴ͷ௿ݮ ݴ͍ճ͠ɾදݱͷվળ %FFQTQFFE .JDSPTPGU ͳͲͰ࣮૷ɿ IUUQTXXXBYJPO[POFEFFQTQFFEFYUSFNFTDBMFNPEFMUSBJOJOHGPSFWFSZPOF
  11. ΞϝϦΧͷ༷ʑͳࢼݧͰɺਓؒͷ্Ґͷ੒੷Λ࢒͍ͯ͠Δ "*ͷ࣮ྗɿςΩετϕʔεͰ͸طʹਓؒΛ௒͑ͭͭ͋Δ 35       

    6OJGPSN#BS&YBN ౷Ұ࢘๏ࢼݧ 4"53FBEJOH8SJUJOH େֶਐֶదੑࢼݧ ϦʔσΟϯά ˍϥΠςΟϯά 4"5.BUI େֶਐֶదੑࢼݧ ਺ֶ (3&2VBOUJUBUJWF େֶӃڞ௨ࢼݧ ਺ֶ (3&7FSCBM େֶӃڞ௨ࢼݧ ݴޠ QFSDFOUJMF
  12. แׅతͳϞσϧͱͦΕʹΑΔଟ༷ͳʢແݶͷʁʣλεΫͷ࣮ݱɺ͜ΕʹΑΓਓΛ௒͑ΒΕ ΔՄೳੑ͕ग़͖ͯͨʂ ج൫Ϟσϧ͕ࣔࠦ͢Δ͜ͱ υ ϝ Π ϯ λεΫ λεΫಛԽܕ"* λεΫಛԽܕ"*

    ج൫Ϟσϧ ͜ ͷ ෯ ͕ ڭ ࢣ ͳ ͠ ࣄ લ ֶ श Ͱ Մ ೳ ʹ ϓϩϯϓςΟϯά ڭ ࢣ ͳ ͠ ࣄ લ ֶ श ࣗ ݾ ڭ ࢣ ֶ श
  13. %"--&<3BNFTI BS9JW > $-*1<3BEGPSE BS9JW > ϚϧνϞʔμϧͳੜ੒ 38 3BEGPSE -FBSOJOH5SBOTGFSBCMF7JTVBM.PEFMT'SPN/BUVSBM-BOHVBHF4VQFSWJTJPO

    BS9JW  3BNFTI )JFSBSDIJDBM5FYU$POEJUJPOBM*NBHF(FOFSBUJPOXJUI$-*1-BUFOUT BS9JW ΑΓసࡌ 画像と、テキストのエンコーディングの対から、対象学習を⾏うことで、双⽅の共通の埋め込み空間を学習
  14. ൚༻ਓ޻஌ೳ "(*BSUJGJDJBMHFOFSBMJOUFMMJHFODF  <(VCSVE > 49 "(* ਓؒϨϕϧͷ൚༻తͳ஌ೳ ঢ়گมԽʹରͯ͠ॊೈ /BSSPX"*

    ಛఆͷػೳɾঢ়گΛ૝ఆ͠ σʔλʹ࠷దԽͨ͠ػց ϓϩάϥϜͨ͠Ҏ্ͷ͜ͱ͕Ͱ͖Δɻ ಺ૠతʹߟ͍͑ͯΔ͕ɺͦͷൣғ͕ਓஐ Λ௒͍͑ͯΔ ڭ͑ͨ͜ͱ͔͠΍Βͳ͍ɻ ڭ͍͑ͯͳ͍͜ͱ͸Ͱ͖ͳ͍ɻ ਓͷΑ͏ʹҰͭͷ಄೴Ͱঢ়گʹ߹Θ͍ͤͯΖ͍Ζͳग़ྗ͕Մೳ
  15. ը૾ʴΩϟονίϐʔʴϨΠΞ΢τͷੜ੒ʹΑΔ޿ࠂແݶੜ੒ ి௨ɿ޿ࠂੜ੒΁ͷԠ༻  Φ Ϧ Τ ϯ ೖ ྗ ి௨ใΑΓసࡌ

    IUUQTEFOUTVIPDPNBSUJDMFT ੜ ੒ ύ ϥ ϝ ồ λ ग़ ྗ Ϩ Π Ξ ΢ τ ੜ ੒ Ω Ỿ ỽ ν ੜ ੒ ը ૾ ੜ ੒ ޮ Ռ ༧ ଌ ίϯςϯπ ੜ੒
  16. ੜ੒"*ͷԠ༻Ωϟϯόε ΤϯλʔςΠϯϝϯ τ ϚʔέςΟϯά Πϯλʔωοτ ڭҭ ҩྍ෱ࢱ ϑΝογϣϯɾσβ Πϯ Ұൠۀ຿

    ޮ ཰ Խ ৘ใݕࡧ ը૾ɾԻָݕࡧ ৘ใਪનɺ޿ࠂ഑৴ ݕࡧɺϨϙʔςΟϯ άɺཱྀߦܦ࿏ɾҿ৯ ళɾߪങఏҊ ڭࡐࢧԉɺ"*νϡʔ λʔͳͲ ݸਓϨϕϧͰͷॳظ ਍அࢧԉ ίʔσΟϯάࢧԉ ৘ใՃ޻ ฤۂɺ੾Γൈ͖ಈը ੜ੒ɺτϨΠϥʔੜ ੒ ৘ใΩϡϨʔγϣϯ จॻɾϝʔϧ౳࡞੒ ࢧԉɾਤද࡞੒ ίϛϡχέʔ γϣϯ ΧελϚʔαϙʔτɺ νϟοτϘοτ ձ࿩ࢧԉ จॻɾϝʔϧ౳࡞੒ ࢧԉ ΧελϚʔαϙʔτ ί ϯ ς ϯ π ੜ ੒ ίϯςϯπੜ੒ өըɾ57٭ຊੜ੒ɺ ಈըɾָۂੜ੒ɺ࡞ ࢺ࡞ۂࢧԉɺήʔϜ ΩϟϥΫλʔɾγφ ϦΦੜ੒ɺΞχϝੜ ੒ ঎඼ɾ޿ࠂจͷੜ੒ɺ ޿ࠂੜ੒αΠτ࡞੒ɺ ϒϩάɾ4/4هࣄੜ ੒ɺ αΠτੜ੒ɺϒϩ άɾ4/4هࣄੜ੒ɺ ֶशίϯςϯπੜ੒ σβΠϯҊੜ੒ɺ"* Ϟσϧੜ੒ Πϥετ࡞੒ɺϏδ ωεઓཱུҊɾΞΠ σΟΤʔγϣϯࢧԉɺ ύ ồ ι φ ϧ Խ ਪનɾ൑அࢧԉ ύʔιφϥΠζϓϨ ΠϦετ ޿ࠂ৹ࠪࣗಈԽ ޿ࠂޮՌ࠷దԽɿૌ ٻϙΠϯτɾλʔ ήοτ౳ೖΕΕ͹ɺ ഔମɾΫϦΤΠςΟ ϒؚΊਪન 5SJQΞγετɿཱྀఔ ߏஙˍ༧໿ ࠾఺ɾධՁࢧԉ ڭҭϓϩάϥϜߏ ஙɿڭࡐબఆɾ೉қ ౓બఆɾɾɾ ਍அࢧԉ ݈߁ɾάϧϝΞγε τɿݙཱˍ഑ୡ༧໿ɺ ӡಈϝχϡʔߏங όʔνϟϧτϥΠϯ Φϯɺίʔσਪન ཁ໿ɺςετࢧԉ ϨϙʔςΟϯά τϨϯυϨϙʔτ ·ͱΊهࣄੜ੒ ใࠂॻ࡞੒ࢧԉ ใࠂॻ࡞੒ࢧԉɺ࿦ จɾಛڐࣥචࢧԉ ੜ੒ܕݕࡧɿݕࡧ݁ Ռͷ·ͱΊ
  17. 1VCMJDBUJPOTBUUIFUPQUJFSDPOGFSFODFT 3%BDDPNQMJTINFOUT ': $POGFSFODFT    *$"441  */5&341&&$)

     8"41""  #JH%BUB    *$"441  &64*1$0  */5&341&&$)  %$"4&  "14*1"  $713  51%1  '-*$.-  -%3$    *$"441  *$3"  *6*  *$%&  *$$7  "14*1"  */5&341&&$)  *&&&54141-    *$-3  *$"441  */5&341&&$)  4*(.0%  "14*1"  *+$7  4-5  7-%#   #JH%BUB    8"$7  """*  *$"441  4-5 
  18. -*/&"*ͷ3%7JTJPO $POTFSWBUJWF %JTSVQUJWF 5JNF     *OUFSBDUJWFWJSUVBM FYQFSJFODF

    "VUPOPNPVT"* XPSLGMPX %JHJUBM.F .F"7"5"3 %JHJUBM*EFOUJUZ #FUUFS$BSF 5SVTUXPSUIZ"* "*'BJSOFTT &YQMBJOBCMF"* %BSL%BUB 0NOJQPUFOU"* (JHBOUJD-BOHVBHFNPEFM 6OMBCFMFE%BUB %BUB.BSLFUQMBDF (FOFSBUJWF*OUFMMJHFODF /FX&EVDBUJPO %FQFOEBCMF455 1SJWBDZQSFTFSWJOH 4FBN%JTDSJNJOBUPS -*/&ͷ࣋ͭଟ༷ͳ"*ཁૉٕज़Λجʹɺ෼໺ԣஅతͳٕज़Λ஫ྗٕज़ͱͯ͠શମײΛ࣋ͬͯݚڀ։ൃ͍ͯ͠·͢
  19. 世界でも⼤規模⾔語モデルの開発は限られ ⽇本ではHyperCLOVAが最⼤ ˞͜͜Ͱ͸#ఔ౓Ҏ্Λେن໛ͱදݱ Alibaba Tongyi Qianwen Cohere.ai Large LM DeepMind

    Gopher, Chinchilla, Flamingo Amazon Amazon Titan Baidu Ernie Bot Google T5, PaLM/PaLM-E, LaMDA/Bard MS-Nvidia Megatron-Turing NLG Anthropic Claude Kakaobrain koGPT3, Coyo LINE/WMJ HyperCLOVA NAVER HyperCLOVA OpenAI GPT/ChatGPT EleutherAI pythia Meta/Stanford/UCB OPT/LLaMA/Alpaca/Koala AI21 Labs Jurassic-1
  20. ఏҊख๏ɿ*UFSBUJWF4UPDIBTUJD'FXTIPU(FOFSBUJPO 3FE-. UFTUDBTF UFTUDBTF  -JTUPGRVFTUJPOT  \UFTUDBTF^  

    ϓϩϯϓτ 5BSHFU-. 3FE$MG ؂ࢹ ຒࠐ ೖྗ ςετέʔε Ϩεϙϯε ௥Ճ ςετέʔεϦετ
  21. 4BZVSJ • ୅ͷঁੑͷ੠ • গ͠໌Δ͘ɺਓؒΒ͍͠཈༲ %BJLJ • ୅ͷஉੑͷ੠ • མͪண͍ͨ੠

    /BPNJ@# • /BPNJͷൃ࿩ελΠϧ֦ு • ঎඼΍ϨγϐͳͲΛ͓͢͢Ί͢Δςϯ γϣϯߴ͍ελΠϧ /BPNJ@" • ୅ͷঁੑͷ੠ • ໌Δ͞ͱམͪண͖ͷ͋Δ੠ • ਓؒΒ͍͠཈༲ 5PNPLP • ୅ͷঁੑͷ੠ • গ͠໌Δ͘ɺਓؒΒ͍͠཈༲ ଞʹ΋ੜ੒"*͍Ζ͍Ζ
  22. $0OUSPMMBCMF )JHIRVBMJUZ "OEFYQ3FTT*WF554 ໌Δ͍ ҉͍ 😀 😄 🙂 😐 😢

    😰 😥 ײ৘Λॊೈʹ੍ޚՄೳͳԻ੠߹੒Λ࣮ݱ ײ৘ͷ͜΋ͬͨԻ੠߹੒
  23. 83

  24. -*/&"*ͷ3%7JTJPO $POTFSWBUJWF %JTSVQUJWF 5JNF     *OUFSBDUJWFWJSUVBM FYQFSJFODF

    "VUPOPNPVT"* XPSLGMPX %JHJUBM.F .F"7"5"3 %JHJUBM*EFOUJUZ #FUUFS$BSF 5SVTUXPSUIZ"* "*'BJSOFTT &YQMBJOBCMF"* %BSL%BUB 0NOJQPUFOU"* (JHBOUJD-BOHVBHFNPEFM 6OMBCFMFE%BUB %BUB.BSLFUQMBDF (FOFSBUJWF*OUFMMJHFODF /FX&EVDBUJPO %FQFOEBCMF455 1SJWBDZQSFTFSWJOH 4FBN%JTDSJNJOBUPS -*/&ͷ࣋ͭଟ༷ͳ"*ཁૉٕज़Λجʹɺ෼໺ԣஅతͳٕज़Λ஫ྗٕज़ͱͯ͠શମײΛ࣋ͬͯݚڀ։ൃ͍ͯ͠·͢
  25. ࢲ͕ߟ͑ͨάϥϯυνϟϨϯδ "*ͰղܾͰ͖͍ͯͳ͍໰୊ 87 • ίϯύΫτͳ൚༻ਓ޻஌ೳ • লΤωਪ࿦ɾলΤωֶशʢେن໛ͳܭࢉثΛඞཁͱ ͠ͳ͍ʣ • ώτͷ೴ͷΑ͏ͳػೳ෼ԽΛ࣮ݱ͢ΔͨΊͷҰൠత

    ͳख๏ • ϩδΧϧͳਪ࿦ࢉज़ԋࢉɾ࿦ཧԋࢉͳͲ • ϖϧιφɾݸੑɾҰ؏ੑɿֶशͱهԱͷ౷߹ʹؔ͢ ΔҰൠతͳख๏ • ໨త΍໨ඪΛ࡞Γग़͢ɺαϒΰʔϧઃఆͳͲ • ৽ͨͳυϝΠϯ΁ͷదԠʢ[FSPGFXTIPUʣ • Ԡ༻Ϩϕϧͷ՝୊ • "*ྙཧɾݖར໰୊ɾϋϧγωʔγϣϯ $IBU(15ͷߟ͑ΔάϥϯυνϟϨϯδ