Upgrade to Pro — share decks privately, control downloads, hide ads and more …

Life on LINEを実現する画像技術のパラダイムシフト / A paradigm shift in image technology that realizes Life on LINE

Life on LINEを実現する画像技術のパラダイムシフト / A paradigm shift in image technology that realizes Life on LINE

LINE株式会社 AI企画2室 副室長 中島 邦弘
NAVER Corporation Visual AI Leader 白 榮民 / Baek Young Min
LINE株式会社 AI開発室 Computer Vision Lab マネージャー 井尻 善久

LINE AI DAYでの登壇資料です
https://clova.line.me/lineaiday2021/

紙や券面で行われていた業務から開放されるためComputer Visionを活用するニーズが高まってきております。しかし、Computer Visionに代表されるOCRやeKYCで読取りをする中で統一された形式や環境はほとんど存在しません。このような条件下でも精度高く、高効率に画像AIが処理する様々な工夫が求められます。そこでLINEが持つ高度な技術を収斂させて利用しやすい形にしていくことで「これからのあたりまえ」となるサービス提供を志しております。本セッションでは、LINEが画像AI技術として追い求めている課題、課題の解決策としての具体的な技術、そして解決策の先を見据えた今後のビジョンについてご紹介します。

LINE Developers

July 15, 2021
Tweet

More Decks by LINE Developers

Other Decks in Technology

Transcript

  1. ఆܕ ඇఆܕ ɾࣄલʹϨΠΞ΢τઃఆ͕ඞཁ ɾҟͳΔϨΠΞ΢τͰ΋ෳ਺ొ࿥Մೳ ɾࢦఆ߲ͨ͠໨ͷΈςΩετԽ ɾಡΈࠐΜͩࡍʹͲͷϑΥʔϜ͔ ࣗಈ൑ผ͠ɺৼΓ෼͚Մೳ ɾࣄલઃఆ͸ෆཁ ɾॎॻ͖จষจࣈͷ܏͖΍ؙΈͳͲɺ ͞·͟·ͳจࣈʹରԠ

    ɾࣸਅ͔ΒจࣈΛى͜͢ɺอ؅ࢿྉʹ λά෇͚͢Δ౳ʹ༗ޮͳख๏ ಛఆாථ ͞·͟·ͳϨΠΞ΢τͷாථΛςΩετԽ จॻ༷ࣜΛ໰ΘͣாථશͯͷจࣈΛநग़ ಡΈऔΔ͚ͩͰࣗಈղੳɾೝࣝ͠ςΩετԽ ɾࣄલઃఆ͸ෆཁ ɾରԠாථɿ*%Χʔυʢ໔ڐূύεϙʔτʣ ྖऩॻϨγʔτ໊ࢗͳͲ ɾओཁ߲໨Λࣗಈղੳɾೝࣝ͢Δ͜ͱ͕Մೳ $-07"0$3͕Ͱ͖Δ͜ͱ ϑΥʔϚοτ͕ܾ·͍ͬͯΔॻྨ͸΋ͪΖΜɺ͋ΒΏΔελΠϧͷॻྨΛਖ਼͘͠ςΩετԽ͠·͢ɻ
  2. Why F,:$Λར༻͢Δ໨త͸ຊਓೝূͷσδλϧԽ͕͋Γ·͢ɻͦͷଞ ʹ΋֬ೝͷͨΊʹ͔͔͍ͬͯͨ༣ૹ΍ి࿩Λֻ͚Δίετɺ৹ࠪ ʹ͔͚ΔίετͳͲΛ࡟ݮ͢ΔޮՌ΋ݟࠐ·Ε·͢ɻ͜ͷશମత ͳྲྀΕͷޮ཰Խ΍ίετ࡟ݮʹΑΓɺϚΠΫϩϓϩμΫτԽ͕ଅ ਐ͞Ε৽͍͠Ϗδωεͷ૑ग़΋ߟ͑ΒΕ·͢ɻ ͜ΕΛ࣮ݱ͢ΔͨΊʹ͸ɺଟ͘ͷϨΠΞ΢τ͕ଘࡏ͢Δ਎෼ূͷ ಡऔΓਫ਼౓ͷ޲্΍ܰྔͰߴੑೳͳإೝূٕज़ͷཱ͕֬ඞཁʹͳ Γ·͢ɻ eKYC๊͕͑ΔδϨϯϚ

    F,:$ͷ͞ΒͳΔ"*ٕज़޲্ͷͨΊͷࢳޱΛ୳Δ eKYC 集客 最⾼⽔準のAI技術 顧客を⼀元管理 継続的な コミュニケーション Chat Botを活⽤したスムーズな コミュニケーション 継続確認・諸⼿続きに 対応 使い慣れた LINEで⼿軽に セキュリティ ⼝座開設時の 本⼈確認 Platform
  3. ֶशσʔλ४උ "OOPUBUJPO Ϟσϧֶश ఆྔఆੑධՁ "OOPUBUJPOඅ༻ͷ૿େ • <"T*T>ෳ਺ਓ͕਺ि͔ؒ ͚ͯΞϊςʔγϣϯΛ࣮ ࢪ͍ͯ͠ΔͨΊɺ࣌ؒ΋ ίετ΋૿େ

    جຊతͳਖ਼֬౓ͷ޲্ ૯޻ఔͷ௕ظԽ ղ͘΂͖՝୊ -*/&͕ݱࡏղ͜͏ͱ͍ͯ͠Δ՝୊ ֶशॲཧ ςετ Ϟσϧௐ ੔ ݕূσʔ λॲཧ ධՁ ϑΟʔυ όοΫ ֶशσʔλͷ֬อͷ೉͠͞ • <"T*T>਺ઍຕʙ਺ສຕ ͷਖ਼ղσʔλΛඞཁͱ͠ ͍ͯΔ • <5P#F>਺ຕʙ਺ඦຕͩ ͚͋Ε͹ֶशͰ͖ΔΑ͏ ʹ͍ͨ͠ • <5P#F>ར༻ऀͷํ͕௚ ઀ઃఆͰ͖ΔΑ͏ʹͨ͠ ͍ • <"T*T>࣍ݩσʔλΛ࣍ ݩσʔλʹ͍ͯ͠Δաఔ ͰϨΠΞ΢τ৘ใ͕ܽམ ͢Δ • <5P#F>ϨΠΞ΢τ΍ 'POUελΠϧΛ׆༻͠ ͯগྔͰจॻཧղΛͰ͖ ΔΑ͏ʹ͍ͨ͠ • <"T*T>૯։ൃظؒ͸̐ʙ ϲ݄Ҏ্͔͔Δ • <5P#F>ϲ݄Ҏ಺ʹͰ ͖ΔΑ͏ʹ͍ͨ͠
  4. Baek Young Min NAVER Corporation Visual AI Leader • αʔϏεϩϘοτʹڵຯΛ࣋ͪɺ೔ຊʹཹֶɻͦͷޙ๷൜෼໺Ͱ

    &NCFEEFE4ZTUFNͰͷը૾ॲཧΛ։ൃɻ೥/"7&3ʹೖࣾ Ҏ߱0$3ͷݚڀʹऔΓ૊Έɺ7JTJPO$POGFSFODFʹͯ࿦จΛൃදɻ ੈք/Pͷ0$3ٕज़Λ༻͍ͯจॻೝࣝ΍਎෼ূೝࣝͳͲͷαʔϏ ε։ൃΛ୲౰ɻݱࡏ͸7JTVBM"*νʔϜͷϦʔμʔͱͯ͠ɺإೝ ূɾϏσΦ͔Βߦಈ෼ੳʹؔ͢ΔݚڀΛਐΊΔͱͱ΋ʹɺF,:$ ιϦϡʔγϣϯΛ։ൃதɻ
  5. F,:$向͚ͷ"*技術 ۩ମతͳٕज़ίϯϙʔωϯτ ຊਓݕূͷͨΊͷإೝٕࣝज़ 'BDF %FUFDUJPO 'BDF "MJHONFOU 'BDF 3FDPHOJUJPO ਎෼ূೝࣝͷͨΊͷOCRٕज़

    5FYU %FUFDUJPO 5FYU 3FDPHOJUJPO 5FYU 1BSTJOH ໊લɿ ೔ຊ Ֆࢠ ༗ޮظݶɿ ˓˓೥˓˓݄˓˓೔ ൪߸ɿ 
  6. F,:$向͚ͷ"*技術 ۩ମతͳٕज़ίϯϙʔωϯτ ਎෼ূೝࣝͷͨΊͷOCRٕज़ ຊਓݕূͷͨΊͷإೝٕࣝज़ 5FYU %FUFDUJPO 5FYU 3FDPHOJUJPO 5FYU 1BSTJOH

    'BDF %FUFDUJPO 'BDF "MJHONFOU 'BDF 3FDPHOJUJPO ໊લɿ ೔ຊ Ֆࢠ ༗ޮظݶɿ ˓˓೥˓˓݄˓˓೔ ൪߸ɿ  5PEBZ`TNBJOUPQJDT
  7. F,:$向͚ͷ"*技術 ۩ମతͳٕज़ίϯϙʔωϯτ ਎෼ূೝࣝͷͨΊͷOCRٕज़ ຊਓݕূͷͨΊͷإೝٕࣝज़ 5FYU %FUFDUJPO 5FYU 3FDPHOJUJPO 5FYU 1BSTJOH

    'BDF %FUFDUJPO 'BDF "MJHONFOU 'BDF 3FDPHOJUJPO <>$3"'5 <>#FODINBSL <>105 <>41"%& <>#304 <>&95% <>#BFL :PVOHNJO FUBM$IBSBDUFSSFHJPOBXBSFOFTTGPSUFYUEFUFDUJPO $713 <>#BFL +FPOHIVO FUBM8IBUJTXSPOHXJUITDFOFUFYUSFDPHOJUJPONPEFMDPNQBSJTPOT EBUBTFUBOENPEFMBOBMZTJT *$$7 <>)XBOH 8POTFPL FUBM0$3ςΩετҙຯղੳCVJMEJOHTJNQMFBOESPCVTUQBSTFSWJB#*0UBHHJOH/FVS*14 8PSLTIPQ <>)XBOH 8POTFPL FUBM4QBUJBM%FQFOEFODZ1BSTJOHGPS%%PDVNFOU6OEFSTUBOEJOHBS9JW QSFQSJOUBS9JW <>)POH 5FBLHZV FUBM#304"1SFUSBJOFE-BOHVBHF.PEFMGPS6OEFSTUBOEJOH5FYUTJO%PDVNFOUl0QFO3FWJFX <>:PP :PVOH+PPO FUBM&95%&YUSFNFMZUJOZGBDFEFUFDUPSWJBJUFSBUJWFGJMUFSSFVTFBS9JW QSFQSJOUBS9JW
  8. ςΩετҙຯղੳͷख๏ 1BSTJOHٕज़ ςΩετͷҙຯΛ೺Ѳ OCR 言語Ϟσϧ <> Serializer CROSS CHANNEL NETWORK

    SDN. BHD. 47 JALAN MERANTI 1, SEK. 3, BANDAR UTAMA BATANG KALI, 44300 BATANG KALI, SELANGOR. Tel:03-6057 9688 Fax:03-6057 9678 GSTID:001151500288 Tax Invoice No.:BTG-052332 Qty RM Tax SCHNEIDER E15R 13A SWITCH 1 6.36 SR SOCKETOUTLET @ 6.0000 Total Amt Incl GST @ 6%: 6.36 Rounding Adjustment -0.01 TotalAmt Payable 6.35 Paid Amount 13.88 Change Total Qty. Tender 1.00 GST Summary Amount Tax (RM). (RM) SR@A 6,00 0.36 Total 6.00 0.36 THANKYOU Goods sold are not refundable nor exchangeble. For any enquiry, please e-mail us: [email protected] 29/01/2018 4:40:40 PM CROSS CHANNEL NETWORK SDN. BHD. 47 JALAN MERANTI 1, SEK. 3, BANDAR UTAMA BATANG KALI, 44300 BATANG KALI, SELANGOR. Tel:03-6057 9688 Fax:03-6057 9678 GSTID:001151500288 Tax Invoice No.:BTG-052332 Qty RM Tax SCHNEIDER E15R 13A SWITCH 1 6.36 SR SOCKETOUTLET @ 6.0000 Total Amt Incl GST @ 6%: 6.36 Rounding Adjustment -0.01 TotalAmt Payable 6.35 Paid Amount 13.88 Change Total Qty. Tender 1.00 GST Summary Amount Tax (RM). (RM) SR@A 6,00 0.36 Total 6.00 0.36 THANKYOU Goods sold are not refundable nor exchangeble. For any enquiry, please e-mail us: [email protected] 29/01/2018 4:40:40 PM • Company - CROSS CHANNEL NETWORK SDN. BHD. • Date - 29/01/2018 • Total - 6.35 • Address - 47, JALAN MERANTI 1, SEK. 3, BANDAR UTAMA BATANG KALI, 44300 BATANG KALI, SELANGOR. [1] Devlin, Jacob, et al. "Bert: Pre-training of deep bidirectional transformers for language understanding." arXiv preprint (2018).
  9. 0$3ςΩετҙຯղੳͷ課題ʢ̍ʣ 1BSTJOHٕज़ OCR 言語Ϟσϧ <> Serializer CROSS CHANNEL NETWORK SDN.

    BHD. 47 JALAN MERANTI 1, SEK. 3, BANDAR UTAMA BATANG KALI, 44300 BATANG KALI, SELANGOR. Tel:03-6057 9688 Fax:03-6057 9678 GSTID:001151500288 Tax Invoice No.:BTG-052332 Qty RM Tax SCHNEIDER E15R 13A SWITCH 1 6.36 SR SOCKETOUTLET @ 6.0000 Total Amt Incl GST @ 6%: 6.36 Rounding Adjustment -0.01 TotalAmt Payable 6.35 Paid Amount 13.88 Change Total Qty. Tender 1.00 GST Summary Amount Tax (RM). (RM) SR@A 6,00 0.36 Total 6.00 0.36 THANKYOU Goods sold are not refundable nor exchangeble. For any enquiry, please e-mail us: [email protected] 29/01/2018 4:40:40 PM CROSS CHANNEL NETWORK SDN. BHD. 47 JALAN MERANTI 1, SEK. 3, BANDAR UTAMA BATANG KALI, 44300 BATANG KALI, SELANGOR. Tel:03-6057 9688 Fax:03-6057 9678 GSTID:001151500288 Tax Invoice No.:BTG-052332 Qty RM Tax SCHNEIDER E15R 13A SWITCH 1 6.36 SR SOCKETOUTLET @ 6.0000 Total Amt Incl GST @ 6%: 6.36 Rounding Adjustment -0.01 TotalAmt Payable 6.35 Paid Amount 13.88 Change Total Qty. Tender 1.00 GST Summary Amount Tax (RM). (RM) SR@A 6,00 0.36 Total 6.00 0.36 THANKYOU Goods sold are not refundable nor exchangeble. For any enquiry, please e-mail us: [email protected] 29/01/2018 4:40:40 PM • Company - CROSS CHANNEL NETWORK SDN. BHD. • Date - 29/01/2018 • Total - 6.35 • Address - 47, JALAN MERANTI 1, SEK. 3, BANDAR UTAMA BATANG KALI, 44300 BATANG KALI, SELANGOR. <>%FWMJO +BDPC FUBM#FSU1SFUSBJOJOHPGEFFQCJEJSFDUJPOBMUSBOTGPSNFSTGPSMBOHVBHFVOEFSTUBOEJOHBS9JW QSFQSJOU   ̎࣍ݩσʔλ ७ਮͳݴޠϞσϧ ̍࣍ݩσʔλ 0$3Ͱೝࣝͨ͠จࣈͷҙຯΛ೺Ѳ à ϨΠΞ΢τ৘ใΛࣦ͏
  10. 0$3ςΩετҙຯղੳͷ課題ʢ̎ʣ 1BSTJOHٕज़ 言語Ϟσϧ <> CROSS CHANNEL NETWORK SDN. BHD. 47

    JALAN MERANTI 1, SEK. 3, BANDAR UTAMA BATANG KALI, 44300 BATANG KALI, SELANGOR. Tel:03-6057 9688 Fax:03-6057 9678 GSTID:001151500288 Tax Invoice No.:BTG-052332 Qty RM Tax SCHNEIDER E15R 13A SWITCH 1 6.36 SR SOCKETOUTLET @ 6.0000 Total Amt Incl GST @ 6%: 6.36 Rounding Adjustment -0.01 TotalAmt Payable 6.35 Paid Amount 13.88 Change Total Qty. Tender 1.00 GST Summary Amount Tax (RM). (RM) SR@A 6,00 0.36 Total 6.00 0.36 THANKYOU Goods sold are not refundable nor exchangeble. For any enquiry, please e-mail us: [email protected] 29/01/2018 4:40:40 PM CROSS CHANNEL NETWORK SDN. BHD. 47 JALAN MERANTI 1, SEK. 3, BANDAR UTAMA BATANG KALI, 44300 BATANG KALI, SELANGOR. Tel:03-6057 9688 Fax:03-6057 9678 GSTID:001151500288 Tax Invoice No.:BTG-052332 Qty RM Tax SCHNEIDER E15R 13A SWITCH 1 6.36 SR SOCKETOUTLET @ 6.0000 Total Amt Incl GST @ 6%: 6.36 Rounding Adjustment -0.01 TotalAmt Payable 6.35 Paid Amount 13.88 Change Total Qty. Tender 1.00 GST Summary Amount Tax (RM). (RM) SR@A 6,00 0.36 Total 6.00 0.36 THANKYOU Goods sold are not refundable nor exchangeble. For any enquiry, please e-mail us: [email protected] 29/01/2018 4:40:40 PM • Company - CROSS CHANNEL NETWORK SDN. BHD. • Date - 29/01/2018 • Total - 6.35 • Address - 47, JALAN MERANTI 1, SEK. 3, BANDAR UTAMA BATANG KALI, 44300 BATANG KALI, SELANGOR. <>%FWMJO +BDPC FUBM#FSU1SFUSBJOJOHPGEFFQCJEJSFDUJPOBMUSBOTGPSNFSTGPSMBOHVBHFVOEFSTUBOEJOHBS9JW QSFQSJOU   Ϟσϧֶशͷࡍ େྔͷσʔλ͕ඞཁ Ϟσϧੜ੒ίετ͕ߴ͍ 0$3Ͱೝࣝͨ͠จࣈͷҙຯΛ೺Ѳ
  11. େྔͷσʔλΛࣄલֶश(ݴޠʴϨΠΞ΢τʣ ࣄલֶशจॻϞσϧ ݱࡏͷ՝୊ͷղܾࡦɿ  ϨΠΞ΢τ৘ใΛࣦ͏  Ϟσϧੜ੒ίετ͕ߴ͍ <>)POH 5FBLHZV FUBM#304"1SFUSBJOFE-BOHVBHF.PEFMGPS6OEFSTUBOEJOH5FYUTJO%PDVNFOUl0QFO3FWJFX

    •BROS (BERT Relying on Spatiality)  (SBQICBTFEEFDPEFS  "SFBNBTLFE-.  %QPTJUJPOFNCFEEJOH →ϨΠΞ΢τ৘ใΛϞσϦϯά →ڭࢣͳֶ͠श →ݴޠɾϨΠΞ΢τج൫ೝࣝ
  12. େྔͷσʔλΛࣄલֶश ݴޠʴϨΠΞ΢τʣˠτϥϯεϑΝʔϥʔχϯά ࣄલֶशจॻϞσϧ ݱࡏͷ՝୊ͷղܾࡦɿ  ϨΠΞ΢τ৘ใΛࣦ͏  Ϟσϧੜ੒ίετ͕ߴ͍ <>)POH 5FBLHZV

    FUBM#304"1SFUSBJOFE-BOHVBHF.PEFMGPS6OEFSTUBOEJOH5FYUTJO%PDVNFOUl0QFO3FWJFX ༷ʑͳจॻͷΠϝʔδ ࣄલֶशจॻϞσϧ ݴޠɺϨΠΞ΢τ Downstream task ໊ࢗ Ϩγʔτ ΠϯϘΠε 1SFUSBJOJOHQIBTF 5SBOTGFSMFBSOJOH
  13. F,:$向͚ͷ"*技術 ٕज़ίϯϙʔωϯτ ਎෼ূೝࣝͷͨΊͷOCRٕज़ ຊਓݕূͷͨΊͷإೝٕࣝज़ 5FYU %FUFDUJPO 5FYU 3FDPHOJUJPO 5FYU 1BSTJOH

    'BDF %FUFDUJPO 'BDF "MJHONFOU 'BDF 3FDPHOJUJPO <>$3"'5 <>#FODINBSL <>105 <>41"%& <>#304 <>&95% <>#BFL :PVOHNJO FUBM$IBSBDUFSSFHJPOBXBSFOFTTGPSUFYUEFUFDUJPO $713 <>#BFL +FPOHIVO FUBM8IBUJTXSPOHXJUITDFOFUFYUSFDPHOJUJPONPEFMDPNQBSJTPOT EBUBTFUBOENPEFMBOBMZTJT *$$7 <>)XBOH 8POTFPL FUBM0$3ςΩετҙຯղੳCVJMEJOHTJNQMFBOESPCVTUQBSTFSWJB#*0UBHHJOH/FVS*14 8PSLTIPQ <>)XBOH 8POTFPL FUBM4QBUJBM%FQFOEFODZ1BSTJOHGPS%%PDVNFOU6OEFSTUBOEJOHBS9JW QSFQSJOUBS9JW <>)POH 5FBLHZV FUBM#304"1SFUSBJOFE-BOHVBHF.PEFMGPS6OEFSTUBOEJOH5FYUTJO%PDVNFOUl0QFO3FWJFX <>:PP :PVOH+PPO FUBM&95%&YUSFNFMZUJOZGBDFEFUFDUPSWJBJUFSBUJWFGJMUFSSFVTFBS9JW QSFQSJOUBS9JW
  14. إೝٕࣝज़ إͷҐஔݕग़ إݕग़࣮ݱͷΞΠσΞ      '1/ߏ଄ͷϞσϧ<> <>-JO

    5TVOH:J FUBM'FBUVSFQZSBNJEOFUXPSLTGPSPCKFDUEFUFDUJPO$713
  15. ·ͱΊ F,:$޲͚ͷ"*ٕज़ ਎෼ূೝࣝͷͨΊͷOCRٕज़ ຊਓݕূͷͨΊͷإೝٕࣝज़ 5FYU %FUFDUJPO 5FYU 3FDPHOJUJPO 5FYU 1BSTJOH

    'BDF %FUFDUJPO 'BDF "MJHONFOU 'BDF 3FDPHOJUJPO <>$3"'5 <>#FODINBSL <>105 <>41"%& <>#304 <>&95% <>#BFL :PVOHNJO FUBM$IBSBDUFSSFHJPOBXBSFOFTTGPSUFYUEFUFDUJPO $713 <>#BFL +FPOHIVO FUBM8IBUJTXSPOHXJUITDFOFUFYUSFDPHOJUJPONPEFMDPNQBSJTPOT EBUBTFUBOENPEFMBOBMZTJT *$$7 <>)XBOH 8POTFPL FUBM0$3ςΩετҙຯղੳCVJMEJOHTJNQMFBOESPCVTUQBSTFSWJB#*0UBHHJOH/FVS*14 8PSLTIPQ <>)XBOH 8POTFPL FUBM4QBUJBM%FQFOEFODZ1BSTJOHGPS%%PDVNFOU6OEFSTUBOEJOHBS9JW QSFQSJOUBS9JW <>)POH 5FBLHZV FUBM#304"1SFUSBJOFE-BOHVBHF.PEFMGPS6OEFSTUBOEJOH5FYUTJO%PDVNFOUl0QFO3FWJFX <>:PP :PVOH+PPO FUBM&95%&YUSFNFMZUJOZGBDFEFUFDUPSWJBJUFSBUJWFGJMUFSSFVTFBS9JW QSFQSJOUBS9JW
  16. Ijiri Yoshihisa LINEגࣜձࣾ Computer Vision LabνʔϜ Ϛωʔδϟʔ ೥ΦϜϩϯʹೖࣾޙɺ೥୅ͷը૾ºػցֶशͷᴈ໌ظʹɺ 0,"07JTJPOͷ։ൃϓϩδΣΫτͷҰһͱٕͯ͠ज़։ൃɾ࣮༻ԽΛ Ϧʔυ͠ɺإݕग़ɾإೝࣝͷσδΧϝɾܞଳి࿩ɺηΩϡϦςΟɾ

    ๷൜ɾϚʔέςΟϯάγεςϜͳͲͷ։ൃʹैࣄ ೥୅લ൒͔Β͸෺ମݕग़ɾηάϝϯςʔγϣϯɾ0$3ٕज़ͳͲ ͷ޻৔ࣗಈԽʹ޲͚ͨ঎඼ԽɾϓϩϞʔγϣϯΛϦʔυ ೥͔Β͸ɺϩϘοτͷࣗ཯Խɺ͓Αͼ͠ͳ΍͔ͳ੍ޚΛ࣮ݱ͢ ΔιϑτϩϘοτݚڀΛਪਐ ೥ʹɺ͜ΕΒΛܦͯ-*/&ʹೖࣾ͠ɺ $PNQVUFS7JTJPO-BCͷ νʔϜϏϧσΟϯά͓Αͼ։ൃϦʔυΛखֻ͚Δ
  17. ૉૣֶ͘श͢Δ͜ͱ͸ਓͷ஌ೳͷಛ௃Ͱ͋Γɺগ਺ͷࣄྫΛݩʹର৅Λೝࣝ͠ ͨΓɺ΄Μͷ਺෼ͷ࿅शͰ৽͍ٕ͠ೳΛ֮͑ͨΓͰ͖Δɻզʑͷਓ޻ΤʔδΣϯ τ΋ಉ༷ʹ΄Μͷগ͠ͷࣄྫͰֶश͠ॱԠ͠ɺσʔλ͕૿͑ΔʹͭΕͯ͞Βʹ దԠ͍ͯ͘͠ඞཁ͕͋Δɻ Learning quickly is a hallmark of

    human intelligence, whether it involves recognizing objects from a few examples or quickly learning new skills after just minutes of experience. Our artificial agents should be able to do the same, learning and adapting quickly from only a few examples, and continuing to adapt as more data becomes available. - by Finn, Abbeel, and Levine, 2017 @ MAML paper ͍· "*ͷ஌ೳ͕ࢼ͞Ε͍ͯΔ
  18. • ؆୯ʹΧελϚΠζͰ͖Δ͜ͱ • ࣗ཯తʢͭ·ΓαεςφϒϧʣʹֶͿ͜ͱ • ਓΛ௒͑Δݡ͞ɾਫ਼౓Λ࣮ݱ͢Δ͜ͱ ͍· "*ʹٻΊΒΕ͍ͯΔ͜ͱ ਓ͕҆৺ͯ͠೚ͤΒΕΔΫΦϦςΟΛ؆୯ʹ࣮ݱͰ͖Δ͜ͱ ,FZ*OTJHIUɿ

    ϚϧνΫϩεϞʔμϧɺ֊૚తͳ஌ࣝ ׆༻ ݱ৔ಛ༗ͷ༻ޠϨΠΞ΢τจ຺ͳͲ ,FZ*OTJHIUɿ Ϣʔβೖྗͷ࠷దॲཧɺλεΫϞδϡʔϧऔଗ͑ ,FZ*OTJHIUɿ μʔΫσʔλͷ׆༻ɺσʔλͷ"TJT׆༻ʹΑΔݱ৔Ͱͷ࠷খݶֶश
  19. "4*4 • ݶΒΕͨϞμϦςΟ r ը૾ύλʔϯͷΈ • ݶΒΕͨίϯςΫετ r ঢ়گ൑அ΍ྨਪ͕ͳ͍ ݶΒΕͨϞμϦςΟɾίϯςΫετʹཔΔͨΊɺਫ਼౓͕಄ଧͪ

    50#& • ϦονͳϞμϦςΟ r ը૾͚ͩͰͳ͘ɺݴޠߏ଄ɾԻ੠ͳͲɺ֊૚త͔ͭ ϚϧνϞʔμϧͳ஌ࣝΛநग़ֶͯ͠शਪ࿦ • ϦονͳίϯςΫετ r ϨΠΞ΢τɾલޙߏ଄ɾจ๏ߏ଄ɾจ຺ͳͲؔ܎ ੑʹؔ͢Δ஌ࣝΛֶश ࢖͑ΔώϯτΛ࢖͍੾Γ࠷େݶͷੑೳΛ࣮ݱ ਓΛ௒͑Δݡ͞ɾਫ਼౓Λ࣮ݱ͢Δ͜ͱ ҰͭҰͭͷΠϯελϯεͰཧղ͠Α͏ͱ͢ΔͷͰ͸ͳ͘ɺ ϚϧνϞʔμϧɾΫϩεϞʔμϧͳώϯτΛ׆༻͠ɺશମͱͯ͠ͷ੔߹ੑ΍ίϯςΫετΛߟྀͨ͠ਪ࿦Λ͢Δ ⽂法・⽂脈 ⽂書種類 A ⾳声 対話⽂脈 画像情報 レイアウト フォーマット 画像情報 出⼒ 出⼒
  20. "4*4 • େྔͷਖ਼ղσʔλ r Ξϊςʔγϣϯίετͷංେ • ݱ৔Ͱֶश r ݱ৔ͰͷϑΝΠϯνϡʔχϯά΍υϝΠϯద߹Ͱཁٻਫ਼౓࣮ݱ ݱ৔ͰେྔσʔλΛ੔උ͠ɺ๲େͳܭࢉࢿݯΛ༻ֶ͍ͯशͤ͞Δ

    50#& • ϢʔβೖྗʹԠͨ͡࠷దڍಈઃఆ rେن໛Ϟσϧͷڍಈ͕Ϣʔβҙਤɾઃ ఆͱ߹͏Α͏ʹେن໛Ϟσϧ΁ͷೖྗΛ࠷దԽ • ଟ༷ͳλεΫϔουͷ඼ଗ͑ r ݱ৔λεΫ͸ଟ༷ɺͦΕΒʹରԠͨ͠λε ΫΛϞδϡʔϧͱͯ͠औΓଗ͑ɺλεΫΛબ୒͢Δ͚ͩͰॴ๬ͷॲཧΛ࣮ݱ ৽ͨͳ؀ڥʹߴ଎ɾखܰʹॱԠ͠ݱ৔ͰֶͿ ؆୯ʹΧελϚΠζͰ͖Δ͜ͱ େྔʹ຾ΔσʔλΛ׆༻ͯ͠ݱ৔ಛ༗ͷ՝୊Λ"*ʹڭ͑ࠐΈ ݱ৔ͷݻ༗ੑ΍มԽʹ߹Θ͓ͤͯ٬༷͕؆୯ʹΧελϚΠζͰ͖ΔίϯύΫτͳ"*΁ 現場知識が刷り込まれた ネットワーク プロンプトチューニング ユーザ⼊⼒に応じ⼤規模モデルの ロールを最適設定する事前学習 タスクヘッドと特徴抽出の分離 タスクヘッドをモジュール化して おき現場では最⼩限の学習で⽴上げ 現場が変わるごとに 学習やり直しで負担⼤ ⽴ち上げるたびに 正解データの整備等で負担⼤ ⼤規模な特徴抽出は事前学習 汎⽤的な特徴抽出はLINE/Naverの リッチな計算資源で鍛え上げておく 階層的な最適化 Nested optimizationによる 全体最適化
  21. "4*4 • ༩͑ͨσʔλਖ਼ղͷϖΞΛ҉ه͢Δ͚ͩͷֶश r ࣗ཯ֶश͸Ͱ͖ͳ͍ • σʔλαΠΤϯςΟετ͕͍ͭ΋ۤ࿑ͯ͠νϡʔχϯάr ֶशϊ΢ϋ΢Λ ٕ࣋ͬͨज़ऀ͕͍ͭ΋ࢼߦࡨޡ ਖ਼ղ͕͍ͭͨσʔλΛେྔʹ༻ҙ͠ઐ໳Ո͕ඞࢮʹ࠷దԽͤ͞Δ

    50#& • ࠷খݶͷݱ৔ֶश r ݱ৔σʔλͷࢀরنଇΛֶश͠ɺσʔλΛೖΕସ͑Δ ͚ͩͰ"*ʹؔ͢Δ஌͕ࣝͳͯ͘΋ڍಈվળ • ຾͍ͬͯͨݱ৔σʔλΛ׆༻ r ݱ৔ͷ஌ࣝΛ༨͢͜ͱͳ͘׆༻Ͱ͖ΔΑ͏ ʹͳΔͨΊɺਓྗνϡʔχϯάʹཔΒͣͱ΋ߴ͍ਫ਼౓ ৽ͨͳ؀ڥʹߴ଎ɾखܰʹॱԠ͠ݱ৔ͰֶͿ ࣗ཯తʹֶͿ͜ͱ ಛผͳ஌͕ࣝͳͯ͘΋ɺσʔλαΠΤϯςΟετʹཔΒͳͯ͘΋ɺ ͨͩσʔλΛೖΕଓ͚Δ͚ͩͰɺ͓٬༷ͷ஫จʹԠֶͯ͡ͼಠΓཱͪʂ サービス⽴上げ毎に 正解データ整備等でリードタイム⼤ アプリケーションが変わる毎に チューニングでリードタイム⼤ 眠っていたダークデータ ⾮整備の現場⼤量データの有効活⽤ データを⼊れ替えるだけで お客様環境に短時間に適応! データとロジックの分離 データを参照して結論を導き出す 現場⾮依存ロジックを事前学習
  22. %9 %BSLEBUBMFWFSBHF • ఆܕɾඇఆܕจॻͷղੳ • γʔϯ΍ঢ়ଶͷཧղ • ݱ৔େྔඇ੔උσʔλ͔Βϝλߏ଄ղੳ • ݱ৔େྔඇ੔උσʔλ͔Βγʔϯߏ଄ղੳ

    • σʔλࢀরϩδοΫͷֶशʹΑΔθϩݱ৔ֶश "HJMFJNQSPWFNFOU ๲େͳจॻɾσʔλͷσδλϧԽ΍ ը૾ղੳʹΑΔࣗ཯αʔϏεͷ࣮ݱ େྔͷඇ੔උσʔλΛ׆༻ͨ͠ ݱ৔దԠɾΧελϚΠζ ٕज़ऀͷखΛհͣ͞ɺ ૉૣࣗ͘཯తʹվળ • Ϣʔβͷཁ੥Λ࠷దʹॲཧ • ݱ৔σʔλΛೖΕସ͑Δ͚ͩͰվળ • มԽʹԠ͡σʔλΛ૊Έସ͑Δ͚ͩͰมԽରԠ ʰ-JGFPO-*/&ʱ ͕΋ͨΒ͢ "*ϥΠϑελΠϧ zzz…