Upgrade to PRO for Only $50/Year—Limited-Time Offer! 🔥

データ品質をコード化! LINEヤフーのMLOpsを最適化する "ACP Data Quali...

データ品質をコード化! LINEヤフーのMLOpsを最適化する "ACP Data Quality" の紹介

第7回Data-Centric AIの登壇資料です。

発表者: 古川新

発表内容:
エンタープライズのMLOps成長戦略において、開発効率が成熟してくるとモデルの運用の信頼性が課題になってきます。LINEヤフーのAIプラットフォームでは、データ品質管理を適切に管理することで運用の信頼性を向上するACP Data Qualityというマネージドサービスを提供しています。このセッションでは、一貫性のあるデータ品質管理を実現するための中核的機能の1つであるDQML(データ品質モデル言語)によるデータ品質のコード化の取り組みについて紹介します。

More Decks by LINEヤフーTech (LY Corporation Tech)

Other Decks in Technology

Transcript

  1. ˜-:$PSQPSBUJPO σʔλ඼࣭  ʮࢦఆ͞Εͨঢ়گͰ࢖༻͢Δͱ͖ɺ ໌ࣔ͞Εͨχʔζ͓Αͼ҉໧ͷχʔζΛσʔλͷಛੑ͕ຬ଍͢Δ౓߹͍ɻʯ ʢࢀߟจݙʮ+*49ɿʢ*40*&$ɿʣιϑτ΢ΣΞ੡඼ͷ඼࣭ཁٻ͓ΑͼධՁʢ42VB3&ʣʵσʔλ඼࣭ϞσϧʯΑΓҾ༻ʣ ໨త σʔλ ໨త σʔλ

    👍ಛੑ͕໨తʹ߹͍ͬͯΔ 👎ಛੑ͕໨తʹ߹͍ͬͯͳ͍ σʔλ඼࣭ɿߴ σʔλ඼࣭ɿ௿ ˞σʔλͷಛੑΛ৭ͱܗͰදݱ͍ͯ͠·͢ɻ σʔλ඼࣭Λଌఆ͢Ε͹ਖ਼ৗͳͷ͔Λ൑அ͢Δ͜ͱ͕Ͱ͖Δ ໰୊ͷݪҼΛ൑அ͢Δ͜ͱ͕Ͱ͖Δ ૣظʹ໰୊Λൃݟ͢Δ͜ͱ͕Ͱ͖Δ
  2. ˜-:$PSQPSBUJPO %2.-ͷར༻ྫ %2.-Ͱσʔλ඼࣭ཁ݅Λఆٛ͢Δྫᶃ  ඼ ࣭ ཁ ٻ ର৅ σʔλ9

    ໨త Ϟσϧ.ͷֶश༻σʔλ ཁٻ ͋ΔϞσϧ.ͷֶशʹ࢖͏σʔλ9͸ɺ༗ޮͳֶश݁ՌΛಘΔͨΊʹ  ݅Ҏ্ͷσʔλ͕ͳ͚Ε͹ͳΒͳ͍ ඼ ࣭ ཁ ݅ ଌఆؔ਺ " ଌఆྔཁૉ" σʔλ9ͷ݅਺ ଌఆج४  ݅ΑΓଟ͘ͳ͚Ε͹ͳΒͳ͍ $PVOU NVTUCF
  3. ˜-:$PSQPSBUJPO %2.-ͷར༻ྫ %2.-Ͱσʔλ඼࣭ཁ݅Λఆٛ͢Δྫᶄ  ඼ ࣭ ཁ ݅ ଌఆؔ਺ "#

    ଌఆྔཁૉ" ೔ຊग़਎ͷ͏ͪࡀҎ্ࡀະຬͷσʔλ݅਺ ଌఆྔཁૉ# ೔ຊग़਎ͷσʔλ݅਺ ଌఆج४ Ҏ্Ͱͳ͚Ε͹ͳΒͳ͍ 1SPQPSUJPO PGBHFJT XIFSFGSPNJT+BQBONVTUCF
  4. ˜-:$PSQPSBUJPO %2.-ͷར༻ྫ %2.-Ͱσʔλ඼࣭ཁ݅Λఆٛ͢Δྫᶅ  ඼ ࣭ ཁ ݅ ଌఆؔ਺ "

    # ଌఆྔཁૉ" "ΧςΰϦʔͷTDPSFͷฏۉ஋ ଌఆྔཁૉ# #ΧςΰϦʔͷTDPSFͷฏۉ஋ ଌఆج४ Ҏ্Ͱͳ͚Ε͹ͳΒͳ͍ MFU".FBO PGTDPSFXIFSFDBUFHPSZJT" MFU#.FBO PGTDPSFXIFSFDBUFHPSZJT# " #NVTUCF
  5. ˜-:$PSQPSBUJPO %2.-ͷར༻ྫ %2.-Ͱσʔλ඼࣭ཁ݅Λఆٛ͢Δྫᶆ  ඼ ࣭ ཁ ݅ ଌఆؔ਺ #

    " " ଌఆྔཁૉ" લ೔ͷ߹ܭΫϦοΫ਺ ଌఆྔཁૉ# ౰೔ͷ߹ܭΫϦοΫ਺ ଌఆج४ ະຬͰͳ͚Ε͹ͳΒͳ͍ MFU"4VN PGDMJDLXIFSFEBUFJTZFTUFSEBZ MFU#4VN PGDMJDLXIFSFEBUFJTUPEBZ # " "NVTUCF Ϟσϧʹύϥϝʔλͷ໊લͱܕΛఆ͓ٛͯ͘͠ͱ ධՁ࣌ʹύϥϝʔλͷ஋Λࢦఆ͢Δ͜ͱ͕Ͱ͖Δ աڈͷ೔࣌ͷධՁ΍ಛఆͷ࣮ݧͷධՁΛ࣮ߦ͢Δͱ͍ͬͨ͜ͱ͕Մೳ
  6. ˜-:$PSQPSBUJPO %2.-ͷར༻ྫ ,VCFSOFUFTΧελϜϦιʔεͰσʔλ඼࣭ϞσϧΛఆٛ  σʔλ඼࣭ϞσϧΛ(JU)VCͰίʔυ؅ཧ BQJ7FSTJPOEBUBRVBMJUZZBIPPDPKQWBMQIB LJOE %BUB2VBMJUZ.PEFM NFUBEBUB 

    OBNFFYBNQMF TQFD EBUB4QFD USJOP UBCMF USBJO@EBUB@Y  SFRVJSFNFOUT  DPEF$PVOUNVTUCF "$1ʹ$*$%ͰσϓϩΠ ˞"$1ɿࣾ಺޲͚ʹఏڙ͍ͯ͠Δ"*ಛԽͷ,VCFSOFUFT؀ڥɻ
  7. ˜-:$PSQPSBUJPO %2.-ͷར༻ྫ ,VCFSOFUFTΧελϜϦιʔεͰධՁΛ࣮ߦ  ϫʔΫϑϩʔͰఆظతʹධՁΛ࡞੒ BQJ7FSTJPOEBUBRVBMJUZZBIPPDPKQWBMQIB LJOE %BUB2VBMJUZ&WBMVBUJPO TQFD 

    NPEFM3FG OBNFFYBNQMF ࣗಈͰ඼࣭ଌఆɾධՁ݁Ռ͕ه࿥͞Εɺෆద߹࣌ʹ4MBDLʹΞϥʔτ͕௨஌͞ΕΔ '"*-&%$PVOUNVTUCFHPU ˞௨஌಺༰͸ྫͰ͢ɻ ࣮ࡍ͸8FCϨϙʔτ΁ͷϦϯΫ΍௥Ճ৘ใͳͲؚ͕·Ε·͢ɻ
  8. ˜-:$PSQPSBUJPO %2.-ͷར༻ํ๏  .- 0QT ੍ޚ อূ ܭը վળ ίʔυʹΑΔఆٛ

    ίʔυϨϏϡʔ ίʔυ͔ΒࣗಈධՁ ίʔυʹΑΔҰ؏ੑ
  9. ˜-:$PSQPSBUJPO %2.-ͷޮՌ  • ίʔυԽʹΑͬͯ඼࣭ͷಁ໌ੑ͕޲্ɺҰ؏ੑΛอূ • ඼࣭؅ཧͷաෆ଍΍վળͷ༨஍ͳͲɺෆಁ໌ͳՕॴ͕೺ѲͰ͖ΔΑ͏ʹͳΔ • ։ൃ͔Βӡ༻·Ͱ඼࣭ͷҰ؏ੑΛอূ •

    ίʔυϕʔεͰඇಉظͷίϛϡχέʔγϣϯ͕Մೳʹ • αΠΤϯςΟετΛ߆ଋͤͣʹ඼࣭ܭըɾվળΛߦ͑Δ • ඼੍࣭ޚɾอূͷϓϩηε͕෼཭͞Εɺ੹೚෼ք఺͕໌֬ʹ • αΠΤϯςΟετ͕࡞ۀྔΛݟੵ΋Δ͜ͱ͕Ͱ͖ΔΑ͏ʹͳΓɺ޻਺Λׂ͖΍͘͢ͳΔ • ։ൃऀͷ޻਺Λඞཁ࠷খݶʹͰ͖Δ • ίʔυʹΑΔࣗಈԽͰಋೖɾ੍ޚɾอূͷίετΛ࡟ݮ • ੍ޚͷͨΊͷΫΤϦ΍ΞϓϦέʔγϣϯΛ։ൃɾอक͢Δඞཁ͕ͳ͘ɺܧଓతͳγεςϜΛଈಋೖͰ͖Δ • υϝΠϯಛԽʹΑΓఆٛͷอकίετΛ࡟ݮ͠ɺඪ४ੑͱҠ২ੑΛ޲্ • ΫΤϦϓϥϯ΍ΞϓϦέʔγϣϯͷ࠷దԽʹ޻਺Λׂ͘ඞཁ͕ͳ͘ɺຊ࣭తͳ඼࣭Ϟσϧͷվળ͚ͩʹूதͰ͖Δ • ҟͳΔٕज़ελοΫͷνʔϜؒͰ΋ཧղ͢Δ͜ͱ͕Ͱ͖Δ
  10. ˜-:$PSQPSBUJPO %2.-ͷޮՌ  .- 0QT σʔλ඼࣭ͷఆ͔ٛΒ ࣗಈͰ੍ޚ 55%ɾ55.ͷվળ σʔλ඼࣭ͷཁ݅Λ ίʔυͰఆٛ͢Δ͚ͩͰ

    ੒Ռ෺ͷ඼࣭Λ޲্ ίʔυϕʔεͰ ඼࣭ͷ؅ཧͱվળΛ ܧଓతʹ࣮ࢪ ίʔυϕʔεͰ ඼࣭ཁ݅ͷվળ͚ͩʹूத ඞཁ࠷খݶͷ޻਺Ͱӡ༻ʹߩݙ %BUB$FOUSJDͳϓϩηεʹΑͬͯ.-0QTΛՃ଎
  11. ˜-:$PSQPSBUJPO ࣾ಺ࣄྫ  • ᶃ͋ΔαʔϏεͰϩά͕ܽଛ • ෆ۩߹͸ϩάఏڙଆʹΑͬͯमਖ਼͞Ε͕ͨɺҰ෦ʹܽଛ͕ൃੜ • ᶄϩάͷར༻ऀͰσʔλͷมԽ཰Λ؂ࢹ͍ͯͨ͠ͱ͜ΖΞϥʔτൃੜ •

    %BUB2VBMJUZͰσʔλͷมԽ཰ͷཁ݅Λఆ͍ٛͯͨ͠ • ܽଛʹΑΔҟৗͳมԽ཰ΛΞϥʔτͰൃݟ • ΞϥʔτΛ͖͔͚ͬʹϩάܽଛ͕͋ͬͨ͜ͱΛ೺Ѳ • ৄࡉΛௐࠪ͠ɺνʔϜ಺Ͱڞ༗ͨ͠ • ᶅϩάͷܽଛΛ͖͔͚ͬʹཁ݅Λݟ௚ͨ͠ • ཁ݅Λ௥Ճ͠ɺ඼࣭Λվળͨ͠
  12. ˜-:$PSQPSBUJPO ࣾ಺ࣄྫͷϙΠϯτ  • ᶃ͋ΔαʔϏεͰϩά͕ܽଛ • ੍ޚ֎ͷ্ྲྀσʔλͷෆ۩߹͸ɺσʔλࣄނͷݪҼͰඇৗʹଟ͍ • σʔλͷ඼࣭͸ఏڙऀ͕อূ͍ͯ͠Δͱ͍͏ա৴ɾޡට͕ى͖΍͍͢ •

    ຊ౰ʹ4-"͕͋ΔͷͰͳ͚Ε͹ɺফඅऀʹ΋඼࣭Λ֬ೝ͢Δ੹೚͕͋Δ • σʔλ඼࣭͸໨తద߹౓Ͱ͋Γɺσʔλফඅऀ͕඼࣭ΛܾΊΔ • ͜ͷݪଇ͔ΒɺσʔλఏڙऀͰ͸඼࣭Λ׬શʹอূͰ͖ͳ͍͜ͱ͕ଟ͍ • ଟ͘ͷέʔεͰɺফඅऀʹΑΔ඼੍࣭ޚ͕ඞਢʹͳΔ
  13. ˜-:$PSQPSBUJPO ࣾ಺ࣄྫͷϙΠϯτ  • ᶄϩάͷར༻ऀͰσʔλͷมԽ཰Λ؂ࢹ͍ͯͨ͠ͱ͜ΖΞϥʔτൃੜ • ফඅऀʹΑΔओମతͳ඼੍࣭ޚͷ੒ޭྫ • σʔλఏڙଆͰى͖ͨ໰୊Λফඅऀଆ͕೺Ѳ͢Δ·Ͱʹ͸௨ৗɺ͕͔͔࣌ؒΔ͕ɺૣظ ൃݟ͢Δ͜ͱ͕Ͱ͖ͨ

    • σʔλͷมԽ཰͕ཁ݅ͱͯ͠ఆٛ͞Ε͍ͯͨ͜ͱͰɺΞϥʔτൃੜ࣌ʹͲ͜Ͱ໰୊͕ى ͖͍ͯΔͷ͔ɺͲ͏͍͏Өڹ͕ߟ͑ΒΕΔͷ͔Λ͙͢ʹ൑அͰ͖ͨ • ΋͠΋͜ͷܽଛ͕ࣄނʹܨ͕͍ͬͯͨ৔߹ɺ %BUB2VBMJUZͰཁ݅Λఆ͍ٛͯ͠ͳ͚Ε ͹55%ɾ55.͸େ෯ʹ஗Ε͍ͯͨՄೳੑ͕͋Δ
  14. ˜-:$PSQPSBUJPO ࣾ಺ࣄྫͷϙΠϯτ  • ᶅϩάͷܽଛΛ͖͔͚ͬʹཁ݅Λݟ௚ͨ͠ • ࠓճ͸ࣄނʹ͸ܨ͕Βͳ͔͕ͬͨɺಉ༷ͷ໰୊͕ൃੜͨ͠৔߹ͷϦεΫΛ࠶ධՁ͢Δ ͖͔͚ͬʹͳͬͨ • ϦεΫΛಛఆɾධՁͯ͠ऴΘΓͰ͸ͳ͘ɺσʔλ඼࣭ཁ݅Λݟ௚͠ɾվળ͢Δ͜ͱͰɺϦ

    εΫΛ੍ޚͨ͠ • %2.-ͷఆٛΛमਖ਼͢Δ͚ͩͰΑ͍ͨΊɺΫΤϦ΍ΞϓϦέʔγϣϯͷΑ͏ͳ໋ྩతͳ ϓϩάϥϜΛमਖ਼͢Δ͜ͱͳ͘ɺ͙͢ʹ඼࣭ཁ݅Λվળ੍͠ޚΛ࣮ࢪ͢Δ͜ͱ͕Ͱ͖ͨ • ͢͹΍͘ରԠͰ͖Δ͜ͱͰɺ඼࣭ͷอূʹ͔͔Δίετ͕࡟ݮ͞Εͨ • ͜ͷΑ͏ʹɺܦݧΛແବʹͤͣɺܧଓతʹվળΛߦ͍ίʔυʹ஝ੵ͢Δ͜ͱʹΑͬͯ σʔλ඼࣭Λຏ͖ɺదԠతʹϦεΫͱσʔλ඼࣭Λ࠷దԽ͢Δ͜ͱ͕Ͱ͖Δ
  15. ˜-:$PSQPSBUJPO ϓϩηεͷධՁ  ੓෎$*0ϙʔλϧͰެ։͞Ε͍ͯΔ ʮσʔλ඼࣭؅ཧΨΠυϒοΫ೥݄೔ʢЌ൛ʣʯ͓Αͼ ʮσʔλ඼࣭ධՁπʔϧʢЌ൛ʣʯͷ ʮ*40ʹΑΔσʔλ؅ཧϓϩηεͷධՁʯ Λෳ਺ͷϢʔβͰಋೖલޙʹ࣮ࢪ͠มԽΛௐࠪ ϓϩηε੒ख़౓ͷશମతͳ޲্Λ֬ೝ ಛʹσʔλ඼࣭ܭըͱ඼੍࣭ޚͰେ͖ͳվળ͕ݟΒΕͨ

    ࢀߟจݙ • ʮσʔλ඼࣭؅ཧΨΠυϒοΫ೥݄೔ʢЌ൛ʣʯʢ੓෎$*0ϙʔλϧʣ IUUQTDJPHPKQTJUFTEFGBVMUGJMFTVQMPBETEPDVNFOUTEBUB@IJOTIJUV@HVJEF@CFUB@QEG • ʮσʔλ඼࣭ධՁπʔϧʢЌ൛ʣʯʢ੓෎$*0ϙʔλϧʣ IUUQTDJPHPKQTJUFTEFGBVMUGJMFTVQMPBETEPDVNFOUTEBUB@RVBSJUZ@FWBMVBUJPO@UPPM@CFUBYMTY • ʮσʔλ඼࣭؅ཧΨΠυϒοΫ೥ʢྩ࿨೥ʣ݄೔ʯʢσδλϧிʣ IUUQTXXXEJHJUBMHPKQBTTFUTDPOUFOUTOPEFCBTJD@QBHFGJFME@SFG@SFTPVSDFT<>EBUB@TUSBUFHZ@HJG@@HVJEFCPPL@EBUBRVBMJUZEPDY ˞಺༰͸$*0ϙʔλϧͷЌ൛ͱ΄΅ಉ౳ͷਖ਼ࣜ൛͕ͩɺΨΠυϒοΫͷਖ਼ࣜͳެ։ϖʔδ౳͕ݟ͔ͭΒͳ͍ͨΊݱࡏ͸Ќ൛Λར༻͍ͯ͠Δɻ
  16. ˜-:$PSQPSBUJPO ·ͱΊ  • %2.-Ͱσʔλ඼࣭ΛίʔυԽͨ͠ • αΠΤϯςΟετͷ޻਺Λແବʹͤͣʹσʔλ඼࣭Λ؅ཧͰ͖ͨ • ։ൃऀͱӡ༻ऀ͕ίϛϡχέʔγϣϯΛऔΓ΍͘͢ͳͬͨ •

    σʔλ඼੍࣭ޚͷࣗಈԽ΍ཁ݅ͷ໌֬ԽͰ55%ɾ55.͕୹ॖͨ͠ • ඼࣭อূʹ͔͔Δίετ͕࡟ݮ͞Εͨ • ௕ظతʹ඼࣭վળΛܧଓͰ͖ΔΑ͏ʹͳͬͨ • σʔλ඼࣭؅ཧͷ࣭Λ্͛Δ͜ͱͰӡ༻ͷ৴པੑΛ޲্ͨ͠ • %BUB$FOUSJDͳ.-0QTΛ࣮ݱ