생성형AI를 활용한 개체명인식(NER)

#NER #LLM #NLP

비정형데이터에서 중요한 정보를 추출하기 위해서는 패턴 뿐만아니라 전문적인 지식과 의미 또한 고려해야 합니다. 개체명인식(NER)은 정보를 추출하는 가장 첫 과정이면서 동시에 가장 중요한 과정입니다.
병원 내 비정형데이터(영상검사기록지, 병리검사기록지 등)에 생성형AI를 활용해 NER하는 과정을 통해 잠들어있던 중요한 의료 정보를 가치있게 만들어가는 방법을 공유합니다.

발표자 : brown.sung
카카오헬스케어에서 AI 프로젝트를 총괄하고 있습니다.

Transcript

2. ೾झாয
   ؘ੉ఠ৬
   38& 3FBMXPSME
   &WJEFODF /&3ী
   ࢤࢿഋ"*
   ੸ਊೞӝ
   'VUVSF
   XPSLT
3. ೾झாয
   ؘ੉ఠ৬
   ੿޻੄೟
4. ӝࣿ੸
   ҙ੼ীࢲ
   ೾झாয
   ؘ੉ఠ੄
   ҳࢿ ੿ഋ ࠺੿ഋ ध߹੿ࠁ ௏٘ Ѿҗ
   ࣻ஖
   ١ ૓ܐ
   ࣗѼ ৔࢚ 9SBZ
   $5
   .3*
   ١ Ѩࢎӝ۾૑
   ١
5. ੿ഋ
   ؘ੉ఠ
6. ࠺੿ഋ
   ؘ੉ఠ <'JOEJOH> ೨ઙ
   ''%( Ѩࢎߑߨ
   ''%(ܳ
   *7
   JOKFDUJPO
   റ
   दр૩
   1&5$5
   ੹न৔࢚ਸ
   ୫৔ೞ৓ਵݴ
   ೙ਃী
   ٮۄ
   ୶о
   ୫৔ਸ
   पदೣ ੐࢚ࣗѼ
   -U
   BOLMF
   QBJO
   PDDBTJPOBM
   TXFMMJOH
   GV #POF
   BOE
   KPJOU
    -FGU
   BOLMF
   KPJOUীࢲ
   GPDBM
   VQUBLF੉
   ҙ଴غݴ
   ੉੹ࠁ׮
   ࣗѼ੉
   ঈചؽ নஏ
   TBDSPJMJBD
   KPJOUীࢲب
   ࠺؀ட੸ੋ
   GPDBM
   VQUBLF੉
   ੓ਵݴ
   -ଃ੉
   3ଃࠁ׮
   ؊
   ௾
   VQUBLFਸ
   ࠁ੐
   -3  3JHIU
   IJQ
   KPJOUীࢲ
   NJME
   VQUBLF
   ૐоо
   ੓ਵݴ
   MFGU
   TIPVMEFS
   KPJOUীࢲب
   IPU
   VQUBLF੉
   ҙ଴ؽ
   নଃ
   LOFFীࢲب
   NVMUJQMF
   JODSFBTFE
   VQUBLF੉
   ࠁ੉ݴ
   ౠ൤
   MFGU
   TJEFীࢲ
   ؊
   QSPNJOFOUೣ -FGU
   XSJTU৬
   IBOE
   KPJOU੄
   VQUBLFب
   ૐоغয
   ੓ਵݴ
   ੉ח
   ঌ۰૓
   PTUFPBSUISJUJTী
   ੄ೠ
   ߸ച۽
   ࠁ੐ •OP
   TJHOJGJDBOU
   JOUFSWBM
   DIBOHF 5
   WFSUFCSBM
   CPEZীࢲ
   JODSFBTFE
   VQUBLF੉
   ੓ਵݴ
   .3*ীࢲ
   ഛੋػ
   EJTL
   EFHFOFSBUJPOী
   ੄ೠ
   ࣗѼੌ
   оמࢿ੉
   ֫਺ •TMJHIUMZ
   JODSFBTFE
   VQUBLF
   DPNQBSFE
   UP
   QSFWJPVT
   TUVEZ ୶о۽
   $TQJOF
   5
   -
   ࠗਤীࢲب
   ׮ࣻ੄
   JODSFBTFE
   VQUBLF੉
   ഛੋؽ ࠄ ੗ܐীח
   ࢤࢿഋ
   "*
   Ѿҗޛ੉
   ੌࠗ
   ನೣغয
   ੓णפ׮
7. 3FBM
   8PSME
   &WJEFODF
    पࢎਊૐѢ 3FBM
   8PSME
   %BUB 38% 1IBSNB
   EBUB 3$5
   PCTFSWBUJPOBM &MFDUSPOJD
   NFEJDBM
   SFDPSET %FWJDF EBUB .PSUBMJUZ PUIFS
   SFHJTUSJFT )PTQJUBM
   WJTJUT TFSWJDF
   EFUBJMT -BC
   UFTUT QBUIPMPHZ
   SFTVMUT $MBJNT EBUB 4PDJBM NFEJB $POTVNFS EBUB .FBOJOHGVM RVFTUJPOT 'JUGPS QVSQPTF
   EBUB 
   BOBMZUJDT 3FBM
   8PSME &WJEFODF 3FBM8PSME
   &WJEFODF
   38& 3FBM8PSME
   &WJEFODF
   JT
   UIF
   DMJOJDBM
   FWJEFODF
   SFHBSEJOH
   UIF
   VTBHF
   BOE
   QPUFOUJBM
   CFOFGJUT
   PS
   SJTLT
   PG
   B
   NFEJDBM
   QSPEVDU
   EFSJWFE
   GSPN
   BOBMZTJT
   PG
   38%
8. ੿޻੄೟ਵ۽
   оח
   ૑ܴӡ
   ೾झாয
   ؘ੉ఠ
   ഝਊ ੹ా੄೟ ஖ܐ ղࢿߊࢤ ࠗ੘ਊ ੿޻੄೟ ஖ܐ
9. /&3ী
   ࢤࢿഋ
   "*
   ੸ਊೞӝ
10. /&3 /BNFE
    &OUJUZ
    3FDPHOJUJPO ੉ۆ ddx change over time anatomical location anatomical location name name size size "CPVU
    NN
    
    
    SFTJEVBMSFDVSSFOU
    BOFVSZTN
    BU
    UIF
    DPJMFNCPMJ[FE
    SJHIU
    *$"
    CJGVSDBUJPO /P
    DIBOHF
    PG
    B
    NN
    PVUQPVDIJOH
    MFTJPO
    BU
    
    
    UIF
    MFGU
    QBSBDMJOPJE *$"
    
    
    
    
    
    
    
    
    30
    BOFVSZTNBM
    DIBOHF
11. /&3 /BNFE
    &OUJUZ
    3FDPHOJUJPO ੉ۆ /P &OUJUZ 3FTVMU  /BNF SFTJEVBMSFDVSSFOBU BOFVSZTN "OBUPNJDBM
    MPDBUJPO UIF
    DPJMFNCPMJ[FE
    SJHIU
    *$"
    CJGVSDBUJPO 4J[F "CPVU
    NN  /BNF PVUQPVDIJOH
    MFTJPO "OBUPNJDBM
    MPDBUJPO UIF
    MFGU
    QBSBDMJOPJE *$" 4J[F NN $IBOHF
    PWFS
    UJNF /P
    DIBOHF EEY 30
    BOFVSZTNBM
    DIBOHF j j j ੗োয୊ܻ /-1 ܳ
    ਤೠ
    о੢
    ӝୡ੸੉Ҋ
    ೙ࣻ੸ੋ
    ੘স  ੿ഛೠ
    /&3
    ୊ܻח
    ੋр੄
    ঱যܳ
    ӝ҅о
    ੋधೞӝ
    ਤೠ
    ױ҅۽
    ױয
    ೞաೞա੄
    ੄޷ܳ
    ੋधೞѱ
    ೞח
    җ੿  ѐ୓ী
    ؀ೠ
    ੄޷৬
    Ӓ
    ੄޷ী
    ೧׼ೞח
    ױযܳ
    ష௾ਵ۽
    ٜ݅য
    ୊ܻ
12. /&3 /BNFE
    &OUJUZ
    3FDPHOJUJPO ੉ۆ
13. 8IZ t৵
    ࢤࢿഋ
    "*ܳ
    ࢎਊೞաਃ u
14. ׮নࢿ ࠂ੟ࢿ ੘স੗ Үਭ दр࠺ਊ
15. --.
    ӝ߈
    /&3 -BSHF -BOHVBHF .PEFM
16. --.
    ӝ߈
    /&3 ҳ࠙ IVNBOMBCPS
    ߑध --.
    ӝ߈ /&3 ࠺Ү ୊ܻ ࣘب ୡѤ Ѥੌ ୊ܻ ӝળ _ୡѤ ড _ߓ )
    (16
    ѐࣻ _੢ ӝળ ࣗਃदр ݅Ѥ ӝળ ੌ ੌ ড 
    ੉ೞ .BY
    ୡѤ ӝળ ࠺ਊ ݅Ѥ ӝળ ড ୌߔ݅ਗ ড ߔ݅ਗ ড 
    ੉ೞ ੋѤ࠺ ਘ ݅ਗݺ ӝળ ࢿמ ಣӐ  IVNBOFSSPS
    ӝળ 
    ੉࢚ 'TDPSF
    ӝળ
17. --.
    ӝ߈
    /&3
    GSBNFXPSL 'JMF
    TFSWFS 8PSLTUBUJPO --.
    TFSWFS 4BNQMFS -BCFM
    4UVEJP 1SPNQU .BOBHFS 1FSGPSNB ODF FWBMVBUJPO EBUBTFU
    %# USBJOJOH
    EBUB WBMJEBUJPO
    EBUB 'PVOEBUJPO
    .PEFM 'JOF
    5VOJOH 'JOF
    UVOFE
    .PEFM *OGFSFODF SBX
    EBUB SFTVMU
    EBUB BOOPUBUJPO ؘ੉ఠ ഐ୹ ੽Ӕాઁ JOGFSFODF ؘ੉ఠ ഐ୹ JOGFSFODF Ѿҗ ੸੤
18. --.
    ӝ߈
    /&3
    GSBNFXPSL ӝ۾૑ ࢶ੿ా೤ ؘ੉ఠ ੿੄ࢲ ೐܁೐౟ ےؒ ࢠ೒݂ ؘ੉ఠ ੹୊ܻ BOOPUBUJPO • GFX
    TIPU
    ߂ పझ౟ ਊ ѐ • 5SBJOJOH
    ਊ ѐ • 5FTU
    ਊ ѐ ؘ੉ఠ ੿੄ࢲ ѐࢶ ೐܁೐౟ ѐࢶ 'JOFUVOJOH ୶ۿ ࢿמ Ҋبച प೷ ߈ࠂ ૓೯ ળ࠺ ױ҅ য֢ప੉࣌ ױ҅ ࢿמҊبച ױ҅ ୶ۿ ױ҅
19. ؘ੉ఠ
    ੿੄ࢲ
20. 1SPNQU
    NBOBHFS
21. 4BNQMFS
22. "OOPUBUJPO
    UPPM -BCFM
    4UVEJP
23. 3FTVMU
    UFNQMBUF
    
    NFUSJD
24. 3FTVMU
    UFNQMBUF
    
    NFUSJD
25. &OUJUZ
    NBUDIJOH &OUJUZ
    WBMVF
    р
    ਬࢎب
    ஏ੿
    
    KBDDBSE TJNJMBSJUZ
    JOEFY &OUJUZ
    о઺஖
    ࢸ੿
    
    ੿ࠁޡ஖
    ղ
    FOUJUZ੄
    ؀಴ࢿী
    ٮۄ
    о઺஖
    ࢸ੿
    à 
    _
    
    ࢎ੉
    ੌ߈੸ਵ۽
    OBNF੉
    ઺ਃ
    ਬࢎب
    UISFTIPME
    ࢸ੿
    
    ੌ੿
    ࣻ஖
    ੉ೞݶ
    ݒட
    ؀࢚
    ઁ৻
    à 
    ੉࢚ ਬࢎب
    ҅࢑
    
    
    
    
    
    
    
    
    
    
    
    
    
    
    
    
    
    
    
    
    
    
    
    
    
    
    
    
    
    
    
    
    
    
    
    
    
    
    
    
    
    
    
    
26. &OUJUZ
    .BUDIJOH ß  ß  ß  ß ݒட9
     ß ݒட9 ß ݒட9
27. &YQFSJNFOU प೷੉ۆ ా҅੸
    ੽Ӕ
    оࢸਸ
    ࢸ੿ೞҊ
    ೧׼
    оࢸ੉
    ଵੋ૑
    Ѣ૙ੋ૑
    ా҅੸
    ਬ੄ࢿਵ۽
    ഛੋೞח
    ੺ର ѐߊ
    ҙ੼
    "#
    UFTU --.਷
    ৵
    प೷੉
    ೙ਃೠо
    à ୭੸੄
    ઑ೤ਸ
    ଺ח
    Ѫ੉
    ୭Ҋ੄
    ࢿמ ࢤࢿഋ"*ী
    ࣻ೯ೞח
    সޖী
    ٮۄ
    ઑ੿੉
    ೙ਃೠ
    ߸ࣻ
    ߂
    Ӓ
    ઑ೤੉
    ޖೠী
    оө਑ ӝ۾૑߹۽
    ৘࢚ೞ૑
    ޅೠ
    ੉गٜ੉
    ૑ࣘ੸ਵ۽
    ߊࢤೡ
    ࣻ
    ੓਺
    à ౠ൤
    ജп IBMMVDJOBUJPO 'JOFUVOJOHਸ
    ೞݶ
    USBEFPGG
    ੉गо
    ߊࢤ
    m ਗې
    ੜೞ؍
    ୶ۿ
    מ۱੉
    ծই૑ח
    ޙઁ 모델 선정, 모델 파라미터 조정, few-shot 개수, few-shot 선정, fine-tuning 데이터 건수, fine-tuning 데이터 내용, fine-tuning 시 few-shot/prompt 반영 여부 등등
28. &YQFSJNFOU അ੤ө૑
    ߋഃմ
    ࢎप Ÿ 'JOFUVOOJOH
    XJUI
    OP
    QSPNQU  QSPNQU
    হ੉
    GJOFUVOOJOHೞח
    Ѫ੉
    ࡅܰҊ
    ࢿמ
    Ҋبച੄
    оמࢿ੉
    ֫ই૓׮  ౠ੿
    ੘স
    ૑ஜਸ
    GJOFUVOJOHী
    ನೣदఃח
    Ѫী
    ؀ೠ
    ׮নೠ
    ੄Ѽ
    ઓ੤ Ÿ *OGFSFODF
    XJUI
    'FXTIPU
    CBTFE
    'JOFUVOFE
    .PEFM  GJOFUVOOJOHػ
    ݽ؛ী
    GFXTIPU݅
    ֍যب
    ળࣻೠ
    ࢿמ਷
    ࠁ੢ػ׮ Ÿ 2VBOUJUZ
    Y
    
    2VBMJUZ
     GJOFUVOOJOHী
    ࢎਊೞח
    ؘ੉ఠ
    ѐࣻ৬
    ࠺۹ೞৈ
    ࢿמ
    ೱ࢚੉
    ׸ࠁغ૑ח
    ঋח׮  ಁఢ੄
    ׮নࢿ
    ղਊ੄
    ࠂ੟ࢿী
    ٮۄ
    ୭੸੄
    GJOFUVOJOH
    ؘ੉ఠ
    ѐࣻо
    ੓חо
29. 'VUVSF
    8PSLT
30. 'VUVSF
    XPSLT
    
    
    QFSGPSNBODF 'JOFUVOJOH .PEFM PQFOTPVSDF
    GPS
    0O QSFN 1SPQSJFUBSZ
    GPS
    (MPCBM 3FQPSU
    *OUFHSBUJPO 4BNQMJOH (MPCBM
    QSPNQU
    &OH 1SFQSPDFTTJOH .JTTJOH
    WBMVF -BOHVBHF
    TUSVDUVSF "CCSFWJBUJPOBDSPOZN
31. 'VUVSF
    XPSLT
    
    
    "VUPNBUJPO CBUDI 8PSL
    GMPX .JOJNJ[F
    BMM
    QSPDFTTFT FYDFQU
    BOOPUBUJPOT %BJMZ
    JODSFNFOUBM
    MPBEJOH
    QSPDFTT "OE
    NPOJUPSJOH UPPMT .BUSJY
    PQUJNJ[FS 3FQPSU
    QBUUFSO
    DMBTTJGJFS "VUP
    BOOPUBUJPO
    
32. ݃ޖܻ ೾झாয
    ࠙ঠח
    ؘ੉ఠ
    ഝਊ 38& ੉
    оࣘ
    ઺ ӝ۾૑ח
    ݒ਋
    ઺ਃೠ ജ੗
    ੿ࠁ੄
    ࠁҊ ઺ਃೞҊ
    ೙ࣻ੸ੋ
    ੿ࠁܳ ੜ
    ୶୹ೞח
    Ѫ੉
    /&3੄
    ೨ब /&3ীࢲ
    --.਷
    USZ
    
    FSSPS੄
    ߈ࠂ
    ੗زചೞח
    җ੿੉
    ઺ਃ ѐߊ੗
    بݫੋ
    ੹ޙо
    ੄ࢎѾ੿੗
    р੄
    ࣗా
    ઺ਃ খਵ۽
    ೧ঠ
    ೡ
    ݆਷
    Ѫٜj ࢿמ
    ߧਊࢿ ١١
33. 2"