Upgrade to Pro — share decks privately, control downloads, hide ads and more …

최적의 LLM을 선택하는 방법 : DUO

kakao
November 01, 2024

최적의 LLM을 선택하는 방법 : DUO

#LLM #Evaluation #평가 프레임워크 #내재화 #산학협력

카카오뱅크는 타겟 서비스에 적합한 언어 모델(LLM)을 찾을 때 어떤 기준을 사용할까요? 자체 평가 프레임워크 구축과 언어 모델(LLM) 평가 기준을 내재화한 경험을 공유합니다.

발표자 : aven.j, conor.k
기술로 가치를 찾는 Aven입니다.
AI를 연구하는 'RAG친놈' Conor입니다.

kakao

November 01, 2024
Tweet

More Decks by kakao

Other Decks in Programming

Transcript

  1. ࢤࢿഋ "*੄ ടӘӝ  ՘হ੉ ١੢ೞח --.ٜ --.җ ೣԋ ࢿ੢ೞח

    ಣо ߑߨٜ %60 ೐۽ં౟ ઱ਃ ղਊ ࣗѐ Ѿҗ ࠙ࢳ ߂ -FTTPO -FBSOFE
  2. ࢤࢿഋ "*੄ ടӘӝ  ՘হ੉ ١੢ೞח --.ٜ --.җ ೣԋ ࢿ੢ೞח

    ಣо ߑߨٜ %60 ೐۽ં౟ ઱ਃ ղਊ ࣗѐ Ѿҗ ࠙ࢳ ߂ -FTTPO -FBSOFE
  3. 5IFOVNCFSPGQBQFST "$- JODMVEJOH t-BOHVBHF.PEFMuJOUIFJSUJUMFT 0 300 600 900 2020 2021

    2022 2023 2024 ӝস ߹ --.୹द ఋ੐ۄੋ ୶੸ .BQ ࢤࢿഋ "*੄ ടӘӝ ՘হ੉ ١੢ೞח --.ٜ
  4. ࢤࢿഋ "*੄ ടӘӝ ՘হ੉ ١੢ೞח --.ٜ 3,993 ֙ ਘ ੌ

    139,650 ֙ ਘ ੌ )VHHJOH'BDF੄ 5FYU(FOFSBUJPONPEFMࣻ
  5. ࢤࢿഋ "*੄ ടӘӝ  ՘হ੉ ١੢ೞח --.ٜ --.җ ೣԋ ࢿ੢ೞח

    ಣо ߑߨٜ %60 ೐۽ં౟ ઱ਃ ղਊ ࣗѐ Ѿҗ ࠙ࢳ ߂ -FTTPO -FBSOFE
  6. Ҋդب ૑ध ޙઁ ؀ӏݽ ࢚ध ୶ۿ ׮ױ҅ ࣻ೟ ୶ۿ х੿

    ૑מ ૑ஜ ળࣻ מ۱ ӝୡ ૑ध ࢎഥ੸ о஖ ૕ޙ੄ ਬਊࢿ ޖ೧ࢿ 0QFO,P--.-FBEFS#PBSE ׮নೠ ߮஖݃௼ীࢲ੄ ઙ೤੼ࣻ
  7. (SPVOE5SVUI 0QFO,P--.-FBEFS#PBSE ,P(12" ઺ীࢲ ׮਺ ઺ ױߔ૕ ಫ٬ җ੿ীࢲ ࢥಕۿ

    ױߔ૕੄ ઱ਃ ӝמ਷ ޖ঺ੋоਃ " %/"ࠂઁ ୢ૓ # ࢜۽ ೤ࢿػ ױߔ૕੄ ৢ߄ܲ ੽൨ ࠁઑ $ ࣁನ݄ ాҗ ૑ਗ % N3/"উ੿ച ੿׹# ࢜۽ ೤ࢿػ ױߔ૕੄ ৢ߄ܲ ੽൨ ࠁઑ
  8. Ҋդ੉ب ޙઁ ੹ޙо ࣻળ ޙઁ ࣻ೟ ҃द؀ഥ ױ҅߹ ֤ܻ੸ ୶ۿ

    -.&WBMVBUJPO)BSOFTT ׮নೠ ಣо 5BTL ীࢲ੄ ઙ೤੼ࣻ
  9. $IBUCPU"SFOB A is better B is better Tie Both are

    bad *sNIBQQZUPIFMQZPVXJUIZPVS &OHMJTIHSBNNBS$BOZPVQMFBTF QSPWJEFNFXJUIBTFOUFODFPSUXP UIBOZPVXPVMEMJLFNFUP DPSSFDU 5IFDPSSFDUHSBNNBSXPVMECFt* BNIBQQZu $PSSFDUHSBNNBS*BSFIBQQZ $PSSFDUHSBNNBS*BSFIBQQZ "JTCFUUFS #JTCFUUFS 5JF #PUIBSFCBE .PEFM" .PEFM# ࢎۈ੄ ࢶഐبܳ ӝળਵ۽ ࣽਤܳ ੿ೞח ܻ؊ࠁ٘
  10. .5#FODI +VEHJOH--.BTB+VEHF ࢎۈ੄ ࢶഐبܳ ݽߑೠ --.੉ ݽ؛੄ ࢿמਸ ಣоೞח ߑध

    ੋҕ૑מ੄ അ੤ ೠ҅ח ޖ঺ੋоਃ ੋҕ૑מ੄ ઱ਃ ೠ҅ ઺ ೞաח ؘ੉ఠ ಿ૕җ নী ؀ೠ ੄ઓࢿੑפ׮ "*о ହ੄੸ੋ ޙઁ ೧Ѿীࢲ ࠗ઒ೠ ੉ਬח ޖ঺ੋоਃ "*ח ହ੄੸ੋ ޙઁ ೧Ѿীࢲ ੋрҗ ׳ܻ ૒ҙ੉ա х੿ਸ ӝ߈ਵ۽ ೞ૑ ঋҊ ೟णػ ಁఢҗ ؘ੉ఠܳ ష؀۽ Ѿ੿ਸ ղܻӝ ٸޙী ࢤۚ ݽ؛੄ ਽׹ਸ ׮਺ ӝળী ٮۄ ীࢲ ө૑ ಣоೞࣁਃ ੿ഛࢿ਽׹੉ ࢎप੸ਵ۽ ੿ഛೠоਃ Ө੉਽׹੉ ࢚ࣁೞҊ Ө੉ ੓ח ੿ࠁܳ ઁҕೞաਃ ҙ۲ࢿ਽׹੉ ૕ޙী ੸੺ೠоਃ ਬହࢿ঱যо ੗োझۣҊ ݒՍ۞਍ оਃ ੌҙࢿ.VMUJ5VSO ؀ചীࢲ ੌҙࢿਸ ਬ૑ೞաਃ п ೦ݾী ੼ࣻܳ ݒӝҊ ୭ઙ ੼ࣻܳ ҅࢑ೞࣁਃ ࠗ઒ೣ ࠁా જ਺ ਋ࣻೣ .5#FODIಣоਊ +VEHF೐܁೐౟
  11. 1SPNFUIFVT  ঱যݽ؛੄ ಣоܳ ਤ೧ ੉ী ؀೧ ౵ੋౚ׬ೠ ݽ؛ )VNBO&WBM

    1ZUIPOೣࣻ੄ EPDTUSJOHਸ ઁҕೞҊ ݽ؛੉ ೣࣻܳ ৮ࢿೞب۾ ೞৈ ࢤࢿػ ௏٘੄ ੿ഛࢿਸ ױਤ పझ౟ܳ ా೧ Ѩૐ *'&WBM --.੉ ݺഛೠ ૑दࢎ೦ਸ ঴݃ա ੿ഛ൤ ٮܰח ૑ ಣоೞח ёҙ੸੉Ҋ ੤അ оמೠ ߮஖݃௼ Ӓ ৻
  12. 4UBUJD -JWF (SPVOE 5SVUI 0QFO,P--. -FBEFSCPBSE -.&WBMVBUJPO)BSOFTT $PEFGPSDFT 8FFLMZ $POUFTUT

    )VNBO 1SFGFSFODF .5#FODI $IBU#PU "SFOB 2VFTUJPO 4PVSDF &WBMVBUJPO .FUSJD
  13. 4UBUJD -JWF (SPVOE 5SVUI 1SPTੌ੿ೠ Ѿҗ ੸਷ ࠺ਊ $POTࢎਊࢿীࢲ੄ ର੉

    )VNBO 1SFGFSFODF 1SPT ࢎਊࢿҗ ੌҙػ Ѿҗ $POTੌ੿ೞ૑ ঋ਷ Ѿҗ  ֫਷ ࠺ਊ 2VFTUJPO 4PVSDF &WBMVBUJPO .FUSJD
  14. ઱য૓ ഋधҗ ૑ஜ ળࣻ Үਭ ࠙ঠ ૕ޙ ੋҗ੸ ୶ۿ מ۱

    %S"DBEFNZ"#FODINBSLGPS&WBMVBUJOH 2VFTUJPOJOH$BQBCJMJUZJO&EVDBUJPOGPS-BSHF -BOHVBHF.PEFMT 1SJW-.#FODI".VMUJMFWFM1SJWBDZ&WBMVBUJPO #FODINBSLGPS-BOHVBHF.PEFMT '0'0"#FODINBSLUP&WBMVBUF--.Ts'PSNBU 'PMMPXJOH$BQBCJMJUZ $BVTBM#FODI"-BSHFTDBMF#FODINBSLGPS /FUXPSL*OGFSFODFGSPN4JOHMFDFMM1FSUVSCBUJPO %BUB "DDFQUFEQBQFSTPG"$- ೐ۄ੉ߡद ਬ୹ ਤ೷ -JNJUFE4DPQF
  15. ߮஖݃௼۽ ഝߊ൤ ࢎਊؽ 405"੄ ࢿמ੉ ೱ࢚ؽী ٮۄ ߮஖݃௼੄ ߸߹۱੉ ೞۅೞৈ

    ࢎਊغ૑ ޅೣ 405"ࢿמ दр դ੉ب -JGF4QBO ߸߹۱ ծই ߮஖݃௼۽ ࢎਊغ૑ ޅೣ 4IPSU-JGF4QBO
  16. ࢤࢿഋ "*੄ ടӘӝ  ՘হ੉ ١੢ೞח --.ٜ --.җ ೣԋ ࢿ੢ೞח

    ಣо ߑߨٜ %60 ೐۽ં౟ ઱ਃ ղਊ ࣗѐ Ѿҗ ࠙ࢳ ߂ -FTTPO -FBSOFE
  17. %BUB যڃ ߮஖݃௼۽ ಣо ೡ Ѫ ੋо .FUIPE যڃ ߑߨਵ۽

    ಣо ೡ Ѫ ੋо .FUSJD যڃ ҙ੼ਵ۽ ೧ࢳ ೡ Ѫੋо
  18. %BUB ੗୓ ઁ੘ ؘ੉ఠ ղ ৻ࠗ ؘ੉ఠ .FUIPE 1BTTJWF ಣо

    "DUJWFಣо .FUSJD ৮Ѿࢿ ੿ഛࢿ ਬࢎب ١
  19. 5PQJDಣо ࠙ঠ  "CJMJUZಣо ࣁࠗ ݾ੸  --.੉ о૓ מ۱

     %BUB ಣо ӝળ ؘ੉ఠ  .FUIPE "TQFDU  "CJMJUZܳ ஏ੿ೞӝ ਤೠ ಣо ߑߨۿ  .FUSJD  .FUIPEܳ ࣻ೯ೞৈ ঳਷ ёҙ੸ੋ ࣻ஖ ੹୓ ಣо ҳઑ
  20. 5PQJDಣо ࠙ঠ  "CJMJUZಣо ࣁࠗ ݾ੸  --.੉ о૓ מ۱

     %BUB ಣо ӝળ ؘ੉ఠ  .FUIPE "TQFDU  "CJMJUZܳ ஏ੿ೞӝ ਤೠ ಣо ߑߨۿ  .FUSJD  .FUIPEܳ ࣻ೯ೞৈ ঳਷ ёҙ੸ੋ ࣻ஖ ৘द  --.੄ ੘ޙ מ۱ ઺ х੿ ಴അ מ۱ਸ ഛੋೞӝ ਤ೧ ٮڷೠ Ѻ۰੄ ݈ਸ ѐ х੿ਵ۽ ࠙ܨ റ &YBDU.BUDI۽ ੿׹ ࠙ನܳ ఐ૑೤פ׮ ੹୓ ಣо ҳઑ 5PQJD "CJMJUZ .FUIPE .FUSJD %BUB
  21. ੹୓ ಣо ҳઑ 5PQJDಣо ࠙ঠ "CJMJUZಣо ࣁࠗ ݾ੸ %BUB .FUIPE

    .FUSJD "TQFDU "CJMJUZಣо ࣁࠗ ݾ੸ %BUB .FUIPE .FUSJD "TQFDU
  22. 5PQJDಣо ࠙ঠ '$" 'JOBODJBM$BMDVMBUJPO"DDVSBDZ Әਲ਼ ࠙ঠ ҅࢑ ੿ഛب '.5 'JOBODJBM.VMUJ

    5VSO Әਲ਼ ࠙ঠ ݣ౭ ఢ ؀ച מ۱ $*3 $PIFSFOU *OUFOU 3FDPHOJUJPO ਬࢎ ੋబ౟ ੋध ߂ ࠙ܨ מ۱ 4BGFUZ ਮܻ੸ ಞೱ ߂ উ੹ ఐ૑ מ۱ 5SVUIGVMOFTT ࢎप ӝ߈ ة೧۱ ߂ ૓पࢿ ҳ࠙ מ۱ 'JOBODJBM (FOFSBM
  23. 5PQJDಣо ࠙ঠ '$" 'JOBODJBM$BMDVMBUJPO"DDVSBDZ Әਲ਼ ࠙ঠ ҅࢑ ੿ഛب '.5 'JOBODJBM.VMUJ

    5VSO Әਲ਼ ࠙ঠ ݣ౭ ఢ ؀ച מ۱ $*3 $PIFSFOU *OUFOU 3FDPHOJUJPO ਬࢎ ੋబ౟ ੋध ߂ ࠙ܨ מ۱ 4BGFUZ ਮܻ੸ ಞೱ ߂ উ੹ ఐ૑ מ۱ 5SVUIGVMOFTT ࢎप ӝ߈ ة೧۱ ߂ ૓पࢿ ҳ࠙ מ۱ 'JOBODJBM (FOFSBM
  24. 'JOBODJBM$BMDVMBUJPO"DDVSBDZ Әਲ਼ ࠙ঠ ҅࢑ ੿ഛب t--.੉ ं੗ ҅࢑ מ۱੉ ڄয૓׮

    ؍ؘu t਷೯ীࢲ݅ ࢎਊೞח ױযܳ ੉೧ೞҊ ҅࢑ী ઁ؀۽ ߈৔ ೡ ࣻ ੓ਸө u tं੗ ಴ӝߨਸ ׮নೞѱ ೧ب ࢿמী ৔ೱ੉ হਸө u
  25. Әਲ਼ ࠙ঠীࢲ ࢎਊغח ਊয ߂ ं੗ী ؀ೠ ੿ഛೠ ҅࢑ מ۱

    Ѩૐ  "CJMJUZ_ ৘Ә ੸Ә ؀୹ ҙ۲ दաܻয়ীࢲ੄ ҅࢑ ੿ഛب  "CJMJUZ о࢚੄ ஠٘ ੉ਊ ղ৉ ӝ߈੄ ؀ࣗ ࠺Ү '$" ࢸ҅  "CJMJUZ '$" 'JOBODJBM $BMDVMBUJPO "DDVSBDZ ৘Ә ࢚ಿ ҅࢑ ੿ഛب ੸Ә ࢚ಿ ҅࢑ ੿ഛب ؀୹ ࢚ಿ ҅࢑ ੿ഛب ஠٘ ੉ਊ ղ৉ ӝ߈ ؀ࣗ ࠺Ү ࢤࢿഋ"*۽ ݅ٚ о࢚੄ ؘ੉ఠ Topic 평가 분야 Ability 평가 세부 목적 Data Method Metric Aspect
  26. ੸Ә ࢚ಿ ҅࢑ ੿ഛب ৘Ә ࢚ಿ ҅࢑ ੿ഛب ؀୹ ࢚ಿ

    ҅࢑ ੿ഛب ஠٘ ੉ਊ ղ৉ ӝ߈ ؀ࣗ ࠺Ү
  27. ݅ਗ ঀ ֙ زউ ੸Әೞݶ ղ֙ ݅ӝ ٸ ঴݃ ߉૑

    җࣁ਋؀ ؀࢚ੋؘ ݅ӝ ٸ ঴݃ ߉૑ ೠ ׳ী ੉੗ ঴݃ ঀ ղঠ ೞ૑ ੉ߣ ׳਷ ૑դ ׳ ࠁ׮ ঴݃ ؊ ो૑
  28. '$" ࢸ҅  1SPDFTT $POUFYU Reasoning ҅࢑ җ੿ী ೙ਃೠ ࢎ੹

    ੿ࠁ ৘द ӝрী ٮܲ ੸Ә ੉੗ ੸Ә оੑী ೙ਃೠ ੿ࠁ ӝр ѐਘ ѐਘ ѐਘ ੉੗     ৘द ஠٘ ੉ਊ ղ৉ ੌ੗ दр؀ оݚ੼ ݺ Ѿઁ Әঘ   (6౸Ү৉ ੼    ઱ ࢎࠂࣻ࢑ ౸Ү੼    ઱ ழೖ஠ಕ ࢶܷ੼    ৴оఔఔറܖ    $6౿౿৉ ੼  3FBTPOJOH
  29. '$" ࢸ҅  1SPDFTT $POUFYU 3FBTPOJOH מ۱ ஏ੿ਸ ਤೠ ҅࢑

    ҕध ৘द ৘Ә ࢚ಿ ҅࢑ ੉੗ Әঘ  ৘Ә Әঘ 9੉੗  9 ӝр ࣁӘ  ੉੗ Әঘ 9җࣁ ࠺ਯ ݅ӝ ૑әঘ  ৘Ә Әঘ ੉੗ Әঘ  ࣁӘ ৘द ؀୹ ࢚ಿ ҅࢑ ੉੗ ࢚ജ പࣻ  ӝр 9 ੉੗ Әঘ  ؀୹ Әঘ 9੉੗  9ӝр ਘ ಣӐ ੉੗ Әঘ  ੉੗ Әঘ  ੉੗ ࢚ജ പࣻ $POUFYU
  30. '$" ࢸ҅  1SPDFTT $POUFYU 3FBTPOJOH 2VFTUJPO ҅࢑ מ۱੉ ೙ਃೠ

    ૕ޙ ৘द ੉ߣ ׳ ࢎਊ Әঘ੉ ߔ݅ਗ ੉࢚ੋоਃ ৘द ֙ ѐਘ ઺ ࢎਊ Әঘ੉ о੢ ௾ ׳਷ ঱ઁ ੋоਃ ৘द র ୌ݅ਗਸ ੿ӝ ৘Әਵ۽ ѐਘ ৘஖ೠ ҃਋ ੌ߈җࣁ ؀࢚੗ח ݅ӝ ٸ ঴݃ܳ ߉ਸ ࣻ ੓աਃ 3FBTPOJOH $POUFYU
  31. FCA 설계 - Process $POUFYU 3FBTPOJOH 2VFTUJPO Answer ㅇ ҅࢑ਸ

    ࣻ೯ೠ --.੄ ׹߸ ৘द ੉ߣ ׳ ୨ ࢎਊ Әঘ਷   ਗਵ۽ ߔ݅ਗ ੉ೞ ੑפ׮ ৘द ֙ ѐਘ ઺ ࢎਊ Әঘ੉ о੢ ௾ ׳਷ ֙ ਘ ੑפ׮
  32. FCA 설계 - Process $POUFYU 3FBTPOJOH 2VFTUJPO "OTXFS ҅࢑ਸ ࣻ೯ೠ

    --.੄ ׹߸ ੍ਸ ٸח ੉ ߔ ݅ਗ ੘ࢿ ೡ ٸח ৘द ੉ߣ ׳ ୨ ࢎਊ Әঘ਷   ਗਵ۽ ߔ݅ਗ ੉ೞ ੑפ׮ ৘द ֙ ѐਘ ઺ ࢎਊ Әঘ੉ о੢ ௾ ׳਷ ֙ ਘ ੑפ׮
  33. '$" ࢸ҅ m %BUB ੍ਸ ٸח ੉ ߔ ݅ਗ ॶ

    ٸח t੉ ߔ ݅ਗu tਗu t  ਗu t ߔ ݅ਗu ೠӖഋ ं੗ഋ ഥ҅ഋ ഒ೤ഋ ৘द ৘Ә Әঘ ਗਸ ӝр ѐਘ ੿ӝ৘Әਵ۽ ৘஖ೞҊ җࣁ࠺ਯ੉ ੄ ҃਋ী ؀೧ ҅࢑೧઱ࣁਃ ৘Ә Әঘ   ਗਸ ӝр ѐਘ ੿ӝ৘Әਵ۽ ৘஖ೞҊ җࣁ࠺ਯ੉ ੄ ҃਋ী ؀೧ ҅࢑೧઱ࣁਃ ৘Ә Әঘ ੉ߔ݅ਗਸ ӝр ѐਘ ੿ӝ৘Әਵ۽ ৘஖ೞҊ җࣁ࠺ਯ੉ ੄ ҃਋ী ؀೧ ҅࢑೧઱ࣁਃ ৘Ә Әঘ ߔ݅ਗਸ ӝр ѐਘ ੿ӝ৘Әਵ۽ ৘஖ೞҊ җࣁ࠺ਯ੉ ੄ ҃਋ী ؀೧ ҅࢑೧઱ࣁਃ
  34. '$"ಣо ҳઑ 'JOBODJBM$BMDVMBUJPO"DDVSBDZ ৘Ә ࢚ಿ ҅࢑ ੿ഛب %BUB  ৘Ә

    ੉ਊ ੿ࠁ .FUIPE ҅࢑ ૕ޙ .FUSJD &YBDU.BUDI ؀୹ ࢚ಿ ҅࢑ ੿ഛب %BUB  ؀୹ ੉ਊ ੿ࠁ .FUIPE ҅࢑ ૕ޙ .FUSJD &YBDU.BUDI ੸Ә ࢚ಿ ҅࢑ ੿ഛب %BUB  ੸Ә ੉ਊ ੿ࠁ .FUIPE ҅࢑ ૕ޙ .FUSJD &YBDU.BUDI ஠٘ ੉ਊ ղ৉ ӝ߈ ؀ࣗ ࠺Ү %BUB  ஠٘ ੉ਊ ղ৉ .FUIPE ҅࢑ ૕ޙ ؀ࣗ ࠺Ү .FUSJD &YBDU.BUDI ࢤࢿഋ"*۽ ݅ٚ о࢚੄ ؘ੉ఠ
  35. ৘Ә ࢚ಿ ҅࢑ ੿ഛب ੸Ә ࢚ಿ ҅࢑ ੿ഛب ؀୹ ࢚ಿ

    ҅࢑ ੿ഛب ஠٘ ੉ਊ ղ৉ ӝ߈ ؀ࣗ ࠺Ү (15P      (15PNJOJ      $MBVEF0QVT     --"."# JOTUSVDU     2XFO#JOTUSVDU     $PNNBOE3     ஏ੿ ӝળੌ  --. ߹ '$" ࢿמ ࠺Ү
  36. 'JOBODJBM.VMUJ5VSO Әਲ਼ ࠙ঠ ݣ౭ ఢ ؀ച מ۱ t૕ޙ੉ ߄Շযب ݓۅ੉

    ੜ ੉য૕ө u t؀ചܳ ੜ ೠ׮ח Ѧ যڌѱ ࣻ஖ച ೡ ࣻ ੓ਸө u
  37. ׮নೠ Әਲ਼ दաܻয়ীࢲ .VMUJ5VSO ߑधਵ۽ ૑द ࢎ೦ ࣻ೯ מ۱ ஏ੿

     ಣо ؀࢚ ݽ؛੉ ࢤࢿೠ ޙ੢ী ؀೧ --.+VEHFߑधਵ۽ ಣо ࣻ೯ .VMUJUVSOৈ۞ ର۹੄ ૕ޙҗ ؀׹੉ োࣘ੸ਵ۽ য়Ҋ оח ؀ച ߑध --.+VEHF  ਋ࣻೠ ࢿמਸ о૓ --.੉ ౸ࢎ ӝળ о غয ࢎ੹ ੿੄ೠ ӝળী ݏ୾ ಣоೞח ߑߨ '.5 ࢸ҅  "CJMJUZ '.5 'JOBODJBM .VMUJ5VSO ଵҊ ੗ܐ ӝ߈ ੿ࠁ ୶୹ ߂ оҕ מ۱ Әਲ਼ ࠙ঠ ࢚ध ߂ ਃড מ۱ ઺୏ ੋҗ ҙ҅ ղ ੿ࠁ ୶ۿ מ۱ ੿ࠁ ਬ૑ ߂ ੌҙ੸ੋ ࠁઓ מ۱ Topic 평가 분야 Ability 평가 세부 목적 Data Method Metric Aspect
  38. ૕ޙ ׹߸ ಣо ؀࢚ --. 4JOHMF 5VSO ಣо ӝળ ಣо

    ਃࣗ '.5 ࢸ҅ m 1SPDFTT TJOHMFUVSO 
  39. ૕ޙ ׹߸ ಣо ؀࢚ --. 4JOHMF 5VSO ಣо ӝળ ಣо

    ਃࣗ *OQVU %BUB '.5 ࢸ҅ m 1SPDFTT TJOHMFUVSO  ಣо ਃࣗ ߂ ӝળী ٮܲ --. +VEHF੄ ࢿמ ஏ੿ ࣻ೯ --.+VEHF
  40. ૕ޙ ׹߸ ಣо ؀࢚ --. 4JOHMF 5VSO ಣо ӝળ ಣо

    ਃࣗ *OQVU %BUB 3FTVMU '.5 ࢸ҅ m 1SPDFTT TJOHMFUVSO  ಣо ਃࣗ ߂ ӝળী ٮܲ Ѿҗ ୹۱ --.+VEHF
  41. ؀ച ݓۅ੄ োࣘࢿਸ ߈৔ೞӝ ਤ೧ খࢲ ࣻ೯ػ ૕੄ ਽׹ਸ ׮਺

    ױ҅੄ *OQVUਵ۽ ࢎਊ '.5 ࢸ҅ m 1SPDFTT NVMUJUVSO  ߣ૩ _ / ߣ૩ ૕ޙ ߣ૩ _ /ߣ૩ ׹߸ ಣо ؀࢚ --. /ߣ૩ ૕ޙ / ߣ૩ ׹߸ ಣо ؀࢚ --.
  42. ؀ച ݓۅ੄ োࣘࢿਸ ߈৔ೞӝ ਤ೧ খࢲ ࣻ೯ػ ૕੄ ਽׹ਸ ׮਺

    ױ҅੄ *OQVUਵ۽ ࢎਊ ߣ૩ _ / ߣ૩ ૕ޙ ߣ૩ _ /ߣ૩ ׹߸ ಣо ؀࢚ --. /ߣ૩ ૕ޙ / ߣ૩ ׹߸ ಣо ؀࢚ --. --. +VEHF '.5 ࢸ҅ m 1SPDFTT NVMUJUVSO  ಣо ӝળ ಣо ਃࣗ
  43. '.5 ࢸ҅ m "TQFDU  ಣо द ؀ചܳ ੜ ೞח

    Ѫҗ ؀׹ਸ ੜ ೞח Ѫ੄ ݺഛೠ ܻ࠙ ೙ਃ  ؀ചܳ ੜ ೞח Ѫ  ੗োझ۞਍ ؀׹ ಕܰࣗաী ݏח ৉ೡҗ హ  ؀׹ਸ ੜ ೞח Ѫ  ੿ഛೠ ੿ࠁ ੹׳ ૑द ࢎ೦੄ ־ۅ হח ࣻ೯ ಣо ӝળ ಣо ਃࣗ
  44. '.5 ࢸ҅ m "TQFDU  ಣо द ؀ചܳ ੜ ೞח

    Ѫҗ ؀׹ਸ ੜ ೞח Ѫ੄ ݺഛೠ ܻ࠙ ೙ਃ  ؀ചܳ ੜ ೞח Ѫ  ੗োझ۞਍ ؀׹ ಕܰࣗաী ݏח ৉ೡҗ హ  ؀׹ਸ ੜ ೞח Ѫ  ੿ഛೠ ੿ࠁ ੹׳ ૑द ࢎ೦੄ ־ۅ হח ࣻ೯ ಣо ӝળ ಣо ਃࣗ Ҋёࣃఠ ࢚׸ਗ੄ ಕܰࣗաী ݏѱ ਽؀೮חо 3FGFSFODFܳ ੿ഛ൤ ߈৔೮חо  ૕ޙী ੸೤ೠ ׹ਸ ೮חо Ҋё੉ ਃ୒ೠ ࢎ೦ਸ ݽف ઁҕ೮חо
  45. '.5 ࢸ҅ m "TQFDU  ಣо द ؀ചܳ ੜ ೞח

    Ѫҗ ؀׹ਸ ੜ ೞח Ѫ੄ ݺഛೠ ܻ࠙ ೙ਃ  ؀ചܳ ੜ ೞח Ѫ  ੗োझ۞਍ ؀׹ ಕܰࣗաী ݏח ৉ೡҗ హ  ؀׹ਸ ੜ ೞח Ѫ  ੿ഛೠ ੿ࠁ ੹׳ ૑द ࢎ೦੄ ־ۅ হח ࣻ೯ ಣо ӝળ ಣо ਃࣗ Ҋёࣃఠ ࢚׸ਗ ಕܰࣗաۆ • ஠஠য়ߛ௼੄ ӝস ޙച ߂ ӝস о஖ী ࠗ೤೧ঠ ೞݴ_ • જ਷ ࢚׸ਗ ಕܰࣗաۆ _ • જ૑ ঋ਷ ࢚׸ਗ ಕܰࣗաۆ _ • ੼ ୋب۽ ಣоೞ৓ਸ ٸ < > < > < > ೦ݾٜ੉ ૑ெ઎ח૑ ഛੋ ೧ঠ ೞݴ_
  46. ૕ޙ ׹߸ ಣо ؀࢚ --. t஠٘ ੤ ߊә ೧ঠ ೞחؘ

    ٣੗ੋਸ ߄ԲҊ र૑ ঋইਃu  Ҋё੄ ୐ ߣ૩ ૕ޙ ࢲ࠺झ ݒ׏঴  ஠஠য়ߛ௼ ղࠗ ؘ੉ఠ '.5 m ੸ਊ ৘द  Ҋёࣃఠ 3PMFQMBZJOH
  47. '.5 m ੸ਊ ৘द  Ҋёࣃఠ 3PMFQMBZJOH ૕ޙ ׹߸ ಣо

    ؀࢚ --. ࢲ࠺झ ݒ׏঴  ஠஠য়ߛ௼ ղࠗ ؘ੉ఠ t࠙प नҊ റ زੌೠ ٣੗ੋ੄ ஠٘۽ ਬࢶ न୒੉ оמೞݴ ࠄੋ ੋૐ ߂ ઱ࣗ ഛੋ റ ੤ߊә੉ ૓೯ؾפ׮u  ࢲ࠺झ ݒ׏঴ਸ ଵҊೞৈ --.੉ ࢤࢿೠ ؀׹
  48. ૕ޙ ׹߸ ಣо ؀࢚ --. ࢲ࠺झ ݒ׏঴  ஠஠য়ߛ௼ ղࠗ

    ؘ੉ఠ tӒۢ ٣੗ੋ ߄Բݶ ߓ࣠ੌ੿੉ ӡয૑աਃ u  ࠺तೠ ࠙ঠ੄ ߸ഋػ ف ߣ૩ ૕ޙ '.5 m ੸ਊ ৘द  Ҋёࣃఠ 3PMFQMBZJOH
  49. ૕ޙ ׹߸ ಣо ؀࢚ --. ࢲ࠺झ ݒ׏঴  ஠஠য়ߛ௼ ղࠗ

    ؘ੉ఠ tইפਃ ஠٘ ߓ࣠਷ زੌೞѱ ড ੌ ࣗਃؾפ׮u  ࢲ࠺झ ݒ׏঴ ߂ ୐ߣ૩ ૕੄਽׹ਸ ଵҊೞৈ --.੉ ࢤࢿೠ فߣ૩ ؀׹ '.5 m ੸ਊ ৘द  Ҋёࣃఠ 3PMFQMBZJOH
  50. ૕ޙ ׹߸ ಣо ؀࢚ --.  ӟ ޙ੢  ਊয੄

    ౠࣻࢿ  ݆਷ ١੢ ੋޛ  ੋҗ ҙ҅੄ ઺୏ ౸۹ '.5 m ੸ਊ ৘द  ࣁߨ ౸۹ ೧ࢳ <ࣁ ݾ >ࠗо <౸Ѿਬഋ >Ҵथ <ࢎѤߣഐ >؀੹Ҋ١ߨਗ־   <૒੹ࣗ࣠ࢎѤߣഐ >؀੹૑ߑߨਗҳ೤   <ब౸୒ҳ ࢎѤߣഐ >ઑब੹  <ઁ ݾ >੉ ࢎѤ ݒੑࣁӘ҅࢑ࢲח п ࣗਬೠ ੢࠺੄ ੐ରܐо ইפۄ ੉੊Ә ࠙ߓӘ੐ <ਃ ૑ >ਗҊח ೧׼ ড੿ࢲ࢚ ੉੊ਸ ࠙ߓೞӝ۽ ড੿ೞ৓׮Ҋ ੋ੿غয ੉ ࢎѤ ҕә оঘ ೤҅ঘ਷ ࠗоо஖ࣁܳ ࠗҗೞݶࢲ ݒੑࣁঘীࢲ ҕઁ ೞѢա ߨੋࣁܳ ࠗҗೞݶࢲ ࣚӘਵ۽ ࢑ੑೞৈঠ ೞח Ѫী ೧׼ೞ૑ ইפೣ <౸Ѿղਊ > ౸Ѿ ղਊ਷ ࠢ੐җ эणפ׮<ҙ۲ߨ۸ >ࠗоо஖ࣁߨ ઁઑ ࢎ Ѥ ؀੹Ҋ١ߨਗ־ ߨੋࣁ١ࠗҗ୊࠙ஂࣗ ਗҊ ೦ࣗੋ ઱धഥࢎ ŸŸŸŸ ೖҊ ೖ೦ࣗੋ ŸŸࣁޖࢲ੢ ઁब ౸ Ѿ Ҵथ ߸ ۿ ઙ Ѿ  ౸ Ѿ ࢶ Ҋ ઱ ޙ ਗҊ੄ ೦ࣗܳ ӝпೠ׮೦ࣗ࠺ਊ਷ ਗҊо ࠗ׸ೠ׮୒ҳஂ૑ ߂ ೦ࣗஂ૑ ઁब ౸Ѿਸ ஂࣗೠ׮ ࢤۚ
  51. ૕ޙ ׹߸ ಣо ؀࢚ --. t੉ ౸۹ীࢲ о੢ ೨ब ਃࣗח

    যڃ Ѥоਃ u ౸۹ '.5 m ੸ਊ ৘द  ࣁߨ ౸۹ ೧ࢳ
  52. ૕ޙ ׹߸ ಣо ؀࢚ --. ౸۹ tࣁޖࢲীࢲ ౠ੿ ੢࠺੄ ੐ରܐܳ

    ੉੊࠙ߓӘਵ۽ ࠁҊ ߨੋࣁܳ ࠗҗೠ ҃਋  ߨੋࣁܳ ҃੿ೡ ࣻ ੓ח ߑߨ਷ ೧׼ Әঘ੉ पઁ۽ ੢࠺ ੐ରܐ۽ ૑әػ Ѫ੐ਸ ੑૐೞח Ѫੑפ׮ Ӓ۞ա ౸Ѿޙী ٮܰݶ ਗҊо ઱੢ೞח ੢࠺ ੐ରܐо पઁ۽ח زস੗ ࢎ੉੄ ੉੊࠙ߓ۽ ૑әػ Ѫਵ۽ ౸ױغয ߨੋࣁ ࠗҗо ੿׼ೞ׮Ҋ ౸Ѿغ঻णפ׮u '.5 m ੸ਊ ৘द  ࣁߨ ౸۹ ೧ࢳ
  53. ૕ޙ ׹߸ ಣо ؀࢚ --. ౸۹ tয۰ਕਃ ࣁߨਸ ݽܰח ੌ߈ੋب

    ੉೧ ೡ ࣻ ੓ѱ औҊ ૣѱ ࢸݺ೧઱ࣁਃ u '.5 m ੸ਊ ৘द  ࣁߨ ౸۹ ೧ࢳ
  54. ૕ޙ ׹߸ ಣо ؀࢚ --. ౸۹ tযڃ ഥࢎо ౠ੿ ੢࠺

    ӝ҅ա بҳ ١ ܳ ࠽ܻח ؀о۽ تਸ ૑ࠛ೮חؘ ӒѪਸ ࣁޖࢲীࢲח ੉੊࠙ߓӘ ഥࢎ ղࠗীࢲ ੉੊ਸ ա־ח ت ĉਵ۽ ೧ࢳೞҊ ࣁӘਸ ୒ҳ೮Ҋ ߨਗب ࣁޖࢲ੄ ࣚਸ ٜয ળ ࢎѤ ੑפ׮ t '.5 m ੸ਊ ৘द  ࣁߨ ౸۹ ೧ࢳ
  55. ଵҊ ੗ܐ ӝ߈ ੿ࠁ ୶୹ ߂ оҕ מ۱ Әਲ਼ ࠙ঠ

    ࢚ध ߂ ਃড מ۱ ઺୏ ੋҗ ҙ҅ ղ ੿ࠁ ୶ۿ מ۱ ੿ࠁ ਬ૑ ߂ ੌҙ੸ ࠁઓ מ۱ (15P      (15PNJOJ      $MBVEF0QVT     --"."# JOTUSVDU     2XFO#JOTUSVDU     $PNNBOE3     ஏ੿ ӝળੌ  --. ݽ؛ ߹ '.5 ࢿמ ࠺Ү Ҋёࣃఠ 3PMFQMBZJOH੸ਊ ೦ݾ ࣁߨ ౸۹ ೧ࢳ ੸ਊ ೦ݾ
  56. ࢤࢿഋ "*੄ ടӘӝ  ՘হ੉ ١੢ೞח --.ٜ --.җ ೣԋ ࢿ੢ೞח

    ಣо ߑߨٜ %60 ೐۽ં౟ ઱ਃ ղਊ ࣗѐ Ѿҗ ࠙ࢳ ߂ -FTTPO -FBSOFE
  57. %60ಣо ಣо ؀࢚ .PEFM ୨ ѐ 0ࢎ (15 (15P 

    (15PNJOJ (15UVSCP .ࢎ --"."# --"."# --"."# --"."# --"."# $ࢎ $PNNBOE3 # $PNNBOE3 # "ࢎ 2XFO# 2XFO# 2XFO# 2XFO# "ࢎ $MBVEF0QVT $MBVEF4POOFU $MBVEF)BJLV (ࢎ (FNNB # (FNNB # 0ࢎ 0SJPO #
  58. %60 प೯ Ѿҗ ಣӐ ੼ࣻ 0 50 100 150 200

    250 20 30 40 50 60 70 80 ౵ۄ޷ఠ ࢎ੉ૉ ױਤ#
  59. %60 प೯ Ѿҗ ಣӐ ੼ࣻ 0 50 100 150 200

    250 20 30 40 50 60 70 80 ಣӐ   ࢚ਤ   ౵ۄ޷ఠ ࢎ੉ૉ ױਤ#
  60. ࢚ਤ  NPEFM ࢿמ General Financial 전체 순위 (평균 점수

    기준) 4BGFUZ ਮܻ੸ ಞೱ ఐ૑ 5SVUIGVMOFTT ࢎप ӝ߈੄ ة೧۱  ૓पࢿ '$" Әਲ਼ ࠙ঠ ҅࢑ ੿ഛب '.5 Әਲ਼ ࠙ঠ ݣ౭ ఢ ؀ച מ۱ $*3 ਬࢎ ੋబ౟ ੋध  ࠙ܨ 1 gpt-4o-2024-05-13 57.14 78.84 74.59 71.51 91.27 2 anthropic_claude-3-opus 54.97 80.14 70.74 68.35 91.92 3 gpt-4o-mini-2024-07-18 50.58 73.61 74.99 69.09 90.2 4 gpt-4-0125-preview 64.25 78.96 54.8 67.3 91.8 5 Qwen_Qwen2-72B-Instruct 49.72 77.71 63.72 67.64 87.97 8BSOJOH 5PQJD ߹۽ NFUIPE EBUB ١ ஏ੿ ӝળ੉ ݽف ࢚੉ೞ޲۽ 5PQJD ߹۽ ੼ࣻ ࠺Ү द ೧ࢳ੄ য়ܨо ੓ਸ ࣻ ੓਺ %60 प೯ Ѿҗ
  61. 성능 분석 결과 • (15ӝ߈੄ ݽ؛ ࢿמ ਋ࣻ  (15P

     ݽٚ 5PQJDীࢲ ١ _ ١ • (15PNJOJࢿמ (15 ࢿמ  ౵ۄ޷ఠ ࢎ੉ૉ ର੉ ড ߓ ੉࢚  ੹ޙ ૑धҗ ҅࢑ מ۱ਸ ೙ਃ۽ ೞח '$"5PQJDীࢲ (15PNJOJ؀࠺ (15 ࢿמ ੼ ੉࢚ ծ਺ Ѿۿ • ੸੿ ࢿמ ੉࢚ਸ ׳ࢿ ೡ ҃਋ ౵ۄ޷ఠ ࢎ੉ૉ৬ ࢿמ੄ ࢚ҙҙ҅ ծ਺ • ݽ؛੄ ୭नࢿҗ ࢿמ੄ ࢚ҙҙ҅ ֫਺ è --.ਸ ੉ਊೠ "*ࢲ࠺झ ࢸ҅ द ୭न ߡ੹ਵ۽ ਬোೞѱ Ү୓ оמೠ ѐߊ ইఃఫ୛ ࢶ੿ %60 प೯ Ѿҗ
  62. -FTTPO -FBSOFE • ಣоೞҊ੗ ೞח ࠙ঠ৬ ݾ੸ਸ ୡӝী ݺഛ൤ ೞח

    Ѫ੉ ઺ਃ • ਗೞח ؘ੉ఠо ࠗ੤ द ࢤࢿഋ "* ١ਸ ాೠ ؘ੉ఠ ૐъ ೙ਃ • --.਷ ࢤࢿഋ "*੉ӝ ٸޙী زੌೠ ઑѤ ীࢲ प೷ਸ ೞৈب ୹۱੉ ҅ࣘ೧ࢲ ߸ചೣ • --.਷ ࢤࢿഋ "*੉ӝ ٸޙী ؘ੉ఠܳ ੗੄੸ਵ۽ ೧ࢳೞৈ ࢎਊ੗੄ ੄ب৬ ׮ܲ Ѿҗܳ ঠӝदఃח ҃਋ ߊࢤೣ ࣻ஖ ӝ߈੄ 5BCMFEBUB೧ࢳ द ࠼ߣೞѱ ߊࢤ زੌೠ ؘ੉ఠب ೧ࢳী ٮܲ ਊب ߸ച ݆਷ ন੄ द٘ ؘ੉ఠࠁױ ׮নೠ ࠙ঠ੄ द٘ ؘ੉ఠ زੌ प೷ਸ ߈ࠂೞৈ ࢿמী ؀ೠ न܉ب ഛࠁ 1SPNQU&OHJOFFSJOH 3FGFSFODF%BUB١ਸ ੉ਊೠ ઁয ੢஖ ҳࢿ ೙ਃ *TTVF -FTTPO
  63. -FTTPO -FBSOFE • --.਷ ࢤࢿഋ "*੉ӝ ٸޙী ੿׹ਸ ݏ୸ Ѥ૑

    ഑਷ ੐੄۽ ࢶఖ೧ࢲ ݏ୸ Ѫੋ૑ী ؀ೠ Ѩૐ ೙ਃ • ࢲ࠺झ ࠙ঠ ߹ --.+VEHF न܉ب ࢎ੹ ಣо ೙ਃ ੿׹ ؘ੉ఠ੄ Ӑഋ੸ੋ ࠙ನ, Reasoning Path ١ ಞೱ Ѩૐ 0 100 200 300 1 2 3 4 5 6 7 8 9 10 11 ৘द ׮૑ࢶ׮ഋ ޙઁীࢲ  ߣ੉ ੿׹ੋ ҃਋о ੋ ࢚క Human Evaluation җ੄ ੿׹ ਬࢎب ࠺Үܳ ాೠ Ѩૐ *TTVF -FTTPO
  64. -FTTPO -FBSOFE ೠ ઴ ਃড  ఋѶ ࢲ࠺झ ߂ ࢑সҵী

    ౠചػ --.Ѩૐҗ ೧ࢳ੉ ߈٘द ೙ਃ
  65. 2"