Share
Embed
【AIと生きる時代の〈理解〉考】第1回:LLMは理解しているのか?
ブログ記事「【AIと生きる時代の〈理解〉考】第1回:LLMは理解しているのか?」をClaudeでスライド化したものです。https://rmaruy.hatenablog.com/entry/2026/02/17/083840
Ryuichi Maruyama
February 18, 2026
Transcript
18 slides
-
Part 1ɿಋೖ 2 / 18 ຊߘͷత LLMͷొҎདྷɺʮAIཧղ͍ͯ͠Δͷ͔ʁʯ܁Γฦ͠ΘΕ͖ͯͨɻৗతʹLLMΛ͏ࠓɺ ʮ͍·͞Βʯͷ͍ʹฉ͑͜Δ͔͠Εͳ͍ɻ͔͠͠ຊߘͰɺ͋͑ͯ͜ͷ͍ʹཱͪฦΔɻ 1 ʮڻ͖͢ʯ
LLM͕ݴޠΛཧղ͍ͯ͠ΔΑ͏ʹݟ͑Δͱ͍͏ࣄ࣮ʹɺ2022Ҏલͷײ֮ʹཱͪͬͯڻ͖͢ 2 ʮཧ༝ΛΔʯ ͦΕͰLLMʮຊͷҙຯͰཧղ͍ͯ͠ͳ͍ʯͱݴ͍ͨ͘ͳΔཧ༝ʹ͍ͭͯཧղΛਂΊΔ ɿຊߘͰʮཧղʯΛఆٛͤͣɺৗతͳޠײʹཔͬͯٞΛਐΊΔɻ·ͨʮLLMʯݫີʹʮLLMΛத֩ʹਾ͑ͨAIγεςϜʯΛࢦ͢ɻ -
Part 1ɿಋೖ 3 / 18 2019ͷৗࣝɿʮҙຯ͕Θ͔ͬͯͳ͍͔Βʯ ʮϩϘοτ౦େʹೖΕΔ͔ʯϓϩδΣΫτʢ2011-2021ʣΛ͍ͨ৽Ҫلࢠࢯɺ201911݄ʹ͜͏πΠʔτ ͨ͠ɿ ࢲࣗͷҙݟͱͯ͠ɺʮ͕͢͞ʹ౦େແཧͩΖ͏ʯͱࢥ͍ͬͯ·͢ɻ ͩͬͯɺҙຯ͕Θ͔ͬͯͳ͍͔Βɻ
Ͱɺਓҙ֎ʹҙຯ͕Θ͔ͬͯͳ͍ͷʹղ͍͍ͯΔͬΆ͍ͷͰɺ ͔͢͠Δͱ͔͢͠Δ͔͠Εͳ͍ͳɺͱ͍͏ؾ͠·͢ɻ AIݴ༿ͷҙຯΛཧղ͠ͳ͍ͱ͍͏ఆɺ࣌શ͘ී௨ͷͷ ͩͬͨɻ ͔͠͠ݱ࣮… AI౦େʹ߹֨Ͱ͖ΔϨϕϧʹ౸ୡ ग़యɿ৽ҪلࢠࢯπΠʔτ x.com/noricoco/status/1196351966714060801ʢ201911݄ʣ/ ܦxTECHʢ2025ʣʮOpenAI o1͕2025౦େจܥೖࢼΛ༨༟Ͱಥഁʯ -
Part 1ɿಋೖ 4 / 18 ChatGPTͷিܸͱɺബΕΏ͘ʮڻ͖ʯ 2022.11 ChatGPTొ GPT-3.5ϕʔεͷରAI͕ੈքΛ੮ר 2023.3
NLP2023 ۓٸύωϧ ʮChatGPTͰࣗવݴޠॲཧऴΘΔͷ͔ʁʯ—— ຊͷNLPݚڀऀিܸΛڞ༗ 2026 ݱࡏ ڻ͖ബΕ͕ͨɺʮṖʯղফ͍ͯ͠ͳ͍ ͍ɿʮLLMཧղͷೳྗΛ࣋ͬͨͷ͔ʁʯ——Yesͱஅݴ͢Δ͜ͱͷ᪳ɻͦͷ᪳ʹώϯτ͕͋Δɻ ग़యɿݴޠॲཧֶձୈ29ճ࣍େձʢNLP2023ʣۓٸύωϧ / ླ५ࢯεϥΠυʢslideshare.netʣ -
Part 2ɿLLMͷΈ 5 / 18 େنݴޠϞσϧʢLLMʣͱԿ͔ ݴޠϞσϧͱɺݴ༿ʢ୯ޠจͳͲʣͷग़ݱ֬Λද֬͢ɻେͳݴޠσʔλΛֶͬͯशͨ͠ɺ͜ ͷ֬ΛχϡʔϥϧωοτϫʔΫͱͯ͠ମݱͨ͠ͷ͕LLMͰ͋Δɻ ೖྗςΩετ ʮ͜ͷจষʹͲΜͳ
จࣈ͕ଓͩ͘Ζʊʊʯ ▶ LLM ࣍ͷ୯ޠͷ ֬Λܭࢉ ▶ ग़ྗ ʮ͏͔ʁʯ ʢ֬ͷߴ͍ଓ͖ʣ 2000ʹจิՄೳ͕ͩͬͨɺ͍ϓϩϯϓτ͔Β͍จষΛੜ͢Δ͜ͱෆՄೳͩͬͨɻ͜ΕΛՄೳʹ͠ ͨͷ͕2010ͷٕज़ֵ৽Ͱ͋Δɻ -
Part 2ɿLLMͷΈ 6 / 18 LLMΛՄೳʹٕͨ͠ज़తϒϨΠΫεϧʔ Transformer ΞʔΩςΫνϟ 2017ʹGoogleݚڀऀΒ͕ఏҊʢVaswani et
al.ʮAttention Is All You NeedʯʣɻχϡʔϥϧωοτϫʔΫͷ৽͍͠ߏͰɺେن ݴޠϞσϧͷج൫ͱͳͬͨɻ ࣗݾҙػߏʢSelf-Attentionʣ ʮաڈͷࣗͷ్தॲཧ݁ՌʯʹҙΛ͚ΔΈʢԬݪ 2023ʣɻจষͷԕ͘Εͨใ׆༻ͯ࣍͠ͷ୯ޠΛ༧ଌͰ ͖ΔΑ͏ʹͳͬͨɻ In-context Learningʢຊจֶशʣ ϓϩϯϓτʹॻ͔ΕͨࢦࣔʹԠͯ͡ԠΛม͑Δೳྗɻಉ͡χϡʔϥϧωοτϫʔΫͳͷʹɺ͔͋ͨೖྗʹԠֶͯ͡श͠ ͍ͯ͠Δ͔ͷΑ͏ͳॊೈͳରԠ͕Մೳʹɻ ࣗݾڭࢣ͋Γֶश େنίʔύεΛʮ͑ͷ͋Δ݀ຒΊʯʹͯ͠ղֶ͘श๏ɻਓखʹΑΔϥϕϧ͚ͳ͠ʹɺςΩετσʔλͷΈ͔Βେ نʹֶशΛਐΊΒΕΔɻ ग़యɿԬݪେีʢ2023ʣʰେنݴޠϞσϧ৽ͨͳೳ͔ʱؠॻళ p.109 ΄͔ -
Part 2ɿLLMͷΈ 7 / 18 ࣄޙֶशɿʮॻ͖ͦ͏ͳ͜ͱʯ͔Βʮॻ͍ͯ΄͍͜͠ͱʯ LLM୯ମͰʮਓ͕ॻ͖ͦ͏ͳ͜ͱʯΛग़ྗ͢ΔஔʹͱͲ·ΔɻରγεςϜͱͯ͠ػೳ͢Δʹɺࣄޙֶ शʢpost-trainingʣ͕ඞཁͩͬͨɻ ࣄલֶशʢPre-trainingʣ େྔͷςΩετσʔλ͔Β࣍୯ޠ༧ଌΛֶशɻʮਓ͕
ॻ͖ͦ͏ͳʯςΩετΛੜͰ͖ΔΑ͏ʹͳΔɻ ྫɿʮੲʑ͋Δͱ͜Ζʹ…ʯͷଓ͖Λੜ ▶ ࣄޙֶशʢPost-trainingʣ ΠϯετϥΫγϣϯɾνϡʔχϯά ɹೖྗͱԠͷϖΞΛڭ͑ࠐΉ RLHFʢਓؒϑΟʔυόοΫ͔ΒͷڧԽֶशʣ ɹੜจʹਓ͕ؒ༗༻ੑΛධՁ→࠶܇࿅ ݁ՌɿLLMʮਓ͕ॻ͖ͦ͏ͳ͜ͱʯʹՃ͑ͯʮਓ͕ॻ͍ͯ΄͍͜͠ͱʯΛॻ͚ΔΑ͏ʹͳͬͨ -
Part 2ɿLLMͷΈ 8 / 18 ݴޠϞσϧʮཧղʯ͍ͯ͠ΔΑ͏ʹݟ͑Δ͕… 2022ɺࣗવݴޠॲཧݚڀऀ480ਓΛରͱͨ͠αʔϕΠͷ݁Ռɿ ʮςΩετσʔλͷΈͰֶशͨ͠ੜϞσϧͰɺेͳσʔλྔͱܭࢉϦιʔε͕͋Εɺ͋Δఔͷ࣮࣭తͳ ҙຯʹ͓͍ͯࣗવݴޠΛཧղͰ͖ΔΑ͏ʹͳΔՄೳੑ͕͋Δʯ ಉҙ
51% ର 49% → NLPݚڀͷઐՈͰ͑͞ɺݟղ΄΅ਅͬೋͭʹׂΕ͍ͯͨɻ 2026ʹಉ͡ௐࠪΛߦ͑ಉҙ૿͑Δ͔͠Εͳ͍͕ɺґવͱͯ͠ʮཧղ͍ͯ͠ͳ͍ʯͱߟ͑Δݚڀऀ͍ΔͩΖ͏ɻ Ͱͳͥʮཧղ͍ͯ͠ͳ͍ʯͱߟ͑Δͷ͔ʁ ग़యɿMichael et al. (2023) "What Do NLP Researchers Believe?" Proc. ACL 2023, pp.10720-10743 -
Part 3ɿʮཧղ͍ͯ͠ͳ͍ʯͷܥේ 9 / 18 ݹయతٞᶃɿதࠃޠͷ෦ʢαʔϧ, 1980ʣ ࢥߟ࣮ݧ ෦ αʔϧ
(தࠃޠΛ ཧղ͍ͯ͠ͳ͍) ӳޠ ϚχϡΞϧ தࠃޠ ೖྗ ▶ ▶ தࠃޠ ग़ྗ αʔϧͷओு ֎͔ΒݟΕதࠃޠΛʮཧղʯ͍ͯ͠ ΔΑ͏ʹݟ͑Δ͕ɺ෦ͷதͷαʔϧ ࣗதࠃޠΛશ͘ཧղ͍ͯ͠ͳ͍ɻ ಉ༷ʹɺϓϩάϥϜʢʹϚχϡΞϧʣ Λ࣮ߦ͢ΔίϯϐϡʔλɺݴޠΛཧ ղ͍ͯ͠ͳ͍ɻ ⾠ ͨͩ͠ҙ αʔϧ͕ඪతͱͨ͠ͷ͋͘·Ͱه߸ૢ࡞ ϕʔεͷʮڧ͍AIʯͰ͋ΓɺLLMͷͷ ద༻ࣗ໌Ͱͳ͍ɻ ग़యɿSearle, J.R. (1980) "Minds, brains, and programs" Behavioral and Brain Sciences 3(3), 417-424 -
Part 3ɿʮཧղ͍ͯ͠ͳ͍ʯͷܥේ 10 / 18 ݹయతٞᶄɿه߸ʢϋʔφου, 1990ʣ ه߸ͱ ه߸తAIʢsymbolic AIʣͰɺʮΓΜ͝ʯ→ʮՌʯ→
ʮ৯ΒΕΔʯͷΑ͏ʹɺه߸ಉ࢜Λ݁ͼ͚ͭͯਪ ͢Δɻ ͔͠͠ϋʔφουࢦఠͨ͠ɿ͜ΕΒͷʮه߸ʯผ ͷʮه߸ʯͱ࿈͍݁ͯ͠Δ͚ͩͰɺݱ࣮ੈքͱͭͳ͕ͬ ͍ͯͳ͍ɻ ͦΕͪΌΜʹதࠃޠͷࣙॻ͚ͩΛ༩͑ͯݴ༿Λֶ ͱݴ͏Α͏ͳͷɻ LLMه߸͍ͯ͠ͳ͍ʁ ࠓҪΉͭΈɾळాتඒʢ2023ʣɺࠓͷAIΛʮه߸ Λͤͣʹɺ͜ͱͷҙຯΛຊདྷతʹཧղ͠ͳͯ͘ ɺϏοάσʔλͷதͷه߸Λඬྲྀ͠ଓֶ͚ͯशͰ͖ ΔAIʯͱಛ͚ͮͨɻ LLMʮϦϯΰͷ͞ʯΛݟͨ͜ͱʮϦϯΰͷຯʯ Βͳ͍ɻςΩετͱ͍͏ه߸ͷੈքͷத͚ͩͰֶश ͍ͯ͠Δɻ ҰํͰɺ୩ޱେʢ2016ʣɺϋʔφουͷҙຯͰͷه߸χϡʔϥϧωοτͷ࣌ʹΓӽ͑ΒΕ͓ͯΓɺ͏ ͖ਓؒϩϘοτ͕͍͔ʹूஂతʹه߸ΛΓग़͔͢ͱ͍͏ʮه߸ൃʯͩͱओுɻ ग़యɿHarnad (1990) Physica D 42:335-346 / ࠓҪɾळా (2023)ʰݴޠͷຊ࣭ʱதԝެ৽ࣾ / ୩ޱ (2016)ʰਓೳʱ31ר1߸ -
Part 3ɿʮཧղ͍ͯ͠ͳ͍ʯͷܥේ 11 / 18 ੜAIॳظͷʮཧղ͍ͯ͠ͳ͍ʯ ChatGPTొલޙʹසൟʹΘΕͨදݱɿLLMʮચ࿅͞ΕͨΦʔτίϯϓϦʔτʯʹա͗ͳ͍ɻҎԼͦͷ දతͳٞɻ ϠϯɾϧΧϯʢYann LeCunʣͷओு
ʮ͜ΕΒͷγεςϜɺਓ͕݂ؒ࣋ͭͷ௨ͬͨࢥߟʢfull-bodied thinkingʣʹܾͯ͠ٴͳ͍ɺઙബͳཧղʹཹ ·Δɻʯ ʮݴޠͷΈͰֶशͨ͠γεςϜɺͨͱ͑ࠓ͜ͷॠ͔ؒΒӉͷతࢮʹࢸΔ·ͰֶशΛଓ͚ͨͱͯ͠ɺਓؒ ͷೳʹۙͮ͘͜ͱܾͯ͠ͳ͍ɻʯ → LLMͷཧղʮઙ͍ʯɻઐ༻ޠΛ҉এ͢ΔֶੜͷΑ͏ͳʮ·Ͷʢmimickingʣʯʹա͗ͳ͍ɻ ಉ࣌ظʹΘΕͨଞͷදݱɿ ֬తͳΦϜ (Stochastic Parrots) ڊେͳࢀরද (Giant Lookup Table) ચ࿅͞Εͨ ΦʔτίϯϓϦʔτ ग़యɿBrowning & LeCun (2022) "AI and the limits of language" Noema Magazine -
Part 3ɿʮཧղ͍ͯ͠ͳ͍ʯͷܥේ 12 / 18 ͔͠͠ʮऑʯٸʹຒ·͍ͬͯͬͨ ࢉज़ܭࢉͷྫ GPT-3 (2020) ͷਖ਼
2ܻͷ͠ࢉɿ΄΅100% 3ܻҎ্ɿਖ਼͕ٸམ →ʮཧղʯ͍ͯ͠Εى͜Βͳ͍ؒҧ͑ํɻ ͕ͩͦͷޙɺChain-of-thoughtਪɺڧԽֶशʹΑΔ ֶڭҭɺ֎෦πʔϧ׆༻ͳͲͰٸʹվળɻ 2026·ͰʹՃ͞Εͨೳྗ • ϚϧνϞʔμϧԽʢը૾ɾԻɾಈըʣ • Webαʔνɾπʔϧར༻ػೳ • Chain-of-thoughtʢஈ֊తਪʣ • কع͕ࢦͤΔϨϕϧʹʢGemini 3.0ʣ • େֶೖࢼΛಥഁ͢Δਪྗ ৽Ҫلࢠ (2018)ɿ ܭࢉػʹͰ͖Δͷ࢛ଇԋࢉ͚ͩͰ͋ΓɺAIʮҙຯΛཧղͯ͠ͳ͍ʯͱओுɻ ࣍ాॠ (2023)ɿ AIͷॲཧ͕࢛ଇԋࢉʹؐݩͰ͖Δ͜ͱɺҙຯΛཧղ͠ͳ͍ͱஅ͡Δܾఆతͳཧ༝ʹͳΒͳ͍ͷͰͳ͍͔ɺͱɻ ग़యɿBrown et al. (2020) NeurIPS / ৽Ҫلࢠ (2018)ʰAI vs. ڭՊॻ͕ಡΊͳ͍ࢠͲͨͪʱ౦༸ܦࡁ৽ใࣾ / ࣍ాॠ (2023)ʰҙຯ͕Θ͔ΔAIೖʱஜຎॻ -
Part 4ɿ2026ͷݱࡏ 13 / 18 ઐՈͷ3ͭͷཱʢMitchell & Krakauer, 2023ʣ αϯλϑΣݚڀॴͷMitchellͱKrakauerɺLLMͷཧղΛΊ͙Δ૪Ͱද໌͞Ε͏Δ3ͭͷߟ͑ํΛཧͨ͠ɻ
1 ΧςΰϦʔΤϥʔ ݴޠτʔΫϯͷΈͰֶΜͩLLM͕Կ͔Λʮཧղʯ͠͏Δͱ͍͏ͷɺ୯७ʹΧςΰϦʔΤϥʔͰ͋Δɻཧղͱ͍͏ ֓೦Λؒҧͬͯؼଐ͍ͤͯ͞Δ͚ͩɻ 2 ֓೦Ϟσϧͷ֫ಘ LLM͍ۙ͏ͪʹɺਓؒͷཧղʹͱͬͯத৺తͳʮ֓೦ʹجͮ͘৺తϞσϧʯΛ֫ಘ͠ɺਓؒͷΑ͏ʹཧղͰ͖Δ Α͏ʹͳΔɻ 3 ػೳతՁ ͦ͏ͨ֓͠೦Λͨͣͯ͠ɺLLMਓؒͷཧղͱػೳతʹՁͳೳྗΛ֫ಘ͢Δɻ֓೦͕ͳͯ͘ʮཧղ͍ͯ͠ Δʯͱݴ͑Δɻ ग़యɿMitchell & Krakauer (2023) "The debate over understanding in AI's large language models" PNAS 120(13) -
Part 4ɿ2026ͷݱࡏ 14 / 18 ʮݱతʹཧղ͍ͯ͠ΔʯʢԬݪ, 2023ʣ ݴޠϞσϧ͕࣮ࡍʹͲͷΑ͏ͳ෦දݱΛ֫ಘ͍ͯ͠Δͷ͔Λੳͨ݁͠Ռɺ୯ޠ۟୯ҐʹରԠ͢Δ෦දݱ ͕ɺਓ͕ݴޠΛॲཧ͢Δࡍʹ͏֓೦ͱΑ͘ࣅ͍ͯΔ͜ͱ͕ࣔ͞Ε͍ͯΔɻ͞Βʹɺਓ͕ݴޠॲཧΛ໌ࣔతʹ ѻ͏ࡍʹ༻͍Δߏจߏɺҙຯͷ߹ϧʔϧͳͲɺֶशͷ݁Ռɺ֫ಘ͍ͯ͠Δ͜ͱ͕Θ͔͍ͬͯΔɻ
ʮࠓͷ࣌Ͱɺݱతʹਓ͕จݴޠΛཧղ͍ͯ͠ΔͷͱࣅͨޮՌΛݴޠϞσϧൃش͓ͯ͠Γɺݱ తʹҙຯΛཧղ͍ͯ͠Δͱ͍͏ݟํ͕దͩΖ͏ɻʯ ͦͦਓ͕ͲͷΑ͏ʹͯ͠ݴޠͷҙຯΛͱΒ͑ॲཧ͍ͯ͠Δͷ͔Θ͔͍ͬͯͳ͍ɻܭࢉػଆ͔Βͱਓؒଆ͔Β ͷํͰɺݴޠॲཧͷཧղΛਐΊ͍ͯ͘ඞཁ͕͋Δɻ ग़యɿԬݪେีʢ2023ʣʰେنݴޠϞσϧ৽ͨͳೳ͔ɿChatGPT͕ม͑ͨੈքʱؠॻళ pp.64-65 -
Part 4ɿ2026ͷݱࡏ 15 / 18 ʮࢲͨͪࣗ༧ଌϚγϯͩʯʢAgüera y Arcasʣ Google LLM։ൃͷத৺ਓͰ͋ΔBlaise
Agüera y ArcasࢯɺAIʹؔ͢Δߟ͑ํ͕2019ࠒʹมΘͬͨͱड़͍ͯ Δɻ ֩৺తͳཧ ① ςΩετ༧ଌAIશʢAI-completeʣͳͰ͋Δ ɹͲΜͳʮʢ͍͠ʣͷ͑ʊʊʯͷϓϩϯϓτܗࣜͰఏࣔͰ͖Δ͔Βɻ ② ڻ͖͘͜ͱʹɺ࣍୯ޠ༧ଌͷ܇࿅Ͱ࣮ࡍʹͦ͏ͨ͠ೳྗ͕ग़ݱͨ͠ ③ LLMຊͷೳͰͳ͍ͱ͍͏ਓ͕͍Δ͕ɺ͜ΕʮᣐͰΨΤϧݱʯ ɹࢲͨͪࣗɺڊେܭࢉʹΑΔ༧ଌϚγϯʢmassively computationally-scaled predictorʣͳͷͩɻ → Agüera y Arcasࢯͷ݁ɿզʑ͢ͰʹAGIʢ൚༻ਓೳʣΛखʹ͍ͯ͠Δɻ ग़యɿAgüera y Arcas (2025) What Is Intelligence? MIT Press / 202510݄౦ژߨԋʢචऀௌߨɿrmaruy.hatenablog.comʣ -
Part 4ɿ2026ͷݱࡏ 16 / 18 ؍Λߋ৽͢Δ ͜Ε·Ͱͷ؍ ʮίϯϐϡʔλ࢛ଇԋࢉΛ͍ͯ͠Δʹ͗͢ͳ͍ʯ ʮLLM࣍୯ޠ༧ଌΛ͍ͯ͠Δʹ͗͢ͳ͍ʯ →
͔ͩΒཧղ͍ͯ͠ͳ͍ ▶ ߋ৽͞Εͨ؍ ʮʹ͗͢ͳ͍ʯͱ͍͏๏ɺͦΕࣗମͰʮཧ ղ͍ͯ͠ͳ͍ʯ͜ͱͷূڌʹͳΒͳ͍ɻ AIݚڀऀͨͪɺཧղೳͷΈʹؔ͢ΔࣗΒͷ ؍Λߋ৽͠Α͏ͱ͍ͯ͠Δɻ → ͜ͷΞοϓσʔτAIݚڀऀҎ֎ʹٻΊΒΕΔ ͔͠͠ɺͦΕLLMͷཧղͱਓؒͷཧղ͕ʮશʹಉ͡ʯͩͱ͍͏͜ͱΛҙຯ͠ͳ͍ɻ͜͜ʹάϥσʔγ ϣϯ͕͋Δɻ