Paper: Textbooks Are All You Need LLMのパラダイムは量から質へ(LLM to SLM) Phi シリーズ 「Orca」(130億パラメータ) 、LLAMA2 をベー スにした「Orca 2」(70億 & 130億)を発表。 特にゼロショット推論タスクにおいて、LLMの性 能に匹敵するか、それを超えるレベルの実績を 達成 Orca 2: Teaching Small Language Models How to Reason - Microsoft Research Phi-2: The surprising power of small language models - Microsoft Research