Language Model) 就有許多想像,認為可以應用在各行各業上的通用模型終於出現了,許 多人的工作都將被取代。然而隨著時間的演進,大家開始注意到這類模型的問題:容易出錯、 提供捏造的不實資訊、在專業領域無法提供精確的支援。 這些問題對應的解決方法有很多,其中一個就是針對應用的領域精調 (Fune-tune),使 其在一定領域內的正確性與有效性提升不少。最知名的例子就是 Facebook Research 推出 的 Codellama,他不僅比 llama 2 支援更多的輸入,也就是有更多的記憶能力,還在部分 程式撰寫評測的項目領先 OpenAI 的 CodeX。