小狮博客2020年1月，OpenAI的Jared Kaplan、Sam McCandlish、Tom Henighan等人发表了里程碑论文《Scaling Laws for Neural Language Models》
(arXiv.org) 。该研究系统性地探索了语言模型性能随模型参数量（N）、训练数据量（D）和计算量（C）的幂律关系，提出了以下核心公式：
2020年1月，OpenAI的Jared Kaplan、Sam McCandlish、Tom Henighan等人发表了里程碑论文《Scaling Laws for Neural Language Models》
(arXiv.org) 。该研究系统性地探索了语言模型性能随模型参数量（N）、训练数据量（D）和计算量（C）的幂律关系，提出了以下核心公式：