LLM时代的小模型思考:《What is the Role of Small Models in the LLM Era: A Survey》论文笔记
论文:WhatistheRoleofSmallModelsintheLLMEra:ASurvey作者:LihuChenetal.单位:ImperialCollegeLondonAbstract问题:扩大模型大小会导致计算成本和能耗呈指数级增长,这使得这些模型对于学术研究人员和资源有限的企业来说不切实际小型模型(SMs)经常用于实际环境中,引发了关于小模型在LLM时代的作用的重要问题,且关注有限方法