模型选型最常见的两个极端：所有任务都用最强模型，或者为了省钱全部换成小模型。前者成本失控，后者效果不稳定。更合理的做法是按任务分层。
一、先给任务分层
可以把文本任务粗略分为四层：
小模型 vs 大模型：成本与效果的选择框架
不是所有任务都需要最强模型。用任务复杂度、调用量、延迟和容错率做分层选型。
不是所有任务都需要最强模型。用任务复杂度、调用量、延迟和容错率做分层选型。
模型选型最常见的两个极端：所有任务都用最强模型，或者为了省钱全部换成小模型。前者成本失控，后者效果不稳定。更合理的做法是按任务分层。
可以把文本任务粗略分为四层：