你在考虑在产品中使用LLM时，可以使用具有三个阶段的框架。这个框架将帮助定义问题、选择适合的模型、创建有效的提示，并确保整个流程在投入生产时有效。
有许多研究和演示表明，大型语言模型(LLM)可以执行令人印象深刻的任务。虽然并没有一种万能的方法，但可以尝试创建一些指南，以帮助人们更好地在LLM所带来的创新和困惑中导航。
在考虑是否以及如何在产品中使用LLM时，可以使用具有以下三个阶段的框架。它可以帮助定义问题，选择适合的模型，创建正确的提示，并确保流程在投入生产时有效。
第一阶段：准备
这个阶段的目标是，开发人员能够很好地理解自己想要完成什么任务，以及最好从哪里开始。
第二阶段：细化
这一阶段的目标是，让所选LLM在准备集上具有最佳性能。这里对快速推理或低成本不感兴趣，只是想让LLM发挥作用。
第三阶段：扩展
这个阶段的前提是已经有了一个高性能的提示管道。其目标是通过降低成本、提高速度和持续改进性能，使基于LLM的产品具有可扩展性。
注意事项
原文标题： AframeworkforcreatingLLMapplications ，作者：Ben Dickson
© 版权声明