微调与提示工程：选择正确的方法

为什么选择很重要

你有一个大语言模型（LLM）和一个任务：可能是对客户邮件进行分类、生成产品描述，或者回答支持问题。你可以选择精心设计一个提示词，或者用你的数据微调模型。两者都旨在提升性能，但在成本、速度和灵活性上有所不同。选错了可能会浪费数周的努力或耗尽预算。本文拆解其中的权衡，并提供一个实用的决策框架。

什么是提示工程？

提示工程是指设计输入文本来引导模型的输出。你可以使用指令、示例或思维链推理。模型的权重保持不变。你不断迭代提示词，直到结果足够好。

• 优点：无需训练，可立即迭代，适用于任何模型 API，前期成本低。
• 缺点：受上下文窗口限制，可能需要很多示例（少样本），这会增加令牌成本，性能会达到瓶颈。

提示工程通常是首先尝试的方法。对于原型设计来说，它快速且成本低。

什么是微调？

微调是在你的数据集上更新模型的权重。你提供大量输入-输出对，模型学习特定领域的模式。这可以通过 API（例如 OpenAI 微调）或在本地使用开源模型来完成。

• 优点：可以在细分任务上达到更高准确率，减少提示长度（节省令牌），可能改善延迟。
• 缺点：需要标注数据，训练需要花费金钱和时间，数据变化时需要重新训练，存在过拟合风险。

当你拥有数千个示例且任务稳定时，微调表现出色。

关键差异一览

何时使用提示工程

如果符合以下任何情况，请从提示工程开始：

1. 你在做原型。你需要快速验证想法，而不投入数据收集。
2. 你的任务很常见。摘要、翻译和简单问答通常用好的提示词就能很好地完成。
3. 你的数据有限。少于几百个标注示例。
4. 你的需求经常变化。提示词更改是即时的；微调需要重新训练。
5. 你使用多个模型。在一个模型上有效的提示词，稍作调整后通常在其他模型上也有效。

即使你最终会微调，提示工程也能帮助你理解任务和基线性能。

何时考虑微调

在以下情况下，微调变得有吸引力：

1. 你拥有大规模、高质量的数据集。至少几百个示例，理想情况下数千个。
2. 提示工程达到瓶颈。你尝试了各种提示词和少样本示例，但准确率停滞不前。
3. 你需要降低令牌成本。包含许多示例的长提示词在大规模下很昂贵；微调后的模型可以使用更短的提示词。
4. 你的任务需要专业知识。领域特定的术语、格式或推理，很难在提示词中指定。
5. 你需要一致的输出格式。微调比单纯的指令能更好地强制结构。

但要注意：微调不是万能的。如果你的数据有噪声或任务模糊，模型会学到噪声。

混合方法：RAG 和少样本

你不必只选择一种。检索增强生成（RAG）将检索器与 LLM 结合：你获取相关文档并将其包含在提示词中。这对于事实频繁变化的知识密集型任务非常有用。少样本提示（在提示词中包含示例）是微调的轻量级替代方案，适用于模式清晰的任务。

考虑这些中间方案：

• RAG：用于动态知识，无需训练。
• 少样本提示：用于少量示例就足够的任务。
• 微调 + RAG：微调用于风格和格式，RAG 用于事实。

实用决策框架

按照以下步骤进行选择：

1. 定义成功指标。准确率、延迟、每次请求成本。
2. 先尝试提示工程。花一两天迭代提示词，包括少样本示例。
3. 评估。如果指标满足需求，就停止。如果不满足，继续。
4. 评估数据。你有足够的高质量标注数据吗？如果没有，考虑数据收集或 RAG。
5. 估算成本。比较长提示词的令牌成本与微调训练和推理的成本。
6. 试点微调。如果可能，从小模型开始，衡量改进。
7. 监控和迭代。随着数据漂移，微调后的模型需要定期重新训练。

代码示例：使用 OpenAI API 进行微调

以下是一个准备数据和启动微调任务的最小示例（概念性，没有 API 密钥无法运行）：

import openai

# 以 JSONL 格式准备数据集
# 每行：{"messages": [{"role": "user", "content": "..."}, {"role": "assistant", "content": "..."}]}

openai.api_key = "your-api-key"

# 上传文件
file = openai.File.create(
    file=open("training_data.jsonl", "rb"),
    purpose="fine-tune"
)

# 创建微调任务
job = openai.FineTuningJob.create(
    training_file=file.id,
    model="gpt-3.5-turbo"
)

print(job.id)

这说明了工作流程：数据准备、上传和任务创建。实际实现因提供商而异。

成本和性能考量

微调有前期成本（训练）和持续成本（在自定义模型上推理，每令牌可能比基础模型更高）。提示工程的前期成本较低，但如果提示词很长，每次请求的成本较高。在大规模下，如果微调能显著缩短提示词，它可能更便宜。然而，如果你的任务频繁变化，重新训练的开销可能会超过节省的成本。

在性能方面，微调在细分任务上可能优于提示，但在通用任务上可能会退化（灾难性遗忘）。提示保留了模型的通用能力。

常见问题

没有大型数据集可以微调吗？

可以，但结果可能很差。微调通常需要至少几百个示例才能看到有意义的改进。示例更少时，提示工程或少样本学习更有效。

微调总是更适合生产环境吗？

不是。许多生产系统仅依赖提示工程，特别是当任务通用或数据经常变化时。微调最适合拥有充足数据的稳定、专业化任务。

如何知道我的提示词足够好？

定义清晰的指标（例如准确率、F1、人工评估），并在留出集上测试。如果提示词达到目标，就不需要微调。如果它停滞在目标以下，考虑微调或 RAG。

结论

提示工程和微调是互补的，而不是互斥的。从提示开始，穷尽其潜力，然后评估微调是否值得投资。对于许多应用来说，精心设计的提示词结合 RAG 或少样本示例，无需训练开销就能提供出色的结果。当你确实进行微调时，确保数据干净、指标清晰。

需要格式化 JSONL 训练数据？试试我们的 JSON Formatter 在上传前验证和美化你的数据集。