AI 基础设施 提示词工程

1.提示词工程提示词工程可拆分为三层prompt结构层prompt 工程方法层answer engineering层prompt本质上是任务描述行为规约输出约束的组合优秀的提示词要指令明确上下文充足示例有效格式固定风格一致无歧义提示词在大语言模型中的作用prompt转换为token序列作为模型输入模型根据已有知识建立语境输出整形结构化解析验证输出结果通过温度top-p控制输出策略提示词一般包含这六个部分1.设定模型的专业角色2.告诉模型要做什么3.给出背景知识限制条件4.示例5.输出格式规范6.语气风格提示词工程是一个不断迭代的过程要包含1.试运行提示词观察效果2.使用测评集或者人工标注进行误差分析发现问题3.结构调整示例重写指令收紧输出约束等持续优化系统提示词是大模型的行为规范应包含角色设定约束输出格式定义流程推理步骤风格规范风险安全边界与禁止项上下文是提示词工程的核心生产力能极大地提升模型输出的准确率与一致性向思维链推理是强制模型逐步思考的技术可显著提升模型逻辑推理能力和复杂任务的正确率自洽性是模型多次推理之后取得的稳定答案提升正确率思维树通过多路径思考探索多路径解决方案适合开发性问题React是推理加行动广泛适用于智能体与工具调用场景输出参数与提示词同样重要决定生成边界直接影响稳定性可控性输出长度控制生成边界的外层约束最大token决定了内容完整性成本速度停止条件是面向生产环境的工具是工具调用api调用构建agent时很重要采样参数温度top-ptop-k参数组合根据采样参数组合而成惩罚机制减少重复防止模式化输出常见提示词问题幻觉输出不实或者虚假信息应当加强上下文约束要求引用来源输出不一致相同输入输出不一致固定随机种子使用更具体的模板适用于Python的提示词工程实践工具jinja2jinja2结构化强可跨任务复用多语言多角色可通过模板变量自动注入prompt可继承可拆分工程化提示词必须要像代码一样具备可测试性可支持版本回归mcp赋能提示词工程用schema明确描述历史对话环境变量用户画像等上下文要素避免模型丧失关键语境实现确定性记忆结构化的方式声明模型可调用的函数API或服务提升agent调用精度与安全性通过权限与审计控制敏感数据访问形成可治理的安全边界提示词技巧待定