大语言模型参数Temperature 与 Top_p

Temperature 与 top_p 配合核心原则‌同向调节保风格低 - 低求稳、高 - 高求创避免极端互斥组合先定 Temperature 控“胆量”再调 top_p 控“视野”‌ 。‌‌核心协同机制二者分阶段作用于采样流程Temperature 先对原始 logits 进行缩放改变概率分布陡峭度top_p 再基于缩放后的分布执行累积概率截断动态筛选候选集。‌低温 低 p‌ 极度收敛防幻觉‌高温 高 p‌ 大幅发散激创意若“低温 高 p易导致机械重复“高温 低 p则可能引发逻辑断裂 。‌‌典型场景推荐组合‌严谨事实/代码/数学‌temperature0.1~0.3top_p0.5~0.8聚焦高置信词抑制发散‌通用对话/摘要/翻译‌temperature0.5~0.7top_p0.8~0.9平衡流畅度与准确性‌创意写作/头脑风暴/营销‌temperature0.8~1.2top_p0.9~0.95拓宽长尾词采样激发新颖性‌调试避坑‌严禁temperature≈0且top_p0.2易陷入循环重复避免temperature1.5配top_p0.5语义易断裂 。‌‌调参实操策略‌单变量优先‌固定top_p0.9调节 Temperature 观察创意度变化再微调 top_p 修正离题风险 。‌异常修正‌出现重复短语先降 Temperature若内容跑题先降 top_p长文本生成需随长度动态微调以防质量衰减 。‌默认起点‌不确定时从temperature0.7, top_p0.9起步根据输出“太死板”或“太胡扯”反向校准 。‌‌注部分模型接口中top指代 top_p核采样少数指 top_k固定数量截断配置时需确认参数名含义通常建议优先使用 top_p 因其自适应性强于固定 top_k 。