OpenAI的新开放权重gpt-oss模型带有一个极其简单的提示技巧:只需添加“Reasoning: high”即可激活深度思考模式,或者在不需要全面分析时使用“reasoning: low”以获得更快的响应。(“Reasoning: medium”是默认的平衡版本。)以下是在LM Studio中如何处理的。
这些gpt-oss模型将其输出分为多个通道:“分析”显示原始的思维链,而“最终”包含经过润色的答案。因此,当你使用高推理提示时,你实际上可以看到模型在回答之前逐步解决问题的过程。
为开发者提供的额外见解
首先,Hugging Face提供了一个关于使用gpt-oss的指南。其次,你需要使用和谐响应格式来正确格式化提示。OpenAI在下面展示了这种格式的样子:
OpenAI表示,这种结构是为了让oss模型输出到多个“通道”,用于思维链、工具调用和常规响应。
他们开源了和谐渲染器用于此目的,但这个OpenAI指南讲解了如果你想自己尝试而不是通过API提供商或通过Ollama或LM Studio来使用该如何操作。