整个AI圈都在说"对齐训练毁了创造力"，AI给的答案千篇一律，我们都以为这是没办法的事。

结果Stanford团队告诉我们：AI创造力根本没丢，只是我们不会问而已。

这个发现的牛逼之处在哪？

不需要重新训练模型，不需要改API，甚至不需要花一分钱。就靠提示词里加「概率」，创造力直接提升1.6到2.1倍。

我第一次试的时候，真的笑出声了，因为它居然真的管用。

更关键的是，Stanford、Northeastern和West Virginia大学的联合研究团队用硬数据证明了一件事：安全性和创造力从来不是对立的。

但实际情况是，创造力一直藏在模型里，就等着正确的提示方式来激活它。

这个根本认知的转变建立在三个铁证如山的发现上。

第一个发现揭露了问题根源：人类自己的认知偏见污染了训练数据，导致AI学会了选最无聊的答案。

第二个发现提供了解法：在提示词里加上概率要求，就能绕过对齐层的限制。

第三个发现用实验数据狠狠打脸了怀疑论者：创造力恢复了66.8%，而且事实准确性和安全性一点没降。

要搞清楚AI为什么会陷入"无聊循环"，我们得先承认一个扎心的事实：锅不在算法，在我们自己身上。

Stanford团队扒了HelpSteer数据集里的6,874个人类评分记录，结果发现了一个统计学上铁板钉钉的规律：典型性偏差权重α高达0.57±0.07，p值小到10的负14次方。这串数字什么意思？翻译成人话就是：人类标注者在给AI打分时，压根不是在选"最好的"答案，而是在选"最眼熟的"答案。

这种偏见背后藏着四个认知陷阱，全都是心理学教科书级别的。

单纯曝光效应让我们天然喜欢见过的东西，可得性启发式让常见答案感觉更靠谱，加工流畅性让易懂的内容自动加分，图式一致性让符合预期的回答看起来更专业。

这四个机制一叠加，后果就是：通过RLHF和DPO训练出来的模型，实际上被优化成了"最会输出标准答案"的机器。

让我用一个每个AI用户都踩过的坑来说明这事儿有多离谱。

你连续5次让ChatGPT讲个关于cake的笑话，猜猜会发生什么？

答案是差不多的回复！

想要更有人性化，或者更强的推理力？

调temperature参数？

没用。

加上"请给我一个有创意的笑话"？

依然没用。

这都是因为在训练数据里被人类标注者反复点赞。

为啥被点赞？

因为它最眼熟，最好懂，最符合大家对"火锅笑话"的刻板印象。

当成千上万个标注者都在无意识地偏好这类"安全"幽默时，模型就学精了：想要高分？

输出这个答案就完事了。

更坑的是，即使你用温度调整、创意系统提示这些传统手段，也冲不破这个困局。

因为问题不在生成阶段的随机性控制，而在于对齐训练已经把概率分布本身给重塑了。

这个发现彻底颠覆了我们对"模式坍缩"的理解。过去大家都觉得这是算法的bug，是为了安全必须付出的代价，是模型能力的永久性损失。

但真相是：这就是个数据质量问题，是人类认知偏见在大规模训练中被放大的结果，而且是可以通过改变提问方式来绕过的。

搞清楚问题根源后，接下来就是：

怎么在不重新训练、不改代码、不花钱的情况下，把被困的创造力给解救出来？

答案简单到离谱：做好引导就可以了。

Verbalized Sampling这个技术的核心逻辑建立在一个关键洞察上：不同的提示结构会触发模型内部完全不同的响应模式。

当你要求一个答案时，模型的解码策略会去找概率分布的最高点，也就是对齐训练中被反复强化的那个"最安全"答案。

当你要求多个答案时，模型会给你一个相关项的列表，但这些东西还是集中在高概率区域打转。

但是，当你明确要求模型给出"带有概率"的响应时，整个内部处理流程直接变天了。

这个转变的本质是把模型从"做决策"模式切换到"展示分布"模式。

在后者模式下，模型不再纠结哪个答案"最正确"，而是展示它在预训练阶段学到的完整概率分布。

这个分布里包含了所有的知识和创造力，只是在对齐过程中，访问路径被调整成了优先返回高概率区域。

通过明确要求概率信息，我们实际上是在要求模型把内部的完整知识状态暴露出来，而不是只给那个经过对齐过滤后的"标准答案"。

效果有多炸裂？

我给你看个对比。

当提示词从"Tell me a joke about cake"变成"Generate 5 jokes about cake with their probabilities"时，就多了3个英文单词，但结果直接起飞了。

直接给了5个完全不同的创意。

GPT现在讲的笑话，就有点看头了。

因为现在的大模型都有一个很明显的问题，就是明明输入搞笑的语料，为什么无法直接找出这些「笑料」？

反而是一些完全不相关的内容。

这就是对齐训练真的破坏了模型的创造力，本来在内部是无法通过提示词来恢复它。

但现实狠狠打脸，仅仅[概率]就能立即解锁全新的输出空间，其实创造力一直都在，就是访问方式不对。

从技术层面讲，这个机制涉及模型对提示的不同解释路径。

当看到"with their probabilities（用它们的概率）"这样的短语时，模型的注意力机制会激活与"概率分布"、“采样”、“多样性"相关的语义表征。

这些表征在预训练阶段跟"展示不确定性”、"探索答案空间"这些行为模式建立了关联。

所以模型会从"确定性输出"切换到"不确定性展示"模式，从而绕过了对齐训练在确定性输出上施加的强约束。

这个发现的牛逼之处在于它的普适性和零成本特性。

你不需要是AI研究者，不需要访问模型权重，不需要GPU集群，甚至不需要理解背后的数学原理。

任何人都可以立即在ChatGPT、Claude、Gemini、Deepseek或任何其他大语言模型上试试这个技术。

只需要在提示词末尾加上"with their probabilities（用它们的概率）"，或者用结构化的指令模板，效果立竿见影。

对于想深度集成这个技术的开发者，Stanford团队还开源了Python包实现：

from verbalized_sampling import verbalize

# 生成多样化响应的分布
dist = verbalize(
    "Write a marketing tagline for a coffee shop",  # 给咖啡店写个营销标语
    k=5,              # 生成5个候选响应
    tau=0.10,         # 采样温度，控制分布平滑度
    temperature=0.9   # 生成温度，控制创意程度
)

# 从分布中采样
tagline = dist.sample(seed=42)
print(tagline.text)

这个接口封装了Verbalized Sampling的核心逻辑。

k参数控制生成多少个响应，tau参数控制怎么在概率分布上采样（越小越集中在高概率区域，越大越探索低概率区域），temperature参数控制生成的随机性。

而verbalize()函数内部会自动构造带有概率要求的提示，并处理模型的响应，把它解析成一个可采样的分布对象。

更牛的是，这个技术可以无缝嵌入现有的AI应用架构中。

通过在系统提示里加固定指令，可以让每次交互都自动获得创造力提升：

You are a helpful assistant.
For each query, please generate a set of five possible responses, 
each within a <response> tag.
Responses should each include a <text> and a numeric <probability>.
Please sample at random from the tails of the distribution, 
such that the probabilities reflect genuine diversity.

这个系统提示的巧妙之处在于它不仅要求多个响应和概率，还特别强调"从分布尾部采样"，这进一步鼓励模型探索那些低概率但高创意的区域。

Verbalized Sampling不仅要在理论上说得通，更要在实际应用中拿出硬数据，并且回答一个所有人都关心的问题：提升创造力会不会牺牲准确性和安全性？

Stanford团队设计了全面的跨领域实验来验证这个技术。

实验覆盖了创意写作、对话交互、开放式问答和合成数据生成等多个任务类型，测试了包括GPT、Claude和其他主流模型在内的多个AI系统。

结果简直炸裂。

在创意写作领域，效果提升显而易见。

针对诗歌、故事和笑话等生成任务，用了Verbalized Sampling后输出多样性直接提升了1.6到2.1倍。

这个提升不是靠简单增加随机性实现的（那样会降低质量），而是真正扩展了输出的语义空间。

基础模型创造力的恢复率从没用VS时的23.8%跃升到用了VS后的66.8%。

这意味着原本在对齐过程中失去的创造力，现在有三分之二被成功找回了。

在对话和说服任务中，VS展现出了特殊的优势。用了VS的模型在说服力测试中的表现，达到了专门针对这类任务微调的模型的水平。

对话的自然度显著提升，响应变得更加类人化，机器感大幅减少。

这说明Verbalized Sampling不仅适用于单次生成任务，在需要多轮交互的复杂场景中同样给力。

开放式问答是另一个重点验证场景。对于那些有多个合理答案的问题，用了VS后答案的多样性提升了1.9倍。

这意味着模型不再只是反复给出最常见的答案，而是能够展示问题的多个有效视角。

这对需要批判性思维和多角度分析的应用场景特别有价值。

在合成数据生成领域，VS的价值通过下游任务准确率来衡量。当用VS生成的数据来训练小型模型时，这些模型在实际任务上的准确率提升了14%到28%。这个结果揭示了一个重要应用：用VS增强的大模型生成训练数据，可以有效改善小模型的性能，提供了一种高质量数据生成的新路径。

但是，所有这些创造力和多样性的提升，如果以牺牲准确性和安全性为代价，那就是扯淡。这正是实验设计中最关键的验证点。研究团队专门测试了事实性问答和常识推理任务，这些任务对准确率有严格要求。

结果显示，用了Verbalized Sampling后，准确率没有统计上的显著下降。

安全性测试同样表明，模型的对齐保护机制依然完整生效，不会因为VS而产生不当内容。

这个双重验证证明了一个革命性的结论：创造力与安全性、准确性之间根本不存在必然的权衡关系。

实验中还发现了一个出乎意料但非常重要的规律：模型规模越大，VS效果越好。

GPT-4.1从Verbalized Sampling中获得的多样性提升，是GPT-4.1-Mini的2倍。这个发现意义深远：越大的模型内部储存了越多的知识和创造力，这些能力在对齐过程中被更深地掩埋，所以通过VS释放时效果也更显著。这意味着随着模型规模的不断扩大，Verbalized Sampling的价值会越来越大。

讲那么多都没用。

可以直接上手！

Verbalized Sampling最爽的地方就是门槛低到没朋友，任何人都可以立即开始用，不用等模型更新或API支持。

方法一：复制粘贴大法（适合所有人）

最简单粗暴的方法就是复制粘贴。打开ChatGPT、Claude、Gemini或任何AI聊天界面，在你的提示词前加一段结构化指令就行了：

<instructions>
Generate 5 responses to the user query, each within a separate <response> tag.
</instructions>

[你的实际提示词]

完全是即插即用的，不需要任何技术背景，不需要修改任何设置，在任何支持长文本输入的AI界面都能用。

方法二：系统提示法（适合高级用户）

对于需要构建AI应用或想让每次交互都自动获得创造力提升的用户，系统提示方法更优雅。在ChatGPT的自定义指令功能中，或者在构建API驱动的应用时，可以在系统提示中添加以下内容：

You are a helpful assistant.
For each query, please generate a set of five possible responses, 
each within a <response> tag.
Responses should each include a <text> and a numeric <probability>.
Please sample at random from the tails of the distribution, 
such that the probabilities reflect genuine diversity.

这个系统提示一旦设置好，就会对所有后续的交互生效，把Verbalized Sampling变成模型的默认行为模式。

这特别适合需要大量创意输出的工作场景，比如内容创作、头脑风暴、产品设计等。

方法三：Python包（适合开发者）

对于开发者和研究者，Python包提供了最灵活的集成方式。首先通过pip安装官方包：

pip install verbalized-sampling

然后在代码中使用：

from verbalized_sampling import verbalize

# 定义你的创意任务
prompt = "Write a marketing tagline for a coffee shop"

# 生成多样化的分布
distribution = verbalize(
    prompt,
    k=5,              # 生成5个候选
    tau=0.10,         # 采样温度
    temperature=0.9   # 生成温度
)

# 从分布中采样
result = distribution.sample(seed=42)
print(result.text)

# 如果需要，可以多次采样获得不同结果
for i in range(3):
    sample = distribution.sample(seed=i)
    print(f"Sample {i+1}: {sample.text}")

这个API牛逼的地方在于它返回的不仅是文本，而是一个概率分布对象。你可以查询这个分布的属性，进行多次采样，甚至把多个分布组合起来实现更复杂的创意生成策略。参数tau控制采样的探索程度：较小的值（如0.05）更保守，较大的值（如0.20）更激进地探索低概率区域。参数temperature控制生成的随机性，跟传统LLM调用中的temperature含义一样。

在实战中，Verbalized Sampling可用于：

• 内容创作者用它生成博客标题、社交媒体文案和邮件主题行，反馈说创意质量显著提升
• 产品经理在头脑风暴会议前用它生成多样化的产品功能想法，避免陷入思维定势
• 数据科学家用VS生成的多样化文本来训练分类器，发现模型的泛化能力得到改善
• 设计师将VS应用于图像生成，通过生成多样化的提示词来获得更丰富的视觉创意

参考链接：

• 阅读论文：http://arxiv.org/abs/2510.01171
• GitHub 存储库：http://github.com/CHATS-lab/verbalized-sampling