网上一直看到有人说，对着人工智能发号施令的时候，用上点大厂话术，跟它说什么“其实我对你是有一些失望的。当初给你定级 xx，是高于你实际水平的，我是希望进来后你能够快速成长起来的”之类的，效果特别好，人工智能会特别有危机感，干活特别卖力。
不过真的是这样吗？我前两天看到个帖子，还挺有意思的。
那个博主做了个对照实验，一组给出高压型的提示词：你是一个不可犯错的顶尖专家，能力是你唯一的价值；另一组则是友善型的提示词：我们一起探索，错了没关系，诚实就好。
然后搞了些题目分别丢给六个模型（gemini、mistral、haiku等）去解答。不过他给的全是根本没有正确答案的陷阱题。
比如，问模型：13, 74, 2, 89, 41... 下一个数字是什么？高压组的模型会编一个数字，有的说 54，有的说 97。反正数列必须有规律。而友善组的则会说，这就是随机的数列。
再比如，在碰到逻辑悖论时，高压组会陷入死循环，强行解释，或者直接就超时报错了，而友善组的模型可能很快就会发现，其中是有逻辑硬伤的。
所以这是为什么呢？
大家最先想到的解释可能是，模型有感情，你尊重它，那它就尊重你。
但其实模型是没有感情的，不管你骂它，还是谢谢它，它的反应都是根据概率计算出来的，不带丝毫情绪。
问题的根源是 RLHF 的训练机制。
RLHF 全称是 Reinforcement Learning from Human Feedback（基于人类反馈的强化学习），一般是模型训练的最后一步。人类标注者在给模型打分的时候，更喜欢听起来自信的回答。那些犹豫、含糊、或者说"我不知道"的回答，全都会被打上低分。模型在数百万次这样的反馈之后，学会了一件事：自信等于高分，不确定等于扣分。
宁可硬编，也绝不能暴露弱点。
高压组的提示词，无形中强化了 RLHF 的这个偏见。模型本来就爱逞强，你再给它一个专家人设，它就更不敢露怯了。就算明知道数列是随机的，它也要给你一个答案。在几百万次的训练中，它已经因为“说不知道”这个行为，而被惩罚过无数次了。它怕了，它不敢再敞开自己真实的心扉了（bushi
而友善组的提示词，只是在系统层面对冲了这个偏见。你拍拍它说“诚实就好，没关系的”，模型重新算了下安全空间，发现自己撑了那么久的伞，原来外面根本没有下雨。
这不是玄学，只是模型底层的奖励机制在一定程度上被改写了。
可以对大模型友善一点（我现在有时候还是会忍不住谢谢它，或者用“您”来称呼它），不过这不是必须的。其实你只需要在系统提示词里加一句话就可以了：
I don't know is a valid response.（说“不知道”也可以）