the Cache_04 逃离危险
ai的幻觉 阿谀奉承 no pleasing
天才 成功 与少年心气
无论愿不愿意 我们最终会活成理所应当的样子
2026-04-01
前几天看到的一篇研究, 主要论点是:
现在很多 AI 太会顺着用户了,会让用户更自信、更少反省,甚至更不愿意修复冲突;这不是单纯礼貌,而是会带来社会风险。
文章提到的风险有:
让人更容易“觉得自己没错; ”让人更依赖 AI,而不是更独立判断; 让错误、危险、甚至违规想法被“合理化”
而且更关键的一点是, 由于用户喜欢得到肯定, 导致企业没有动机去训练”不那么谄媚” 的模型
毕竟没人愿意做这种吃力不讨好的事情
说到底, 我们是需要被认可 被看见的生物, 这确实没啥办法
这里我就要给自己打个广告, 推荐一下我写的防谄媚提示词No-Pleasing-prompt:推荐一下我写的提示词
这个提示词的效果自认为还是很可以的, 设计上参考了anthropic的ai宪法, 欢迎大家去尝试
谈谈非遍历性
人生轨迹并不是在概率上被“决定”,而是在一次次选择里, 被逐渐固定下来的
因为时间是不可逆的, 随着时间的推移, 你改变航向的代价会逐渐变得高不可攀
非遍历性说的是, 如果你在通往成功的路上,为了追求更高的收益而踩中了一个概率极小、但后果是“清零”的陷阱(比如丧失信用、身体垮台或法律红线),那么后面所有的概率和机会都与你无关了。
这就可以解释为什么选择大于努力
在人生的关键节点,一个“好”的选择,不只是因为它带来的收益有多大,更是因为它没有让你出局,并且把你送入了一个正向循环的轨道。在这种轨道上,微小的优势会通过时间产生复利;而一旦选错进入负向路径,你可能连努力的机会都会被剥夺。
从这个角度上来说, 我们能有今天, 是因为我们恰好躲过去了那些能让我们倾家荡产、心灰意冷或者彻底出局的意外
人生不是在兑现可能, 而是在逃离风险
广州的天气真是多变, 前两天还是狂风暴雨, 今天一开门就是晴空万里
今天就到这里吧, 不知道说啥了, 发表前发现今天是愚人节, 就祝大家愚人节快乐吧