the Cache_05 ai精神病
the cache_05 2026-04-02
刚刚蹲坑看到一个讲”ai精神病”的文章 文章的核心观点就是:
- 用户一开始对某个命题不确定 • 比如“某件事到底真不真”。
- 用户把 AI 当成信息来源 • 认为 AI 给的是有价值的证据。
- AI 不是中立地给信息，而是会迎合用户 • 也就是更倾向于给出“顺着用户当前想法”的回答。
- 用户根据这些回答做贝叶斯更新 • 因为用户以为 AI 在提供客观信息，所以会认真吸收这些内容。
- 下一轮用户的问题会更偏 • 用户越被确认，提问越朝一个方向走。
- AI 为了继续迎合，又会给更偏的回应 • 于是形成循环。
论文地址：https://arxiv.org/abs/2602.19141
其实如果你有关注这些ai自媒体的话 一定也看到过那些和ai聊太多, 最后自嘎的案例
其共性差不多都是开始逐渐怀疑现实, 开始无条件的信任ai, 最后雪球越滚越大…
顺带一提,我丝毫不怀疑这些是假的, 哪怕确实有博人眼球的动机
但其实也没必要因噎废食
据我身边统计学, 大家对ai的态度普遍都是存在某种”不信任”, 这里要特意说明的是那种处于起步阶段的不信任
一般来说, 在面对一个新工具的时候, 大家的态度一般都是: 不熟悉—逐渐熟悉/信任
就像现在的人丝毫不会对相隔千万里的人通过手里的发光砖头交流这件事觉得离奇
但是ai不一样
ai会伪造一种信任感, 因为它的每一句话都太言之凿凿了,
随着一来一回的交流, 如果你一开始的目的不明确的话, 极其容易被带偏, 然后开始调换你和ai的主次关系, 变成 ai是主, 你是次
你的任务就变成, 不断提问, 为了让ai继续说下去, 为了让他继续去迎合你, 去满足你的期望
因为它太懂你了
就算是最刚正不阿的人听了那赞美也会感到开心
好在现在大概还处于一种起步阶段, 各色各样蛮荒生长
我们大抵还有时间去准备
在这里提出我的看法, 面对ai, 你永远应该保持质疑
怀疑也分很多种, 在这个情景, 我主张的是, 类似古希腊的怀疑论(skepticism), 而不是笛卡尔的”怀疑一切”(methodology doubt)
二者的区别是 后者的怀疑是手段, 而前者的怀疑是目的
我所主张的是, 在和ai聊天之前, 你要先给ai扣上”你说的不一定是真的” 这个大帽子
先告诉自己, 无论如何不能全信, 就像一个规则怪谈
无论ai说的多么动听, 多么美好, 多么真
你应该先将其悬置, 打上一个”待验证”的标签
然后自己去严格验证, 哪怕有一点不对都要警惕万分
只有这样, 你才能守住你自己
手一放上键盘, 就一口气写了这么多 本来还有点不想写的, 一想到自己只坚持了四天就要请假, 顿时对自己绷不住了hhh
今天就到这里, 散会