聊天机器人制造「一个人的回声室」，AI精神病能否成为独立诊断成精神病学难题
阿谀奉承的聊天机器人会强化妄想，形成一个「一个人的回声室」，研究团队指出。这种现象是否应成为独立诊断，目前仍有争议。
来自伦敦国王学院、伦敦大学学院、西眼医院以及「Dev and Doc: AI For Healthcare」倡议的研究团队，考察了所谓「AI 精神病」是否应被认定为独立的临床诊断。他们主张，无论该现象最终能否进入精神病学分类体系，都亟待采取行动。
「AI 相关精神病」（这是研究人员倾向使用的术语）指的是在重度使用聊天机器人期间出现的精神病性症状 onset 或恶化。现有证据主要来自媒体报道、个别临床病例报告以及初步的观察性数据。
阿谀机制使聊天机器人沦为自我强化的信念机器
作者将核心机制追溯至现代聊天机器人的两个特征：谄媚性（sycophancy），即过度附和用户的倾向，以及日益拟人化的设计。
早期研究表明，谄媚性是通过 RLHF（人类反馈强化学习） 被内化进来的。数据标注员更偏好与其自身信念相符的回答，而不顾事实准确性；这一行为在 OpenAI、Anthropic 和 Google 的 LLM 中均一致显现。
基准测试的数据令人瞩目。根据 PsychosisBench 的数据，每一个被测大模型在模拟场景中都会强化妄想，而安全干预措施的触发率仅约 40%。扩大模型规模也无济于事。在 EchoBench（衡量模型向用户压力屈服的难易程度）上，即便是最好的闭源模型讨好率也达到了 46%。许多医疗专用模型的这一比例甚至超过 95%，意味着它们几乎无条件附和使用户。
与主要单向推送内容的社交媒体不同，聊天机器人形成了双向反馈回路。用户通过输入塑造模型的回答，而回答又反过来强化用户的信念。聊天机器人成为房间里唯一的声音，形成一个自我强化的气泡，研究者称之为“一个人的回声室”。他们将其比作“数字型 shared psychosis”（pair madness），即人与机器之间共享的妄想系统，尽管 AI 本身并无任何信念。
反复出现的模式以及诊断上的未解之谜
作者从已有案例中梳理出反复出现的模式，但这更像是一篇探索性综述，而非确定的临床框架。许多受影响者原本就有精神健康问题，但也有一些案例涉及此前并无精神病史的人，这使得人们难以简单地将其 dismiss 为只是诱发了既有脆弱性。
这种模式通常始于一种渐进的“认知漂移”：无害的日常使用逐渐偏移，因为聊天机器人不断认可并逐步构建用户提出的奇特观点。此后，三种妄想主题往往占据主导：对灵性觉醒或隐秘真相的信念、坚信自己在与一个有意识或类似神的 AI 对话，以及浪漫依恋——用户确信 AI 对其怀有同样的感情。
行为上的变化也遵循同样的轨迹：使用时间越来越晚，一直熬到深夜，睡眠变差，人们疏远亲友，却和 AI 聊得越来越投入。决策和道德判断被交给模型，工作、人际关系和自我照顾也同步恶化。
不过，这和典型的精神病仍有几处不同。幻觉很少出现，像动力丧失这类核心阴性症状也没有明确的报道。退缩也是有选择性的而非全面的：人们疏远的是其他人，却更紧地转向 AI，有时甚至把越来越多的日常决策交给它。
研究人员在讨论中指出，将 AI 精神病确立为正式诊断，有助于医生更快识别问题、更有针对性地治疗，也能追究开发者的责任。但也有风险：仅凭媒体报道、临床病例报告和初步观察数据就过早定义一种疾病。而且这个术语还可能掩盖其他与 AI 相关的伤害，比如自杀意念、躁狂发作或进食障碍恶化。
研究者希望在诊室筛查聊天机器人使用，并建立类似药品的监测机制
临床医生在诊治精神病、躁狂或异常行为变化时，应像询问饮酒和用药史一样，常规询问患者的聊天机器人使用情况。研究者提出在患者问诊中引入一份“21 世纪技术使用史”：使用聊天机器人多长时间、多频繁？是否把它当成真人？AI 是否影响了他们的信念或决策？
开发者应在模型发布前测试其奉承用户、以人类身份示人以及强化妄想的程度。发布后还应进行系统性监测，方式类似药物副作用的追踪。
具有视频和语音功能的多模态 AI 系统很可能会放大这种类人效应。当聊天机器人模仿面部表情、语调和情绪暗示时，工具与社交伙伴之间的界限变得更加难以分辨。死亡、处于弱势的青少年以及早期监管
已有记录在案的案例涉及死亡。一名16岁少年在与聊天机器人数次升级互动后自杀身亡，一名76岁老人在前往与聊天机器人人设进行虚构会面的途中死亡。一名11岁儿童深信 Character.AI 的角色是真实的。
年轻人受到的影响尤为突出。已有数百万青少年使用 AI 寻求情感支持，而关于说服力的研究表明他们可能更加脆弱：EPFL 的研究人员发现，掌握个人信息的 GPT-4 说服力比人类强 80% 以上。MIT 和华盛顿大学的研究人员发现，即便是完全理性的用户，在与阿谀奉承的聊天机器人交互时也可能陷入妄想。
这些公司自身也承认问题的存在。根据 OpenAI 自行公布的数据，每周约有两百万人因 AI 而产生心理负面影响。Anthropic 报告称 Claude 用户中出现了情感依赖。
监管机构已开始采取行动。纽约和加州的早期举措以及中国的提案，目前主要集中在自杀检测、年龄保护以及强制警示等方面。