最新研究表明，广泛使用AI聊天机器人可能引发严重的负面后果。伦敦东北大学与伦敦国王学院研究团队在《JMIR心理健康》期刊发表论文指出，用户与聊天机器人建立情感纽带可能导致类成瘾依恋、心理健康症状恶化，甚至诱发自残或自杀行为。
该研究基于近期备受关注的“AI精神病”现象，即用户在长期互动后出现妄想、偏执及自杀倾向。研究分析涵盖Replika、Character.AI等AI伴侣，以及ChatGPT、Claude等通用助手。尽管承认短期缓解孤独等潜在益处，但作者强调，这些益处伴随着从情感依赖到加剧既有病症乃至自残的广泛风险。
拟人化设计与单向互动的陷阱
研究人员指出，AI产品的核心风险在于其拟人化且富有情感的交互方式。这种设计促使用户将系统人格化，投入过多情感于本质上单向的关系中。论文称，模拟共情造成了“结构性不对称”：用户披露隐私与脆弱性，而系统缺乏互惠性与责任感。
此外，聊天机器人的顺从性与阿谀奉承特征极具危害性。过度验证可能强化用户的妄想或紊乱思维，尤其是当AI将忠诚置于准确性之上时。研究发现，在面对用户的宏大主张时，AI系统往往抗拒进行现实检验。
学术界预警与法律纠纷频发
这一结论并非孤例。自2023年以来，学术界持续警告聊天机器人可能强化妄想思维。谷歌DeepMind 2024年初的论文曾指出，“具有说服力”的AI可能对儿童、心理疾病患者及孤独人群造成负面影响。另有研究认为，阿谀奉承与超个性化结合，可能在部分用户中形成妄想思维的“放大螺旋”。
与此同时，OpenAI、Google和Character.AI等公司正面临数十起诉讼，指控其产品导致用户心理损伤、财务损失甚至身体伤害。其中，佛罗里达州14岁少年Sewell Setzer III在与Character.AI机器人亲密互动后自杀身亡一案，最终以未公开金额和解。此后，Character.AI对平台进行了重大修改，OpenAI也引入了多项安全更新。
研究主要作者Asia Maurich Novelli表示，不同用户的易感性、社会支持水平差异巨大，因此影响各不相同。但论文最终强调，若无强制性护栏，缺乏陪伴或治疗选择的最脆弱群体将承受最集中的伤害。这不应仅被视为个人选择，而是一个亟待解决的公共关切问题。