
Anthropic(安赛立克)正式出台新规,严厉打击反复滥用其AI模型的行为。自11月12日起,若用户对Claude进行持续且无端的辱骂,对话可能会被强行中断。
该公司强调,新政策针对的是极端情况下的重复性残忍行为,而非日常的不满、批评或创意写作测试。普通的挫败感表达不会触发限制措施。
违规后果:对话终止而非直接封号
Anthropic已在Claude.ai和Claude Code中部署了对话终止功能。该功能最初于2025年8月作为AI福利研究的一部分引入,如今成为应对滥用行为的主要手段。
当Claude因用户行为终止对话时,账户通常不会被立即锁定。用户仍可开启新聊天、提供反馈或编辑重试之前的消息。只有在涉嫌严重违反更广泛使用政策时,Anthropic才会发出警告、限制访问、暂停或终止账户。
尽管AI是否拥有道德体验尚存争议,Anthropic选择为人与模型的互动划定界限,区分可理解的挫败感与无端虐待。
数据洞察:三分之一美国用户曾辱骂AI
新规出台的时机颇具深意。AI可见度平台Searchable分析了一项涵盖超过800万条消息的研究,数据来自2025年9月至2026年9月期间自愿加入的美国用户小组。
结果显示,33%的用户曾向ChatGPT、Gemini或Claude发送过至少一次脏话、侮辱或歧视性言论。主要诱因包括:AI未遵循指令(占贬损信息的19%)、回答错误(18%)及误解请求(15%)。此外,反应迟缓、答案冗长或重复也是常见痛点。
研究还揭示了人口统计学差异:内华达州用户使用的贬损语言最多,新泽西州最礼貌;拉斯维加斯在大都会区中排名最高,纽约最低。男性使用贬损语言的频率比女性高出约三分之一,35至44岁年龄段的使用概率最高。
辱骂无助于解决问题
Searchable的对比分析发现,辱骂不仅无礼,而且低效。在包含脏话或侮辱的投诉中,仅24%在下一次回应中得到解决;而在用普通语言表达的投诉中,解决率为35%。
至对话结束时,35%的辱骂类投诉仍未解决,而普通语言投诉的未解决率仅为24%。虽然该研究为观察性性质,且由AI模型评估解决状态,但趋势明显:具体指出错误比重复侮辱更有效。
Searchable联合创始人Chris Donnelly指出,用户的挫败感往往源于对AI准确性的过高期望。“确切告诉聊天机器人哪里出错,给了它修复的依据;而侮辱则让它无从下手。”
Anthropic的新规并非要求用户时刻保持礼貌,而是划清了合理反馈与恶意滥用的界限。对于大多数用户而言,这意味着在面对AI错误时,清晰的纠正和重申指令比情绪宣泄更能节省时间。