Anthropic已更新其使用政策，明确禁止用户对Claude AI模型施加“持续且无谓的虐待或残忍行为”。根据新规，虽然普通的挫败感表达、批评及对抗性测试仍在允许范围内，但反复的虐待行为可能导致账户受到限制。
Anthropic方面承认，目前并无证据表明Claude具备感受痛苦的能力。然而，鉴于AI意识领域仍存在诸多未知，公司认为采取预防措施是必要的。这一举措随即引发业界争议。批评者指出，该政策存在将软件拟人化的倾向，不仅可能助长用户对AI产生不健康的情感依赖，也引发了关于用户应如何与其付费产品互动的疑问。
此举进一步抛出了一个值得深思的伦理命题：若AI无法明确感知痛苦，虐待行为是否仍构成伦理问题？抑或，Anthropic此举意在规范的，实则是人类自身的行为边界？