Anthropic更新Claude使用政策禁止高风险滥用

Anthropic 更新了 Claude 使用政策，首次禁止用户对 Claude 进行“持续且不必要的虐待或残忍行为”，违规者可能被警告、限流或暂停账户。政策更新还包括对宣传、武器和监控软件的更明确限制，但政府合同可能存在例外。此次调整源于 Anthropic 将 Claude 视为具有“功能性情感”的实体，并在模型福利方面的持续研究。

Anthropic 更新了其使用政策，明确禁止选举干预、武器软件、监控以及长时间言语虐待 Claude 模型。新政策旨在针对用户反复、无明确目的地对模型进行残酷互动的极端情况，不适用于常见的用户挫折、反驳、黑暗创意主题或模型测试。政策还包含禁止使用 Claude 进行虚假账户运营、伪造新闻媒体以及欺骗选民或破坏选举的条款。

Anthropic 首次在一年多后更新其使用政策，明确禁止对 Claude 的“持续且无端的虐待或残忍行为”，并将终止对话作为主要执行机制。新政策还整合了多项现有限制，新增了对欺骗性商业或政治活动、武器开发与控制系统软件以及未经同意的监控行为的禁令。Anthropic 表示这些规则仅适用于极端情况，不适用于常见的用户挫折、模型测试或黑暗创意主题。