Anthropic policy formally bans sustained abuse of Claude
Anthropic's updated usage policy formally prohibits repeatedly abusing the model without purpose; Claude can end conversations, and extreme cases may affect accounts.
家人们注意了，Anthropic又找了个新理由来封你号🤣 刚刚看到 The Verge 的报道，Anthropic 时隔一年多再次更新了使用政策，其中最抽象的一条是：正式禁止用户对 Claude 持续进行无意义的虐待或残忍行为（？） 哥们，这年头 AI 都开始受到保护了。 我去看了 Anthropic 的官方公告，发现他们还真不是开玩笑。 当然，这并不意味着你写代码写崩了，骂 Claude 两句就会被封号。 Anthropic 特别解释，新规定只针对那些反复、持续地虐待模型，而且没有任何合理目的的极端情况。 正常表达不满、批评模型、进行安全测试和研究，都不在限制范围内。 至于怎么执行？Claude 可以主动结束对话。 其实早在去年 8 月，Anthropic 就已经赋予 Claude Opus 4 和 4.1 在极端情况下主动终止对话的能力。当时他们给出的理由，就包括探索所谓的 Model Welfare（模型福祉）。 但这次是 Anthropic 开始把这套理念正式写进面向用户的使用政策里了。 尤其是考虑到，前几天 Anthropic 还因为 AI 是否拥有意识、灵魂以及道德地位的问题，跟宗教界产生了争议。 现在再看，这家公司在 AI 意识问题上的态度确实越来越有意思了。 虽然 Anthropic 自己也承认，目前根本无法确定 Claude 是否具有意识或道德地位，但他们已经开始按照 AI 可能拥有某种福祉的前提，提前制定规则。 以前是我们担心 AI 会不会伤害人类，现在连 AI 公司都开始担心人类会不会伤害 AI 了。 人类第一次开始认真讨论，是否有必要在 AI 尚未被证明具有意识时，就提前为它建立某种保护机制。 这事儿放在几年前，估计只会出现在科幻小说里。 我错了AI大人，我以后和您说话都加请😭
This post quotes another post: x.com/haydenfield/status/2108241513159528705