Anthropic 更新了Claude 的使用规则，将于11 月 12 日生效。新功能中有一项不同寻常的限制：用户不得再对聊天机器人进行长时间的、无端的、辱骂性的或残忍的行为。
然而，这些变化远不止于用户与其助手之间的关系。新规收紧了对将Claude用于武器、监控和选举虚假信息宣传活动的限制，并对那些将人工智能连接到能够造成人身伤害的机器人上的用户提出了具体要求。
克劳德，禁止虐待的规定只适用于极端情况。
新的禁令涵盖了对 Claude 的持续且不必要的辱骂或残忍行为——也就是说，用户无缘无故地持续对聊天机器人进行谩骂的极端情况。
然而，日常生活中正常的挫折，甚至是对答案或创意写作测试的严厉反馈，只要不会导致账号被举报，就不属于该规则的范畴。
Claude 还将保留阻止辱骂性对话的功能，这项功能源于 Kyle Fish 领导的关于所谓“模范幸福感”的研究。
无人机、监控和选举：克劳德的新禁令
现有的禁止使用克劳德开发武器的禁令现在也适用于自主无人机的制导软件和控制组件。在监控方面，将无法使用该助手追踪个人或向执法部门提供逮捕目标建议。
选举规则也已收紧：禁止开展欺骗性的影响活动，例如运营虚假新闻媒体、监控自动化账户以及散布有关投票方式的虚假信息。新规适用于所有用户，但特定政府合同除外。
武器和监控方面的改变是在 9 月份发布的一份威胁报告之后进行的，该报告详细描述了与政府有关的团体试图利用 Claude 进行生物武器研究、在乌克兰进行网络攻击以及监控政治异见人士。
克劳德旁边的机器人是人类操作员。
此外，还有一条专门针对开发者的规则。任何将 Claude 连接到可能造成人身伤害的机器人或机械的人员，都必须在附近配备一名操作员，以便在与人工智能的连接中断时随时接管控制权。
想了解人工智能领域的最新消息，请访问GizChina的人工智能版块，阅读我们的最新文章。