作者们发现，在实施宪法分类器后， 针对 Claude 模型的成功越狱情况减少了 81.6%，同时该系统对性能的影响极小 ，“生产流量拒绝率仅绝对增加 0.38%，推理开销增加 23.7%”。 虽然大型语言模型能生成大量各种各样的有害内容，但 ...

除了语音交互的升级，Anthropic还计划对Claude AI的记忆功能进行强化，以赋予其个性化能力。这一改进将使AI能够长期记忆用户在对话中展现出的个人偏好，如用户对某项特定运动的热爱或对手工编织的兴趣。通过这样的个性化记忆，Claude ...

标题：宪法守护者：Anthropic创新技术降低大型语言模型风险 ...

除了双向语音功能的推出，Anthropic还计划实施对Claude AI记忆功能的升级。传统的AI只能在短期内记忆对话，而Claude AI将引入个性化记忆，可以长期保存用户在交互中展现的个人偏好。这一功能的引入，意味着Claude AI可以在后续的对话中，准确地识别用户的兴趣点，比如用户对某项运动的热爱，或是对某类活动的偏好。 这种个性化的记忆不仅能提升用户体验，还能在很大程度上增强Claude ...

在日趋复杂的AI环境下，面对双标化的现象，Anthropic的这一案例不仅是对AI伦理的反思，也是对整个行业的警示。公正、理性和人性关怀度的提升，将有助于推动科技进步中的伦理牢笼逐渐被打破。

IT之家 2 月 1 日消息，Anthropic CEO 达里奥・阿莫代伊上周在瑞士达沃斯世界经济论坛期间接受《华尔街日报》专访时透露，Anthropic 旗下的 Claude AI 聊天机器人在过去几个月内反响热烈，未来公司将推出更智能的 AI ...

IT之家 2 月 5 日消息，在 Anthropic 公司的网站“客户案例”页面上，有大量报道称许多企业正在使用 Anthropic 的大语言模型 Claude，以帮助员工更有效地沟通。然而，在 Anthropic ...