Investing.com -- 网约车公司Lyft与AI公司Anthropic宣布建立合作伙伴关系，共同开发新产品以提升数百万用户的出行体验。此次合作将专注于开发以客户为中心的AI产品和功能，服务于Lyft超过4000万年度乘客和100多万名司机。

近日，人工智能领域再迎创新之举，Anthropic发布了名为“宪法分类器”的安全工具，旨在有效管控大型语言模型的输出，防止其生成有害内容。在这一工具的背后，是对人类价值观的深刻思考与实际操作的结合，时代呼唤更具人性化的智能科技。

近日，人工智能领域的知名人物约翰·舒尔曼（John ...

Schulman 是去年众多从 OpenAI 离职的高层之一，其他知名专家包括首席技术官 Mira Murato、首席科学家 Ilya Sutskever。Jan Leike 是前 OpenAI 超级对齐小组的联合负责人，该小组致力于让其 AI ...

人工智能公司 Anthropic 近日宣布开发了一种名为“体质分类器”的新安全方法，旨在保护语言模型免受恶意操纵。该技术专门针对“通用越狱”——一种试图系统性绕过所有安全措施的输入方式，以防止 AI 模型生成有害内容。

图片来源：UnsplashOpenAI 联合创始人 John Schulman 在仅仅五个月后，上周离开了人工智能初创公司 Anthropic， 据 《财富》 报道，他将加入 前 OpenAI 首席技术官 Mira Murati ...

机器之心报道编辑：杜伟、泽南距离他加入 Anthropic，仅仅过去了半年时间。本周四消息，去年刚刚加入知名 AI 创业公司 Anthropic 的 OpenAI 联合创始人约翰・舒尔曼 (John Schulman) ...

克雷西 发自 凹非寺量子位 | 公众号 QbitAI 跑去隔壁Anthropic的OpenAI联创John Schulman，又又又跳槽了。 《财富》爆料，Schulman新的去向，是加入原OpenAI首席技术官Mira Murati的新创业公司。

作者们发现，在实施宪法分类器后， 针对 Claude 模型的成功越狱情况减少了 81.6%，同时该系统对性能的影响极小 ，“生产流量拒绝率仅绝对增加 0.38%，推理开销增加 23.7%”。 虽然大型语言模型能生成大量各种各样的有害内容，但 ...

NO.1 亚马逊被曝准备发布新一代AI助手Alexa 近日，据外媒报道，亚马逊正准备推出新一代AI助手Alexa。据报道，亚马逊计划在2 月26 日的活动中公布预览升级版的 ...

另外，据Schulman透露，OpenAI将人类反馈强化学习（RLHF）引入ChatGPT的想法可以追溯到2017年，当时Jan Leike和Dario Amodei等人发表的一篇论文提到了这个方法。

IT之家 2 月 8 日消息，OpenAI 联合创始人 约翰・舒尔曼（John Schulman）上周离开了人工智能初创公司 Anthropic ，在该公司仅仅待了五个月。据《财富》杂志报道，他将加入 OpenAI 前首席技术官米拉・穆拉蒂（Mira Murati）的神秘新公司。