对齐

从社交媒体到虚拟现实，个性化图像生成因其在各种应用中的潜力而日益受到关注。传统方法通常需要针对每位用户进行大量调整，从而限制了效率和可扩展性，为此 Meta 公司创新提出了“Imagine Yourself” AI 模型。传统个性化图像生成方法挑战目前的个性化图像生成方法通常依赖于为每个用户调整模型，这种方法效率低下，而且缺乏通用性。虽然较新的方法试图在不进行调整的情况下实现个性化，但它们往往过度…

感谢OpenAI 联合创始人 John Schulman 今日官宣离职，将加入人工智能初创公司 Anthropic。Schulman 在给 OpenAI 同事的告别信中表示，他选择离开是为了更专注于 AI 对齐研究，并在 Anthropic 展开新的职业篇章。他强调，离职并非因为 OpenAI 在对齐研究方面支持不足，而是个人职业发展选择。近 9 年前，Schulman 研究生毕业后加入 Open…

刚被 OpenAI 开除的泄密者，光速投奔马斯克。当事人 Pavel Izmailov（以下简称小 P），正是 Ilya 盟友之一，在 Ilya 领导的超等对齐团队干过。半个月前，小 P 被指疑似泄露 Q * 相关机密而被开除。虽然不清楚他泄密了个啥，但当时闹得沸沸扬扬。说时迟那时快，现在，他的推特个人简介上，已经大张旗鼓写着：研讨员 @xai要不说老马招人下手快呢，除了小 P，不少优秀能人近期都…

感谢面壁智能发布开源大模型 Eurux-8x22B，包括 Eurux-8x22B-NCA 与 Eurux-8x22B-KTO，主打推理能力。民间尝试中，Eurux-8x22B 在 LeetCode（180 道 LeetCode 编程真题）与 TheoremQA （IT之家注：美国大学水准的 STEM 题目）尝试上逾越了 Llama3-70B，在 LeetCode 尝试上逾越闭源的 GPT-3.5-…

为了更好地分享大模型手艺最新进展，张江科投、张江孵化器、机器之心、WAIC Circle 联合发起举办了“大模型手艺 Workshop”系列运动，邀请产学研一线大咖带来前沿观察与洞见。3月22日，大模型手艺 Workshop 第一期成功举行。本次运动环抱“Claude 3热浪来袭，一起聊聊文本大模型的重点手艺路径”开展，并得到了张江科学城商会的大力支持。张江孵化器总经理金红梅张江孵化器总经理金红梅…

超等对齐团队领导人Jan Leike播客：四年处理超等智能对齐课题，OpenAI靠什么？

随着 ChatGPT 的推出，通用人工智能的时代缓缓拉开序幕。我们第一次看到市场在追求人工智能开发者，而不是以往的开发者寻找市场。

本科毕业就加入google，还以一作身份写出了「头脑链」的开山之作，现在在 OpenAI 参与打造 ChatGPT，Jason Wei 从他的视角为年轻 AI 钻研者提供了一些建议。

AI对齐失利数据库是一个用于追踪“机械进修体系的标的与人类的设计意图不一致”实例（instance）的社区项目，该项目由安远AI发起。今天，作为该项目的运营伙伴，机械之心SOTA！模型社区正式上线「AI对齐失利数据库」华文社区站点！

长期以来，评估机器生成的文本比较困难。近日，CMU邢波（Eric Xing）教授和UCSD胡志挺（Zhiting Hu）教授的团队提出用一种运算符，分裂各类生成义务的评估方式，为未来各种新义务、新要求提供了更加分裂的指导。实验表明，基于分裂框架安排的评估宗旨，在多个义务上超过了现有宗旨与野生评分的类似度，现在通过PyPI和GitHub可以直接调用。