AI在线 AI在线

对齐

什么样的偏好，才叫好的偏好？——揭秘偏好对齐数据的「三驾马车」

什么样的偏好，才叫好的偏好？——揭秘偏好对齐数据的「三驾马车」
论文有两位共同一作。 何秉翔，清华大学博士一年级，研究方向为大语言模型对齐、强化学习。 张文斌，哈尔滨工业大学博士一年级，研究方向为自然语言处理。
4/15/2025 10:51:00 AM
机器之心
Meta 公司发布 Imagine Yourself：无需为特定对象微调的个性化图像生成 AI 模型

Meta 公司发布 Imagine Yourself：无需为特定对象微调的个性化图像生成 AI 模型
从社交媒体到虚拟现实，个性化图像生成因其在各种应用中的潜力而日益受到关注。传统方法通常需要针对每位用户进行大量调整，从而限制了效率和可扩展性，为此 Meta 公司创新提出了“Imagine Yourself” AI 模型。传统个性化图像生成方法挑战目前的个性化图像生成方法通常依赖于为每个用户调整模型，这种方法效率低下，而且缺乏通用性。虽然较新的方法试图在不进行调整的情况下实现个性化，但它们往往过度拟合，导致复制粘贴效应。Imagine Yourself 创新Imagine Yourself 模型不需要针对特定用户微
8/23/2024 1:41:31 PM
故渊
OpenAI 联合创始人 John Schulman 离职，加入 AI 创企 Anthropic

OpenAI 联合创始人 John Schulman 离职，加入 AI 创企 Anthropic
感谢OpenAI 联合创始人 John Schulman 今日官宣离职，将加入人工智能初创公司 Anthropic。Schulman 在给 OpenAI 同事的告别信中表示，他选择离开是为了更专注于 AI 对齐研究，并在 Anthropic 展开新的职业篇章。他强调，离职并非因为 OpenAI 在对齐研究方面支持不足，而是个人职业发展选择。近 9 年前，Schulman 研究生毕业后加入 OpenAI，成为创始团队的一员。这是他工作过的第一家也是唯一一家公司。“我相信，即使没有我，OpenAI 和团队也将继续蓬勃发
8/6/2024 9:34:31 AM
汪淼
OpenAI 泄密者，投奔马斯克

OpenAI 泄密者，投奔马斯克
刚被 OpenAI 开除的泄密者，光速投奔马斯克。当事人 Pavel Izmailov（以下简称小 P），正是 Ilya 盟友之一，在 Ilya 领导的超级对齐团队干过。半个月前，小 P 被指疑似泄露 Q * 相关机密而被开除。虽然不清楚他泄密了个啥，但当时闹得沸沸扬扬。说时迟那时快，现在，他的推特个人简介上，已经大张旗鼓写着：研究员 @xai要不说老马招人下手快呢，除了小 P，不少优秀人才近期都被马斯克揽入麾下。看热闹的网友炸开了锅。夸他的人不少，称他干得漂亮：也有人嫌弃死了，觉得雇佣泄露机密信息的人，这行为无异
5/7/2024 1:37:34 PM
汪淼
面壁智能发布 Eurux-8x22B 开源大模型：代码性能超越 Llama3-70B

面壁智能发布 Eurux-8x22B 开源大模型：代码性能超越 Llama3-70B
感谢面壁智能发布开源大模型 Eurux-8x22B，包括 Eurux-8x22B-NCA 与 Eurux-8x22B-KTO，主打推理能力。官方测试中，Eurux-8x22B 在 LeetCode（180 道 LeetCode 编程真题）与 TheoremQA （IT之家注：美国大学水准的 STEM 题目）测试上超越了 Llama3-70B，在 LeetCode 测试上超越闭源的 GPT-3.5-Turbo。▲ 官方测试结果据介绍，Eurux-8x22B 模型激活参数 39B，支持 64k 上下文，是由 Mixtr
5/3/2024 11:53:08 PM
泓澄（实习）
来自一线大咖的前沿观察与洞见，大模型技术 Workshop 第一期活动举行

来自一线大咖的前沿观察与洞见，大模型技术 Workshop 第一期活动举行
为了更好地分享大模型技术最新进展，张江科投、张江孵化器、机器之心、WAIC Circle 联合发起举办了“大模型技术 Workshop”系列活动，邀请产学研一线大咖带来前沿观察与洞见。3月22日，大模型技术 Workshop 第一期成功举行。本次活动围绕“Claude 3热浪来袭，一起聊聊文本大模型的重点技术路径”展开，并得到了张江科学城商会的大力支持。张江孵化器总经理金红梅张江孵化器总经理金红梅介绍，作为张江集团向“卓越的创新策源和产业发展生态综合服务商”战略转型中聚焦创新策源的主要板块，张江科投坚持以产业促进为
3/27/2024 10:21:00 AM
新闻助手
企业数据，大语言模型和矢量数据库

企业数据，大语言模型和矢量数据库
随着 ChatGPT 的推出，通用人工智能的时代缓缓拉开序幕。我们第一次看到市场在追求人工智能开发者，而不是以往的开发者寻找市场。
8/1/2023 11:30:00 AM
机器之心
本科毕业加入谷歌，还写了「思维链」开山之作，这位OpenAI新秀正为本科生答疑解惑

本科毕业加入谷歌，还写了「思维链」开山之作，这位OpenAI新秀正为本科生答疑解惑
本科毕业就加入谷歌，还以一作身份写出了「思维链」的开山之作，现在在 OpenAI 参与打造 ChatGPT，Jason Wei 从他的视角为年轻 AI 研究者提供了一些建议。
7/24/2023 2:45:00 PM
机器之心
了解「AI 对齐失败数据库」

了解「AI 对齐失败数据库」
AI对齐失败数据库是一个用于追踪“机器学习系统的目标与人类的设计意图不一致”实例（instance）的社区项目，该项目由安远AI发起。今天，作为该项目的运营伙伴，机器之心SOTA！模型社区正式上线「AI对齐失败数据库」中文社区站点！
4/28/2023 7:10:00 PM
安远AI
道阻且长，行则将至 | 安远AI x 机器之心系列讲座圆满结束

道阻且长，行则将至 | 安远AI x 机器之心系列讲座圆满结束
历时一个月，安远AI与机器之心联合举办的「迈向安全、可靠、可控的人工智能」六场系列讲座圆满结束，我们邀请了全球顶尖人工智能机构专家分享强化学习、预训练大模型、通用人工智能等内容。这六位专家分享了他们的真知灼见，并对人工智能与人类的未来展现出忧虑与希望：第1期：「寻找AGI的安全路径 」不正确的微调或目标的错误泛化可能会导致AGI追求一个不正确的目标。如果足够智能，这种未对齐（unaligned）的AGI将导致灾难性的后果。 —DeepMind研究科学家Rohin Shah第2期：「人类与AI的共生演化 」AI技术的
8/9/2022 6:59:00 PM
新闻助手
超越现有指标57.3%，邢波教授、胡志挺教授团队提出统一NLG评价框架

超越现有指标57.3%，邢波教授、胡志挺教授团队提出统一NLG评价框架
长期以来，评价机器生成的文本比较困难。近日，CMU邢波（Eric Xing）教授和UCSD胡志挺（Zhiting Hu）教授的团队提出用一种运算符，统一各类生成任务的评价方式，为未来各种新任务、新要求提供了更加统一的指导。实验表明，基于统一框架设计的评价指标，在多个任务上超过了现有指标与人工评分的相似度，现在通过PyPI和GitHub可以直接调用。
1/28/2022 5:12:00 PM
机器之心
  • 1