研究
物理直觉不再是人类专属？LeCun等新研究揭示AI可如何涌现出此能力
在当今的 AI 领域，图灵奖得主 Yann LeCun 算是一个另类。 即便眼见着自回归 LLM 的能力越来越强大，能解决的任务也越来越多，他也依然坚持自己的看法：自回归 LLM 没有光明的未来。 在近期的一次演讲中，他将自己的观点总结成了「四个放弃」：放弃生成式模型、放弃概率模型、放弃对比方法、放弃强化学习。
复旦主导，中美等8个国家25家单位44名学者联合发布大模型安全技术综述
近年来，随着大模型的快速发展和广泛应用，其安全问题引发了社会各界的广泛关注。 例如，近期发生的「全球首例利用 ChatGPT 策划的恐袭事件」再次敲响了警钟，凸显了大模型安全问题的紧迫性和重要性。 为应对这一挑战，来自中美英德等 8 个国家 25 家高校和科研机构的 44 位 AI 安全领域学者联合发布了一篇系统性技术综述论文。
官宣！OpenAI前CTO新公司：北大校友翁荔加盟，创始29人2/3来自OpenAI
正式官宣！ OpenAI前CTO Mira Murati 成立新公司——Thinking Machines Lab。 整个创业团队可以说前所未有之豪华了，三分之二的都是以前的OpenAI旧部追随——其中包括OpenAI前研究（后训练）副总裁Barret Zoph，担任公司CTO；刚刚离职Anthropic、OpenAI离职联创John Schulman，任公司首席科学家，还有包括前OpenAI VP、北大校友翁荔等等。
Nature：全球博士生数量锐减，钱少、事多、前途迷茫
过去几年，一些国家的博士项目申请人数出现下滑，有专家警告称，这是一个令人担忧的趋势。 从澳大利亚、日本到巴西和英国，高昂的生活成本、微薄的助学金以及毕业后有限的就业前景，正在阻碍人们攻读博士学位。 据经合组织（OECD）巴黎总部项目负责人斯拉里科表示，这些下降的数据应该「敲响警钟」。
LLM自主发现发表在Nature上的科学假设？ICLR 2025 论文MOOSE-Chem深度解析
编辑 | ScienceAI人工智能的下一个前沿，不仅是语言、图像，而是科学发现本身。 近年来，人工智能（AI）已经在自然语言处理（NLP）、计算机视觉（CV）等领域取得巨大成功。 但 AI 是否能够帮助科学家发现新的科学理论？
1/10训练数据超越GPT-4o！清华等提出隐式过程奖励模型PRIME，在线刷SOTA
告诉我，我会忘记，教我，我会记住，让我参与，我就能学会。 ——本杰明·富兰克林 打破数据墙，我们还能做些什么？ 近日，来自清华UIUC等机构的研究者提出了PRIME（Process Reinforcement through IMplicit REwards）：通过隐式奖励来进行过程强化。
DeepMind天才科学家疑自杀！41岁SuperGLUE之父英年早逝，AI圈悲痛不已
就在刚刚，一个令人悲伤的消息传来。 谷歌DeepMind研究科学家Felix Hill，于2024年12月5日英年早逝，年仅41岁。 自2023年初以来，他一直在与严重的精神疾病作斗争。
芝大、清华团队分析了6800万份论文表明，AI可能会降低科学家的创造力?
编辑 | 白菜叶一项新研究表明，采用人工智能工具分析数据和建模结果对年轻科学家的职业前景有着巨大的影响，大大增加了他们在各自领域晋升到有影响力职位的机会。 但这种对个体研究人员的利好似乎以牺牲科学为代价。 芝加哥大学和清华大学的研究人员分析了六个科学学科（生物学、医学、化学、物理学、材料学和地质学，不包括计算机科学）的近 6800 万份研究论文，发现融入人工智能技术的论文被引用的次数更多，但同时也集中在更窄的主题上，而且重复性更强。
对齐、生成效果大增，文本驱动的风格转换迎来进阶版
论文的第一作者是来自西湖大学的研究人员雷明坤，指导老师为西湖大学通用人工智能（AGI）实验室的负责人张驰助理教授。 实验室的研究方向聚焦于生成式人工智能和多模态机器学习。 文本驱动的风格迁移是图像生成中的一个重要任务，旨在将参考图像的风格与符合文本提示的内容融合在一起，生成最终的风格化图片。
OpenAI 未来 AI 战略新变数，高级顾问 Miles Brundage 本周将离职
科技媒体 maginative 昨日（10 月 23 日）发布博文，报道称迈尔斯・布伦达奇（Miles Brundage）宣布将于本周从 OpenAI 公司离职，去追求独立的 AI 政策研究。 布伦达奇是 OpenAI 公司的 AGI Readiness 高级顾问，已在 OpenAI 公司工作 6 年时间，期间他塑造了许多 OpenAI 关键的部署和安全实践。 布伦达奇在声明中表示，他希望能跳出行业内，从行业外影响和推动人工智能的发展。
研究发现 AI 工具对学生来说是“双刃剑”，需谨慎使用
瑞典研究人员对人工智能工具的使用与学龄儿童的执行功能之间的关联进行了调查。研究发现，人工智能工具的使用对学龄儿童的学习既有潜在的好处，也有潜在的风险。图源 Pexels该研究重点关注人工智能工具在学校作业中的使用与执行功能（EF）之间的关系。
AI 驱动的「科学搜索引擎」如何加速你的课题进度
编辑 | 白菜叶人工智能 (AI) 工具正在改变我们的工作方式。许多产品试图通过帮助研究人员整理大量文献来提高科学研究的效率。这些科学搜索引擎基于大型语言模型 (LLM)，旨在筛选现有研究论文并总结关键发现。
OpenAI GPT-4 解锁新成就：100% 识别性别、74.25% 识别年龄范围，未专门训练可媲美专业算法
科技媒体 The Decoder 昨日（10 月 9 日）发布博文，报道称最新研究表明 OpenAI 的 GPT-4 AI 模型在未经专门微调和训练情况下，能够识别面孔、判断性别，并在照片中估计年龄，其准确度媲美专业算法。来自挪威科技大学、Mizani 及 Idiap 研究所的研究人员推进这项研究，测试了 GPT-4 的生物识别能力，发现其性能和 MobileFaceNet 等专门的面部识别算法不相上下。在性别识别测试中，GPT-4 在 5400 张平衡（balanced）图像的数据集上取得了 100% 的准确率，
研究发现：AI 越聪明就越有可能“胡编乱造”
一项新研究发现，随着大型语言模型（LLM）变得越来越强大，它们似乎也越来越容易编造事实，而不是避免或拒绝回答它们无法回答的问题。这表明，这些更聪明的 AI 聊天机器人实际上变得不太可靠。图源 PexelsAI在线注意到，该研究发表在《自然》杂志上，研究人员研究了一些业界领先的商业 LLM：OpenAI 的 GPT 和 Meta 的 LLaMA，以及由研究小组 BigScience 创建的开源模型 BLOOM。研究发现，虽然这些 LLM 的回答在许多情况下变得更加准确，但总体上可靠性更差，给出错误答案的比例比旧模型更
苏黎世联邦理工学院研究：AI 可 100% 绕过谷歌 reCAPTCHA V2 验证
据 Ars Technica 今日报道，苏黎世联邦理工学院博士生 Andreas Plesner 及其同事发表了一项新研究，研究重点放在了谷歌的验证码系统 reCAPTCHA V2 上。该研究声称，使用经过专门训练的图像识别模型运行的本地机器人在应对这类图片验证码时的表现，可以与人类相媲美，成功率达到了 100%。AI在线注：谷歌 reCAPTCHA V2 验证码通常会向用户提供一组图片，要求识别出图中的哪些部分包含自行车、巴士、人行道、楼梯或红绿灯等项目。根据谷歌的说法，该系统已在几年前逐步进入淘汰阶段，新的 r
中国科学院物理学家利用机器学习揭示原子核壳演化
编译 | 紫罗近日，中国科学院近代物理研究所（IMP）副研究员吕冰锋、湖州师范学院王永佳教授和巴黎萨克雷大学的研究人员，利用机器学习方法研究原子核低位激发态的能量和电磁跃迁几率，在探索原子核壳演化研究中取得重要进展。研究揭示了锡-100 的双幻（double-magic）性质以及氧-28 中幻数 20 的消失。相关研究发表在《Physics Letters B》上。论文链接：。20 世纪 30 年代，科学家发现，当质子或中子的数量为 2、8、20、28、50、82、126 时，原子核表现出相对稳定的性质。这些数字被
自然指数公布 AI 研究增长最快 10 家机构：中国占据 6 席，中国科学院居首
国际知名学术出版机构施普林格・自然 9 月 20 日发布消息，最新上线的《自然》增刊“自然指数 2024 人工智能”显示，2019 年至 2023 年，有 10 家机构在自然指数中的人工智能（AI）研究产出增幅最大，其中，中国占据 6 席，中国科学院排名居首。根据自然指数，人工智能研究产出增幅最大的 10 家机构依次是：1、中国科学院2、哈佛大学3、北京大学4、清华大学5、浙江大学6、麻省理工学院7、马普学会8、德国亥姆霍兹国家研究中心联合会9、中国科学技术大学10、上海交通大学数据显示，发表在自然指数期刊上的人工
「AI Scientist」会给科学带来什么？AI for Science 热潮下的争议
编译 | KX8 月份，Transformer 作者创业公司 Sakana AI 宣布推出 AI Scientist，声称「首个用于自动化科学研究和开放式发现的 AI 系统！」当 Sakana AI 着手创建「AI Scientist」来处理整个科学过程时，他们并不知道他们能走多远。他们创建的系统真的能够生成有趣的假设、运行实验、评估结果并撰写论文吗？参与「AI Scientist」研究的不列颠哥伦比亚大学的博士后研究员 Cong Lu 说，他们最终得到的是一个 AI 工具，并认为它相当于一个早期的博士生。他说，它