NeurIPS 2024 Workshop 科学基础模型: 进展, 机遇, 挑战

Workshop背景人工智能 (AI) 和机器学习 (ML) 在科学领域的应用代表了传统科学发现方法的重大转变。几个世纪以来,探索自然世界的过程遵循着系统和逻辑的方法。然而,人工智能和机器学习技术的出现,正在深刻改变现代基础科学的发现方式。这种变化对于促进跨学科交流、激发创新的解决方案,并最终提高科学界应对现代科学中最紧迫和复杂问题的能力至关重要。与此同时,经过大量多样化数据集训练的基础模型,在计算机视觉和自然语言处理等任务中展示了强大的适应性。这些模型,例如语言模型 GPT-4 和图像文本处理模型 CLIP,通过

Workshop背景

人工智能 (AI) 和机器学习 (ML) 在科学领域的应用代表了传统科学发现方法的重大转变。几个世纪以来,探索自然世界的过程遵循着系统和逻辑的方法。然而,人工智能和机器学习技术的出现,正在深刻改变现代基础科学的发现方式。这种变化对于促进跨学科交流、激发创新的解决方案,并最终提高科学界应对现代科学中最紧迫和复杂问题的能力至关重要。

与此同时,经过大量多样化数据集训练的基础模型,在计算机视觉和自然语言处理等任务中展示了强大的适应性。这些模型,例如语言模型 GPT-4 和图像文本处理模型 CLIP,通过提供可针对多种应用微调的预训练基础,彻底改变了各自的领域。研究人员通过利用这些基础模型中编码的丰富知识,正在解决长期规划和多模态推理等关键挑战,这对于机器人和对话系统等复杂的现实世界应用至关重要。

我们看到人工智能科学与基础模型整合的合作机会,这正在成为科学领域的一股变革力量。通过利用经过大量数据集训练并具有多模态处理能力的基础模型,解决科学问题的独特机会应运而生,并为进一步的特定领域适应奠定了坚实基础。因此,人工智能科学与基础模型之间的协同作用有望从根本上改善我们建模复杂现象的方式,使其成为未来科学进步的重要投资领域。与传统的小规模人工智能科学模型或基础模型相比,构建和应用基础模型以推进和解决科学问题既有机遇,也有独特的挑战。

Foundation Models for Science: Progress, Opportunities, and Challenges

https://fm-science.github.io/

主题

在本次研讨会上,我们旨在汇集基础模型和科学问题领域的专家,激发讨论,并促进对以下广泛而变革性问题和挑战的合作(包括但不限于):

进展可扩展性: 科学基础模型的扩展规律和训练策略与 NLP、视觉模型是否不同?可重用性: 科学基础模型是否可以只训练一次并在不同场景中采用?性能: 科学基础模型能否始终优于特定领域模型?机遇如何使基础模型理解多模态科学输入并能够解决多种科学问题?如何利用基础模型加速科学发现和科学数据的收集/吸收?如何使基础模型兼容并实现经典科学工具的集成?挑战如何诊断科学基础模型无法良好运行的失败案例或模式?如何确保科学基础模型与科学事实的一致性,避免产生错误结论?如何量化基础模型的科学不确定性?

我们诚邀各科学领域的论文投稿,包括但不限于:量子力学(例如核聚变)、小分子、生物医学(例如蛋白质、生物序列、虚拟筛选)、材料科学(例如电池、化学合成)、地球科学和计算科学(例如 PDE、预测)。我们也强烈鼓励以 AI for Science 和科学机器学习 (SciML) 为重点的应用驱动型投稿。

演讲者(按姓氏排序,A到Z)

Shirley Ho

Shirley Ho

Senior Research Scientist + Group Leader, Center for Computational Astrophysics, Flatiron Institute, Simons Foundation

Research Professor of Physics & Data Science, New York University

Michael Mahoney

Michael Mahoney

Professor, University of California at Berkeley

Vice President, International Computer Science Institute (ICSI)

Group Lead, Machine Learning and Analytics Group, Lawrence Berkeley National Laboratory

Paris Perdikaris

Paris Perdikaris

Associate Professor, University of Pennsylvania

Principal Researcher, Microsoft Research

Danielle Maddix Robinson

Danielle Maddix Robinson

Senior Applied Scientist, AWS AI Labs

Max Welling

Max Welling

Research Chair in Machine Learning, University of Amsterdam

Distinguished Scientist, Microsoft Research

Laure Zanna

Laure Zanna

Professor, New York University

Scientific Director and Lead PI, M²LInES

论文征稿

提交细节: https://fm-science.github.io/cfp.htmlOpenReview: https://openreview.net/group?id=NeurIPS.cc/2024/Workshop/FM4Science

重要日期 (AoE 时间):

摘要提交截止日期:2024 年 8 月 27 日论文提交截止日期:2024 年 8 月 30 日审稿截止日期:2024 年 9 月 27 日录取/拒稿通知日期:2024 年 9 月 30 日Workshop研讨会日期:2024 年 12 月 14 日或 15 日

主办方

Wuyang Chen

Wuyang Chen

Assistant Professor, Simon Fraser University

Pu Ren

Pu Ren

Postdoc Fellow, Machine Learning and Analytics Group, Lawrence Berkeley National Lab

Elena Massara

Elena Massara

Independent Researcher (previous: Postdoc Fellow at University of Waterloo)

Yongji Wang

Yongji Wang

Postdoctoral Associate, Courant Institute, NYU

Benjamin Erichson

Benjamin Erichson

Senior Research Scientist and Research Group Leader, International Computer Science Institute (ICSI)

Machine Learning and Analytics Group, Lawrence Berkeley National Lab

Laurence Perreault-Levasseur

Laurence Perreault-Levasseur

Assistant Professor, University of Montreal

Bo Li

Bo Li

Associate Professor, University of Chicago

Swarat Chaudhuri

Swarat Chaudhuri

Professor, The University of Texas at Austin

联系我们[email protected]

相关资讯

搞 AI,孩子必须学好数学:马斯克 Altman 罕见达成一致,LeCun / Jeff Dean 等 31 位大佬签署联名信

【新智元导读】基础数学已经被拔高到研究 AI 的必经之路!UC 伯克利教授发起最新倡议,31 位 AI 大佬共同签署联名信,马斯克和 Altman 竟达成一致。就在刚刚,UC 伯克利 EECS 教授 Jelani Nelson 联合发起了一个倡议,强调「坚实的数学基础对人工智能至关重要」。地址:「虽然 Elon Musk 和 Sam Altman 最近在很多问题上都有分歧,但他们都认同,AI 的构建是以代数和微积分等坚实的数学基础为支撑的。」目前,已经有 31 位业内大佬在上面签署了自己的名字。要想搞好 AI,就必

告别CUDA无需Triton!Mirage零门槛生成PyTorch算子,人均GPU编程大师?

AIxiv专栏是AI在线发布学术、技术内容的栏目。过去数年,AI在线AIxiv专栏接收报道了2000多篇内容,覆盖全球各大高校与企业的顶级实验室,有效促进了学术交流与传播。如果您有优秀的工作想要分享,欢迎投稿或者联系报道。投稿邮箱:[email protected][email protected]近日,来自 CMU 的 Catalyst Group 团队发布了一款 PyTorch 算子编译器 Mirage,用户无需编写任何 CUDA 和 Triton 代码就可以自动生成 GPU 内

AI for Science 开源新项目「Polymathic AI」,Yann LeCun担任顾问

编辑 | 紫罗过去几年,通过在大量不同的数据集上训练通用模型,视觉和自然语言处理 (NLP) 机器学习领域取得了重大进展。这导致了「基础模型」的出现。例如,「大型语言模型」引发了 NLP 的复兴:微调或提示通才模型现在已成为标准做法,而不是从头开始训练专业模型。然而,机器学习在科学数据集上的应用尚未发生类似的范式转变。这就是「Polymathic AI」(博学人工智能)研究计划寻求解决的一个未实现的机会。图灵奖得主、Meta 首席科学家 Yann LeCun 表示:「很高兴成为 AI for Science 新计划