语言模型

编辑 | 萝卜皮人类必需蛋白（HEP）对于个体的生存和发育必不可少。 然而，鉴定 HEP 的实验方法通常成本高昂、耗时费力。 此外，现有的计算方法仅在细胞系水平上预测 HEP，但 HEP 在活体人类、细胞系和动物模型中有所不同。

编辑 | 萝卜皮设计功能更佳的蛋白质需要深入了解序列和功能之间的关系，这是一个难以探索的广阔空间。 通过识别功能上重要的特征来有效压缩这一空间的能力极其宝贵。 清华大学的研究团队建立了一种称为 EvoScan 的方法，用于全面分割和扫描高适应度序列空间，以获得能够捕捉其基本特征（尤其是在高维度中）的锚点。

在大语言模型（LLMs）不断发展的背景下，如何评估这些模型在多轮对话和多语言环境下的指令遵循（instruction following）能力，成为一个重要的研究方向。 现有评估基准多集中于单轮对话和单语言任务，难以揭示复杂场景中的模型表现。 最近，Meta GenAI团队发布了一个全新基准Multi-IF，专门用于评估LLM在多轮对话和多语言指令遵循(instruction following)…

关于视觉语言模型（VLMs），以及它们的架构、训练过程和如何通过VLM改进图像搜索和文本处理的多模态神经网络。 可以参考这篇文章：（VLMs），它们是未来的复合AI系统。 文章详细描述了VLMs的基本原理、训练过程以及如何开发一个多模态神经网络，用于图像搜索。

AI好好用原创作者：Pandora写网络小说，手拿把掐？ 还差得远呢。 AI 学者拿下诺贝尔物理学奖、化学奖后，网友纷纷揶揄说：下一个被 AI 攻陷的诺奖会是 ......

编辑 | ScienceAI伟大科学家的研究，往往开始于一个小的灵感、小的创意。 长久以来，科学创新与研究能力被视为人类在人工智能时代中坚守的一片独特领地。 然而，一篇来自西湖大学深度学习实验室的论文在科学界掀起了波澜。

编辑 | 萝卜皮优化候选分子的物理化学和功能特性一直是药物和材料设计中的一项关键任务。 虽然人工智能很适合处理平衡多个（可能相互冲突的）优化目标的任务，但是例如多属性标记训练数据的稀疏性等技术挑战，长期以来阻碍了解决方案的开发。 在最新的研究中，浙江大学侯廷军团队、中南大学曹东升团队以及碳硅智慧团队联合开发了一种分子优化工具 Prompt-MolOpt。

编辑 | 紫罗人工智能（AI）当下及未来的进步，意味着它在解决先前被视为棘手难题的能力上实现了阶段性的转变。鉴于这一巨大的技术飞跃，现在是我们必须定义未来轨迹的时候了。随着公司继续创新人工智能系统并将其集成到当前产品中，我们有责任问自己：我们想要构建的未来是什么？作为一个社会，我们必须采取立场并定义我们想要的人与人工智能系统之间的关系。我们仍处于人工智能革命的早期阶段，因此现在将我们的轨迹设定在一…

编辑 | KX生成式深度学习正在重塑药物设计。化学语言模型 (CLM) 以分子串的形式生成分子，对这一过程尤为重要。近日，来自荷兰埃因霍芬理工大学（Eindhoven University of Technology）的研究人员将一种最新的深度学习架构（S4）引入到从头药物设计中。结构化状态空间序列（Structured State Space Sequence，S4）模型在学习序列的全局属性方面…

编辑 | ScienceAI问答（QA）数据集在推动自然语言处理（NLP）研究发挥着至关重要的作用。高质量QA数据集不仅可以用于微调模型，也可以有效评估大语言模型（LLM）的能力，尤其是针对科学知识的理解和推理能力。尽管当前已有许多科学QA数据集，涵盖了医学、化学、生物等领域，但这些数据集仍存在一些不足。其一，数据形式较为单一，大多数为多项选择题（multiple-choice questions…

机器之能报道编辑：杨文小编们的码字「神器」。Kimi，兵贵神速。前段时间，文风检测器在小红书上风靡一时，Kimi 立马推出该功能。这两天，Kimi 又在悄么声息地搞事情，偷偷上线官方浏览器插件。其实，早前就有个名叫「Kimi Copilot」的插件备受好评，只不过，这是由第三方开发者制作。而此次 Kimi 亲自下场，甩出官方浏览器插件，并为网页用户带来多项新功能。比如：对页面中部分内容划线提问；总…

INDUS 以南天星座命名，是一套全面的大型语言模型，支持五个迷信畛域。（根源：NASA）编辑 | KX在大量数据上训练的大型语言模型 (LLM) 在自然语言理解和生成任意上表示出色。大多数流行的 LLM 利用 Wikipedia 等通用语料库从事训练，但词汇的分布变化导致一定畛域的性能不佳。受此启发，NASA 与 IBM 合作开发了 INDUS，这是一套全面的 LLM，专为地球迷信、生物学、物理…

编辑 | 白菜叶许多临床恣意需要了解专业数据，例如医学图象、基因组学，这类专业知识信息在通用多模态大模型的训练中通常不存在。在上一篇论文的描述中，Med-Gemini 在各种医学成像恣意上超越 GPT-4 系列模型实现了 SOTA！在这里，Google DeepMind 撰写了第二篇关于 Med-Gemini 的论文。在 Gemini 的多模态模型的基础上，该团队为 Med-Gemini 系列开发…

一、简要介绍 本文简要介绍了论文“System 2 Attention (is something you might need too) ”的相干工作。基于transformer的大语言模型（LLM）中的软留神很容易将上下文中的不相干信息合并到其潜在的表征中，这将对下一token的生成产生不利影响。为了帮助纠正这些成绩，论文引入了System 2 Attention（S2A），它利用LLM的能力…

编辑 | 紫罗在今年的 ICLR 会议上，共评选出 5 篇杰出论文奖以及 11 篇荣誉提名。纽约大学和基因泰克（Genentech）合作发表的一篇关于蛋白质计划的钻研论文获得杰出论文奖。这篇论文解决了鉴于序列的抗体计划成绩，这是蛋白质序列生成模型的一个及时而重要的应用。为此，钻研职员引入了一种创新而有效的新建模法子——失散「步行-跳跃」采样（Discrete Walk-Jump Sampling，…

机器之能报道编辑：Cardinal以大模型、AIGC为代表的人工智能浪潮已经在悄然改变着我们生活及工作方式，但绝大部分人依然不知道该如何利用。因此，我们推出了「AI在用」专栏，通过直观、有趣且简洁的人工智能利用案例，来具体介绍AI利用步骤，并激发大家思考。   我们也欢迎读者投稿亲自实践的创新型用例。Claude 3 具有非常大的内存（ 200k 上下文窗口）和很强的调用准确性，它的上下文能力也因…

编辑 | XS2023 年 11 月，Nature 连续刊登了两篇重大成果：蛋白质生成步骤 Chroma 和晶体材料安排步骤 GNoME，均使用了图神经网络作为迷信数据的表示工具。实际上，图神经网络，特别是多少图神经网络，一直是迷信智能（AI for Science）研究的重要工具。这是因为，迷信领域中的粒子、份子、蛋白质、晶体等物理体系均可被建模成一种特殊的数据结构——多少图。与一般的拓扑图不同…

最近的大型语言模型（LLMs）进步已经使我们处于革命性的时代，尤其是 LLMs 驱动的智能 Agents 在广泛恣意中展现出了通用性和有效性。这些被称为「AI 迷信家」的 Agent 已经开始探寻其在生物学和化学等各种范畴内举行自决迷信发觉的潜力。此类 Agents 已经表现出了选择适合恣意的对象，规划情况条件，以及实现实行自动化的才能。因此，Agent 可摇身一变成为真实的迷信家，能够有效地设计…

编辑 | X份子生成是 AI 助力小份子新药研发的核心技术。望石智慧始终专注于份子生成技术的开发。就在前几天，望石智慧的钻研团队推出了 Lingo3DMol，用于在给定口袋 3D 布局的情况下生成小份子配体的 3D 布局。办法分离了语言模型和几何深度学习技术。钻研职员在传统的 SMILES 份子表征的基础上，开发了新的份子表达办法  FSMILES。此外，钻研训练了一个单独的非共价相互作用预测器，…

编辑 | 萝卜皮随着大规模深度神经网络（NN）和其他人工智能（AI）应用的最新发展，人们越来越担心训练和操作它们所需的能源消耗。物理神经网络可以成为这个问题的解决方案，但传统算法的直接硬件实现面对着多重困难。使用传统反向传播算法训练神经网络会面对一些挑战，例如缺乏可扩展性、训练过程中操作的复杂性以及对数字训练模型的依赖。洛桑联邦理工学院（École Polytechnique Fédérale d…

编辑 | 萝卜皮大型语言模型（LLM）的最新进展，为将通用人工智能 (AGI) 整合到生物钻研和教育中提供了新机遇。在最新的钻研中，佐治亚大学和梅奥诊所的钻研职员评价了几个领先的 LLM（包括 GPT-4、GPT-3.5、PaLM2、Claude2 和 SenseNova）回答概念生物学课题的本领。这些模型在包含 108 个课题的多项抉择考试中进行了尝试，涵盖分子生物学、生物技术、代谢工程和分解生…

编辑 | X基于 Transformer 的大语言模型（LLM）在自然语言处理、生物、化学和计算机编程等各个领域取得了重大进展。但对于在实行室工作的钻研职员或那些不熟悉计算机代码的人来说，人工智能方法并不那么容易理解。近日，卡内基梅隆大学的钻研团队找到了如何让人工智能体系自学化学的方法。提出了一种基于 GPT-4 的智能 Agent（以下简称 Coscientist），用一个简单的语言提示就可以履…

编辑 | 白菜叶宏基因组学项目揭示了地球生物圈中超过 80 亿个非冗余微生物卵白质序列。其中，11.7 亿种卵白质在超过 100,000 个可用参考基因组中没有可识别的同源物。了解这些微生物卵白质的功效是一项艰巨的任务。幸运的是，机械学习最近在复杂生物数据建模和预计方面取得了前所未有的准确性。这些进步的最前沿是鉴于机械学习的要领，可以自信地预计许多（但不是全部）氨基酸序列的原子级卵白质构造。最近的…

机器之能报导编辑：SiaOpenAI 内部的戏剧性事件让世界第一次看到了那些将决定AI未来人的激烈争斗。事实上，在此之前，硅谷已经发生了一场鲜为人知但激烈的竞争，旨在争夺这项技巧的控制权。《纽约时报》采访了80多位高管、科学家和企业家，《纽约客》采访了微软和OpenAI两家 CTO，分别从不同角度讲述了一个关于野心、恐惧和金钱的幕后故事。在 OpenAI 于 2022 年 11 月推出 ChatG…