NeurIPS 2023

PreFLMR模型是一个通用的预训练多模态常识检索器，可用于搭建多模态RAG应用。模型基于发表于 NeurIPS 2023 的 Fine-grained Late-interaction Multi-modal Retriever (FLMR) 并进行了模型改进和 M2KR 上的大规模预训练。论文链接： 链接：：：PreFLMR: Scaling Up Fine-Grained Late-Inte…

1 1＞2。Transformer 很厉害，但并不完美，尤其是在处理长序列方面。而状况空间模型（SSM）则在长序列上的表现相当不俗。早在去年就有研究者提出可利用 SSM 更替 Transformer，参见文章《预训练无需注意力，扩展到4096个token不成问题，与BERT相当》，前些天基于 SSM 步骤的 Mamba 更是异军突起，推理吞吐量达到了 Transformer 的五倍之多，参阅《五倍…

Tomas Mikolov 这篇爆料满满的文章，里面涉及的钻研人员已经开始回击了。随着 NeurIPS 2023 获奖论文的公布，十年前的词嵌入技术 word2vec 可谓是实至名归的获得了时间磨练奖。这篇论文「Distributed Representations of Words and Phrases and their Compositionality」由当时都还在google的 Toma…

美图影象研究院（MT Lab）与中国科学院大学突破性地提出了鉴于文生图模型的视频生成新方法 EI2，用于提高视频编写过程中的语义和内容两方面的同等性。该论文从理论角度分析和论证视频编写过程中闪现的不同等的题目，主要由引入的时序信息进修模块使特征空间闪现协变量偏移造成，并针对性地计划了新的网络模块举行办理以生成高质量的编写结果。目前，该论文已被机器进修顶会之一 NeurIPS 2023 接收。背景作…

除了表达自己取得 NeurIPS 2023 时间检验奖的感想之外，Tomas Mikolo 还对 NLP 和 ChatGPT 的现状给出了自己的一些思考。几天前，NeurIPS 2023 公布了获奖论文，其中时间检验奖颁给了十年前的 NeurIPS 论文「Distributed Representations of Words and Phrases and their Compositional…

最近，来自 Waabi AI、多伦多大学、滑铁卢大学和麻省理工的研究者们在 NeurIPS 2023 上提出了一种全新的自动驾驭光照仿真平台 LightSim。研究者们提出了从真正数据中生成配对的光照训练数据的方法，解决了数据缺失和模型迁移损失的问题。LightSim 利用神经辐射场（NeRF）和鉴于物理的深度收集衬着车辆驾驭视频，首次在大规模真正数据上实现了动向场景的光照仿真。项目网站：：？相机…

在 ChatGPT 引爆 AI 热潮的 2023，一项推动NLP新时代到来的研究拿到了 NeurIPS 时间考验奖。NeurIPS 是当前全球最负盛名的 AI 学术会议之一，全称是 Neural Information Processing Systems，神经信息处理系统大会，通常在每年 12 月由 NeurIPS 基金会主办。大会讨论的内容包含深度进修、估计机视觉、大规模呆板进修、进修理论、优…

在这篇 NeurIPS 2023 论文中，来自新加坡国立大学和字节跳动的学者们受人类联想进修的启发，提出了数据集扩增的新范式，有用地晋升了深度模型在小数据场景下的机能和泛化能力，极大地降低了人工搜集和标注数据的时间和老本。代码已开源。论文链接：：，深度神经网络的机能很大程度上依赖于训练数据的数量和质量，这使得深度进修难以广泛地应用在小数据工作上。例如，在医疗等领域的小数据应用场景中，人力搜集和标注…

种别级 6D 物体位姿推断是一个基础且重要的题目，在机器人、虚拟现实和增强现实等领域利用广泛。本文中，来自北京大学的研究者提出了一种种别级 6D 物体位姿推断新范式，取得了新的 SOTA 结果，论文已被机器学习领域顶会 NeurIPS 2023 接收。6D 物体位姿推断作为计算机视觉领域的一个重要任务，在机器人、虚拟现实和增强现实等领域有众多利用。尽管实例级别的物体位姿推断已经取得了显著进展，但它…