3 月 11 日，零一万物宣布推出基于全导航图的新型向量数据库 「笛卡尔（Descartes）」，其搜刮内核已包揽威信榜单 ANN-Benchmarks 6 项数据集评测第一名。
向量数据库，又被称为 AI 时代的信息检索技巧，是检索增强生成（Retrieval-Augmented Generation, RAG）内核技巧之一。对大模型应用开发者来说，向量数据库是非常重要的基础设施，在一定程度上影响着大模型的功能表现。
在国际威信评测平台 ANN-Benchmarks 离线测试中，零一万物笛卡尔（Descartes）向量数据库搜刮内核登顶 6 份数据集评测第一名，比之前榜单上同业第一名有显著功能提高，部分数据集上的功能提高甚至超过 2 倍以上。
零一万物表示，笛卡尔向量数据库将用在近期即将正式亮相的 AI 产品中，未来也将结合工具提供给开发者。
向量数据库成 AI 2.0 基础设施
获资本市场青睐
随着大模型为代表的 AI 2.0 时代到来，图片、视频、自然语言等多模态的非结构化数据量陡增，区别于用来处理结构化数据的传统数据库。向量数据库专门用来存储、管理、查问和检索向量化的非结构化数据；它就像一块外接的记忆盘，可供大模型随时调用，以形成「长期记忆」，也被昵称为大模型记忆的「海马体」。
大模型天然有四个缺陷，向量数据库就像是量身定制的「特效药」，能精准解决每个痛点。
实时信息：大模型训练时间长，更新慢，无法反应最新的信息，其知识存在「截止期」的挑战。向量数据库采用轻量化更新机制，可以快速补充最新信息。
隐私保护：用户的安全隐私数据不宜直接提供给大模型训练，否则会有泄密风险，向量数据通过在推理阶段扮演信息传递的中间载体，破解了隐私保护的难关。
幻觉矫正：大模型常表现出的推理失真或产生幻觉的现象，可以通过向量数据库提供的丰富知识参照，有效矫正和减轻此类问题。
推理效率：大模型推理成本高，向量数据库能够作为一种缓存机制，避免每一次查问请求都需要重新执行复杂的推理计算，大大节省了计算资源。
AI 2.0 掀起的科技变革和平台变革，进一步强化了向量数据库的作用。Google、微软、Meta 等大厂的相关产品先后问世，Zilliz、Pinecone、Weaviate、Qdrant 等创业公司也异军突起。2023 年，OpenAI 的向量数据库合作方 Pinecone 完成了 B 轮 1.38 亿美元融资，国内初创企业 Fabarta ArcNeural 也完成了上亿元 Pre-A 轮融资。
挑战威信榜单
包揽评测六项第一
ANN-Benchmarks 是当下业界最威信的向量数据库搜刮内核功能测试工具，它可以展示不同算法在不同真实数据集下的表现。
在以下 6 份评测数据集涵盖 glove-25-angular、glove-100-angular、sift-128-euclidean、nytimes-256-angular、fashion-mnist-784-euclidean、gist-960-euclidean 六大数据集，横坐标代表召回、纵坐标代表 QPS (每秒内处理的请求数)，曲线位置越偏右上角意味着算法功能越好，零一万物笛卡尔向量数据库在 6 项数据集评测中都处于最高位。
截至 3 月 10 日，ANN-Benchmarks6 项评测中，零一万物笛卡尔（Descartes）向量数据库均居第一
「吞吐量 QPS」 是衡量信息检索系统（例如搜刮引擎或数据库）查问处理能力的重要指标。在原榜单 TOP1 基础上，零一万物笛卡尔向量数据库搜刮内核实现了显著功能提高，部分数据集上的功能提高超过 2 倍以上，在 gist-960-euclidean 数据集维度更大幅领先榜单原 TOP1 286%。
零一万物笛卡尔向量数据库与原榜单 TOP1 QPS 功能对比
技巧揭秘
令人好奇的是，笛卡尔如何实现上述优秀功能？
众所周知，RAG 是一种结合了检索和生成的技巧，它通过从海量数据中检索查问到的信息，来增强语言模型的生成能力。和传统检索方法类似，从本质上讲，RAG 向量检索主要解决两大问题：
1. 通过建立某种索引结构，减少检索考察的候选集；
2. 降低单个向量计算的复杂度。
零一万物笛卡尔向量数据库在处理复杂查问、提高检索效率以及优化数据存储方面相比业界拥有显著的比较优势。针对第 1 个问题，零一万物团队有两大杀手锏：
领先的全导航图技巧。目前业内现状主要通过哈希、KD-Tree、VP-Tree 等方式，导航效果不够精确，裁剪力度不够，零一万物研发的全局多层缩略图导航技巧，图上坐标系导航，既能保证精度，又能裁剪大量无关向量。
首创自适应邻人选择策略，填补业界空白。零一万物自研的自适应邻人选择策略，突破了以往仅依赖真实 topk 或固定边选择策略的局限，新策略使每个节点可以根据自身及邻人的分布特征动态地选取最佳邻人边，更快收敛接近目标向量，从而让 RAG 向量检索功能提高 15%-30%。
针对第 2 个问题，零一万物采用了两级量化方案增强 RAG。零一万物用两级量化降低计算复杂度，同时列式存储充分利用 SIMD 的并发能力，进一步发挥硬件能力，相比传统 PQ 查表，功能得到大幅提高到 2-3 倍。
除此之外，零一万物还有索引结构优化、连通性保障等全栈向量技巧方案提高笛卡尔向量数据库的功能。
全栈向量技巧：精度更高、功能更强
通过上述全栈向量技巧的加持，让零一万物笛卡尔向量数据库搜刮内核不仅登顶威信榜单 ANN-Benchmarks6 项评测第一名。更在实际应用场景中具有精度更高、功能更强等核心优势。
零一万物笛卡尔向量数据库目前聚焦于高功能向量数据库。通常而言，高功能向量数据库可以轻松应对百分之八九十的日常场景，比如帮助企业客户构建私域知识库、智能客服系统；在自动驾驶领域，使用高功能向量数据库可来加速自动驾驶模型训练等。
零一万物高功能向量数据库具有以下优点：
超高精度：基于多层缩略图和坐标系实现层间导航和图上方位导航，以及图连通性保障，实现精度大于 99%，相同功能下，精度大幅领先业内水平。
超高功能：高效的边选择和裁剪技巧，千万数据库 ms 响应。
以电商推荐场景为例，上架商品数量可能千万级，每个商品可以由一个向量表达。即使库中向量数不算很大，如果电商用户基数非常庞大，高峰时每秒用户请求数非常大，可能达到几十万甚至上百万的 QPS。使用高功能向量数据库可以有效提高电商场景里面搜刮、广告业务的推荐效果，让大家忍不住一直买买买。
零一万物表示，笛卡尔向量数据库是团队基于 RAG 的初步尝试，将在近期发布的 AI 生产力产品中得到有效应用。未来各家大模型优化到一定程度后，向量数据库的能力可能决定各家大模型的天花板。零一万物后续会持续专注研发和分享，为用户带来更好的技巧和体验。