入选国际数据库顶级会议ICDE,腾讯云数据库技术创新获权威认可

今日获悉,腾讯云数据库2篇论文入选国际数据库顶级会议ICDE。其分布式事务协议——Lion和内存-磁盘跨越索引设计框架,解决了数据库领域的普遍难题,技术创新获得国际权威认可。(腾讯云数据库团队在ICDE会场进行技术分享)据悉,ICDE(IEEE International Conference on Data Engineering)是数据库研究领域历史悠久的国际会议,与SIGMOD、VLDB并称数据库三大顶级会议,也是中国计算机学会(CCF)推荐的A类国际会议,主要聚焦设计、构建、管理和评估高级数据密集型系统和应

今日获悉,腾讯云数据库2篇论文入选国际数据库顶级会议ICDE。其分布式事务协议——Lion和内存-磁盘跨越索引设计框架,解决了数据库领域的普遍难题,技术创新获得国际权威认可。

descript

(腾讯云数据库团队在ICDE会场进行技术分享)

据悉,ICDE(IEEE International Conference on Data Engineering)是数据库研究领域历史悠久的国际会议,与SIGMOD、VLDB并称数据库三大顶级会议,也是中国计算机学会(CCF)推荐的A类国际会议,主要聚焦设计、构建、管理和评估高级数据密集型系统和应用等前沿研究问题。

如今,分布式数据库已成为企业存储和管理海量数据的重要工具,在分布式事务处理过程中,常常涉及多轮跨节点的通信,处理速度较慢。过去为提高性能,业内多通过迁移将分布式事务转换为单节点事务。但基于迁移的方法可能会因等待数据迁移而导致事务被阻塞,而超级节点可能会成为瓶颈。

此次,腾讯云和中国人民大学合作入选ICDE的论文《Lion: Minimizing Distributed Transactions through Adaptive Replica Provision》,则为这一难题提出了一种新颖的事务处理协议——Lion。作为一种自适应的副本放置机制,Lion利用基于分区的复制来减少分布式事务的发生。该机制增强了基于LSTM的工作负载预测算法,以确定定位共同访问分区的副本的适当节点。通过采用这种自适应副本放置策略,可以确保大多数事务可以在单个节点上高效处理,而无需额外的开销。因此,Lion有效地最小化了分布式事务,同时避免了由数据迁移或超级节点的创建引起的任何中断。大量实验结果显示,Lion与各种先进的事务处理协议相比,吞吐量提高了最多2.7倍、可扩展性提高了76.4%。

ICDE评审委员会也对论文研究成果给予了高度认可,认为Lion所提出的调整策略考虑了历史信息和未来工作负载的变化,并经过全面性评估实验,不仅可显著提高分布式数据库系统的吞吐量,技术先进性还在大部分情况下超越了数据迁移技术、不对称复制方法和确定性方法等。

另外,针对数据库系统中,索引可能会消耗大量内存而无法完全存放的难题,腾讯云联合德州大学阿灵顿分校,在入选ICDE论文《IndeXY: A Framework for Constructing Indexes Larger than Memory》中,提出了名为IndeXY的内存-磁盘跨越索引设计框架。该框架解耦了索引内存部分和磁盘部分的设计,精心设计内存部分向磁盘的选择性卸载并优化了磁盘重新加载索引并保留在内存的策略,以最大化优化内存访问机会和效率。

该框架允许单独采用一个内存索引设计,以及一个被认为最适合其工作负载的磁盘数据组织和访问方案,实验显示,这一设计可将TPC-C工作负载提高高达8.6倍的吞吐量,且可以提高几乎所有YCSB工作负载的性能。

ICDE评审委员会认为,该论文解决了Index在内存索引必须溢出到磁盘时索引效率的关键问题,为企业提供了一个可按需选择的组合方案(任何基于内存的索引IndeX+任何基于磁盘的索引IndeY),且内存和磁盘上的索引都可以单独进行优化。

作为国产数据库行业的先行者,腾讯云至今已经深耕数据库领域十余年,服务客户数超过50万,覆盖金融、政府、电商、游戏等众多行业。未来,腾讯云也将持续创新技术,打磨产品和解决方案,为更多企业提供高可靠、高可用、高安全的数据库服务,加速企业数字化升级与业务创新。

相关资讯

淘宝推荐、视频搜索背后的检索技术:深度揭秘达摩院向量检索引擎Proxima

淘宝搜索推荐、视频搜索背后使用了什么样的检索技术?非结构化数据检索,向量检索,以及多模态检索,它们到底解决了什么问题?今天由阿里达摩院的科学家从业务问题出发,抽丝剥茧,深度揭秘达摩院内部技术,向量检索引擎 Proxima,以及相关领域的现状、挑战和未来。

百分点大数据技术团队:ClickHouse国家级项目性能优化实践

编者按ClickHouse自从2016年开源以来便备受关注,主要应用于数据分析(OLAP)领域,各个大厂纷纷跟进大规模使用。百分点科技在某国家级项目建设中完成了多数据中心的ClickHouse集群建设,日增千亿数据量,在此基础上进行优化与性能调优,能够更好地解决部署规模扩大和数据量扩容等问题。本文结合项目的数据规模及业务场景,重点介绍了百分点大数据技术团队在ClickHouse国家级项目建设中的性能优化实践。一、概览2020年4月,百分点大数据技术团队结合某国家级多数据中心的Clickhouse集群建设,发表了“C

统信发布中国首款操作系统级端侧模型 UOS LM,支持问答、翻译、创作等

感谢统信软件今日宣布,中国首款操作系统级端侧模型 UOS LM 正式发布。目前,UOS LM 端侧模型面向所有统信 UOS 社区版(deepin V23)用户发起定向邀约内测,添加 deepin 小助手申请内测资格。为保证流畅体验,统信推荐以下硬件性能:1.5B 模型:内存 2G,GPU 显存 4G,10TOPS7B 模型:内存 8G,GPU 显存 10G,20TOPS对于个人用户,UOS LM V1.0 版本实现本地文档构建知识库,并通过向量数据库支持基于语义的相似性搜索和向量分析操作,帮助用户通过 UOS AI