0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

软硬件协同创新优化打造高性能数据库,超聚变和英特尔做了什么?

英特尔中国 来源:未知 2023-07-21 18:15 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

IDC近日发布的《全球数字化转型支出指南》2023年V1版预测:到2026年,中国数字化转型支出规模预计超过6,000亿美元,五年复合增长率将达到17.9%,增速位于全球前列1。面对海量、实时、在线的数据处理需求,分布式数据库服务及数仓服务已经成为企业数字化转型的基础设施之一。相比传统架构,分布式数据库具有更高的并发和更低的时延,可实现敏捷的扩展,帮助企业提升投资回报。但同时,随着企业用户的增长,以及业务的持续创新,分布式数据库必须具备更高的性能水平,以在特定的 SLA 标准下处理数据,帮助企业应对数据爆发式增长带来的挑战,充分释放数据价值。

作为国产化分布式数据库的重要一员,超聚变数字技术有限公司(以下简称:超聚变)推出的 FusionDB 凭借高性能、简单易 用、稳定高可用、安全可靠等优势,已经在众多行业用户中得到成功应用。目前,基于第四代英特尔 至强 可扩展处理器的FusionDB 数据库解决方案,进一步释放了在加速数据处理方面的潜能。同时,英特尔与超聚变紧密合作,基于英特尔 Open Analytic Toolkit 和英特尔 Quick Assist(英特尔 QAT)等技术对 FusionDB 数据库进行了优化,解决了数据库在加速优化索引访问性能、物理备份性能、备份存储空间占用以及总体拥有成本等方面面临的瓶颈,打造了高性能数据库系统,为用户提供了流式、实时、离线、在线数据聚合等灵活的混合分析能力。

wKgZomToEiiAVungAADWQdBO_o4798.gif

第四代英特尔 至强 可扩展处理器
及内置加速器
提供算力基座

wKgZomToEiiAVungAADWQdBO_o4798.gif

为解决上述性能挑战,进一步增强 FusionDB 数据库的性能优势,超聚变与英特尔从硬件升级、软件优化等多方面进行了深入合作,打造了极具性能的分布式数据库解决方案。

在硬件层面,超聚变选择了搭载第四代英特尔 至强 可扩展处理器的数据库服务器作为基础验证平台。第四代英特尔 至强 可扩展处理器通过创新架构增加了每个时钟周期的指令,每个插槽多达 60 个核心,支持 8 通道 DDR5 内存,有效提升了内存带宽与速度,并通过 PCIe 5.0(80 个通道)实现了更高的 PCIe 带宽提升。第四代英特尔 至强 可扩展处理器提供了出色性能和安全性,可根据用户的业务需求进行扩展。

此外,第四代英特尔 至强 可扩展处理器内置了多个加速器,诸如英特尔 In-Memory Analytics Accelerator(英特尔 IAA)、英特尔 高级矩阵扩展(英特尔 AMX)、英特尔Data Streaming Accelerator(英特尔 DSA)、英特尔 QAT 等高级硬件能力,能够加速AI、数据分析、数据加解密等场景下的处理能力,满足用户的多样化算力需求(图1)。

wKgZomToEiiAPDyaAAJMW_d9cE4096.png图1:第四代英特尔 至强 可扩展处理器为数据中心提供多种优势wKgZomToEiiAVungAADWQdBO_o4798.gif

协同开展软件优化
轻松突破索引访问、端到端备份性能瓶颈

wKgZomToEiiAVungAADWQdBO_o4798.gif

  • 英特尔 Open Analytic Toolkit优化布隆索引访问性能

数据库 Postgres 内核默认使用 B-Tree 索引,但为了提升 FusionDB的索引性能,超聚变首先使用布隆索引替代 B-Tree 索引,实现了一定的性能提升。为进一步优化布隆索引的访问性能,超聚变通过英特尔 Open Analytic Toolkit 应用了 AVX512 这一重要特性,以使用处理器的单指令多数据 (SIMD) 指令对索引过程进行矢量化,从而优化性能。英特尔 高级矢量扩展 512(英特尔AVX-512)是一套创新的指令集,提升了指令的吞吐能力,能够更好地应对庞大的数据量以及数据库中高维数据所带来的性能压力。

在实际优化过程中,超聚变利用英特尔 AVX-512 的矢量化方式,对 FusionDB 数据库中创建索引和索引查询的过程进行加速。在创建索引的过程中重点解决了数据哈希矢量化问题,从而实现了并行生成每列数据的布隆位图。在索引查询过程中实现了多路并行的布隆位图比较,并支持变长布隆位图。超聚变针对 FusionDB 数据库索引执行时间测试的数据显示(图2),在启用英特尔 AVX-512 之后,索引性能最高提升1.67倍2

wKgZomToEiiAQDEYAAAvwoTEu-I591.png图2:布隆索引访问性能比较3
  • 英特尔 QAT帮助提升物理备份性能,大幅节约空间

物理备份是分布式数据库的一个常用场景,为了提升备份效率,超聚变对于 FusionDB 数据库备份缓存机制进行了优化,将备份缓存从 8kb 页面调整为 64kb 页面,从而降低了缓存的增量,提高了吞吐率,更有效地发挥资源性能,大幅提升了全量备份和增量备份等性能。

为了进一步提升 FusionDB 数据库备份效率,超聚变利用英特尔QATzip 对于 FusionDB 数据库 gs_probackup 中原有的缓存机制进行优化,在保证前向兼容的前提下,添加可通过参数配置大小的物理备份缓存,使得 CPU 能力得到充分的发挥,进一步提升了全量备份和增量备份性能(图3)。英特尔 QAT 是英特尔面向高性能安全性、私钥保护和压缩/解压缩等场景推出的一个硬件加速技术,能够将相关负载从 CPU卸载到 QAT 中,有效提升应用程序和平台的性能。第四代英特尔 至强 可扩展处理器集成了英特尔 QAT4.0,能够更进一步释放在私钥保护和压缩/解压缩等场景的性能优势。

wKgZomToEiiAea1gAAA2gp0B6As521.png图3:备份速率比较4

此外,超聚变还对比了当 NVMe 盘缓存大小均为 256KB,全量备份数据量均为 102 GB,并发数为 4 时的 QAT 与 lz4 压缩性能比较。测试数据显示,英特尔 QATzip 均能够有效提升数据压缩效率,提升数据备份恢复速度(图4)。在使用英特尔 QATzip 之后,FusionDB 数据库可以实现 50%5左右的压缩率,进一步降低了对于存储空间的占用,有助于降低存储成本,提升数据库系统的投资回报率。

wKgZomToEiiARne2AAAlPo2z7W0058.png图4:QATzip/ lz4 压缩算法的性能对比6wKgZomToEiiAVungAADWQdBO_o4798.gif

全面赋能
超聚变FusionDB数据库优势显著

wKgZomToEiiAVungAADWQdBO_o4798.gif

超聚变与英特尔的深度合作,解决了 FusionDB 数据库面临的多个瓶颈,在布隆数据索引、端到端文件备份等场景中提升了数据库的性能表现,助力超聚变FusionDB 数据库以更优的性能、稳定性、可用性为用户提供服务。

首先,通过采用第四代英特尔 至强 可扩展处理器并使用英特尔Open Analytic Toolkit 进行软件优化,FusionDB 数据库能够加速索引访问速度,更有效地应对大规模业务在吞吐、时延方面的挑战,提升业务服务能力,高效支撑性能敏感型业务。

第二,通过利用英特尔 QAT 加速,FusionDB 数据库可缩短备份恢复时间,降低业务迁移成本,减少业务备份中断时间,同时还可通过英特尔 QAT 硬件引擎卸载 CPU 的压缩任务,降低对系统性能的影响。

第三,在使用英特尔 QAT 加速压缩之后,FusionDB 数据库实现了更高的压缩率,有助于节省存储空间,降低支出。此外,超聚变提供了基于第四代英特尔 至强 可扩展处理器的 FusionDB 数据库一体机解决方案,能够实现更深入的集成与优化,可以帮助客户降低部署与调优的时间成本。

在各行各业广泛开展数字化转型的背景下,英特尔致力于为用户提供不同场景的解决方案。基于第四代英特尔 至强 可扩展处理器及其内置加速器,用户可以在 AI、分析、云和微服务、网络、数据库、存储等类型的工作负载中获得优化的性能。通过与强大的生态系统相结合,第四代英特尔 至强 可扩展处理器能够帮助用户构建更加高效、安全的数据中心基础设施,助力企业数字化转型。

资料援引:1 更多信息请见https://www.idc.com/getdoc.jsp?containerId=prCHC50855923

2,3 数据援引自超聚变和英特尔于 2023 年 4 月联合进行测试的结果。测试配置:主节点 — 双路英特尔 至强 铂金 8480 处理器,56 核,256 GB 总内存 (8*32 GB),2*SSD (480 GB) + 2*NVMe(1.92 TB);备节点 — 双路英特尔 至强 铂金 8480 处理器,56 核,128 GB 总内存 (4*32 GB),2*SSD (480 GB) + 2*NVMe (1.92 TB)。英特尔并不控制或审计第三方数据。请您审查该内容,咨询其他来源,并确认提及数据是否准确。实际性能受使用情况、配置和其他因素的差异影响。更多信息请见 www.Intel.com/PerformanceIndex

4,5,6 数据援引自超聚变和英特尔于 2023 年 4 月联合进行测试的结果。测试配置:主节点 — 双路英特尔 至强 铂金 8480 处理器,56 核,7.3 TB NVMe;备节点 — 双路英特尔 至强 铂金 8480处理器,56 核,1.8 TB NVMe。英特尔并不控制或审计第三方数据。请您审查该内容,咨询其他来源,并确认提及数据是否准确。实际性能受使用情况、配置和其他因素的差异影响。更多信息请见 www.Intel.com/PerformanceIndex


声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 英特尔
    +关注

    关注

    61

    文章

    10279

    浏览量

    179448
  • cpu
    cpu
    +关注

    关注

    68

    文章

    11224

    浏览量

    223134

原文标题:软硬件协同创新优化打造高性能数据库,超聚变和英特尔做了什么?

文章出处:【微信号:英特尔中国,微信公众号:英特尔中国】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    英特尔创新引领AI NAS:软硬结合引领本地数据智慧管理与多场景创新应用

    展示面向中小企业、消费者和专业用户,赋能新场景、加速产品落地的最新技术方案。会上,绿联、极空间、铁威马、畅网、飞牛等AI NAS 厂商,发布和展示了一系列基于英特尔® 酷睿™ Ultra处理器和英特尔锐炫™ B60 显卡的多场景AI NAS解决方案,旨在
    的头像 发表于 12-12 15:45 133次阅读
    <b class='flag-5'>英特尔</b><b class='flag-5'>创新</b>引领AI NAS:<b class='flag-5'>软硬</b>结合引领本地<b class='flag-5'>数据</b>智慧管理与多场景<b class='flag-5'>创新</b>应用

    软硬件协同技术分享 - 任务划分 + 自定义指令集

    Level , ESL)得到催生,然而ESL设计依赖于复杂的高层次建模以及庞大的数据支持,且其工具链的发展仍不是十分完善。 在现阶段的开发氛围中,软硬件协同开发是一种能够缩短开发周期,并提升总体
    发表于 10-28 08:03

    RFID 软硬件协同:重塑医疗与学校领域的智能化管理新生态

    + 场景化软件” 的深度协同 —— 硬件负责 “数据采集”,软件承担 “数据处理与应用”,二者结合为医疗、学校领域打造从 “信息采集” 到
    的头像 发表于 10-21 12:09 179次阅读

    从云到端:英特尔展示全栈AI能力,覆盖云、边、PC多场景

    通用算力型实例u2i,内存增强型实例re8和第九代企业级ECS实例g9i,以及磐久AI高性能存储服务器(文件存储服务器)和磐久高密存储服务器(对象存储服务器)。通过软硬件协同优化与底层
    的头像 发表于 09-26 17:27 1300次阅读
    从云到端:<b class='flag-5'>英特尔</b>展示全栈AI能力,覆盖云、边、PC多场景

    兆芯CPU近期适配软硬件产品推荐

    近日,兆芯持续携手多家产业合作伙伴,围绕开先KX-7000、开胜KH-40000等兆芯高性能自主处理器加强软硬件生态建设,共同完成包括AI加速卡、内存、企业级SSD、服务器操作系统、安全操作系统
    的头像 发表于 08-20 17:39 1812次阅读

    数据库性能优化指南

    作为一名在大厂摸爬滚打多年的运维老兵,我见过太多因为数据库性能问题导致的生产事故。今天分享一套完整的数据库优化方法论,从SQL层面到硬件配置
    的头像 发表于 08-18 11:21 559次阅读

    电动工具EMC测试整改:软硬件协同方案

    深圳南柯电子|电动工具EMC测试整改:软硬件协同方案
    的头像 发表于 08-12 17:02 752次阅读
    电动工具EMC测试整改:<b class='flag-5'>软硬件</b><b class='flag-5'>协同</b>方案

    硬件与应用同频共振,英特尔Day 0适配腾讯开源混元大模型

    今日,腾讯正式发布新一代混元开源大语言模型。英特尔凭借在人工智能领域的全栈技术布局,现已在英特尔® 酷睿™ Ultra 平台上完成针对该模型的第零日(Day 0)部署与性能优化。值得一
    的头像 发表于 08-07 14:42 1138次阅读
    <b class='flag-5'>硬件</b>与应用同频共振,<b class='flag-5'>英特尔</b>Day 0适配腾讯开源混元大模型

    英特尔以系统级代工模式促进生态协同,助力客户创新

    服务体系,打造一个值得信赖的全栈式系统级代工平台。这一战略旨在帮助客户实现创新目标,同时巩固英特尔在代工市场的地位。 正如英特尔公司首席执行官陈立武所言:“
    的头像 发表于 05-09 14:38 446次阅读

    2025英特尔人工智能创新应用大赛正式启动

    近日,2025英特尔人工智能创新应用大赛(以下简称“大赛”)正式启动。本届大赛以“‘码’上出发,‘芯’创未来”为主题,在赛制、规模、奖项和赛事支持上实现多重升级,为开发者和企业提供展示创意和成果的广阔平台,鼓励他们充分利用英特尔
    的头像 发表于 04-02 15:24 897次阅读

    英特尔软硬件优化重构算力效率

    如何与能耗协同、通用架构如何与场景多元化匹配、技术迭代如何与生态步伐协同,构成当前企业应用算力过程中亟待解决的问题。   深耕数据中心领域多年,英特尔始终以技术
    的头像 发表于 03-08 09:20 820次阅读

    英特尔推出具备高性能和能效的以太网解决方案

    摘要:全新以太网产品在企业数据中心、电信、云及边缘环境中提供出色的性能、能效与更低的总体拥有成本(TCO)。 2025年2月25日,英特尔发布两大全新以太网产品线——英特尔以太网控制器
    发表于 02-25 11:17 355次阅读
    <b class='flag-5'>英特尔</b>推出具备<b class='flag-5'>高性能</b>和能效的以太网解决方案

    兆芯CPU近期软硬件适配动态

    近期,兆芯携手多家软硬件合作伙伴,基于开先KX-7000、开胜KH-40000等自主CPU和信创操作系统环境,持续推进应用生态建设工作,顺利完成医疗自主终端、商用收款机、服务器操作系统、数据库管理
    的头像 发表于 01-15 15:33 1015次阅读

    英特尔2024产品年鉴:AI与软硬件的融合发展

    潜力,并携手广泛的生态合作伙伴促进应用落地。具体而言,2024年英特尔软硬件产品及生态方面主要取得了以下进展: 12月 英特尔发布代号为Battlemage的全新 锐炫B系列显卡 。英特尔
    的头像 发表于 12-31 17:28 717次阅读
    <b class='flag-5'>英特尔</b>2024产品年鉴:AI与<b class='flag-5'>软硬件</b>的融合发展

    英特尔带您解锁云上智算新引擎

    在近日举办的2024火山引擎FORCE原动力大会上,英特尔与火山引擎联合发布基于英特尔 至强 6 性能核处理器的第四代服务器实例,以打造弹性算力底座的产品化实践。同时,
    的头像 发表于 12-23 14:05 1245次阅读