0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

双向赋能:AI与数据库的修行之道

爱云资讯 2024-06-28 23:07 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

在这个数据为王的时代,数据是人工智能的三大支柱之一,其重要性不言而喻。最近,OpenAI收购了数据库初创公司Rockset,迅速引起了业内外的广泛关注。OpenAI早已在算法和计算能力方面遥遥领先,通过这次战略性的收购,OpenAI将在其产品中融合Rockset的先进数据索引和查询技术,帮助OpenAI将数据转化为“可操作智能”。

现代数据库与人工智能(AI)的融合,正如同一场席卷全球的技术革命,深刻地重塑着技术与产业的格局。

一方面,数据库技术的技术迭代需要更好地支持人工智能应用工作负责,比如向量数据库,也就是DB for AI;另一方面人工智能技术也更好地让数据库运维更方便,实现自动化和智能化,也就是AI for DB。

在这一个变革过程中,数据库产业正面临诸多挑战,比如海量数据高性能和大并发、大量数据库实例智能优化、保障数据安全防篡改的防护等。面对这种情况,企业如何通过技术创新和生态协同应对挑战并抓住其中的机遇呢?

作为数据库领域的领头羊,东方国信、PingCAP、云和恩墨通过自身的技术与产品实践给出了他们的答案,同时他们与英特尔的协同创新,也让我们看到了数据库生态的蓬勃生机。

新需求催生新挑战

在AI大模型时代,由于数据库的使用人数和数据量的爆炸性增长,数据库系统的并发度会极大提升。云和恩墨联合创始人兼CTO杨廷琨强调,数据量爆发性增长带来压力的同时,硬件技术的快速发展也促进了算力提升,为提升处理能力和性能提供了可能性。这时候,数据库厂商需从两方面着手应对:一方面增强单机性能,另一方面通过架构设计实现平滑扩展,以满足海量数据的处理需求。

同时,数据量的爆炸性增长也会带来极大的数据冗余。在此挑战下,用户从需求侧又提出了很多新的要求,东方国信副总裁兼CTO查礼表示:用户往往会希望数仓既能做数据加工,又能做分析和查询,这要求数据库系统具有高度灵活性和多功能性。

数据来源多样化和用户需求复杂化催生了对硬件越来越高的需求,数据库要保持高性能、高稳定性,开发和运维人员又需要简化数据库的使用,这构成了一种“悖论”。

为解决数据库行业“既要、又要”的问题,越来越多的数据技术公司让AI“入局”,让数据库越跑越“聪明”。PingCAP服务总经理林景旭表示,他们正探索利用AI技术增强数据库功能,同时简化用户操作。作为一家分布式数据库厂商,PingCAP提供的开源分布式数据产品与解决方案,通过分布式数据库架构,实现计算和存储分离,以动态扩展满足不同用户需求,这其中便可以通过AI算法来优化资源使用和性能评判。

数据库产业需要不断创新,开发更加高效、可靠、智能的数据库技术,才能满足新需求的挑战。同时,数据库产业链也需要紧密合作,共同推动数据库技术的发展,为数字经济的发展提供更加坚实的基础。

生态协同推动产业变革

数据库产业面临的挑战是多方面的,这些挑战并非单个企业能够独自解决,需要整个产业的协同合作,才能共同应对挑战,并抓住其中的机遇。

凭借先进的处理器技术、开源合作策略以及对客户需求的深刻理解,英特尔与数据库领域的合作伙伴一起构建了一个开源开放、合作共赢的生态环境,助力数据库技术的持续创新和应用落地。

英特尔中国云创中心技术总经理张晓军介绍说,第四代和第五代英特尔®️ 至强® 可扩展处理器内置了多项面向数据库优化的技术,例如英特尔® QAT(英特尔® 数据保护与压缩技术)用于数据压缩解压缩,以及英特尔® IAA(英特尔® 存内分析加速器)加速数据分析。在数据安全方面,英特尔也能通过英特尔® TDX(英特尔® 信任域扩展)和SGX(英特尔® 软件防护扩展)为使用中的数据提供端到端硬件级防护能力。

此外英特尔至强6处理器已于近期发布,提供了两种不同的 CPU 微架构版本,分别为性能核 (P-core) 和能效核(E-core),让多种工作负载的性能和能效表现再创新高。其全新功能和内置加速器为目标工作负载带来进一步助力,实现了更高的性能和能效。

wKgZomZ-0ZmAXpszAALAKKFfimY808.png

基于英特尔® 架构的加速器与软件工具

众多的合作伙伴正在借助至强处理器和加速器及软件工具增强自身的产品竞争力。

比如PingCAP推出的TiDB开源分布式数据库就得益于第四代英特尔® 至强® 可扩展处理器卓越的代际性能,其数据库的只读性能与读写性能分别达到基准配置的1.62倍与1.43倍。

wKgZomZ-0ZmAd4vGAAC0AyhEpBQ338.png

此外TiDB利用至强®️ 可扩展处理器搭载的英特尔®️ IAA提供的出色吞吐量压缩和解压缩功能,在不影响性能的前提下,提升了数据压缩率,节约了存储空间。PingCAP采用英特尔®️ IAA代替LZ4之后,TiDB压缩率为LZ4无损压缩算法的1.4倍。

wKgZomZ-0ZmAbuQKAAD6U5qW0Yc786.png

并结合CPU的迭代,性能提升可达到原配置的1.56倍 ,有助于客户化解数据压缩所带来的性能困扰。

wKgaomZ-0ZmAa7V8AAEZe0-RboQ070.png

虽然硬件性能的提升为数据库处理海量数据提供了基础,但要真正发挥这些算力,需要对数据库内核进行深度优化。云和恩墨通过改进数据库内核,使之更好地适应现代硬件,如多核CPU、大内存和高速IO子系统,从而实现单机性能的显著提升。

根据其透露的测试结果,在一颗至强®️ 双路服务器架构上,以50G内存配置,再加上一个NVMe的SSD闪存,云和恩墨达到了700万TPCC的指标,可以说是极大提高了单机能力。

东方国信适用于超大规模数据存储和在线分析的大数据 BEH平台企业版通过集成Gluten与Velox Backend向量化执行引擎,为Spark注入了原生矢量化执行的能力,同时结合第四代英特尔® 至强® 可扩展处理器,以及处理器集成的英特尔® QAT加速器,显著优化了Spark批处理计算、SparkSQL计算、SQL查询服务的执行效率。经测试,在相同硬件环境下,配合英特尔® QAT的加成,Spark计算性能可提升高达 2.9倍。

wKgaomZ-0ZmAT0OdAADj6_7f8dI573.png

除了硬件之外,英特尔还强化了在软件及数据库生态方面的投入。张晓军还强调了英特尔在开源领域的贡献,如Apache社区的Gluten项目,已经在很多客户系统里得到了广泛应用,相比传统的Spark,性能可以提高2-3倍,如果其运行在英特尔的硬件上预计取得更优性能,显著提升大数据处理效率。·

数据库与AI深度融合

随着大数据时代的到来,数据量及系统数量都呈指数级增长,数据类型也由结构化数据逐渐演变成了非结构化数据和半结构化数据,这就对数据库系统的稳定性和能力提出了更高的要求,数据库技术和人工智能技术相结合成为当前热门的研究主题之一。

在AI时代,数据已成为驱动企业发展的核心要素,而数据库作为存储、管理和分析数据的重要基础设施,与AI技术的深度融合将是大势所趋。这种融合不仅能够提升数据库的性能和智能化水平,还能够推动AI技术的应用落地。

数据库厂商在不同维度上探索和应用AI,东方国信正在利用AI技术,尤其是在智能取数方面,通过自然语言处理生成SQL语句,提高数据提取的灵活性和效率。同时,他们也在探索智能建仓,尝试通过AI技术自动化数据仓库的构建和维护流程,旨在实现数据仓库的自动化和智能化。

查礼表示,公司正积极研发解决方案,旨在通过AI辅助减少人工介入,提高效率,预计通过AI技术的引入,数仓维护成本能降低60%。

PingCAP利用AI算法进行资源管理,让数据库更适应复杂多变的业务场景。林景旭强调,通过集成AI技术,比如利用AI优化数据库内部管理,提升数据库本身的智能水平,使其在满足复杂业务场景的同时,降低使用门槛。这意味着数据库不仅要有强大的数据处理能力,还需具备自我管理和优化的能力,确保在面对日益复杂的业务需求时,能更加自主、高效地运行。

云和恩墨则推动自身“AI for DB”和“DB for AI”的双向促进,杨廷琨指出,云和恩墨利用AI提升数据库性能,尤其是在数据库智能资源管理、智能监控、智能根因追踪、智能参数调优、SQL智能优化以及自动驾驶等方面的应用潜能。

结语

现代数据库与人工智能的结合不仅对处理能力、架构灵活性和用户体验提出了更高要求,也为数据库产业带来了前所未有的发展机遇。

随着技术的不断进步和生态合作的深化,未来数据库将更加智能、灵活和强大,为数字经济的发展提供坚实的基础。英特尔与数据库领域的合作伙伴将一起共同推动数据库产业向智能化、高效化转型,满足客户的业务创新需求。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 存储
    +关注

    关注

    13

    文章

    4886

    浏览量

    90263
  • AI
    AI
    +关注

    关注

    91

    文章

    41029

    浏览量

    302555
  • 数据库
    +关注

    关注

    7

    文章

    4082

    浏览量

    68530
  • OpenAI
    +关注

    关注

    9

    文章

    1249

    浏览量

    10270
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    艾体宝干货 | 多模型数据库解决的到底是什么问题?

    数据库选型的专业讨论中,“多模型数据库”已逐步成为热点概念,但行业对其认知仍存在偏差——要么被曲解为“无所不能的万数据库”,要么被简化为“图数据
    的头像 发表于 02-03 16:08 396次阅读

    国创基础资源深度集成华天软件皇冠CAD,共建“数据+设计”国产工业软件新生态

    近日,国创基础资源与华天软件旗下皇冠CAD完成全面深度集成,双方携手打造“国家级工业数据库+国产设计平台”一体化解决方案,推动设计效率与数据应用双向
    的头像 发表于 01-16 17:57 6696次阅读
    国创基础资源<b class='flag-5'>库</b>深度集成华天软件皇冠CAD,共建“<b class='flag-5'>数据</b>+设计”国产工业软件新生态

    不用编程不用联网,快速实现PLC与数据库双向数据通讯的案例

    智能网关IGT-DSER实现S7-1200/1500系列的PLC与数据库服务器双向通讯,网关支持MySQL和SQLServer、PostgreSQL,以及Oracle、达梦数据库等。这里选择
    发表于 01-14 10:51

    2025开放原子开发者大会AI时代数据库创新实践分论坛成功举办

    11月21日,2025开放原子开发者大会——AI时代数据库创新实践分论坛成功举办。论坛以“构建AI时代智能数据底座”为核心主题,汇聚OpenTenBase、Apache Doris、K
    的头像 发表于 11-27 14:56 712次阅读

    国产数据库AI战事

    国产数据库硝烟再起,Vastbase V100构筑企业智能基座
    的头像 发表于 10-24 20:45 4375次阅读
    国产<b class='flag-5'>数据库</b>的<b class='flag-5'>AI</b>战事

    AI数据库双向,达梦靠自主创新把握弯道超车机遇

    AI技术迅猛发展的今天,作为数据存储与处理核心载体的数据库,正经历一场深刻的变革,传统数据库AI技术的碰撞融合,带来了新的发展机遇,也在
    的头像 发表于 08-29 10:57 961次阅读

    数据库性能优化指南

    作为一名在大厂摸爬滚打多年的运维老兵,我见过太多因为数据库性能问题导致的生产事故。今天分享一套完整的数据库优化方法论,从SQL层面到硬件配置,帮你彻底解决性能瓶颈!
    的头像 发表于 08-18 11:21 888次阅读

    数据库数据恢复—服务器异常断电导致Oracle数据库故障的数据恢复案例

    Oracle数据库故障: 某公司一台服务器上部署Oracle数据库。服务器意外断电导致数据库报错,报错内容为“system01.dbf需要更多的恢复来保持一致性”。该Oracle数据库
    的头像 发表于 07-24 11:12 836次阅读
    <b class='flag-5'>数据库</b><b class='flag-5'>数据</b>恢复—服务器异常断电导致Oracle<b class='flag-5'>数据库</b>故障的<b class='flag-5'>数据</b>恢复案例

    三款主流国产数据库的技术特点

    随着数字经济的快速发展和数据安全要求的提升,国产数据库正迎来前所未有的发展机遇。在信创浪潮推动下,达梦数据库、TiDB、华为高斯数据库等国产数据库
    的头像 发表于 07-14 11:08 1328次阅读

    数据库数据恢复—MongoDB数据库文件丢失的数据恢复案例

    MongoDB数据库数据恢复环境: 一台操作系统为Windows Server的虚拟机上部署MongoDB数据库。 MongoDB数据库故障: 工作人员在MongoDB服务仍
    的头像 发表于 07-01 11:13 776次阅读
    <b class='flag-5'>数据库</b><b class='flag-5'>数据</b>恢复—MongoDB<b class='flag-5'>数据库</b>文件丢失的<b class='flag-5'>数据</b>恢复案例

    数据库数据恢复—SQL Server数据库被加密如何恢复数据

    SQL Server数据库故障: SQL Server数据库被加密,无法使用。 数据库MDF、LDF、log日志文件名字被篡改。
    的头像 发表于 06-25 13:54 832次阅读
    <b class='flag-5'>数据库</b><b class='flag-5'>数据</b>恢复—SQL Server<b class='flag-5'>数据库</b>被加密如何恢复<b class='flag-5'>数据</b>?

    oracle数据恢复—oracle数据库误执行错误truncate命令如何恢复数据

    oracle数据库误执行truncate命令导致数据丢失是一种常见情况。通常情况下,oracle数据库误操作删除数据只需要通过备份恢复数据
    的头像 发表于 06-05 16:01 1742次阅读
    oracle<b class='flag-5'>数据</b>恢复—oracle<b class='flag-5'>数据库</b>误执行错误truncate命令如何恢复<b class='flag-5'>数据</b>?

    SQLSERVER数据库是什么

    SQL Server 是由微软公司开发的一款 关系型数据库管理系统(RDBMS) ,用于存储、管理和检索结构化数据。它是企业级应用中广泛使用的数据库解决方案之一,尤其适用于Windows平台,但也
    的头像 发表于 05-26 09:19 1297次阅读

    MySQL数据库是什么

    MySQL数据库是一种 开源的关系型数据库管理系统(RDBMS) ,由瑞典MySQL AB公司开发,后被Oracle公司收购。它通过结构化查询语言(SQL)进行数据存储、管理和操作,广泛应用于Web
    的头像 发表于 05-23 09:18 1430次阅读

    智能通信网络设计引擎:VDE Cloud未来汽车网络研发

    VDE Cloud 作为一款基于B/S架构的车载总线通信数据库设计和管理系统,为汽车智能通信网络设计深度
    的头像 发表于 05-13 13:44 645次阅读
    智能通信网络设计引擎:VDE Cloud<b class='flag-5'>赋</b><b class='flag-5'>能</b>未来汽车网络研发