0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

使用DNA在现实世界中存储数据

DPVg_AI_era 来源:YXQ 2019-08-01 15:29 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

相比传统的数据储存方式,DNA存储具有占用空间小、获取容易、储存时间长3大优势,但也面临存储速度慢、花费高的弊端。随着技术的不断成熟,它真的能成为主流吗?

全球每年产生的数据需要4180亿个1TB硬盘才能放下,若是把如此庞大的数据放到DNA上,只需 1kg DNA就够了!DNA存储才是未来!

几年前,甚至研究人员也不愿使用DNA来存储数据,因为这看起来过于科幻,并没有任何实用价值。今天,我们可以使用正确的软件和生物化学模块扩展PostgreSQL,并在DNA上运行SQL。

在这个数据爆炸的时代,全球的数据不仅远远超过我们理解数字的能力(比如你知道Zettabytes是多少吗?)更超过了我们的储存能力。

一切都是数字化的,一切都越来越多地运行在基于数据训练算法的应用程序上,而这些算法反过来会产生更多的数据来为更多的下游应用程序和算法提供信息。你懂了吧?

简单地说,按照这种速度,很快就没有足够的数据存储和计算材料可供使用。这就是为什么人们现在已经开始寻找替代的数据存储介质的原因。使用DNA来存储数据,这听起来很奇怪,实际上很有意义。现在,研究人员取得了突破,使他们能够将DNA存储整合到流行的开源数据库PostgreSQL中。

DNA是如何储存数据的?

DNA的核心是数据存储层。DNA由四种碱基组成:腺嘌呤、鸟嘌呤、胞嘧啶和胸腺嘧啶(又名AGCT)。从这四个碱基中,DNA形成由三个核苷酸组成的基团(称为密码子)。密码子是给我们的细胞指示蛋白质形成的单位。

我们的信息技术基础设施基于以位(bits)为单位的信息存储(由两位数字组成:0和1),而DNA信息存储在四个潜在基本单元的串中。为了将非遗传信息存储在DNA中,我们必须首先将二进制数据从位转换为DNA数据(AGCT)结构。

将Bits转换为DNA序列

理论部分实际上相当简单。与使用硅或磁性介质(它们的工作原理是将状态存储为1和0的序列)相同,存储A、G、C和T的序列。但是,这在实践中是如何工作的呢?如何在DNA中写入和读取数据呢?

这听起来可能有点遥不可及,但分子技术的进步已经使它成为可行——尽管并不完美。

例如,微软展示了世界上第一个自动DNA数据存储和检索系统。如果你想知道这个DNA来自哪里:这是合成DNA,产生它的是系统的一部分。

天然存在的DNA由两条核苷酸链的双螺旋的形式构成。相反,用于数据存储的DNA是单链核苷酸序列,也称为寡核苷酸(oligo),它通过化学过程合成,该化学过程一次构建一个核苷酸。

使用DNA在现实世界中存储数据

伦敦帝国理工学院 SCALE实验室负责人Heinis和Eurecom数据科学系助理教授Appuswamy 在创新数据系统研究会议上发表了题为“ OligoArchive: Using DNA in the DBMS storage hierarchy ”的研究论文。虽然他们不是第一个使用DNA存储和检索数据的人,但他们是第一个使用结构化数据、与现成的数据库集成、并超越存储、实现计算的人。

关于DNA作为数据存储层的第一件事是,每次执行写操作时,都必须合成寡核苷酸。这将如何在实践中发挥作用?实验室技术人员是否必须待命执行此操作,并“重新填充”用于化学过程的原材料?

并非如此,根据Appuswamy和Heinis的说法,这是微软通过其自动DNA存储和检索系统所证明的价值所在。这表明,在没有人参与的情况下操作这样一个过程是可能的。就像除了维护,没有人监督数据中心的日常运作一样,这同样适用于基于DNA的数据中心。

尽管如此,我们还远没有用合成DNA阵列取代硬盘。首先,以这种方式存储数据的现代技术非常缓慢。刚开始,科学家们花了一周时间来存储一兆字节的数据。

Appuswamy和Heinis一致认为,在这方面还需要更多的工作。但这超出了他们自己的研究范围,所以只能等待生化合成过程进一步提高。

首先,他们注意到存储速度已经越来越快,目前速度是每秒几KB。虽然与SSD相比,这仍然非常缓慢,但这是一个很大的进步。对于Appuswamy和Heinis的研究(即归档存储),这实际上是可以接受的。

数据库引擎使用三层存储层次结构,由具有不同价格/性能特性的设备组成。性能层存储高性能OLTP和实时分析应用程序访问的数据。

容量层存储由延迟不敏感(latency-insensitive)的批分析应用程序访问的数据。归档层用于存储很少访问的数据,例如,在安全合规性检查或法律审计期间。今天磁带通常用于这一层。

OligoArchive通过将基于磁带的归档层替换为基于DNA的归档层来改变数据库存储层次结构。合成DNA的存储需要额外的措施,对于普通的设备来说,基于DNA的存储是否有效还值得怀疑。但无论如何,数据和数据库都将进入云端,只要你的数据安全地存储在数据中心,对终端用户来说,这都是一个黑匣子。

在DNA上运行SQL

Appuswamy和Heinis还指出,即使它仍然很慢,DNA存储提供了很大的并行处理潜力。因为它很丰富、价格低廉 - 或者更确切地说,我们希望它最终会是这样。按照目前的速度,存储一分钟的高质量立体声将花费100,000美元。

尽管使用合成DNA进行大规模存储仍然过于昂贵,但Appuswamy和Heinis表示,他们预计成本会下降,这是包括存储技术在内的每一项科技突破的典型方式。

如果合成寡核苷酸在经济上变得可行,那么拥有大量的合成寡核苷酸将是一个合理的预期。这意味着许多DNA存储单元可以并行运行的巨大潜力。虽然不是每种算法的每一个方面都是可并行的,但对于那些算法来说,可以实现极大的加速。这就把我们带到了一个关键点。

直到今天,DNA一直被用于存储非结构化文件,无论是文本还是视频,或者其他什么。Appuswamy和Heinis所做的是将DNA存储整合到关系数据库中。他们采用了标准数据库基准测试TPC-H中包含的数据和查询,并在PostgreSQL实例上运行了TPC-H。不是串行访问,而是随意选择数据。

使用后端的DNA在数据库系统中存储结构化数据,并通过SQL查询,这在今天已成为现实。

研究人员为PostgreSQL构建了归档和恢复工具(pg_oligo_dump和pg_oligo_restore),对DNA上的关系数据执行模式感知编码和解码,并使用这些工具将12KB TPC-H数据库归档到DNA,执行in-vitro计算,以及再次恢复它。

这是巨大的。这意味着现在DNA存储还可以支持SQL操作,来有选择地访问和处理部分数据。请注意,数据不会被提取到数据库来执行操作。Appuswamy和Heinis找到了一种方法来处理寡核苷酸中的SQL连接。这超出了生化储存的范围——它还需要生物化学计算。

然而,要做到这一点,研究人员必须处理一系列与用于编码和解码DNA信息的技术缺陷有关的问题。对DNA进行操作需要专门的编码技术,这些技术可以产生适合生化操作的寡核苷酸。读取DNA数据目前非常容易出错,以前的工作依赖于数据过度表示(over-representation):数据被写在许多副本中,因此如果原始数据被破坏,备份还在。

相比之下,Appuswamy和Heinis依赖于元数据。他们利用数据库模式感知,在编写的块中添加一些额外的数据位。研究表明,这可以在编码(写入)过程中提高密度,并有助于在解码(读取)过程中识别错误。他们注意到这比预期效果更好。

DNA是数据的未来吗?

尽管部分技术还不成熟,但这是一个重大突破。拥有足够的数据中心存储空间已经成为一个game changer。但是,将像DNA这样丰富的东西作为一种可行的存储和计算介质的意义可能会超出我们的想象。

这可能只是朝这个方向迈出的第一步,但每一个旅程都从第一步开始,Appuswamy和Heinis并不是独行者。

Eurecom,CNRSICL,UCA以及DNA合成初创企业Helixworks已获得欧盟资助,以进一步开展DNA储存研究。该系统将被设计成支持数据编码的全自动循环,将其合成为DNA,并通过序列读取数据。它将存储各种不同的数据类型,并在存储和精确检索数据时实现近距离数据处理。

将数据存储在DNA中的进一步研究将由欧盟资助

Appuswamy和Heinis提到,到目前为止,主要是其他研究人员对这个感兴趣,至于说公司,微软似乎比任何公司都表现出了更多的兴趣。

掌握这项技术可能意味着拥有未来,因为这一领域的突破将产生巨大的影响。Appuswamy和Heinis指出,这表明了人们的态度:

“几年前,人们会认为这太离谱了。今天,当我们告诉他们我们正在做什么时,他们会说——多告诉我们一些”。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 存储
    +关注

    关注

    13

    文章

    4693

    浏览量

    89567
  • DNA
    DNA
    +关注

    关注

    0

    文章

    244

    浏览量

    31939

原文标题:存储1分钟声音花10万美元,DNA存储真的有未来吗?

文章出处:【微信号:AI_era,微信公众号:新智元】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    使用英伟达 NVIDIA Air 服务将仿真与现实世界连接

    优势之一是能够将您的仿真与现实世界连接起来。通过启用外部连接,可以您的环境显著增强其功能、性能和灵活性。通过集成云资源、API、第三方数据
    的头像 发表于 07-07 19:41 900次阅读
    使用英伟达 NVIDIA Air 服务将仿真与<b class='flag-5'>现实</b><b class='flag-5'>世界</b>连接

    划片机存储芯片制造的应用

    划片机(DicingSaw)半导体制造主要用于将晶圆切割成单个芯片(Die),这一过程在内存储存卡(如NAND闪存芯片、SSD、SD卡等)的生产中至关重要。以下是划片机
    的头像 发表于 06-03 18:11 743次阅读
    划片机<b class='flag-5'>在</b><b class='flag-5'>存储</b>芯片制造<b class='flag-5'>中</b>的应用

    恩智浦NTAG X DNA新一代安全互联NFC标签 兼容市面上所有NFC移动设备

    新闻提要 恩智浦NTAG X DNA NFC互联标签集大容量存储、高速数据传输与安全唯一NFC (SUN) 身份验证技术于一身,可兼容市面上的所有NFC移动设备,实现安全可靠的身份验证与无缝的连接体
    的头像 发表于 05-30 09:28 5727次阅读

    #### KEPServerEX 数据存储插件\\-2

    到VARCHAR”启用,这样就可以修改成字符串的形式了。 三、前面我们都在说怎么设置存储触发条件,那如果由于网络等问题导致Kepware与数据库之间的连接断开了,怎么保障数据存储不丢失
    发表于 04-09 16:09

    NXP MCU RT1166如何使用JTAG/SWD工具将数据存储到内部闪存

    我需要使用 JTAG 将数据存储到内部闪存。我能够使用 JTAG/SWD 工具 ARM J-Link 将它们存储 FlexSPI1 连接
    发表于 04-01 06:54

    RTOS的本地存储指针使用

    本地存储指针是RTOS的一个重要特性,增强了任务管理和数据处理能力。RTOS上下文中,本地存储是指
    的头像 发表于 02-28 16:33 1169次阅读
    RTOS<b class='flag-5'>中</b>的本地<b class='flag-5'>存储</b>指针使用

    KEPServerEX 数据存储插件

    好LogGroup之后,Triggers里面记录条件,设置 “登录静态间隔”--否; “在数据更改时记录”---是 这样数据就会在变化的时候才会
    的头像 发表于 02-28 14:47 510次阅读
    KEPServerEX <b class='flag-5'>数据</b><b class='flag-5'>存储</b>插件

    数据怎么云存储电脑,数据怎么操作才能云存储电脑

    怎么操作才能云存储电脑。    在数字化时代,云存储成为了一种高效、灵活的数据管理方式。通过将数据存储
    的头像 发表于 01-14 10:10 1149次阅读
    <b class='flag-5'>数据</b>怎么云<b class='flag-5'>存储</b><b class='flag-5'>在</b>电脑,<b class='flag-5'>数据</b>怎么操作才能云<b class='flag-5'>存储</b><b class='flag-5'>在</b>电脑

    字符串在数据存储方式

    数据库是现代信息技术存储和管理数据的核心组件。字符串作为最常见的数据类型之一,在数据
    的头像 发表于 01-07 15:41 1250次阅读

    MTP存储的应用前景

    随着信息技术的飞速发展,数据量呈爆炸式增长,传统的存储方式已经无法满足日益增长的数据存储需求。云存储作为一种新兴的
    的头像 发表于 01-03 10:31 974次阅读

    【「具身智能机器人系统」阅读体验】+数据具身人工智能的价值

    嵌入式人工智能(EAI)将人工智能集成到机器人等物理实体,使它们能够感知、学习环境并与之动态交互。这种能力使此类机器人能够人类社会中有效地提供商品及服务。 数据是一种货币化工具 数据
    发表于 12-24 00:33

    缓存技术软件开发的应用

    现代软件开发,随着数据量的爆炸性增长和用户对响应速度的高要求,缓存技术成为了提升系统性能的重要手段。缓存技术通过将数据存储
    的头像 发表于 12-18 09:32 1131次阅读

    加密算法云计算如何应用?

    加密算法云计算的应用主要体现在以下几个方面: 数据加密 : 数据加密是保护数据传输和
    的头像 发表于 12-17 16:02 856次阅读

    如何优化EEPROM的数据存储策略

    EEPROM(Electrically Erasable Programmable Read-Only Memory,电可擦除可编程只读存储器)是一种非挥发性存储器,可以没有电源的情况下保持
    的头像 发表于 12-16 17:21 2027次阅读

    EEPROM嵌入式系统的应用 EEPROM数据保护技术解析

    数据进行擦除和重写。嵌入式系统,EEPROM因其独特的特性而被广泛应用于存储关键数据,如配置参数、校准
    的头像 发表于 12-16 16:37 3711次阅读