0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

使用DNA在现实世界中存储数据

DPVg_AI_era 来源:YXQ 2019-08-01 15:29 次阅读

相比传统的数据储存方式,DNA存储具有占用空间小、获取容易、储存时间长3大优势,但也面临存储速度慢、花费高的弊端。随着技术的不断成熟,它真的能成为主流吗?

全球每年产生的数据需要4180亿个1TB硬盘才能放下,若是把如此庞大的数据放到DNA上,只需 1kg DNA就够了!DNA存储才是未来!

几年前,甚至研究人员也不愿使用DNA来存储数据,因为这看起来过于科幻,并没有任何实用价值。今天,我们可以使用正确的软件和生物化学模块扩展PostgreSQL,并在DNA上运行SQL。

在这个数据爆炸的时代,全球的数据不仅远远超过我们理解数字的能力(比如你知道Zettabytes是多少吗?)更超过了我们的储存能力。

一切都是数字化的,一切都越来越多地运行在基于数据训练算法的应用程序上,而这些算法反过来会产生更多的数据来为更多的下游应用程序和算法提供信息。你懂了吧?

简单地说,按照这种速度,很快就没有足够的数据存储和计算材料可供使用。这就是为什么人们现在已经开始寻找替代的数据存储介质的原因。使用DNA来存储数据,这听起来很奇怪,实际上很有意义。现在,研究人员取得了突破,使他们能够将DNA存储整合到流行的开源数据库PostgreSQL中。

DNA是如何储存数据的?

DNA的核心是数据存储层。DNA由四种碱基组成:腺嘌呤、鸟嘌呤、胞嘧啶和胸腺嘧啶(又名AGCT)。从这四个碱基中,DNA形成由三个核苷酸组成的基团(称为密码子)。密码子是给我们的细胞指示蛋白质形成的单位。

我们的信息技术基础设施基于以位(bits)为单位的信息存储(由两位数字组成:0和1),而DNA信息存储在四个潜在基本单元的串中。为了将非遗传信息存储在DNA中,我们必须首先将二进制数据从位转换为DNA数据(AGCT)结构。

将Bits转换为DNA序列

理论部分实际上相当简单。与使用硅或磁性介质(它们的工作原理是将状态存储为1和0的序列)相同,存储A、G、C和T的序列。但是,这在实践中是如何工作的呢?如何在DNA中写入和读取数据呢?

这听起来可能有点遥不可及,但分子技术的进步已经使它成为可行——尽管并不完美。

例如,微软展示了世界上第一个自动DNA数据存储和检索系统。如果你想知道这个DNA来自哪里:这是合成DNA,产生它的是系统的一部分。

天然存在的DNA由两条核苷酸链的双螺旋的形式构成。相反,用于数据存储的DNA是单链核苷酸序列,也称为寡核苷酸(oligo),它通过化学过程合成,该化学过程一次构建一个核苷酸。

使用DNA在现实世界中存储数据

伦敦帝国理工学院 SCALE实验室负责人Heinis和Eurecom数据科学系助理教授Appuswamy 在创新数据系统研究会议上发表了题为“ OligoArchive: Using DNA in the DBMS storage hierarchy ”的研究论文。虽然他们不是第一个使用DNA存储和检索数据的人,但他们是第一个使用结构化数据、与现成的数据库集成、并超越存储、实现计算的人。

关于DNA作为数据存储层的第一件事是,每次执行写操作时,都必须合成寡核苷酸。这将如何在实践中发挥作用?实验室技术人员是否必须待命执行此操作,并“重新填充”用于化学过程的原材料?

并非如此,根据Appuswamy和Heinis的说法,这是微软通过其自动DNA存储和检索系统所证明的价值所在。这表明,在没有人参与的情况下操作这样一个过程是可能的。就像除了维护,没有人监督数据中心的日常运作一样,这同样适用于基于DNA的数据中心。

尽管如此,我们还远没有用合成DNA阵列取代硬盘。首先,以这种方式存储数据的现代技术非常缓慢。刚开始,科学家们花了一周时间来存储一兆字节的数据。

Appuswamy和Heinis一致认为,在这方面还需要更多的工作。但这超出了他们自己的研究范围,所以只能等待生化合成过程进一步提高。

首先,他们注意到存储速度已经越来越快,目前速度是每秒几KB。虽然与SSD相比,这仍然非常缓慢,但这是一个很大的进步。对于Appuswamy和Heinis的研究(即归档存储),这实际上是可以接受的。

数据库引擎使用三层存储层次结构,由具有不同价格/性能特性的设备组成。性能层存储高性能OLTP和实时分析应用程序访问的数据。

容量层存储由延迟不敏感(latency-insensitive)的批分析应用程序访问的数据。归档层用于存储很少访问的数据,例如,在安全合规性检查或法律审计期间。今天磁带通常用于这一层。

OligoArchive通过将基于磁带的归档层替换为基于DNA的归档层来改变数据库存储层次结构。合成DNA的存储需要额外的措施,对于普通的设备来说,基于DNA的存储是否有效还值得怀疑。但无论如何,数据和数据库都将进入云端,只要你的数据安全地存储在数据中心,对终端用户来说,这都是一个黑匣子。

在DNA上运行SQL

Appuswamy和Heinis还指出,即使它仍然很慢,DNA存储提供了很大的并行处理潜力。因为它很丰富、价格低廉 - 或者更确切地说,我们希望它最终会是这样。按照目前的速度,存储一分钟的高质量立体声将花费100,000美元。

尽管使用合成DNA进行大规模存储仍然过于昂贵,但Appuswamy和Heinis表示,他们预计成本会下降,这是包括存储技术在内的每一项科技突破的典型方式。

如果合成寡核苷酸在经济上变得可行,那么拥有大量的合成寡核苷酸将是一个合理的预期。这意味着许多DNA存储单元可以并行运行的巨大潜力。虽然不是每种算法的每一个方面都是可并行的,但对于那些算法来说,可以实现极大的加速。这就把我们带到了一个关键点。

直到今天,DNA一直被用于存储非结构化文件,无论是文本还是视频,或者其他什么。Appuswamy和Heinis所做的是将DNA存储整合到关系数据库中。他们采用了标准数据库基准测试TPC-H中包含的数据和查询,并在PostgreSQL实例上运行了TPC-H。不是串行访问,而是随意选择数据。

使用后端的DNA在数据库系统中存储结构化数据,并通过SQL查询,这在今天已成为现实。

研究人员为PostgreSQL构建了归档和恢复工具(pg_oligo_dump和pg_oligo_restore),对DNA上的关系数据执行模式感知编码和解码,并使用这些工具将12KB TPC-H数据库归档到DNA,执行in-vitro计算,以及再次恢复它。

这是巨大的。这意味着现在DNA存储还可以支持SQL操作,来有选择地访问和处理部分数据。请注意,数据不会被提取到数据库来执行操作。Appuswamy和Heinis找到了一种方法来处理寡核苷酸中的SQL连接。这超出了生化储存的范围——它还需要生物化学计算。

然而,要做到这一点,研究人员必须处理一系列与用于编码和解码DNA信息的技术缺陷有关的问题。对DNA进行操作需要专门的编码技术,这些技术可以产生适合生化操作的寡核苷酸。读取DNA数据目前非常容易出错,以前的工作依赖于数据过度表示(over-representation):数据被写在许多副本中,因此如果原始数据被破坏,备份还在。

相比之下,Appuswamy和Heinis依赖于元数据。他们利用数据库模式感知,在编写的块中添加一些额外的数据位。研究表明,这可以在编码(写入)过程中提高密度,并有助于在解码(读取)过程中识别错误。他们注意到这比预期效果更好。

DNA是数据的未来吗?

尽管部分技术还不成熟,但这是一个重大突破。拥有足够的数据中心存储空间已经成为一个game changer。但是,将像DNA这样丰富的东西作为一种可行的存储和计算介质的意义可能会超出我们的想象。

这可能只是朝这个方向迈出的第一步,但每一个旅程都从第一步开始,Appuswamy和Heinis并不是独行者。

Eurecom,CNRSICL,UCA以及DNA合成初创企业Helixworks已获得欧盟资助,以进一步开展DNA储存研究。该系统将被设计成支持数据编码的全自动循环,将其合成为DNA,并通过序列读取数据。它将存储各种不同的数据类型,并在存储和精确检索数据时实现近距离数据处理。

将数据存储在DNA中的进一步研究将由欧盟资助

Appuswamy和Heinis提到,到目前为止,主要是其他研究人员对这个感兴趣,至于说公司,微软似乎比任何公司都表现出了更多的兴趣。

掌握这项技术可能意味着拥有未来,因为这一领域的突破将产生巨大的影响。Appuswamy和Heinis指出,这表明了人们的态度:

“几年前,人们会认为这太离谱了。今天,当我们告诉他们我们正在做什么时,他们会说——多告诉我们一些”。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 存储
    +关注

    关注

    12

    文章

    3854

    浏览量

    84652
  • DNA
    DNA
    +关注

    关注

    0

    文章

    240

    浏览量

    30917

原文标题:存储1分钟声音花10万美元,DNA存储真的有未来吗?

文章出处:【微信号:AI_era,微信公众号:新智元】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    DNA存储卡:高价与遥远现实

    生物记忆表示,其 DNA 存储卡有望保证 150 年内的数据存储安全,远远超出人类生存年限。然而,对于多数消费者而言,花费如此高价仅换来 1KB
    的头像 发表于 01-23 10:29 193次阅读

    BCP为什么只有收集数据后才存储数据

    有很多不便之处,因为可以存储 BCP 的收集数据的数量限制为 10,000。 为什么只有收集数据
    发表于 01-22 07:06

    ADIS16227的FFT AVERAGING选择后,存储FFT RECORDS—NONVOLATILE FLASH MEMORY数据是否有次数限制?

    请问ADIS16227的FFT AVERAGING 选择后,存储FFT RECORDS—NONVOLATILE FLASH MEMORY数据是否有次数限制?
    发表于 12-29 06:40

    数字数据初创公司Biomemory宣布推出1000美元全球首款DNA存储产品

    Biomemory的DNA数据存储卡承诺“最低”寿命为150年。1000美元的价格包括了两张相同的卡——一张用于保存,另一张用于测试检索数据的过程,其中带有1KB的
    的头像 发表于 12-18 17:04 415次阅读

    某些传感器模块,采集的数据是以什么形式存储传感器当中的?

    某些传感器模块,采集的数据是以什么形式存储传感器当中的?
    发表于 10-23 08:14

    数据在内存的存储右对齐是什么情况下使用?

    数据在内存的存储右对齐是什么情况下使用
    发表于 10-15 11:20

    数据存储的大小端指是什么意思?

    数据存储的大小端指是什么意思
    发表于 10-13 06:20

    增强现实和虚拟现实的区别

    增强现实和虚拟现实的区别 增强现实和虚拟现实有以下区别: 1. 概念不同:增强现实是将真实世界
    的头像 发表于 08-02 18:40 7627次阅读

    增强现实和虚拟现实的区别 增强现实和虚拟现实的工作原理

    增强现实和虚拟现实的工作原理相似,都是通过数字技术来改变用户对现实世界或虚拟世界的感知,但原理上还是有所不同的。
    发表于 08-02 17:39 597次阅读

    理解在现实世界中热阻

    电子发烧友网站提供《理解在现实世界中热阻.pdf》资料免费下载
    发表于 07-24 09:50 4次下载
    理解在<b class='flag-5'>现实</b><b class='flag-5'>世界</b>中热阻

    如何保存数据SRAM存储通过SW?

    ************************************************* ************************************* * 详细说明: * 这个例子的目的是展示如何保存数据 SRAM
    发表于 06-05 09:47

    用于NTAG 424 DNA 的 Reel Reel NFC编码器替代品是什么?

    你好! 我正在寻找一种配置多个 NTAG 424 DNA NFC 贴纸的方法,而不是使用 NXP TagXplorer 手动单独配置每个标签。我想在批处理过程配置它们。 但是他们
    发表于 05-29 06:52

    求分享用于EEPROM存储/检索数据的库

    我写了一些实用函数来管理 ESP 上 EEPROM 数据。我现在将它重组为一个库,以便我可以在其他项目中方便地使用它。我想把它贴在github上。我看到有一个区域“ESP8266 社区论坛”是放置它的好地方。 我可以该区域
    发表于 05-22 10:21

    如何对文件进行OTA更新存储闪存/文件系统数据文件?

    我们如何通过 . 例如,如果我正在托管一个从 Flash 提供页面、css、js 等服务的网络服务器,现在使用 http 服务器我可以对草图(.bin 文件)进行 OTA,但是我如何对我的文件进行 OTA 更新存储闪存/文件系统
    发表于 05-16 08:25

    微流控技术在DNA数据存储中的应用前景

    人类社会已进入信息爆炸时代,传统的数据存储媒介即将无法满足目前指数式增长的数据存储需求,因此亟需探索新一代数据
    的头像 发表于 04-27 09:50 849次阅读
    微流控技术在<b class='flag-5'>DNA</b><b class='flag-5'>数据</b><b class='flag-5'>存储</b>中的应用前景