0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

云南天文台:基于分布式存储,为天文观测构建新数据底座

浪潮存储 来源:浪潮存储 2023-02-22 13:48 次阅读

晴空万里、群星璀璨的丽江高美古,在纳西语中的释义是“天气好、星星多、离天最近的地方”。这里的年平均晴天超200天,视宁度达到世界优良台址的水平,大气洁净透明,抬头可见满天的繁星、清晰的银河,近年来逐步成为国内重要的天文观测站点和国内外天文工作者的观测圣地。

建设在高美古的中国科学院云南天文台丽江观测站(以下简称丽江观测站),拥有独特的地理环境优势,经过多年的建设,逐步建设完成了2.4米、1.8米、1.6米等多种口径规格光学望远镜和一批小口径的远程/自动望远镜、日冕仪、射电望远镜等科学观测装置,云南天文台的南方天文观测集群已经初具规模。

随着天文观测需求不断提升,天文观测所产生的观测数据量也越来越大,这对数据存储和处理提出了更高的要求。为此,丽江观测站采用浪潮分布式存储构建三级数据存储平台,为天文研究乃至今后的数字经济产业研究提供有利的硬件平台支撑。

dc53df34-b26f-11ed-bfe3-dac502259ad0.png

云南天文台丽江观测站的2.4米光学望远镜

天文观测仪器背后惊人的数据需求

丽江观测站拥有多种型号的天文望远镜,包括光学望远镜、日冕仪和射电望远镜,整个观测站的观测能力已经覆盖了从光学到射电的波段范围,每年能开展多项具有国际先进水平的天体物理观测和研究工作。天文领域的科研工作者借助观测仪器设备对星体进行观测,并采集数据以便进一步研究。

近些年随着新的天文观测技术快速发展,观测的广度和精度得到极大提升,让天文工作者更清晰的观测到天文目标,也更准确的验证已有物理模型。与此同时,新的天文观测仪器采集的数据量也有了量级的提升,如丽江观测站正在调试的云南大学1.6米多通道测光巡天望远镜,其中装置了3台大靶面的科学技术CCD相机,每个相机由4片9k*9k的芯片拼接而成,在观测过程中三台相机同时曝光,一次曝光就能产生近1GB的观测数据,一个观测夜的观测数据量近3TB,一年的原始观测数据接近1PB。如何有效的传输观测站众多望远镜观测采集的数据、支撑计算平台高效的分析和处理观测数据、安全存储原始数据和价值数据,给丽江天文观测站的观测数据管理提出了新的需求。

首先,数据性能需求。在数据采集过程中,天文望远镜观测产生的数据,需要通过数据采集程序,实时地完成数据采集、数据预处理、计算、数据存盘等多个任务。数据量根据观测设备数量及型号等因素会有不同,数据采集过程就对存储提出了数GB/s至数十GB/s的带宽需求,以保障数据稳定写入。数据计算过程,作为以数据为驱动的天文观测任务,科研计算平台需要存储集群平台提供数十GB/s聚合带宽的读写能力以保证计算任务并行的高效性。在实现用户数据共享的同时,还要针对不同的用户进行权限控制和配额限制,以实现存储数据的安全高效使用。

其次,数据的长期保存需求。天文观测的原始数据要通过合理的生命周期管理系统进行永久归档保留,数据的自动化迁移归档、数据的安全性、归档数据长期保存成本、存储的易扩展性是数据归档存储考虑的重要因素。

分层存储方案满足不同天文数据的需求

丽江观测站为了满足天文科研工作者对望远镜观测数据的存储和分析处理过程中高带宽存储资源需求,从而满足大量文件的频繁读写,采用了浪潮的计算节点和分布式存储搭建了三级分层的存储资源池,通过浪潮分布式存储高性能节点AS13000G5-H搭建高速存储层提供并行读写能力,满足前端多个计算节点同时在存储上进行数据读写的需求;采用浪潮分布式存储AS13000G5-M系列4U60高密节点提供2PB低速存储空间,用于存储前端回传的观测原始数据以及计算集群计算处理后的归档数据。

为天文观测任务提供性能保障

浪潮AS13000G5-H通过私有客户端,能够使接收到的数据并发写入每个数据节点,打破传统存储的单存储节点性能限制,通过RDMA协议,有效降低数据传输过程中的时延,进一步提升传输效率,单存储节点性能可达到GB/s读写带宽。通过并行文件系统可以添加更多的存储节点,性能和容量随节点数的增加而线性增长。

科研项目的阶段性增长可以按需满足、高效运维

为保障天文数据长期可靠保存、弹性扩展的需求,浪潮存储在架构和运维方面进行了创新。

在扩展性方面,浪潮存储基于分布式存储架构支持灵活扩展,可随着天文科研项目需求横向扩展,运用独特的扩容算法,在扩容同时可保障业务性能无明显波动,性能与容量随着节点的扩展而线性增长,避免对现有接收业务和科研计算任务读写访问性能造成影响,存储空间可达到EB级别,满足了未来天文观测仪器设备提升的存储增长需求。

在可靠性方面,浪潮分布式存储采用纠删策略,允许多个节点损坏时业务不中断,保证观测任务以及计算任务7x24小时的连续业务访问,保障天文工作者科研项目顺利进行。同时还可搭配InView智能管理平台,对天文观测海量数据中心的设备进行管理,提供容量、性能、故障等预测性分析等一系列智能化功能,帮助运维人员预防硬件潜在故障,同时降低存储的复杂性和维护成本。

占地260余亩丽江观测站园区里运行的光学望远镜每年都要执行数千次的观测任务,积累大量的原始观测数据,这些观测数据帮助科研工作者取得了大量研究成果,加速中国天文研究的发展。如借助2.4米望远镜光谱观测发现了数十个高红移类星体,不断刷新中国发现类星体的红移记录;通过系外行星的精确视向速度搜寻工作,已经发现若干颗系外行星候选源;擅长搜寻新的凌食系外行星系统的宽视场巡天望远镜(小口径望远镜),帮助科学家们发现了10多颗凌食系外行星候选体以及200多颗其它类型的变源。正在建设的云南大学1.6米多通道测光巡天望远镜,建成后将通过3台相机进行同时曝光的巡天观测,将直接提供星空的“彩色电影”。

未来云南天文台丽江观测站也将在此基础上,不断进行天文学高新技术创新,为天文学的科学应用研究服务提供高质量的观测数据,发挥南方天文观测集群的前沿作用,推动天文领域研究的快速发展,探索宇宙奥秘。

审核编辑 :李倩

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 存储
    +关注

    关注

    12

    文章

    3856

    浏览量

    84661
  • 数据采集
    +关注

    关注

    38

    文章

    4523

    浏览量

    112313
  • 分布式存储
    +关注

    关注

    4

    文章

    153

    浏览量

    19394

原文标题:云南天文台:基于分布式存储,为天文观测构建新数据底座

文章出处:【微信号:inspurstorage,微信公众号:浪潮存储】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    先进的CMOS探测器:开创天文观测的未来

    介绍 基于地面的天文学提供了一种在太空中成像物体的方法。由于太空中的大多数物体都可以在可见光波长范围(380-700 nm)内观测到,光学天文学一直处于天文
    的头像 发表于 09-22 06:30 480次阅读
    先进的CMOS探测器:开创<b class='flag-5'>天文</b><b class='flag-5'>观测</b>的未来

    操作天文望远镜哪这些必须注意

    使用望远镜,因为无法寻找可观测的星星,就只能看月亮;天文望远镜通常也可以观看风景或动植物,可以很容易得到比双筒望远镜更高的放大倍率。不过使用倍率应在100倍以下,20-50倍最合适。  天文望远镜是
    发表于 06-21 17:21

    一套基于PXA270的移动天文观测系统介绍

    王三强 叶张帆 陈俊近几年来,随着人类文明社会的发展和人民生活水平的提高,越来越多的人渴望了解探知宇宙的奥秘。目前进行科普天文观测一般过程:查天文历书、星图等确定星体位置;寻找合适
    发表于 07-23 07:43

    移动天文观测系统有什么特点?

    近几年来,随着人类文明社会的发展和人民生活水平的提高,越来越多的人渴望了解探知宇宙的奥秘。目前进行科普天文观测一般过程:查天文历书、星图等确定星体位置;寻找合适
    发表于 08-30 06:52

    基于STM32的虚拟天文望远镜

    USB 外设与 PC 通信。StarPointer 的固件使用LibOpenCM3库开发并使用GNU ARM Embedded Toolchain构建。该装置可以连接到任何天文望远镜或双筒望远镜
    发表于 08-29 07:31

    Teledyne获得1520万美元订单,为欧洲南方天文台提供红外探测器

    2048 x 2048像素的H2RG阵列,是天文学领域的标准阵列,正用于美国宇航局的詹姆斯韦伯太空望远镜(JWST)、欧洲航天局(ESA)的欧几里得暗能量任务,以及大部分地面天文台。H4RG-15阵列则是一款更大的阵列,像素达到4096 x 4096,边长超过6 cm。
    发表于 06-27 11:11 1227次阅读

    新仪器助力激光干涉引力波天文台扩大探测范围

    近日,一组国际研究人员为激光干涉引力波天文台(LIGO)开发了一种新仪器,仪器可以去除量子噪声,扩大探测器在宇宙的探测范围。
    的头像 发表于 12-23 09:51 2828次阅读

    NASA的下一旗舰项目?或许是宜居系外行星天文台

    据物理学家组织网近日报道,天文学家在日前举行的美国地球物理联合会年会上表示,他们希望搜索太阳系外类地行星的新任务——“宜居系外行星天文台”(HabEx)能成为美国国家航空航天局(NASA)下一个旗舰项目。
    的头像 发表于 12-23 15:56 1590次阅读

    SpaceX星链卫星对不同天文台的影响

    据外媒CNET报道,近日一位著名的天文学家表示,在未来几年内,SpaceX计划将12000多颗卫星部署到低地球轨道,这可能会影响到在天空扫描可能有害的小行星的天文台
    的头像 发表于 03-18 09:18 2047次阅读

    中科院云南天文台发现太阳暗条触发和物质转移机制

    太阳活动与人类命运息息相关。记者16日从中科院云南天文台获悉,该台抚仙湖太阳观测与研究团组近期对太阳相关活动区的暗条爆发作详细研究后,发现了太阳暗条触发和物质转移机制。
    的头像 发表于 04-16 16:14 1628次阅读

    天文观测系统中直线电机的作用分析

    ,让人充满好奇心和探索欲;二来天文非常的广博,包括天文观测天文历法、天体物理、天体化学、航天学等。 在自然科学的发展过程中,天文学是较早出
    发表于 06-22 15:03 416次阅读

    美国NFS宣布将对阿雷西博天文台望远镜进行拆除

    据外媒报道,今日,美国国家科学基金会(NFS)宣布,他们将对一个重要的地标建筑--阿雷西博天文台望远镜实施拆除。据悉,该天文台在2020年经历了两次重大电缆故障。由于电缆故障,该建筑被认为已无法修复并将在不久的将来退役。
    的头像 发表于 11-20 11:45 1472次阅读

    西华师范大学研发的天文望远镜成功投用

    由西华师范大学携手中国天文台研发智造的天文望远镜圆满通过调试并正式启用,该天文望远镜坐落于海拔4200米的青海冷湖赛什腾天文观测基地C平台上
    发表于 03-24 17:53 1410次阅读

    滨松科研级相机天文领域应用案例:其他方向

    以下案例是介绍观测月球和恒星等方向。 案例:月球观测 关键词:月球观测天文台使用高倍望远镜对月球表面进行观测。 案例:恒星 关键词:恒星
    的头像 发表于 06-12 06:57 224次阅读
    滨松科研级相机<b class='flag-5'>天文</b>领域应用案例:其他方向

    滨松科研级相机天文领域应用案例:太阳成像

      太阳发出强光的球形部分人们会将其称为光球,通常情况下,人们可以看到的只是这个光球的表面。在光球的表面,时常会出现一些黑色的斑点。天文学家们借助工业相机、望远镜和天文台等设备来观测其变化
    的头像 发表于 06-20 06:55 201次阅读
    滨松科研级相机<b class='flag-5'>天文</b>领域应用案例:太阳成像