0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

大数据核心技术/特点/通用应用

h1654155282.3538 来源:华章科技 作者:华章科技 2021-01-17 11:51 次阅读

01 大数据概念

数据发展推动科技进步,海量数据给数据分析带来了新的机遇和挑战。大数据是一种强大到在获取、存储、管理、分析方面远远超出传统数据库软件工具能力范围的数据集合,具有海量的数据规模、快速的数据流转、多样的数据类型和较低的价值密度这四大特征。

于是,我们需要新的处理模式来实现更强的数据处理能力以应对多样化的信息资产。

大数据技术追求的不是精确性的样本数据,而是面向全体的数据,这部分数据可能是不精确的、非结构化的,但大数据技术正是利用这些之前未被利用的数据,创造新的价值。

从海量数据中获得的数据处理结果可能是超乎我们的认知逻辑的,但是我们并不需要理解结果背后的因果关系。简言之,我们需要用相关思维替代因果思维。

02 大数据核心技术

大数据在信息系统的生命周期中,从数据源到最终产生有价值的可视化信息,主要经历6个步骤,分别是数据收集、数据存储、资源管理与服务协调、计算框架确定、数据分析和数据可视化,此过程涵盖了海量分布式系统、数据库、并行计算框架、数据挖掘等方面的技术。

图2-1罗列了大数据技术中各个步骤目前所对应的主流技术体系,大数据的相关技术日新月异、层出不穷,由于篇幅限制,不再一一列举。

o4YBAGADtGyAMdSEAAHh1vrOIbI674.png

▲图2-1 大数据的主流技术体系

03 大数据特点

大数据具有海量的数据规模、快速的数据流转、多样的数据类型和较低的价值密度这四大特征,下面将分别进行详细阐述。

1. 海量的数据规模(Volume)

大数据所采集、存储和计算的数据规模都非常大。随着互联网的广泛应用,使用互联网的人和企业等增多,数据的创造者变多,数据量呈几何级增长。近年来,随着数据维度变多、数据类型增加、数据的描述能力增强,数据可以传达的信息也越来越多,越来越准确。

2. 快速的数据流转(Velocity)

大数据不仅增长速度快,处理速度也快,有很强的时效性。在信息时代,人成为网络的核心,每个人每天都在制造新的数据,这些数据再被相应的机构如政府、互联网企业、银行、电信运营商等收集,形成了一个个庞大的数据体系。

面对如此庞大的数据体系,处理数据并得到结果的速度越快,数据的时效性就越强,价值就越高——而大数据和传统数据挖掘最大的区别也在于此,大数据更强调数据处理的实时性和时效性。

3. 多样的数据类型(Variety)

大数据的种类和来源多样化,多样的数据为数据处理带来了挑战。在数据结构上,大数据可以分为结构化数据、半结构化数据和非结构化数据;在具体形式上,大数据可以分为视频音频、图像、博客、社交网络、互联网搜索等。大数据迎接的挑战就是要针对这些结构不一、形式多样的数据,挖掘其中的相关性。而这些前所未有的、来自各个领域的、不同形式的数据,赋予了大数据强大的威力。

4. 较低的价值密度(Value)

大数据的价值密度相对较低。数据的价值密度和数据的规模呈反相关,数据的规模越大,数据的价值密度越低。大数据最大的价值即在于从大量低价值密度数据中挖掘出对分析和预测等有价值的信息。

相较于传统数据挖掘利用结构化的数据类型,大数据把目光也投向了非结构化的、非抽样的、包含全体的数据类型。这为大数据带来了更多的有效信息,但同时也增加了大量无价值的甚至是错误的信息。

04 大数据的通用应用

大数据已经渗透到了全世界市场中的各个领域,彰显着巨大的价值,其在各个领域的详细应用情况如下。

1. 金融领域

大数据在金融领域应用广泛,如针对个人的信贷风险评估,银行根据用户的刷卡、转账、微信评论等数据有针对性地推送广告;理财软件通过大数据为客户有针对性地推荐理财产品。总结来说,大数据在金融领域的应用可以概括为精准营销、风险控制、效率提升、决策支持。

2. 医疗领域

医疗行业拥有大量的病例、检测记录、药物记录、治疗结果记录等,这些数据中蕴含着巨大的价值,如果可以加以利用,将对医疗界产生不可估量的影响。疾病确诊和因人而异的治疗方案设定是医疗领域的重大问题,大数据可以帮助建立针对疾病特点、病人状况以及治疗方案的数据库,为人类健康贡献巨大的力量。

3. 生物领域

各国研究人员正如火如荼地推进着人类基因组计划,这促进了生物数据的爆发式增长。基因检测可以帮助人们对自己现在的以及未来的健康状况有更深刻、全面的认识,甚至可以帮助父母在宝宝出生前就对其健康状况进行检测。因此,人类基因组计划是未来人类战胜疾病的重要工具。

大数据可以整合已有的人类基因的检测结果并进行分析,加速人类基因组研究的进程。

4. 零售领域

零售行业可以利用大数据了解顾客的消费偏好和趋势,用以商品的精准营销和相关产品的精准推销,降低运营成本,提高进货管理和过期产品管理效率。大数据可以帮助零售商预测消费者需求趋势,更高效地提高供应链满足需求的能力。对大数据带来的潜在信息的挖掘和有效利用,将成为未来零售领域的必争之地。

5. 电商领域

电商行业的数据集中、数据规模大,可以利用大数据在很多方面进行有效信息的分析提取,如用户消费趋势、地域消费特点等。

电商领域中的大数据应用已经颇具规模,电商也是最早利用大数据进行精准营销的行业。电商可以根据顾客消费习惯提前备货以提高商品送达效率,还可以通过对客户浏览、收藏、加入购物车和购买记录等数据的分析,对用户进行有效的商品推荐,提高销量。
责任编辑人:CC

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 大数据
    +关注

    关注

    64

    文章

    8577

    浏览量

    136518
  • 大数据技术
    +关注

    关注

    0

    文章

    36

    浏览量

    5059
收藏 人收藏

    评论

    相关推荐

    安达发|APS生产排程软件6大核心技术

    APS生产排程软件是一种先进的生产计划和调度工具,它通过整合企业内外部资源,实现生产计划的优化和生产过程的自动化控制。APS生产排程软件的核心技术包括产品工艺数据管理(PDM)、客户需求管理(CRM
    的头像 发表于 02-20 16:09 144次阅读
    安达发|APS生产排程软件6大<b class='flag-5'>核心技术</b>

    大数据技术是干嘛的 大数据核心技术有哪些

    核心技术,包括数据采集、存储与管理、处理与分析等方面。 一、大数据技术背景和概念 1.1 背景 随着互联网技术的迅猛发展,人们可以通过各种
    的头像 发表于 01-31 11:07 560次阅读

    线路板PCB:特斯拉Cybertruck的核心技术

    线路板PCB:特斯拉Cybertruck的核心技术
    的头像 发表于 10-25 10:49 355次阅读

    电磁感应式无线充电的核心技术

    电子发烧友网站提供《电磁感应式无线充电的核心技术.pdf》资料免费下载
    发表于 10-09 16:45 1次下载
    电磁感应式无线充电的<b class='flag-5'>核心技术</b>

    浅析先进封装的四大核心技术

    先进封装技术以SiP、WLP、2.5D/3D为三大发展重点。先进封装核心技术包括Bumping凸点、RDL重布线、硅中介层和TSV通孔等,依托这些技术的组合各厂商发展出了满足多样化需求的封装解决方案,SiP系统级封装、WLP晶圆
    发表于 09-28 15:29 1689次阅读
    浅析先进封装的四大<b class='flag-5'>核心技术</b>

    OpenHarmony应用核心技术理念与需求机遇简析

    一、核心技术理念 图片来源:OpenHarmony官方网站 二、需求机遇简析 新的万物互联智能世界代表着新规则、新赛道、新切入点、新财富机会;各WEB网站、客户端( 苹果APP、安卓APK)、微信
    发表于 09-22 16:12

    ARM Cortex-A710核心技术参考手册

    Cortex®-A710核心中的所有组件始终存在。 这些组件旨在使Cortex®-A710内核成为高性能或平衡性能的内核。 主要的区块包括: ·L1指令和L1数据存储系统·L2存储系统·寄存器
    发表于 08-25 07:49

    物联网的核心技术有哪些

    一般都将物联网理解为具有无线功能的设备,将其连接到云,并最终随着时间推移收集数据。但您是否知道还有更多核心物联网技术对于有效的物联网实施非常重要?在本文中,中易云将与您分享6种核心物联
    发表于 08-19 11:47 904次阅读

    Arm Cortex-A7 8C核心技术参考手册

    Arm Cortex-A78C核心技术参考手册
    发表于 08-02 13:44

    ARM9 E-S核心技术参考手册

    ARM9E-S核心技术参考手册
    发表于 08-02 12:00

    Arm Cortex-A65核心技术参考手册

    Arm Cortex-A65核心技术参考手册
    发表于 08-02 07:38

    大数据有何特点

    随着科技的不断发展,大数据已经成为当今信息化时代的主要驱动力之一。大数据特点是什么?
    的头像 发表于 05-12 10:27 1733次阅读

    大数据技术有哪些 大数据前景

    大数据从字面意思来理解,就是海量数据的结合,从数据分析全流程的角度,大数据技术主要包括数据采集与
    的头像 发表于 04-14 17:45 3669次阅读

    大数据技术主要学什么 大数据技术就业方向

    数据技术。   数据挖掘和机器学习: 数据挖掘和机器学习是大数据处理的核心技术。学习
    的头像 发表于 04-14 17:21 5360次阅读

    【世说技术】欧姆龙核心技术大揭秘——光控制

    核心技术。光控制技术有如下特点01使用指向性的全新感觉的光显示除了控制光的强度和颜色之外还可控制指向性,实现了逼真的质感表现和空中图像等全新光感带来的显示效果。02透
    的头像 发表于 04-03 10:31 451次阅读
    【世说<b class='flag-5'>技术</b>】欧姆龙<b class='flag-5'>核心技术</b>大揭秘——光控制