0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

大数据技术分为哪两个方面

讯维官方公众号 来源:讯维官方公众号 作者:讯维官方公众号 2022-07-22 11:34 次阅读

大数据需要特殊的技术,主要包括大规模并行处理(MPP)数据库、数据挖掘网络、分布式文件系统、分布式数据库、云计算平台、互联网和可扩展的存储系统。大数据技术分为整体技术和关键技术两个方面。

1.整体技术

整体技术主要有数据采集、数据存取、基础架构、数据处理、统计分析、数据挖掘、模型预测和结果呈现等。

2.关键技术

大数据处理关键技术一般包括:大数据采集、大数据预处理、大数据存储及管理、大数据分析及挖掘、大数据展现和应用(大数据检索、大数据可视化、大数据应用、大数据安全等)。

(1)大数据采集技术:数据采集是通过RFID射频技术、传感器以及移动互联网等方式获得的各种类型的结构化及非结构化的海量数据。大数据采集一般分为大数据智能感知层和基础支撑层: 大数据智能感知层:主要包括数据传感体系、网络通信体系、传感适配体系、智能识别体系及软硬件资源接入系统。实现对结构化、半结构化、非结构化的海量数据的智能化识别、定位、跟踪、接入、传输、信号转换、监控、初步处理和管理等。必须着重攻克针对大数据源的智能识别、感知、适配、传输、接入等技术。

基础支撑层:提供大数据服务平台所需的虚拟服务器,结构化、半结构化及非结构化数据的数据库及物联网络资源等基础支撑环境。重点攻克分布式虚拟存储技术,大数据获取、存储、组织、分析和决策操作的可视化接口技术,大数据的网络传输与压缩技术,大数据隐私保护技术等。

(2)大数据预处理技术:大数据预处理主要完成对已接收数据的抽取、清洗等操作。

抽取:因获取的数据可能具有多种结构和类型,数据抽取过程可以将这些复杂的数据转化为单一的或者便于处理的构型,以达到快速分析处理的目的。

清洗:对于大数据,并不全是有价值的,有些数据并不是我们所关心的内容,而另一些数据则是完全错误的干扰项,因此要对数据通过过滤“去噪”从而提取出有效数据。

(3)大数据存储及管理技术:大数据存储与管理要用存储器把采集到的数据存储起来,建立相应的数据库,并进行管理和调用。要解决大数据的可存储、可表示、可处理、可靠性及有效传输等几个关键问题。

(4)大数据分析及挖掘技术:数据分析及挖掘技术是大数据的核心技术。主要是在现有的数据上进行基于各种预测和分析的计算,从而起到预测的效果,满足一些高级别数据分析的需求。数据挖掘就是从大量的、不完全的、有噪声的、模糊的、随机实际数据中,提取隐含在其中的、人们事先不知道的但又是潜在有用的信息和知识的过程。

(5)数据展现和应用:大数据技术能够将隐藏于海量数据中的信息挖掘出来,从而提高各个领域的运行效率。在我国,大数据重点应用于以下三大领域:商业智能、政决策和公共服务。

审核编辑 :李倩

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 传感器
    +关注

    关注

    2525

    文章

    48059

    浏览量

    739959
  • 数据采集
    +关注

    关注

    38

    文章

    4509

    浏览量

    112313
  • 大数据
    +关注

    关注

    64

    文章

    8643

    浏览量

    136585

原文标题:大数据技术到底有哪些

文章出处:【微信号:xunwei201508,微信公众号:讯维官方公众号】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    两个不同的数据,想用一蓝牙芯片进行传输,可以做到吗?

    现在有两个不同的数据,想用一蓝牙芯片进行传输,可以做到吗?求解
    发表于 03-01 09:37

    PSOC同时使用两个Em_EEPROM,有一个数据会丢失的原因?

    PSOC同时使用两个Em_EEPROM,现在发现有一个数据会丢失,想查看两个Em_EEPROM的起始地址和结束地址,在哪里可以看的到?
    发表于 02-21 07:20

    大数据技术是干嘛的 大数据核心技术有哪些

    的核心技术,包括数据采集、存储与管理、处理与分析等方面。 一、大数据技术背景和概念 1.1 背景 随着互联网
    的头像 发表于 01-31 11:07 751次阅读

    大数据技术如何为精益管理赋能?

    随着科技的飞速发展,大数据技术已经逐渐渗透到各个领域,为企业带来了前所未有的变革。在精益管理领域,大数据技术的运用更是为企业管理带来了诸多优势,为企业高效运营注入了新的活力。 一、
    的头像 发表于 12-19 09:58 266次阅读

    ADAS3023如果使用双通道,每个通道500K SPS最高采样率的时候IN0~IN7应该使用两个

    我正在使用ADAS3023芯片,如果使用双通道,每个通道500KSPS最高采样率的时候,IN0~IN7应该使用两个?IN0和IN1是吗?还是任意两个都行,寄存器配置中只有配置工作模式,没有指定使用通道的寄存器,由于项目紧急,请
    发表于 12-18 06:48

    Get职场新知识:做分析,用大数据分析工具

    数据管理的。 随着原来越多的企业加入了数字化转型的队伍,大数据分析工具也越来越多地被应用于各行各业的业务数据分析中,直至今日,大数据分析工具也成为了
    发表于 12-05 09:36

    通过Level和Step两方面剖析现代电子集成技术

    芯片上的集成,封装内的集成,PCB板级集成,是电子集成的三个层次。每一个层次的集成,都分为不同的环节。这篇文章,我们从层次-Level和环节-Step两个方面来剖析现代电子集成技术
    发表于 11-15 15:11 177次阅读
    通过Level和Step两<b class='flag-5'>方面</b>剖析现代电子集成<b class='flag-5'>技术</b>

    freertos中是如何实现两个任务的数据交换的?

    freertos中是如何实现两个任务的数据交换的
    发表于 10-20 06:17

    STM32可以实现两个串口同时收发数据吗?

    两个串口同时收发数据可以做到吗
    发表于 10-15 09:44

    freertos中两个任务怎么相互传递数据

    freertos中两个任务怎么相互传递数据
    发表于 10-13 06:35

    stm32两个串口同时收到数据怎么处理?

    stm32两个串口同时收到数据怎么处理
    发表于 09-20 07:40

    大数据是人工智能吗

    大数据是人工智能吗 随着互联网技术数据采集技术的发展,数据量不断增大,大数据应运而生。
    的头像 发表于 08-12 17:12 975次阅读

    大数据的价值可以体现在哪些方面?_光点科技

    随着信息技术的快速发展,大数据已经成为了当今社会中不可忽视的一部分。大数据是指由庞大、复杂、多样化的数据集合组成的信息资源,它涵盖了各个领域的数据
    的头像 发表于 05-17 10:51 1324次阅读

    做好共模绕线电感选型这两个方面务必关注

    时应注意的事项。 许多人对共模绕线电感的选型存在认识上的误区,认为选型工作要一次完成。事实并非如此,电感器的特殊性决定了其选型工作的不同。这是你需要注意的第一件事。共模绕线电感的选型可分为两个步骤:  一是初始选
    的头像 发表于 05-11 22:29 233次阅读

    大数据是什么 大数据存储的概念 大数据应用场景有哪些

    大数据的成功管理取决于几个方面,例如数据的收集、存储、处理、分析和可视化。在大数据的处理过程中,各种技术和算法也被不断地应用于解决各种问题。
    发表于 05-03 09:23 2797次阅读