0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

大数据技术分为哪两个方面

讯维官方公众号 来源:讯维官方公众号 作者:讯维官方公众号 2022-07-22 11:34 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

大数据需要特殊的技术,主要包括大规模并行处理(MPP)数据库、数据挖掘网络、分布式文件系统、分布式数据库、云计算平台、互联网和可扩展的存储系统。大数据技术分为整体技术和关键技术两个方面。

1.整体技术

整体技术主要有数据采集、数据存取、基础架构、数据处理、统计分析、数据挖掘、模型预测和结果呈现等。

2.关键技术

大数据处理关键技术一般包括:大数据采集、大数据预处理、大数据存储及管理、大数据分析及挖掘、大数据展现和应用(大数据检索、大数据可视化、大数据应用、大数据安全等)。

(1)大数据采集技术:数据采集是通过RFID射频技术、传感器以及移动互联网等方式获得的各种类型的结构化及非结构化的海量数据。大数据采集一般分为大数据智能感知层和基础支撑层: 大数据智能感知层:主要包括数据传感体系、网络通信体系、传感适配体系、智能识别体系及软硬件资源接入系统。实现对结构化、半结构化、非结构化的海量数据的智能化识别、定位、跟踪、接入、传输、信号转换、监控、初步处理和管理等。必须着重攻克针对大数据源的智能识别、感知、适配、传输、接入等技术。

基础支撑层:提供大数据服务平台所需的虚拟服务器,结构化、半结构化及非结构化数据的数据库及物联网络资源等基础支撑环境。重点攻克分布式虚拟存储技术,大数据获取、存储、组织、分析和决策操作的可视化接口技术,大数据的网络传输与压缩技术,大数据隐私保护技术等。

(2)大数据预处理技术:大数据预处理主要完成对已接收数据的抽取、清洗等操作。

抽取:因获取的数据可能具有多种结构和类型,数据抽取过程可以将这些复杂的数据转化为单一的或者便于处理的构型,以达到快速分析处理的目的。

清洗:对于大数据,并不全是有价值的,有些数据并不是我们所关心的内容,而另一些数据则是完全错误的干扰项,因此要对数据通过过滤“去噪”从而提取出有效数据。

(3)大数据存储及管理技术:大数据存储与管理要用存储器把采集到的数据存储起来,建立相应的数据库,并进行管理和调用。要解决大数据的可存储、可表示、可处理、可靠性及有效传输等几个关键问题。

(4)大数据分析及挖掘技术:数据分析及挖掘技术是大数据的核心技术。主要是在现有的数据上进行基于各种预测和分析的计算,从而起到预测的效果,满足一些高级别数据分析的需求。数据挖掘就是从大量的、不完全的、有噪声的、模糊的、随机实际数据中,提取隐含在其中的、人们事先不知道的但又是潜在有用的信息和知识的过程。

(5)数据展现和应用:大数据技术能够将隐藏于海量数据中的信息挖掘出来,从而提高各个领域的运行效率。在我国,大数据重点应用于以下三大领域:商业智能、政决策和公共服务。

审核编辑 :李倩

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 传感器
    +关注

    关注

    2573

    文章

    54363

    浏览量

    785798
  • 数据采集
    +关注

    关注

    40

    文章

    7798

    浏览量

    119815
  • 大数据
    +关注

    关注

    64

    文章

    9029

    浏览量

    143038

原文标题:大数据技术到底有哪些

文章出处:【微信号:xunwei201508,微信公众号:讯维官方公众号】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    FreeRtos 能否同时使用两个 CPU?

    的情况下,CM0 更愿意专门用于管理外设。 - 是否有在 CM0 和 CM4 中同时运行代码的简单示例或教程? - FreeRtos 能否同时使用两个 CPU?
    发表于 11-11 08:28

    硬件SPI两个CS操作两个norflash,怎么互斥操作两个norflash?

    硬件SPI两个CS操作两个norflash,怎么互斥操作两个norflash,有一norflash被模拟成U盘,会在中断中操作spi。
    发表于 09-26 06:18

    基本半导体连获两个行业奖项

    近日,基本半导体凭借在碳化硅模块领域的突出表现,连获“国产SiC模块TOP企业奖”和“年度优秀功率器件产品奖”两个行业奖项。
    的头像 发表于 09-05 16:31 886次阅读

    如何使用 SPI 全双工在两个 5LP MPU 之间连接 RAM?

    我需要将两个 5LP MPU 连接在一起以镜像两个 5LP MPU 内的 RAM。 我认为这将是 DMA 的一功能,但我不确定如何实现该功能。 我的主 SPI 单元将向从属 MPU 发送一
    发表于 07-15 06:20

    请问一蓝牙芯片可以同时传输两个不同的数据吗?

    现在有两个不同的数据,想用一蓝牙芯片进行传输,可以做到吗?求解
    发表于 07-07 06:28

    看到STM8L152用两个IO用两个或非门检测两个通断,是什么原理呢?

    图中两个按键开关是两个干簧管,为什么不直接对GND设计来检测这个干簧管通断呢? 这样设计的原理是什么?
    发表于 06-12 06:25

    电路板上看到这样两个贴片,请教分别是什么元器件

    在一电路板上看到了以下两个元器件,但不知道是款元器件,麻烦大神给指导! 谢谢!
    发表于 02-25 21:22

    大数据与云计算是干嘛的?

    大数据与云计算是支撑现代数字化技术大核心。大数据专注于海量数据的采集、存储、分析与价值挖掘;云计算通过虚拟化资源池提供弹性计算、存储及服
    的头像 发表于 02-20 14:48 1265次阅读

    ADS8328两个通道采过来的数据都偏小是什么原因导致的?

    ADS8328两个通道采过来的数据都偏小,前面输入信号没加跟随器,基准用的REF3120通过一跟随器OPA2277接的。不知道什么问题,就是采过来的数据很稳定,就是比实际模拟电压值
    发表于 01-24 08:11

    两个不同频率晶振靠的近会怎样

    晶振的振荡本质上是一种机械振动(在压电晶体层面)。当两个晶振靠得很近时,它们的机械振动可能会相互影响。一晶振的振动可能会通过电路板或者外壳等介质传递给另一晶振,从而改变另一晶振的
    的头像 发表于 01-20 13:55 2017次阅读
    <b class='flag-5'>两个</b>不同频率晶振靠的近会怎样

    求助,以下两个ADC转换的通道,分别是CC2541上的两个引脚啊?

    #define HAL_ADC_CHN_TEMP 0x0e /* Temperature sensor */ #define HAL_ADC_CHN_VDD3 0x0f /* VDD/3 */ 以上两个ADC转换的通道,分别是CC2541上的
    发表于 01-14 08:15

    如何把两个数据返回给调用函数

    函数的处理结果包含两个数据,如何把两个数据返回给调用函数? 第一种,把两个数据封装成一结构体,函数返回结构体。 调用函数的地方同样用结构体去接收函数的返回值。 第二种,把返回值保存在
    的头像 发表于 01-08 10:15 676次阅读

    ADC124S021同时使用两个通道,两个通道的转换数据发生串扰怎么解决?

    用DSP的SPI接口接ADC124S021,如果只是进行单通道的信号采集,则转换后的数值稳定,但是同时使用两个通道时则两个通道的数据发生串扰现象。如,我单独使用2通道,则转换后数值稳定,但是如果
    发表于 12-30 07:41

    锂电池品牌厂家影响光伏逆变器效率提升的两个关键因素

    电子元器件的质量和散热设计是影响光伏逆变器效率提升的两个关键因素。我们需要选择高质量的电子元器件,采用合理的散热设计,以提高光伏逆变器的效率和可靠性。同时,我们还需要不断地进行技术创新和优化,推动光伏逆变器技术的发展和进步。
    的头像 发表于 12-19 15:19 808次阅读
    锂电池品牌厂家影响光伏逆变器效率提升的<b class='flag-5'>两个</b>关键因素

    使用TPS546C23两个独立的单相评估模块

    电子发烧友网站提供《使用TPS546C23两个独立的单相评估模块.pdf》资料免费下载
    发表于 12-07 14:08 0次下载
    使用TPS546C23<b class='flag-5'>两个</b>独立的单相评估模块