0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

大数据分析应用常见的困难及发展趋势分析

mK5P_AItists 来源:未知 作者:工程师郭婷 2018-07-24 14:31 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

一、政府大数据应用效益难题

1. 缺少利用大数据决策的成功案例

在智慧城市建设中,以支持政府决策为名的大数据中心建设如火如荼,但利用大数据改进决策的成功案例却鲜有,与大数据中心的投资不成比例,令人质疑大数据中心遍地开花模式的合理性。

2. 行政推动大数据应用效果不好

大数据应用本是一个经济学问题,国内大数据应用却太行政化了,地区之间的大数据应用评比给地方政府很大的压力,为了争取好的名次,只能为大数据而大数据,使大数据应用背离了实事求是的目标,大数据已沦为某些地方政府自我宣传的招牌,离实际业务需求渐行渐远。

3. 大数据概念混乱影响了常规数据管理

大数据最初的概念是指“现有技术处理不了的大规模数据”,为了更多利用大数据的优惠政策,大数据概念被人为的扩展了,认为政府数据集中起来都是大数据,一些地方政府成立大数据局就包含政府所有的数据管理,大数据概念的扩展造成应用的混乱,传统有效的数据管理被忽视。大数据应用需要因地制宜,中小城市做好传统数据整合管理是第一位的,并不都需要推行大数据应用,更不都需要建大数据中心,大数据概念的混乱阻碍各地政府实事求是地解决本地区的数据管理问题。

4. 大数据理念需要反思

过度宣传大数据作用必然会形成迷信,以为大数据无所不能,该迷信只会增加盲目建设的浪费,前些年为信息共享而共享的浪费已是前车之鉴,大数据应用正在蹈其覆辙,为大数据而大数据的做法正在蔓延,大数据应用有价值亦有边界,超越边界推行必然适得其反,大数据应用理念需要反思。

二、政府大数据分析应用常见困难

1. 找不到适合的大数据资源

大数据分析研究首要的问题是大数据从哪里来?虽然大数据中心存有不少数据,但适合解决领导急需问题的数据缺之又缺,不用的时候数据却多之又多,大数据应用是对业务积累数据的再利用,不像统计调查可以根据需要进行调查设计,因此缺乏适用的数据经常是大数据决策应用的常态。

2. 大数据分析对应不上领导的需求

数据专家利用大数据中心的资源也能够分析出一些结论,但是这些结论业务部门早已知道,即使一些有价值的成果也会因与领导层当时的关注点不合拍而被冷落。政府工作有自己的优先级,领导层不可能放下重要的工作去落实专家提出的建议,数据导向产生的分析成果很难与领导注意力的优先级合拍。

3. 数据挖掘因人而异不可复制

从大数据中提取信息不是IT技术自己能完成的工作,计算机并没有信息抽象能力,这种能力专家才有,同样的数据不同人看到的信息是不一样的,同样的信息决策分析的结论也不相同,信息提取与决策分析依赖于专家的智慧,这种认知决策的过程IT难以复制,难以形成规模,难以形成稳定的效益。

4. 决策的不确定性超出IT能力

利用大数据改进决策的难题是决策本身的不确定性。确定性问题的信息是完备的,IT处理只是一种计算,信息技术很容易发挥其优势;但是信息技术不会处理政府决策不确定性问题,这是人脑擅长的领域,解决此类问题的信息和分析能力主要来自决策者的头脑。

决策问题的不确定性是大数据决策应用效益不好的根本原因。

三、流行的大数据应用观点的片面性

1. 大数据作用不只是改进决策

流行的大数据观点将政府大数据应用局限于改进决策,改进决策固然重要,但这并不是信息技术擅长的领域,信息技术擅长的领域是在数据层次上的操作,而不是在信息层次上分析。

政府数据更大的作用是提高政府公共服务的效率,政府提倡的“只跑一次”、“一号、一窗、一网”式服务都是数据层次上的大数据应用,应用并不是改进决策而是提高服务效率,是公众最能够产生获得感的领域。

2. 对大数据的局限性缺乏认识

流行观念认为科学决策依赖的只是数据,数据越多信息越多,决策越正确,大数据将成为获取信息的主渠道,政府决策可以建立在大数据基础之上。然而实际情况并非如此,政府决策信息来自诸多方面,不只是数字化信息,很多重要的信息难以数字化,决策者需要综合考虑,大数据产生于相对狭窄的业务领域,适合于具体业务的改进,并不适合政府的宏观决策。

3. 并非所有数据都是资源

“数据都是资源”的观念是错误的,数据是否资源要由使用者因具体环境而定,正是在“数据都是资源”的误导下,一些大数据中心积极囤积数据,以囤积的数据规模显示大数据工作的成绩,使许多数据中心堆满大量数据垃圾,笔者认为大数据中心应当以应用为导向,整合有用数据,清理无用数据,数据使用效益会更好。

4. 仅靠大数据不能实现科学决策

过度的大数据宣传已形成乌托邦式梦想,以为只要有充分的大数据资源就可以实现政府的科学决策,就可以建设完备的城市大脑,实现政府决策的科学化、智能化,建成智慧政府。其实大数据资源有其优点也有其片面性,大数据的规模是以其关注面的狭窄性为代价的,政府决策需要全面均衡,仅靠大数据资源是做不到的。况且对于不确定性问题的很多信息是不可预测的,靠大数据自动决策没有可行性。

四、企业大数据业务的另类思路

1. 企业大数据应用成为流程型服务

企业大数据应用与政府有很大不同,企业是效益导向的,成功的大数据应用首先是一项流程型服务业务,如网上搜索、地址导航、网上支付、电子商务、摩拜单车、移动通信等,企业的大数据业务被设计为长远的可持续业务,惟此才能有更大的效益和更大的社会影响力,才能建立起公众的信任,流程型服务业务本身是核心的大数据业务,大数据分析是辅助性业务。

2. 直接处理实时数据

企业的大数据业务核心是直接利用实时数据进行操作,移动通信的实时数据是为了联通基站以便完成通信,网上支付利用实时数据是为了完成准确的支付,搜索服务利用客户发来的搜索要求进行查询,总之,这些大数据服务业务是直接使用业务流实时产生的数据进行操作,活跃的大数据业务建立在实时数据的基础之上,对沉淀的业务数据的分析研究只是为了改进主流业务,如亚马逊利用历史数据分析向用户推荐新书。

3. 排除人脑参与的智能系统会更快

在企业流程化的业务中,全过程是智能化自动化处理,流程化业务是数据层次上的业务,没有人脑的参与没有信息抽象的过程,排除人脑的参与是提高系统运行效率的关键,也是保证服务结果一致性的关键。人脑直接参与业务流程不仅会拖延业务效率还会造成业务的中断。政府利用大数据分析决策是信息层次上的业务,无法避免人脑参与,因而无法形成连续性服务业务,效率不可能高。

4. 大数据业务的两个层次

企业的大数据应用分两个层次进行,一个是数据层次上的应用,系统直接使用实时数据进行操作处理,系统是流程型自动运行的,直接对外服务。这是企业的主营业务,效益由该业务产生。例如移动通信的主营业务就是实现用户的通信服务。

企业大数据业务的另一个层次是信息层次上的大数据应用,其使用的是流程型业务积累下来的数据,以数据挖掘、数据分析获取数据集中包含的信息来改进主营业务的效率。这是在信息层次上的业务,是业务数据的再利用。通常信息层次上的大数据分析业务是公司的辅助性业务。对移动通信业务积累的数据进行分析,挖掘出用户的需求特点,向用户推荐套餐,增加公司收益。

五、“互联网 + ”都是大数据业务

1. 效率来自组织化,互联网重组世界

城市提高生产力的基本措施是推动社会经济合作的组织化,效率来源于更好的资源配置与业务的合作。有效的合作关系沉淀下来就成为相对稳定的组织,城市生产力大发展是不断组织化的结果,互联网是优化重组的新式武器,近几十年全球生产力大发展主要来自互联网对社会组织化的贡献。

2. 信息技术推动万事万物的连接

社会生产力的重组与合作包括人与人、人与物、物与物的连接与重组,重组是提高效率的主要渠道,信息技术是生产资源组织的通用工具。信息技术之前的自动化技术不规范,它们是利用物理、化学、机械等机理专门设计的,设计复杂且难以规范化,使得自动化推广复制异常困难,信息技术的出现把自动化设计变成硬件基础与软件开发两大过程,极大提高自动化开发的效率,带来创新的繁荣,信息技术成为实现事物重组的核心工具。

3. 数字化设备之间靠数据实现连接

信息技术对物体的连接需要被连接的物体实现数字化,物体需要装上芯片,实现数字化,能够理解数字信号。信息技术只能连接已被数字化的物体,摩尔定律的伟大贡献在于使万事万物数字化的成本降到几乎为零,数以亿计的芯片、传感器、移动手机都能够通过网络与数据进行重组,数字化设备靠传递数据实现连接,大规模数字化设施的连接构成大数据爆炸的物理基础 。

大规模数字化设施的有效连接依赖的就是数据,“互联网 + ”连接的设施规模越来越大,发送与接收的数据量越来越多,互联网连接设施爆炸使连接交换的数据也随之爆炸性增长,因此所有“互联网 + ”业务都是大数据业务。

六、拓展政府大数据应用理念创造效益

1. 大数据的应用不再局限改进决策

政府要从认知型大数据应用理念中解脱出来,从更广阔的大数据视野出发,更开放更创新看待大数据应用。政府大数据应用既要为领导决策服务,又要为基层工作人员改进操作服务,通过数据挖掘、统计分析为领导层提供决策建议是一种重要的大数据应用,认真整合微观的数据,为基层业务服务,提高公共服务效率同样是重要的大数据应用,而且是更有效的大数据应用。

2. 面向基层确定性业务应用易有成效

大多数政府建立的数据应用系统依然把对上服务作为重点,对基层服务重视不够,当前对基层的服务更为迫切,基层业务工作的确定性更强,更容易取得效益,对基层服务也是信息技术更容易发挥作用的领域,将政府大数据服务向基层倾斜,对提高数据操作效率为主的应用更容易产生效果。

目前政府对公众服务碰到的问题是效率低,主要原因是对当事人办事的相关资料组织的不好,连不上、调不出且把麻烦推给办事人,数据整合可以改善这种服务,让用户“只跑一次”是数据层次上的大数据应用,也是更容易见成效的大数据应用。

3. 城市大脑更适合做小脑型业务

城市大脑由大数据中心及城市管理运行中心构成,人们期望利用大数据来改善城市的自动化管理。城市的管理很复杂,有确定性任务与不确定性任务,信息技术并不都能胜任,有些任务必须由专家来承担。

不确定性的工作是信息层次上的业务,无法用自动化程序来胜任,这些工作主要还是要靠人脑来完成,称之为大脑型业务,需要组织专家来承担。

确定性的业务是在数据层次上操作,可以建成智能化的业务流程,让信息技术直接对数据进行处理,此类业务不需要对数据进行信息抽象,不需要形成概念,称之为小脑型业务。

信息系统适合做的是小脑型业务,城市大数据中心和城市运行中心要定位在小脑型业务上才更容易看到成效。

4. 推动公共服务智能化、业务分析专业化

一切智能化业务都是大数据业务,政府大数据业务的重要方向是推动公共服务的智能化,政府应当学习企业的服务模式,充分利用企业对外服务的经验改进政府工作,通过政企合作将政府的服务能力达到企业级的服务水平。

政府的大数据分析研究工作要以政府专业化部门为中心,越是专业化的部门,大数据分析越能够发挥作用,专业化的大数据搜集更容易做,专业化的大数据中心更容易生存。

七、政府大数据应用趋势

1. 政府公共服务效率全面提升

政府提出的口号“只跑一次”、“一号、一窗、一网”目标明确易于检查,提高数据处理效率的业务是确定性的任务,只要认真做好数据整合,目标容易实现,提高公共服务的用户满意度是国家推动的重点,各地区都会努力跟进,全国公共服务的效率会迅速提高,跨地区的公共服务会逐渐增加。

2. 政府公共服务向智能化发展

政府公共服务进一步提高是向智能化服务发展,在大数据、云计算物联网人工智能技术大发展的环境下,智能化系统建设会越来越快,IT企业将在智能化方面开展竞争,将更多进入政府系统的长期运行维护领域,政府公共服务业务的智能化是最容易产生效果的领域,公共服务智能化最能够激发公众的获得感,会成为智慧城市亮点,竞争必将全面提高公共服务智能化的水平。

3. 大数据分析向专业化、集中化发展

政府大数据分析主要依赖专家的智慧,专家的稀缺使这项工作无法各地普及,大数据分析研究工作会向专业化、集中化发展,会形成一些高水平的研究机构,承接大型的大数据分析任务,该机构会通过云平台向社会提供多样化的分析软件工具,供各地政府使用,地方的大数据分析业务会以政研室为主与外部专业化机构合作推进。大数据中心热会随之降温,将重点业务转向常规业务数据的精细化管理。

4. 可视化应用成为热点

隐私保护难以解决及数据价值难以评估,大数据交易热不会产生,而可视化数据发布会成为热点。拥有大数据资源的企业可以制作可视化数据产品向社会发布,以显示企业的能力,政府向企业定制采购可视化数据了解有关趋势,可视化数据不仅能绕过隐私保护的困难且能加快信息沟通,必将成为大数据时代信息传递的重要方式,政府数据、企业数据向社会开放都会大量采用该模式。

5. 政企合作大势所趋

互联网巨头企业的信息技术能力、创新能力、大数据处理能力远远超越政府,阿里、腾讯、百度、华为等企业越来越多投入智慧城市建设,政府与企业竞相签订协议,利用企业的资金与技术点燃政府公共服务的新亮点,大型IT企业与政府合作是提高政府智能化水平、大数据应用水平的捷径,政企合作模式会加剧智慧城市建设的竞争,改变智慧城市的创新节奏,使智慧城市建设进入全面创新的新时代。

未来智能实验室是人工智能学家与科学院相关机构联合成立的人工智能,互联网和脑科学交叉研究机构。

未来智能实验室的主要工作包括:建立AI智能系统智商评测体系,开展世界人工智能智商评测;开展互联网(城市)云脑研究计划,构建互联网(城市)云脑技术和企业图谱,为提升企业,行业与城市的智能水平服务。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 互联网
    +关注

    关注

    55

    文章

    11350

    浏览量

    110434
  • 大数据
    +关注

    关注

    64

    文章

    9093

    浏览量

    144047

原文标题:政府大数据应用的反思;大数据分析应用常见的困难

文章出处:【微信号:AItists,微信公众号:人工智能学家】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    API数据分析:淘宝流量来源分析,渠道优化!

    优化渠道策略。我们将使用Python作为工具,结合数据分析和统计方法,确保过程真实可靠。 1. 理解淘宝流量来源 淘宝流量主要来自多个渠道,包括: 直接访问 :用户直接输入淘宝网址或从收藏夹访问。 搜索引擎 :如百度或淘宝内搜索,贡献
    的头像 发表于 01-23 13:42 369次阅读
    API<b class='flag-5'>数据分析</b>:淘宝流量来源<b class='flag-5'>分析</b>,渠道优化!

    经营数据分析可以通过哪些方式

    在数聚股份看来,提起经营数据分析,大家往往会联想到一些密密麻麻的数字表格,或是高级的数据建模手法,再或是华丽的数据报表。其实,“ 分析 ”本身是每个人都具备的能力,对于业务决策者而言,
    的头像 发表于 12-05 16:31 723次阅读

    广立微DE-G零断档重构智能数据分析

    近日,数据分析领域被一则消息推上风口浪尖:一家老牌软件巨头将撤出中国。在此背景下,其旗下以灵活著称的数据分析软件,在中国市场的未来将面临极大的不确定性。
    的头像 发表于 11-07 10:39 790次阅读

    如何使用运行数据趋势分析验证装置准确性?

    利用运行数据趋势分析验证电能质量在线监测装置准确性,核心逻辑是 通过长期采集的电网运行数据,判断其趋势是否符合电网实际规律、是否具备稳定性与
    的头像 发表于 09-18 10:33 606次阅读
    如何使用运行<b class='flag-5'>数据</b><b class='flag-5'>趋势</b><b class='flag-5'>分析</b>验证装置准确性?

    电磁兼容与电磁干扰在电磁兼容性大数据分析中的智能管理系统

    北京华盛恒辉电磁兼容 (EMC) 大数据智能管理系统精简解析 在 EMC 大数据分析中,电磁兼容与电磁干扰(EMI)智能管理系统是保障设备稳定、提升系统可靠性的核心工具。系统整合 EMC/EMI
    的头像 发表于 09-17 14:58 754次阅读

    电磁兼容与电磁干扰在电磁兼容性大数据分析中的智能管理平台

    电磁兼容与电磁干扰在电磁兼容性大数据分析中的智能管理系统
    的头像 发表于 09-17 14:58 715次阅读
    电磁兼容与电磁干扰在电磁兼容性<b class='flag-5'>大数据分析</b>中的智能管理平台

    电磁兼容与电磁干扰在电磁兼容性大数据分析中的智能管理系统

    电磁兼容与电磁干扰在电磁兼容性大数据分析中的智能管理系统
    的头像 发表于 09-17 14:42 1034次阅读
    电磁兼容与电磁干扰在电磁兼容性<b class='flag-5'>大数据分析</b>中的智能管理系统

    如何有效利用高光谱成像技术提升数据分析效率

    随着人工智能和大数据技术的快速发展,高光谱成像技术作为一种融合光谱信息与空间影像的新兴技术,正日益成为提升数据分析效率的重要工具。在农业监测、环境保护、矿产勘探等多个行业中,高光谱成像通过获取精准
    的头像 发表于 09-11 16:13 970次阅读
    如何有效利用高光谱成像技术提升<b class='flag-5'>数据分析</b>效率

    普迪飞 Exensio®数据分析平台 | Test Operations解锁半导体测试新纪元

    TestOperations是Exensio数据分析平台的四个主要模块之一。T-Ops模块旨在帮助集成器件制造商(IDM)、无晶圆厂半导体公司(Fabless)和外包半导体(产品)封测厂(OSAT
    的头像 发表于 08-19 13:53 1624次阅读
    普迪飞 Exensio®<b class='flag-5'>数据分析</b>平台 | Test Operations解锁半导体测试新纪元

    如何通过数据分析识别设备故障模式?

    通过数据分析识别设备故障模式,本质是从声振温等多维数据中提取故障特征,建立 “数据特征 - 故障类型” 的映射关系,核心可通过特征提取、模式匹配、趋势
    的头像 发表于 08-19 11:14 1100次阅读
    如何通过<b class='flag-5'>数据分析</b>识别设备故障模式?

    构建自定义电商数据分析API

      在电商业务中,数据是驱动决策的核心。随着数据量的增长,企业需要实时、灵活的分析工具来监控销售、用户行为和库存等指标。一个自定义电商数据分析API(应用程序接口)可以自动化
    的头像 发表于 07-17 14:44 718次阅读
    构建自定义电商<b class='flag-5'>数据分析</b>API

    AI数据分析仪设计原理图:RapidIO信号接入 平板AI数据分析

    AI数据分析仪, 平板数据分析仪, 数据分析仪, AI边缘计算, 高带宽数据输入
    的头像 发表于 07-17 09:20 856次阅读
    AI<b class='flag-5'>数据分析</b>仪设计原理图:RapidIO信号接入 平板AI<b class='flag-5'>数据分析</b>仪

    如何使用协议分析仪进行数据分析与可视化

    采集器 + Grafana/Prometheus。 大数据分析:导入Elasticsearch/Splunk进行全文检索和聚合。 优化数据量: 避免长时间捕获全流量,采用轮询采样或触发式捕获(如检测
    发表于 07-16 14:16

    物联网未来发展趋势如何?

    发展趋势。通过医疗设备、传感器和移动应用的互联互通,可以实现医疗监测、远程诊断和个性化治疗等功能。这将改变传统医疗模式,提高医疗资源的利用效率,降低医疗成本,同时改善人们的健康状况。 数据安全和隐私保护
    发表于 06-09 15:25

    环网柜局放大数据分析方案:电力运维的“智慧大脑”

    放电现象。这种放电虽初期难以察觉,却会持续侵蚀绝缘性能,最终导致短路、停电等重大事故。传统的定期巡检模式难以捕捉早期微弱放电,而环网柜局放大数据分析方案的出现,为
    的头像 发表于 05-07 10:07 747次阅读
    环网柜局放<b class='flag-5'>大数据分析</b>方案:电力运维的“智慧大脑”