论文部分内容阅读
摘 要:大数据环境下,传统的结构化数据库已不再适用于大数据的存储,流数据和非结构数据也无法再通过传统数据分析方法进行分析和处理,给传统的管理决策模式带来了重大挑战。本文通过系统调研当前各国政府、科技界和学术界有关大数据环境下管理决策模式的研究和应用现状,提出大数据环境下管理决策应以全体数据为样本、数据支撑为保障、以实时预警为目标和以相关关系为原则,构建数据驱动和目标驱动相互结合的双向管理决策模式来推动管理决策模式的创新。
关键词:大数据 管理决策模式 数据驱动 目标驱动
大数据浪潮汹涌来袭,與互联网的发明一样,这绝不仅仅是信息技术领域的革命,更是在全球范围内启动透明政府、加速企业创新、引领社会变革的利器。随着美国和联合国等政府或组织实施大规模的大数据研究与发展计划以及IBM、甲骨文、EMC等跨国企业投入大量资金进入大数据领域后,大数据研发与应用也已成为各国政府、科技界和学术界关注的热点。大数据主要来自网页、社交媒体内容的点击流数据和来自零售终端和其他设备终端及媒体视频环境的视频数据,以及来自呼叫中心的音频数据和从生物学和药物基因组等实验室的研究数据等。据统计,1分钟内全球互联网共传送数据约64万GB,发布2亿400万封邮件,Flickr发布2000万张照片,Youtube视频被查看130万次;Facebook被查看600万次等。据预测,2020年全球数据量将达35ZB。而这些高速产生的数据中80%以上为非结构化数据与半结构化数据,这给传统的管理决策带来了巨大挑战,因此如何快速获取大量真实的运行数据并建立对其进行动态高效处理的能力,将成为提升产业竞争力的关键,国内外的IT巨头、科研院所纷纷投入大量人力、物力和财力开展大数据的管理决策模式创新研究。
大数据环境下,如何实现复杂多变的大数据的存储、分析及管理已成为当前大数据管理决策模式变革的重点。本文认为,应以全体数据为样本、数据支撑为保障、以实时预警为目标和以相关关系为原则,通过构建数据驱动和目标驱动相互结合的双向管理决策模式来实现管理决策模式创新。
一、大数据环境下,管理决策应以数据支撑为保障
传统的管理决策过程中,多采纳个人观点与专家经验进行决策。然而,大数据环境下,决策模式将发生革命性的变化,数据分析具备否定直觉、抛弃个人观点的能力。在大数据环境下,如Hadoop、Hbase等大数据技术与工具的引入,是大数据研究的基础与准备,只有把大数据研究提升到强调决策的灵活性与实行性,与国家政府决策、企业管理需求相结合,才能促使单纯的大数据研究上升到“数据科学”的高度。麦肯锡在预测未来十大商业趋势时指出,大数据辅助公司进行实时决策这一趋势具备促进研究、创新与营销发生根本转变的潜力。Marchand也强调大数据环境下,企业不仅仅要关注技术问题,更应该侧重于研究如何解决大数据带来的商业危机以及由此产生的管理决策模式变化。
二、大数据环境下,管理决策应以全体数据为样本
正如美国“大数据研究与开发计划”项目的宗旨所言,构建大数据的管理决策应“整合所有地球科学数据,以提升研究人员的知识创造与传播能力”。美国国家自然基金委通过设立“地球立方体”项目,构建开放式大数据平台。实现数据共享也是国内外众多学者的共同倡议。目前,美国已经通过建立data.gov网站,公开了美国联邦政府拥有的涵盖172个国家的信息资料库。英国已颁布相关鼓励信息开放的政策,并支持创建开放式数据中心。欧盟宣布开放数据的举措很快遍及整个欧洲。其他国家,如澳大利亚、巴西、智利等也相继出台并实施了开放数据策略。与此同时,在现有数据共享模式的前提下,云计算与云存储技术的引入,极大的扩展了数据共享能力,尤其是对经费并不充裕的中小企业提供了充分而有效的数据资源。
大数据环境下,全体数据强调的不仅仅是数据量的覆盖面与数据共享,更加侧重于获得全体数据与混杂数据而带来的跨领域思维与系统思维。基于全体数据的数据分析,从某种程度上克服了领导者或领域专家“决策权”的过分倚重,是数据驱动决策的重要体现。正如Viktor Mayer-Schonberger所言,当我们可以获取海量数据的时候,它就没有任何意义了。数据处理技术已经发生了翻天覆地的改变,这就要求我们将支撑管理决策的数据样本扩大到全体数据,从而提高决策的准确性。
三、大数据环境下,管理决策应以相关关系为原则
传统管理决策以现有数据资源为核心,“就事论事”,刻意寻找数据分析结果背后的种种原因,强调问题分析的因果联系。然而,大数据环境下,数据资源的骤然增大,潜在信息量也随之陡增,了解数据“是什么(What)”而不是“为什么(Why)”成为数据分析的新思路。因此,传统以“因果”关系为核心的管理决策方法往往会过度关注细节,管中窥豹,缺乏对大局的把握与理解。因此,在联合国“全球脉动(Global Pulse)”计划中,就明确把“以实时获取的流数据为核心,关联历史数据”定义为大数据环境下,数据分析工作的重要理念之一。
当前,围绕大数据的相关分析在电子商务领域应用广泛,如,美国著名零售商Target通过收集每一位孕妇的所有相关数据,计算并预测其预产期,从而在孕期的不同阶段寄送相应的优惠券;而Wal-Mart通过收集每个顾客的购物清单以及消费额,甚至购买当日的天气,而分析出不同季节、不同气候条件下,顾客对于不同商品的需求,从而安排安放位置,例如飓风用品与充饥用的蛋挞。此外,在社会科学领域,以社会网络分析为核心的研究工作在大数据环境下也具有不同凡响的效应。Bracha Shapira等分析用户在Facebook个人主页上关于个人爱好的数据,并结合他们的参数选择,为用户进行跨领域推荐。
四、大数据环境下,管理决策应以实时预警为目标
“实时预警”是大数据时代管理决策的最高目标。只有充分掌握事物发展变化的大量数据,并关注数据的实时变化,才能形成准确的分析与评估。而“实时预警”则是在长期分析与评估,通过机器学习等手段掌握事物变化规律后,进行精准监测的结果,而只有那些能够利用大数据解决方案进行实时商业决策的机构才能够茁壮成长。在美国“大数据研究与开发计划”项目中,基于国家安全的网络监测与预警技术研究,可以认为是当前世界各国“实时预警”技术的最佳诠释。而以“实时预警”为依据的管理决策方案,则是在以机器大数据分析基础上,融入人的经验与思维的过程,这也被认为是一项近乎“理想化”的理论与技术指标。 基于上述总结分析可以发现,在当前技术条件下,针对大数据的管理、分析乃至管理决策依旧困难重重。传统的数据分析和挖掘软件大多仅适用于单机运行,分布式的联机处理几无可能;快速产生并增量庞大的数据量远远超过当前的数据处理技术“实时”处理并分析的能力;此外,傳统的目标驱动决策由于目标和方法明确,传统的目标驱动决策的整个决策支持过程对数据和分析工作的需求量较小。而为达到更为准确和有效的决策支持结果,数据采集、加工以及分析等各个环节通常需要适当的人工参与,模型一般无法实现“实时预警”。
因此,传统的目标驱动决策模型已经明显不足以应对大数据环境下“实时预警”的新需求,决策者更希望能用体现“实时预警”功效的“数据驱动”决策模型。因此,有必要将“数据驱动”和“目标驱动”相互结合而构建双向管理决策模型,来适应复杂多变的大数据环境。该双向决策模式在传统目标驱动的决策方式的基础上,将数据驱动模式引入组织的管理决策制定过程中,从而使得在大数据背景下,通过借助于先进的管理决策模型与先进的计算机技术,使创新决策更加快捷、准确。
参考文献:
[1]HDavenport T, Bean P B A R. how big data is different [J]. MIT Sloan Management Review, 2012,54(1):22-24.
[2]Lewis, Michael J. Recognizing Greatness Reply [J]. COMMENTARY, 2012, 134(2):10-10.
[3] Marchand, Donald A.; Peppard, Joe. Why IT Fumbles Analytics [J]. HARVARD BUSINESS REVIEW, 2013, 91(1-2):104-104-108.
[4]美国大数据计划.[EB/OL].[2013-3-21].http://www.whitehouse.gov/sites/default/files/microsites/ostp/big_data_press_release_final_2.pdf%204.
[5]Viktor Mayer-Sch?nberger, 盛扬燕 周涛译. 大数据时代[M].浙江人民出版社, 2012.
[6]Antwarg, Liat; Rokach, Lior; Shapira, 等. Attribute-Driven Hidden Markov Model Trees for Intention Prediction[J]. IEEE TRANSACTIONS ON SYSTEMS MAN AND CYBERNETICS PART C-APPLICATIONS AND REVIEWS, 2012(42):1103-1119.
关键词:大数据 管理决策模式 数据驱动 目标驱动
大数据浪潮汹涌来袭,與互联网的发明一样,这绝不仅仅是信息技术领域的革命,更是在全球范围内启动透明政府、加速企业创新、引领社会变革的利器。随着美国和联合国等政府或组织实施大规模的大数据研究与发展计划以及IBM、甲骨文、EMC等跨国企业投入大量资金进入大数据领域后,大数据研发与应用也已成为各国政府、科技界和学术界关注的热点。大数据主要来自网页、社交媒体内容的点击流数据和来自零售终端和其他设备终端及媒体视频环境的视频数据,以及来自呼叫中心的音频数据和从生物学和药物基因组等实验室的研究数据等。据统计,1分钟内全球互联网共传送数据约64万GB,发布2亿400万封邮件,Flickr发布2000万张照片,Youtube视频被查看130万次;Facebook被查看600万次等。据预测,2020年全球数据量将达35ZB。而这些高速产生的数据中80%以上为非结构化数据与半结构化数据,这给传统的管理决策带来了巨大挑战,因此如何快速获取大量真实的运行数据并建立对其进行动态高效处理的能力,将成为提升产业竞争力的关键,国内外的IT巨头、科研院所纷纷投入大量人力、物力和财力开展大数据的管理决策模式创新研究。
大数据环境下,如何实现复杂多变的大数据的存储、分析及管理已成为当前大数据管理决策模式变革的重点。本文认为,应以全体数据为样本、数据支撑为保障、以实时预警为目标和以相关关系为原则,通过构建数据驱动和目标驱动相互结合的双向管理决策模式来实现管理决策模式创新。
一、大数据环境下,管理决策应以数据支撑为保障
传统的管理决策过程中,多采纳个人观点与专家经验进行决策。然而,大数据环境下,决策模式将发生革命性的变化,数据分析具备否定直觉、抛弃个人观点的能力。在大数据环境下,如Hadoop、Hbase等大数据技术与工具的引入,是大数据研究的基础与准备,只有把大数据研究提升到强调决策的灵活性与实行性,与国家政府决策、企业管理需求相结合,才能促使单纯的大数据研究上升到“数据科学”的高度。麦肯锡在预测未来十大商业趋势时指出,大数据辅助公司进行实时决策这一趋势具备促进研究、创新与营销发生根本转变的潜力。Marchand也强调大数据环境下,企业不仅仅要关注技术问题,更应该侧重于研究如何解决大数据带来的商业危机以及由此产生的管理决策模式变化。
二、大数据环境下,管理决策应以全体数据为样本
正如美国“大数据研究与开发计划”项目的宗旨所言,构建大数据的管理决策应“整合所有地球科学数据,以提升研究人员的知识创造与传播能力”。美国国家自然基金委通过设立“地球立方体”项目,构建开放式大数据平台。实现数据共享也是国内外众多学者的共同倡议。目前,美国已经通过建立data.gov网站,公开了美国联邦政府拥有的涵盖172个国家的信息资料库。英国已颁布相关鼓励信息开放的政策,并支持创建开放式数据中心。欧盟宣布开放数据的举措很快遍及整个欧洲。其他国家,如澳大利亚、巴西、智利等也相继出台并实施了开放数据策略。与此同时,在现有数据共享模式的前提下,云计算与云存储技术的引入,极大的扩展了数据共享能力,尤其是对经费并不充裕的中小企业提供了充分而有效的数据资源。
大数据环境下,全体数据强调的不仅仅是数据量的覆盖面与数据共享,更加侧重于获得全体数据与混杂数据而带来的跨领域思维与系统思维。基于全体数据的数据分析,从某种程度上克服了领导者或领域专家“决策权”的过分倚重,是数据驱动决策的重要体现。正如Viktor Mayer-Schonberger所言,当我们可以获取海量数据的时候,它就没有任何意义了。数据处理技术已经发生了翻天覆地的改变,这就要求我们将支撑管理决策的数据样本扩大到全体数据,从而提高决策的准确性。
三、大数据环境下,管理决策应以相关关系为原则
传统管理决策以现有数据资源为核心,“就事论事”,刻意寻找数据分析结果背后的种种原因,强调问题分析的因果联系。然而,大数据环境下,数据资源的骤然增大,潜在信息量也随之陡增,了解数据“是什么(What)”而不是“为什么(Why)”成为数据分析的新思路。因此,传统以“因果”关系为核心的管理决策方法往往会过度关注细节,管中窥豹,缺乏对大局的把握与理解。因此,在联合国“全球脉动(Global Pulse)”计划中,就明确把“以实时获取的流数据为核心,关联历史数据”定义为大数据环境下,数据分析工作的重要理念之一。
当前,围绕大数据的相关分析在电子商务领域应用广泛,如,美国著名零售商Target通过收集每一位孕妇的所有相关数据,计算并预测其预产期,从而在孕期的不同阶段寄送相应的优惠券;而Wal-Mart通过收集每个顾客的购物清单以及消费额,甚至购买当日的天气,而分析出不同季节、不同气候条件下,顾客对于不同商品的需求,从而安排安放位置,例如飓风用品与充饥用的蛋挞。此外,在社会科学领域,以社会网络分析为核心的研究工作在大数据环境下也具有不同凡响的效应。Bracha Shapira等分析用户在Facebook个人主页上关于个人爱好的数据,并结合他们的参数选择,为用户进行跨领域推荐。
四、大数据环境下,管理决策应以实时预警为目标
“实时预警”是大数据时代管理决策的最高目标。只有充分掌握事物发展变化的大量数据,并关注数据的实时变化,才能形成准确的分析与评估。而“实时预警”则是在长期分析与评估,通过机器学习等手段掌握事物变化规律后,进行精准监测的结果,而只有那些能够利用大数据解决方案进行实时商业决策的机构才能够茁壮成长。在美国“大数据研究与开发计划”项目中,基于国家安全的网络监测与预警技术研究,可以认为是当前世界各国“实时预警”技术的最佳诠释。而以“实时预警”为依据的管理决策方案,则是在以机器大数据分析基础上,融入人的经验与思维的过程,这也被认为是一项近乎“理想化”的理论与技术指标。 基于上述总结分析可以发现,在当前技术条件下,针对大数据的管理、分析乃至管理决策依旧困难重重。传统的数据分析和挖掘软件大多仅适用于单机运行,分布式的联机处理几无可能;快速产生并增量庞大的数据量远远超过当前的数据处理技术“实时”处理并分析的能力;此外,傳统的目标驱动决策由于目标和方法明确,传统的目标驱动决策的整个决策支持过程对数据和分析工作的需求量较小。而为达到更为准确和有效的决策支持结果,数据采集、加工以及分析等各个环节通常需要适当的人工参与,模型一般无法实现“实时预警”。
因此,传统的目标驱动决策模型已经明显不足以应对大数据环境下“实时预警”的新需求,决策者更希望能用体现“实时预警”功效的“数据驱动”决策模型。因此,有必要将“数据驱动”和“目标驱动”相互结合而构建双向管理决策模型,来适应复杂多变的大数据环境。该双向决策模式在传统目标驱动的决策方式的基础上,将数据驱动模式引入组织的管理决策制定过程中,从而使得在大数据背景下,通过借助于先进的管理决策模型与先进的计算机技术,使创新决策更加快捷、准确。
参考文献:
[1]HDavenport T, Bean P B A R. how big data is different [J]. MIT Sloan Management Review, 2012,54(1):22-24.
[2]Lewis, Michael J. Recognizing Greatness Reply [J]. COMMENTARY, 2012, 134(2):10-10.
[3] Marchand, Donald A.; Peppard, Joe. Why IT Fumbles Analytics [J]. HARVARD BUSINESS REVIEW, 2013, 91(1-2):104-104-108.
[4]美国大数据计划.[EB/OL].[2013-3-21].http://www.whitehouse.gov/sites/default/files/microsites/ostp/big_data_press_release_final_2.pdf%204.
[5]Viktor Mayer-Sch?nberger, 盛扬燕 周涛译. 大数据时代[M].浙江人民出版社, 2012.
[6]Antwarg, Liat; Rokach, Lior; Shapira, 等. Attribute-Driven Hidden Markov Model Trees for Intention Prediction[J]. IEEE TRANSACTIONS ON SYSTEMS MAN AND CYBERNETICS PART C-APPLICATIONS AND REVIEWS, 2012(42):1103-1119.