的高速发展,积累了雄厚的物质基础,各主要行业的标准化建设,也已形成各自的一套体系,而这些体系的形成,并没有考虑到现代物流发展的需要。现有技术标准存在多方面的差异,制约了物流的协调运作,突出表现在托盘、包装、信息技术等通用设备与技术上面。铁路、公路、海运、民航、工业部门物流系统,都有自己的或选择不同的物流标准,形式多样,版本不一。除了经济上的直接损失,还造成人力、时间、效率等方面无法估算的损失。物流标准化的市场基础比较薄弱,直接影响到物流标准化的实施。国家标准《储运单元条码》颁布后,实际应用正确率不足15%,没有实现规范物流条码的预期目的。如我国集装箱运输仅占总货运量的20%,而世界平均水平是65%。
6.传统的数据处理技术满足不了现在的需求
现代物流与传统物流的最本质区别就是现代信息技术的应用,因此现代物流离不开计算机网络技术和信息技术的支撑,要具有系统化、信息化、自动化、网络化、智能化、标准化、社会化的几个基本特征[9]。中国的物流尚没有以现代信息技术为基础,把运输、包装、储存、流通加工、配送、信息处理等功能结合起来,形成一个高效、畅通的综合物流体系。近年来,信息技术开始在物流领域开始应用和发展。但由于历史的以及现代发展的种种原因,比如物流不被重视,从业人员素质较低,电脑应用较少,对信息化的意识不强等原因,我国物流的总体信息化程度还比较低,全国范围内尚未构成有机协调的物流网络体系。因此应用数据挖掘对现代农业物流管理决策进行研究具有非常重要的意义。
四、大数据在物流管理系统中的应用
物流管理系统产生的数据分散存储、数据模型不统一、标准化程度低、无法支持非结构化和半结构化数据处理、数据未能有效地进行商业利用等特点,给予大数据的物流管理系统构建数据集中、数据模型标准化、数据统一存储和处理、多结构化数据处理的模式、对产品搜索引擎和询价日志进行收集并管理,对海量数据进行计算和分布式处理,实现海量管理系统数据的实时快速加载、实时复杂查询和数据的实时入库,结合用户上网日志和互联网网页内容,进行深度数据挖掘和分析,为企业把我用户行为偏好、改善用户体验、精准行销、产品竞争力分析提供数据支持。
(一)物流管理系统数据库
9
1.Hadoop介绍
前文已经介绍了MapReduce模式,其中心思想就是分而治之。MapReduce集群由普通PC机构成,为无共享式架构。在处理之前,将数据集分布至各个节点。处理时,每个节点就近读取本地存储的数据处理(map),将处理后的数据进行合并(combine)、排序(shuffle and sort)后再分发(至reduce节点),避免了大量数据的传输,提高了处理效率。无共享式架构的另一个好处是配合复制(replication)策略,集群可以具有良好的容错性,一部分节点的死机不会对集群的正常工作造成影响。
Hadoop[10]是一个基于Java的分布式密集数据处理和数据分析的软件框架。它是一个基于分布式系统(HDFS)及其分布式数据库(HBase)用来将数据存储或部署到各个计算节点。用我们通俗的数学语言来表述,它大致上是:Hadoop =HDFS(文件系统,数据存储相关技术)+HBase(数据库)+MapReduce(数据处理)。其框架如下表1所示:
云计算及架构Hadoop HDFSF分布式文件系统 HBase分布式数据库 表1 Hadoop框架结构
MapReduce API (Map,Reduce) 2.Hbase分布式数据库
HBase[11]是一个分布式的、面向列的开源数据库,它不同于一般的关系数据库,是一个适合于非结构化数据存储的数据库。另一个不同的是HBase基于列的而不是基于行的模式。HBase使用和 BigTable非常相同的数据模型。用户存储数据行在一个表里。一个数据行拥有一个可选择的键和任意数量的列,一个或多个列组成一个ColumnFamily,一个Fmaily下的列位于一个HFile中,易于缓存数据。
3.物流管理系统数据库
系统采取以Hadoop为代表的NOSQL[12]数据库技术和基于SQL的分布式数据库技术,采用Hadoop和数据仓库混搭的方式,对结构化和非结构化的海量数据和复杂数据进行存储与处理。将结构化、不需要关联分析、查询较少的数据保存在NOSQL数据库或Hadoop平台中;将结构化、需要关联分析或经常查询的数据保存在关系型数据库中,短期高价值数据放在高性能平台,中长期的数据放在低成本平台中,以实现数据高效率低成本的存储和处理。Hbase模型如下图7所示:
10
图7 Hadoop模型
(二)物流管理系统中大数据技术的应用
物流销售管理系统中的统计分析子系统[13]通过对用户信息提取、访问热点分析、产品竞争力对比分析,结合用户上网日志及互联网网页内容,仔细对客户进行细分,分析用户决策因素、购物偏好、价格承受范围,为准确把握用户购买心理,产品发展趋势,企业战略规划,系统运营管理提供决策支持。子系统如下图6所示:
图6 物流销售分析中的大数据运用
由上图所示,即物流管理大数据的架构,在此来一一剖析与解读:
物流管理大数据的架构,从上至下分为五个层次,它们分别是:用户接口、分类模块、计算模块、存储模块、查询模块。
11
(1)用户接口。用来与用户对接,方便使用者管理运用,也是数据的来源,在这个模块上产生输入数据。
(2)分类模块。数据由此进入存储中心,分类管理。利用用户接口传输来的数据再传送到下面的计算模块。分门别类的对应空间管理、仓储管理、销售管理和结算管理。
(3)计算模块。在这个计算模块,物流管理采用的是Hadoop集群,这个集群是计算模块的主要组成部分。在这个集群上,系统每天会对物流管理数据进行不同的MapReduce计算。利用数据挖掘、空间分析、运筹等算法进行数据的分类、整合,进行可视化的处理。
(4)存储模块。在存储模块,采用HBase分布式关系型数据库的集群,是基于Hadoop HBase技术的一个NoSQL的存储集群,其中还包括了数据交换中心和分布式文件系统(HDFSF)。
(5)查询模块。在这一模块,通过操作系统和数据库进行对于经过大数据技术处理过的数据进行查询、分析。
(三)大数据应用于物流管理的重要意义
1.降低物流成本
大数据技术应用于物流管理决策可以提高物品流通速度,降低物流成本。尤其对一些特定产品来说,对时间、新鲜程度的要求很高,发展现代物流,关键是能够充分运用专业化现代化的运输工具迅速及时地运往消费地,提高商品流通速度,降低商品积压在产地所占据的成本,同时通过大规模的作业降低作业成本,减少多次装卸搬运所产生的产品破损,从而有效地降低物流成本。
2.提升商品价值
大数据技术应用于现代物流管理决策可以促进专业化物流增值服务提升产品价值,是提高国际竞争力的需要[14]。有些商品本身的价值不高,可以通过发展专业的第三方物流组织,为商品提供专业的物流增值服务,来发掘商品的内在价值。现实中,我国不少商品不仅在质量和外观上缺乏竞争力,而且在流通过程中的产品配送和分销能力不足,交易成本高,损耗和浪费大。大数据应用于现代物流管理决策就是使商品通过低成本、高效率的物流体系送达消费者手中。此外,应用大数据技术对现代农业物流管理决策进行研究也是发展物流产业和降低物流成本的需要,有利于大大提高企业的收入。应用大数据技术对现代物流管理决策不仅可以进行集约化物流,在一定范围内实现物流合理
12
化,从而大量节约物流费用,而且可以节约大量的社会流动资金,实现资金流动的合理性,既提高经济效益,又提高社会效益。显然,完善和发展现代物流是流通国际化,缩小同发达国家之间的差距和提高我国国际竞争力的必要手段。
3.做出科学决策
物流管理的信息化、网络化发展到一定程度就产生了智能化的需要,因此物流管理的智能化是物流信息化、网络化的高层应用。物流管理中,不管是管理部门还是生产经营单位,不管是产品配送企业还是农户,都涉及到运筹和决策的问题,例如产品储存库存水平的确定,运输路线的选择,产品配送中心的经营管理等决策问题都需要借助大量的管理知识、经验和信息来解决。物流管理的智能化就需要有一系列智能的物流管理信息系统的支持,如物流专家系统、物流预测系统、物流配送中心管理决策系统等。当今的一些物流管理信息系统只为管理者提供普通的业务处理数据和简单的分析数据,不具备数据挖掘和知识发现的功能,不能提供立体的、多视角的、有渗透力的数据,更不能提供具有预测性的潜在的信息,不能满足物流网络中各个层次的实时需要。基于大数据的物流管理信息系统可以把相应的业务数据提取出来进行分析,分析过程可以不脱离物流企业和客户的操作流程,时效性强,可以克服在管理决策中出现的大量的主观决策,避免产生牛鞭效应。
4.有利于物流产业化升级
将数据挖掘应用到物流管理决策中,不仅增强了物流系统的功能,可以实现物流结构的调整,利于物流产业良性升级,减少人工投入量。而且在物流园区、物流中心的建设、库存控制和运输配送等方面建立起能够有效控制的运行机制,使物流体系能够适应市场的变化,提高物流系统的效率和决策的准确性。另外企业领导和管理部门可以将其所掌握的信息转化为决策的依据,提高决策能力、决策效力和决策准确性,减少决策过程中的主观因素,克服决策中的主观随意性和盲目性,减少因决策失误而造成的经济损失。
五、总结与展望
虽然在当前的相关研究文献中,研究人员对物流管理发展中及大数据技术方面的问题作出了部分的回答,但是在两者结合的情况这方面的研究非常少,并且这方面的研究也没有提出明确的解决方案,也正体现了这方面研究的不足之处。
13