数据交换平台设计方案

2018-10-21 17:15

接收的数据包对数据进行解密、分析N丢弃此包合法生成回复消息Y准备发送加入合法标记结束 解析流程图

5.3.7. 数据整编

数据接收并经解析后,要根据数据特性标识进行整编、再分析、归类、关联计算及相关转换处理,然后准备保存。数据整编主要指对经过解析检验的数据进行归类、按数据类型对应关系进行转换处理的过程。

数据整编流程图如下:

46

开始获取解析后的消息数据获取一个资源的数据读取此资源整编类型判断数据类型?按时间每天整编数据??返回数据整编结果结束

整编流程图

5.3.8. 数据保存

整编无误的数据即可以保存到目的数据库的相关表内,完成数据交换的整个流程,并记录相关日志(依据日志设置而定)。

数据保存处理流程图如下:

47

开始获取要保存的数据获取数据资源内容根据要求整编数据日期格式根据要求数据库生成相应的slq语句根据要求数据库连接类型生成数据库连接执行Sql语句完成数据保存结束

数据保存处理流程

5.3.9. 其它相关服务

本平台还提供一些必要的其它方便性的服务功能,此模块也是本平台预留的可维护增加的开放式接口。

6. 项目实施安排

本项目工期安排如下表:

48

信息交换平台设计方案

目录

1. 项目背景................................................................................................................... 4

1.1. 概述............................................................................................................ 4 1.2. 现状分析..................................................................................................... 4 1.3. 需求描述..................................................................................................... 5 2. 目标与原则 ............................................................................................................... 6 2.1. 建设目标..................................................................................................... 6

2.2. 2.3. 3.1. 3.2.

建设原则..................................................................................................... 7 定义与约束 ................................................................................................. 7 建设内容..................................................................................................... 8 建设依据..................................................................................................... 9

3. 建设内容与依据 ........................................................................................................ 8

4. 技术路线................................................................................................................... 9

4.1. 技术架构..................................................................................................... 9 4.2. 应用架构................................................................................................... 15 5. 系统功能................................................................................................................. 18

5.1. 5.2.

功能划分................................................................................................... 18 系统管理................................................................................................... 21 5.2.1. 运行环境配置..................................................................................... 21 5.2.2. 5.2.3.

系统注册............................................................................................ 22 目录服务............................................................................................ 23

5.2.3.1. 类别维护..................................................................................... 25 5.2.3.2. 元数据维护 ................................................................................. 27 5.2.3.3. 目录索引管理.............................................................................. 28 5.2.4. 权限管理............................................................................................ 28

5.2.4.1. 操作者权限 ................................................................................. 29 5.2.4.2. 系统用户权限.............................................................................. 30 5.2.5. 订阅定制............................................................................................ 31

5.2.5.1. 数据校验..................................................................................... 33 5.2.5.2. 订阅............................................................................................ 34 5.2.5.3. 退订............................................................................................ 35 5.2.6. 日志定制............................................................................................ 36 5.2.7. 5.2.8. 5.3.

安全管理............................................................................................ 38 其它参数设置..................................................................................... 39

数据交换服务............................................................................................ 40 5.3.1. 数据交换流程..................................................................................... 40 5.3.2. 5.3.3. 5.3.4. 5.3.5. 5.3.6.

消息管理............................................................................................ 41 队列管理............................................................................................ 42 发送管理............................................................................................ 42 接收管理............................................................................................ 43 封装解析............................................................................................ 44

5.3.6.1. 封装............................................................................................ 44 5.3.6.2. 解析............................................................................................ 45 5.3.7. 数据整编............................................................................................ 46

2

5.3.8. 数据保存............................................................................................ 47

5.3.9. 其它相关服务..................................................................................... 48

6. 项目实施安排.......................................................................................................... 48

3

1. 项目背景

1.1. 概述

经过近几年的信息化建设,北京市水务局的计算机网络和应用系统的建设均取得了长足发展,随着信息技术的发展,水务信息化建设的相关标准与方式方法也在不断完善和规范,为后续相关业务信息化建设奠定了坚实的基础。

北京市水务局已经建设了骨干通讯网,构建了机关内部的计算机局域网络平台和数据库系统。

水务局目前已经运行的有近30个业务系统。以水务局“水务信息平台”为核心的水务信息网已基本建成。水务信息化标准数据库已经建立并在不断的规范当中。目前北京市水务局已建立了水文数据库、供水数据库、水环境数据库、工情数据库、灾情数据库、水土保持数据库、社会经济数据库和图形图像地理信息数据库八类数据库,这些数据库均是在ORACLE9I版本数据库之上。水务局对下属机关、局属、县区单位分为A、B、C三类分中心机构,大部分分中心均已建有自己的水务业务信息系统,且基本实现与局中心水务平台相连,进行数据交换与共享。

1.2. 现状分析

北京市水务信息平台虽已取得的很大进展,但由于各分中心的业务系统的应用结构、技术结构以及数据库差异较大,尤其各分中心的业务系统所用的数据库不尽相同——有不同版本的ORACLE、SQL SEVER等,采用的开发技术不同——如J2EE、DOTNET等,不同系统之间需要实现数据的及时共享与互通,局中心尚没有建立完善的信息共享交换机制,不能及时获得各分中心的水务信息,达不到为决策支持提供信息服务的目标,各系统间的数据交换成为数据共享的最大障碍,因此需要建立一个统一的、适用性广的信息交换平台,用于交换局中心与各分中心之间的各种数据,从而实现数据及时共享与交换。

4

1.3. 需求描述

建设一个开放的、可扩展的、适应性强的、高效稳定的信息交换平台,平台应具有如下功能:

1、 方便的实现北京市水务局及各分中心业务应用系统之间的数据共享与交换;

2、 实现不同类型的数据库对接:即通过本平台能够实现不同类型数据库之间的互通,可以将数据源表和目标数据表对应起来;

3、 数据对导:即本平台支持对结构相同或相似源数据表与目标数据表内数据的直接导出导入操作,对导前可以配置导出导入字段的对应关系,同时应支持通过视图进行对导数据的功能;

4、 数据类型自动转换:指通过平台实现对不同数据类型数据的自动转换功能,比如一个字段由STRING型转换为另一个数据库接受的VARCHAR型数据;

5、 消息队列的自动管理:本平台可以自动判断并管理消息队列,按消息的优先次序或级别来安排消息传输,建立良好的数据传输机制;

6、 数据的自动封装与解析:本平台可以对指定数据按一定原则进行封装,封装时可以自动判断数据包的大小,按指定大小封装成一个或多个包并记录包间的关系,在接收数据包后,可以对包进行自动解析;

7、 安全控制:本平台应具有严格稳定的安全机制,确保数据安全,即能够根据需要自动按规则对传输数据进行加密解密、根据不同请求者的权限级别设置对应的数据访问权限、自动记录数据丢失与否及传送成功与否的记录,并在传输失败后,能够以GSM的方式通知接收方本次传送失败,请等待下一次传送;

8、 日志:本平台要有健全完备的日志功能,根据需要记录系统运行过程中的所有相关信息,尤其当系统遇到意外而无法正常工作时,应有相关日志以备查阅;

9、 运行稳定:由于信息交换平台要完成局中心与各分中心之间所有基础数据、业务数据、实时数据甚至空间数据的时实共享与交换,因此本平台要长期稳定的运行,能够处理好由于多方同时发送请求而造成的堵塞或冲突等情况,同时具有一定的网络故障应对能力,即当网络发生故障时,交换平台应能自动记录正在传送途中的数据信息,以便网络恢复时,自动续传,支持断点续传;

5

资源共享方资源订阅方1资源订阅方2读取资源配置信息轮询读取数据接收数据封装数据....分发数据接收数据接收数据整编数据保存数据接收返回结果封装返回结果接收返回结果....记录返回结果记录返回结果 数据交换流程图

如图所示,当订阅方订阅了信息后,共享方轮询读取数据,并对数据进行封装,然后发送给订阅方,订阅方接到数据后,首先对数据进行验证、解析、整编最后将合法数据保存(如果验证数据不合法则丢弃并发送错误信息给共享方,要求重新发送),并封装确认信息返回给共享方,共享方在接到回复后,记录订阅概要信息(或重新读取数据进行发送),完成数据交换过程。

5.3.2. 消息管理

本平台提供消息管理机制,统一管理经过平台的一切消息。平台采用特征验

41

证码的方式为每条消息加注特征码,同时总结各用户端传送消息的特性,分析消息的归属类别,根据消息的特点对消息进行分类(如发送、请求、回复、接收、报错等)、整理、预排序,准备使用各自的通道进行传输,避免消息混乱的状态发生。消息的归类规则及特征码信息可以在目录服务中进行维护。

本管理功能不提供用户交互界面,而是以内部进程的形式存在。

5.3.3. 队列管理

当通过本平台的请求较多时,如果不对各类消息加以控制会产生资源争用或并发冲突的现象,并且可能会出现优先级较高的请求反而等待时间过长现象,因此本平台采用有效的队列管理手段根据消息本身的特性优先级等信息调动、排列各进程,使所有请求有序高效的得以执行,从而最大程度的优化系统。

5.3.4. 发送管理

本交换平台在处理各类数据交换与共享请求时,会产生各种信息及数据的发送操作,平台依据发送数据包的特征标识找到接收方,并首先探测网络状况,许可时即进行发送操作,并自动记录发送日志(根据日志记录设置情况而定)。

发送流程图如下:

42

待发送的信息或数据验证接收方身份N探测网络状况超过时延限制Y计时器加1N通否Y发送信息GSM发送信息记录日志结束 发送数据流程图

发送信息内容不仅限于各类交换的数据信息,还包括通讯双方的交互消息等。GSM信息发送发生在计算机网络不能连通的情况,GSM可发送网络中断信息、错误报告信息及资源删除消息——依据参数设置情况而定。

GSM信息发送采用在平台中集成无线通讯技术,当计算机网络不通时,与GSM短信无线网络平台相连接,依托局中心已建的PDA技术平台进行发送信息的方式。

5.3.5. 接收管理

与发送管理相对应,本平台在接收各用户传送过来的信息时,首先验证数据包的有效性,有效则接收下来进入下一步处理,否则丢弃此包同时发送错误信息给发送方,并记录相关日志(根据日志定制部分的设置而定)。

接收管理的流程图如下:

43

待接收数据验证数据有效性丢弃数据N是否有效Y发送回复信息接收数据记录日志结束 接收流程

如图所示,当信息端口有传来的数据时,首先根据数据包的特征码进行初验,有效则接收数据否则丢弃此数据包,并发送错误消息(或重发消息)给发送方要求重新发送。

5.3.6. 封装解析

5.3.6.1. 封装

封装是指数据在发送之前进行的加密、压缩、封装过程。平台对准备发送的数据按一定规则加密压缩后,进行封装,并且一个数据包的大小是固定的(参见其它参数设置部分),当欲传送数据大于规定包的大小时,系统自动将数据分成多个包进行传送,并记录各个包之间的先后关系,同时在包中加入明显的可供验证的标记。

封装流程图如下:

44

轮询读取待发送数据有无数据有判断未打包数据大小等于无数据小于与规定的数据包大小对比对数据进行加密、压缩数据打成一个不大于规定大小的包加入相关标识结束

封装流程图

在数据加密、压缩之前,平台采用轮询读取数据的方式实现数据的循环读取,本平台采SLEEP等待的方式进行数据读取,即每读取一次数据后,等待一段时间再进行下一次数据读取,这样避免了由于多线程同时争用系统资源而产生堵塞。并发与轮询技术的结合使用有效、充分的利用了系统资源,使得平台具有较高的数据处理能力,为支持频繁、大数据量的数据交换与共享提供了可能。

5.3.6.2. 解析

解析即是接收方在接收到对方传来的数据包后,对数据包进行规则解密、验证数据的有效性,通过后即可整编保存数据。

解析数据包的流程图如下:

45

数据交换平台环境配置目录服务权限管理订阅定制参数设置参数设置日志管理系统用户(组)系统用户水文管理组供水管理组资源信息组编号组名01水文业务数据020304水文基础数据供水业务数据水工业务数据保存查询资源组组描述????取消

系统用户组权限分配界面

如界面所示,在为系统用户(组)分配权限时,还可以进行批量分配——当几个系统用户(组)有相同的权限范围时。

2、权限修改

权限修改即是对已建立并分配权限(包括默认分配)的用户或用户组的权限进行修改、重新分配的过程。

权限修改时,当用户(组)的权限范围缩小(这里指原来有的权限修改为没有的情况)时,平台自动判断此用户(组)是否已经订阅了被撤消权限的信息,如果有则提示操作者用户此信息已经被订阅,若强烈撤消此项权限内容,则本系统自动删除此用户(组)对该信息的订阅信息及被订阅方的被订阅记录,否则直接修改权限。

5.2.5. 订阅定制

订阅定制是本交换平台的核心功能之一,主要指订阅方向被订阅方提出订阅请求,经对方允许后获得订阅信息的先期预订过程。

系统提供人机交互界面,用户通过界面访问、浏览可以订阅的对方信息,并

31

定制订阅信息。订阅信息维护包括校验数据、订阅、退订三部分。

订阅定制的功能结构图如下:

市市市市市市市市市市市市市市市市市市市市市市市市

订阅定制功能结构

校验数据是指在具体订阅资源之前,首先检查、校验订阅方与共享方数据的同步性,不同步则通过本平台进行数据同步,以便达到数据的一致性。

退订是指订阅方取消订阅,删除已经定制好的订阅信息并发送退订消息给共享方不再订阅的过程;

定制与此相反指开始订阅对方的共享信息。

另外系统提供基于订阅的信息浏览与查询功能,可以查询已订阅的信息,也可以有针对性的查询当前网络中可以订阅的其它节点的共享信息。查询条件可以是信息类别、节点名称——这些基础信息均是通过点到点的数据同步得到、时间等。

订阅定制总体功能流程图如下:

32

订阅资源查看订阅资源双方校验删除订阅资源订阅资源查看订阅资源订阅资源获取共享方的共享的资源删除订阅资源选择要删除的订阅资源选择填写订阅内容资源双方校验数据选择进行校验的共享方校验程序是否同步双方删除订阅记录数据双方保存订阅记录数据不一致,进行同步提示数据完全一致同步双方配置返回查看界面返回查看界面返回查看界面返回浏览界面操作 订阅流程图

5.2.5.1. 数据校验

本平台提供两种数据校验方式:系统自动定时校验和人工操作校验。 1、自动校验

自动校验是通过系统设置校验节点、频率或时间参数后,平台在运行过程中依据参数设置对指定对象进行数据校验,自动同步的过程。不需要人为操作。

2、人工校验

人工校验是指由操作员根据需要对指定节点的数据进行校验同步的过程。人工校验没有时间、频率的限制,由操作者根据需要而定。

无论通过哪种校验方式,平台自动记录校验记录,记录上次校验时间,便于

33

下一次数据校验时的参照与比对。

5.2.5.2. 订阅

订阅即指订阅定制,是用户通过系统界面浏览其权限范围内的其它用户的共享资源,并对共享资源进行选择发送订阅请求,最终获得订阅资格的过程。

订阅的操作流程如下:

进入订阅界面浏览可以订阅的资源选择订阅内容提交请求受理订阅请求否允许订阅否是退回请求确认请求取消订阅保存订阅信息结束 订阅流程图

34

图中淡粉色框是订阅方的操作内容,淡蓝色框是共享的操作内容,订阅过程实际上包括上图整个过程。 本平台自动记录订阅方发出的订阅请求信息,包括请求时间、共享方、请求内容、请求结果等相关信息,并提供随时查看的功能供订阅方删改。 订阅定制界面如下: 数据交换平台环境配置目录服务权限管理订阅定制参数设置参数设置查询日志管理订阅可供选择的共享信息用户A水文信息时段降雨量供水信息用户B水利工程信息大坝测压管

订阅界面

5.2.5.3. 退订

退订与订阅的过程刚好相反,是指已经订阅成功的信息,由于某种变化或需要,而由订阅方向共享方发出信息,提出取消订阅的过程。

35

退订的操作流程如下:

进入订阅界面浏览已经订阅的资源选择退订内容提交请求受理退订请求退订成功,删除订阅记录结束 退订流程图

如图所示,退订过程中,一般只要订阅方提出申请共享方即取消对此订阅方提供相应的订阅信息。

5.2.6. 日志定制

日志管理分为三个方面:记录内容管理、文件时间设置、日志查看。结构图如下:

36

市市市市市市市市市市市市市市市市市市市市市市市市市市市市市市市市 日志管理功能结构

1、记录内容

本平台提供完备的日志服务功能,考虑到用户的不同需求及灵活性,同时考虑到系统长期运行时输出日志对系统性能的影响,本平台将需要记录日志的内容按对系统响影的程度分为五级,用户可以选择指定级别记录日志信息。

日志内容分级情况表:

第一级 系统必须输出的日志 如:系统启动、停止、系统不能正常运行的错误等 第二级 由于环境配置文件不正确而引发的错误 第三级 由于订阅数据配置文件不正确引发的错误 第四级 系统已经考虑到的其它可估计的错误信息 第五级 每一步运行的日志记录 包括所有正常运行的日志,如数据正确读取,数据正确保存等内容 如:配置文件不能连接数据库,不能连接网络等错误 如:由于数据配置文件不正确,在读取数据、整编数据、保存数据时所引发的错误内容 如:数据转换不正确,数值不能为空等 2、成文时间

本平台在为需要记录日志内容分级的同时,还可以对日志文件时间进行设置,即用户根据自己的需要可以设置每小时、每天、每月、每年一个日志文件——这里当然是单选,即只能选择一种。日志文件可以人为中止,中止时记录成一个文件,然后可以更改日志文件的成文时间。

37

如上所述,本系统充分考虑了用户对日志内容、日志文件大小方面的个性化要求,用户可以根据自己的实际情况权衡日志应记录的内容和文件大小,从而达到最优效果,在确保系统的正常运行的同时方便后期查看运行情况,为分析系统、查找原因提供适当的参考信息。

3、查看日志

用户可以在本系统内查看日志信息,可以输入查询条件选择性查看日志信息。从而从不同角度、不同方位查看分析当时的系统及环境情况。对日志查询结果还可以输出打印出来,其输出格式可为EXCEL和WORD文档以及数据报表。

日志查看总体流程图如下:

开始选择查看日志设置查看日志范围用户可以设置以下条件筛选日志:1、交换单位2、日志级别3、事件发送源4、日志记录时间根据范围读取日志设置条件筛选日志查找符合条件的日志以列表形式按时间倒序显示选择日志结束

日志查看流程图

5.2.7. 安全管理

安全管理提供完备的安全策略保护本平台及数据的安全。本平台安全管理主要从三个方面考虑:

1、用户方面

38

有严格的权限分配与控制机制——权限分配部分已有详述。 2、数据方面

采用独特的加密方式进行加密、封装再传输——参见数据交换服务之封装解析部分。

3、网络监测方面

平台提供实时网络监测部件,用于实时(间隔时间可设置,见其它参数设置部分)探测当前的计算机网络状况及数据流量,当发现网络故障时,自动记录网络故障出现的时间及可能的原因,并中止当前的网络通讯作业,等待网络恢复后继续执行。当监测到网络故障发生一定时间间隔(允许的网络超时时间,见其它参数设置部分)后,便以GSM的方式通知当前正在等待网络信息回复的用户,网络发生故障,并记录被中断的作业信息。

本平台网络监测采用定时探测的技术实时监测网络状态,同时当网络出现故障时(断网或超时),以GSM无线网络为依托,采用GPRS(General Packet Radio Service,通用分组无线业务)技术实现信息的无限制发送,确保通信畅通,为等待回复的用户及时提供当前状况,便于用户尽早采用备战措施。此功能借鉴目前已在使用的水务实时通技术方案实现。

5.2.8. 其它参数设置

支持平台正常运行的相关参数设置,具体包括:

? 监测网络的时间间隔:多少秒探测一次网络连接状态。 ? 是否支持断点续传:即可否支持传输被中断之后的续传。

? 网络超时时延:探测到多少秒连续的断网状态后即认为网络中断,发送断网信息给用户。

? 传输数据包的大小:数据传输数据包的大小限制,以K字节为单位。 ? 可建目录级别:系统可以创建的服务目录级别,包括元数据一级。 ? GSM发送内容:网络中断、严重错误、共享资源被删除。 其它参数设置。

39

5.3. 数据交换服务

本模块描述中,5.3.4发送管理?5.3.8数据保存是一个完整、粗略的数据交换全过程,其中封装解析是封装与解析两个过程,消息管理与队列管理功能贯穿其中,大体过程如下:

封装发送接收解析整编保存 数据交换过程

信息发送方的数据在发送前,首先进行加密、压缩并按规则封装成一个一个的数据包,然后进行发送;接收方收到信息后,首先对数据进行初步校验、解析在确定数据无误后按规则整编,最后保存到相应数据库内完成数据交换的一个单方向传输过程。

5.3.1. 数据交换流程

数据交换服务是本平台的核心业务,系统管理模块的一切功能都是为数据交换服务的,数据交换服务长期驻留内存并运行,实时完成网络内各用户、各系统之间的信息交换与共享。

数据交换指共享方与订阅方之间的信息互通和数据交换。一个订阅方可以订阅多个共享方的共享数据,同理一个共享方也会受理多个订阅方的订阅请求。实际上产生数据交换的过程就是共享方向订阅方发送数据的过程。

数据交换流程图如下:

40


数据交换平台设计方案.doc 将本文的Word文档下载到电脑 下载失败或者文档不完整,请联系客服人员解决!

下一篇:电算化会计与审计B

相关阅读
本类排行
× 注册会员免费下载(下载后可以自由复制和排版)

马上注册会员

注:下载文档有可能“只有目录或者内容不全”等情况,请下载之前注意辨别,如果您已付费且无法下载或内容有问题,请联系我们协助你处理。
微信: QQ: