基于数据交互平台进行“信息孤岛”消除法研究
摘 要: 结合分析我国电子制造业向网络制造、虚拟制造、异地协同设计、多学科优化设计发展整合的趋势,研究提出如何利用Oracle透明网关、中间件技术与SOA架构和企业服务总线,构建统一的、规范的数据交互平台。建立不同业务信息系统之间的数据关系,实现标准统一的数据服务,解决不同异构系统之间的数据同源、数据交互、信息互联互通和数据共享等问题,消除信息化建设中产生的“信息孤岛”现象。为后续开展信息交互标准研究工作打下基础。
关键词: SOA; 数据交互; 信息孤岛; 资源池
中图分类号: TN964?34 文献标识码: A 文章编号: 1004?373X(2013)22?0053?04
由于军工电子产品具有数字化、智能化、自动化等特点,目前正在朝网络化、虚拟化、异地协同化、多学科优化等趋势发展,业务需求的不断提升,造就了管理技术的不断进步,军工电子企业信息化建设刻不容缓。而在目前的信息化建设过程中,随着产品的数字化设计与制造、产品数据管理、资源计划管理等系统的不断建设,大数据量的产品信息保留在系统中,如何实现各系统数据的一致性、实现数据的无障碍交互和重用、实现信息共享和资源共享、实现跨地域、跨学科的协同工作,是当前军工电子企业信息化建设面临的一个难题。本文通过数据交互平台的建设,较好地解决了信息互联互通和信息共享利用的问题,有效地消除了“信息孤岛”现象。
1 现状与需求分析
1.1 现状
近20年来,随着武器装备研制的深度和广度不断增加,美英等发达国家对研制手段的信息化重视程度与日俱增,从产品规划、项目管理、科研、生产、售后保障等领域方面的信息化整合日趋紧密,在业务数据共享方面充分利用了当今信息化的先进成果。 美国的洛?马、EDAS、ASE、GE、RR等公司,加拿大的MDS公司、加航,英国的R·R公司、Sigma Aerospace公司等,奥地利的AVL公司,德国的FEV等公司都有自主开发控制的数据管理体系。并在此基础上整合各业务领域的信息化工具,形成了企业级整体的项目跟踪、风险分析、资源预算、质量控制等综合能力。这些企业级数据体系的共同特点是通过数据共享与数据交互平台,实现了信息系统的整合,缩短了研制周期、降低了企业运行费用、提高企业事物处理能力,实现了高度的商业智能分析。
在信息技术领域,自从IBM、Oracle等著名公司提出SOA(基于架构的服务)、ESB(企业服务总线)等概念以来,信息技术领域无不将数据统一作为一项极其重要的课题进行研究,近年来也陆续取得了不少成果。通过先进的信息技术手段,使数据交互的实现变得简单、可行[1]。在我国的军工装备研制企业,也通过历年的信息化建设,基本实现了以业务需求为驱动的管理信息系统建设。在工程信息化建设方面,通过配置总体技术仿真分析、机械设计仿真分析、电子设计仿真分析、微波设计仿真分析、芯片设计仿真分析、软件研发、软件工程化等各类先进技术和工具,基本实现了产品的数字化,大幅提升了产品的智能化和自动化程度。
1.2 不足
我所已建设了众多的信息化系统,初步实现了对不同阶段业务数据的有效管理。但是由于这些系统大多数是针对特定需求进行开发,缺乏统一规划,在各个应用之间彼此缺乏联系,形成了许多“信息孤岛”,无法实现各个业务系统数据整合的信息资源合力,系统之间关联数据不能共享、复用、各自为政,数据维护难度大,管理困难;接口开发费用高、难度大。在数据应用方面无法进行综合的数据计算分析能力,对领导决策无法提供数据支持。
对于工程研制过程的可重复性、可追溯性不高,数据的重复性、不惟一现象严重。如:缺乏面向设计、仿真、试验、生产全过程的统一的基础数据信息,导致应用系统之间沟通困难,无法协同工作;缺乏不同数据信息之间的关联机制,无法获得准确的数据内容,数据冗余,数据不一致,不能实现统一的数据管理;缺乏不同应用系统、异地、异构数据之间有效的数据和资源共享,系统的完整性、可用性和扩展性较差,系统维护成本增加;缺乏数据共享和交换统一的规范标准,企业内部各自产品编码、管理编码等技术标准、规范不统一,导致相关应用系统无法有效集成、资源不能共享[2]。
1.3 需求
面对上述的不足和与世界先进企业的比较,构建统一的、唯一的基础数据管理体系已经在众多企业形成了共识,通过统一数据管理、统一接口模式、统一数据标准、统一数据交互模式,整合企业数据资源,是企业良性循环和可持续发展的有效途径。
2 数据交互方式
在不同应用系统之间做数据传递和转换接口。其局限性在于:
(1)随着点对点的接口建立,必然会随着应用系统数量的增加呈几何式增长;
(2)某系统升级造成和其他系统之间的接口要重新开发;
(3)当数据库中心越来越复杂时,管理和维护越来越困难;
(4)系统之间的接口维护和管理困难。
因此,为了降低这种接口开发的难度和数据管理的复杂度,需在各类数据库之间增加数据交互平台,由数据交互平台提供数据交互的服务,满足异构系统之间的数据交换需求,打通企业内部信息通路,消除“信息孤岛”。
3 数据交互平台的建设目标
数据交互平台的目标是在多个业务系统之间,建立一个轻量级、松耦合、高性能、集中式的数据交换中心[5],为各业务系统提供对等的、透明的数据交换服务。
3.1 实现数据整合
实现不同系统使用同源数据的问题。建立企业标准化信息模型,对企业各种数据进行统一管理,统一建模,统一编码等,建立开放的数据标准体系,建立企业应用的统一数据基础。
3.2 实现业务整合
建立系统共享模型,实现应用系统间的业务功能共享,变独立应用为协同应用。
3.3 为统一数据访问门户提供数据访问支持
整合各类应用系统资源,构建统一数据资源池,为实现信息资源的统一发布和集中访问提供数据支持。
3.4 建立一体化业务资源数据管理体系
建立具有信息管理、数据综合分析、数据分类查询、综合统计分析及信息服务等功能,从而为企业构建一体化业务资源数据管理体系。
3.5 提升企业信息系统的运维管理能力
将企业所有的数据、信息处理、信息存储、信息服务高度集中,从而提高服务能力、减轻运维成本、增加安全性、提升服务持续性。
4 数据交互平台的实现
4.1 总体思路
数据交互平台将多个独立的业务系统抽象成2种角色:数据提供者和数据使用者。前者可以提供数据,后者可以接收数据,利用数据交互平台,将数据提供者和数据使用者隔离,并且用集中和统一的路由配置管理,来构建灵活的数据传输机制。使得这些系统相互之间不需要耦合,不会受到对方运行状态、物理位置等牵制和影响,也不会受到需要交换数据信息的系统个数的影响。可描述为:
(1)建立统一、标准的数据资源池;
(2)定义符合交互标准的数据模型;
(3)建立统一的数据视图;
(4)提供共享、惟一、准确的数据访问通道;
4.2 技术要求
(1)建立统一资源数据库,利用Oracle数据库建立存放公用数据库的数据库。
(2)利用Oracle透明网关沟通在用异构数据库。
(3)基于成熟的中间件技术与SOA架构,构建统一的、规范的数据交互架构[6]。
(4)利用虚拟化技术提供高可靠、高可用的基础支持,利用vmWare ESX虚拟化解决方案,建立虚拟化的应用支持平台,减少硬件特性对应用平台的影响,提高系统的可用性与可靠性[6]。
(5)采用稳定、可靠的机架服务器提供基础硬件平台。
(6)利用基于角色、对象的分级访问控制技术,实现对公有资源及专有资源的访问管理。
(7)建立消息推送机制,采用“自动抓取数据包?队列存储数据包?自动推送数据包”的机制运行。由于这种机制可以不需要应用系统主动发起“数据发送”和“数据接受”的操作,对系统的入侵度极小,应用系统甚至可以“不知道”交互平台和其他系统的存在[6]。
4.3 组成与功能
根据总体思路构建的数据交互平台由以下3部分内容组成,组成图如图1所示。
(1)数据结构管理层。包括数据模型和数据资源等内容,并满足系统的可扩展性要求。数据结构管理层具体包括:数据动态建模、映射关系管理、关联关系管理、基础数据库、模板库、流程库、工程数据库、试验数据库、材料数据库、元器件数据库、标准件数据库、工艺工装数据库、试验基础数据库、通用件库、模板、流程等。根据企业需要,数据库的种类是不断增加的。
(2)数据集成与展示层。数据集成与展示层面对用户,通过数据集成与展示层,用户可以查看/编辑数据库中心的数据,数据集成与展示层提供的功能包括:应用系统集成工具、数据库集成工具、信息检索工具、统一认证、数据门户基本功能、用户权限定义、系统功能调用、数据库展示应用、数据维护、数据导航、多视图、数据谱系图、数据检索、数据分析、数据可视化。
(3)数据中间件运行环境。数据中间件运行环境是数据交互平台的核心部分。是应用系统与数据资源池之间数据访问/调用的实现层。包括数据访问层、数据转化引擎、数据服务总线、标准API,提供数据路由、数据订阅、数据交换策略、数据发布、数据推送、数据抓取、数据映射关系等数据服务[4]。
4.4 主要实现过程
(1)数据发布。在应用系统服务器上编写服务端脚本程序并将其URL注册到数据交互平台中即可实现数据发布,数据交互平台会自动访问该URL抓取数据包。
(2)数据订阅。数据订阅业务系统服务器上开发订阅程序模块,将其URL注册到数据交互平台,并在发布/订阅配置管理中添加相关设置。根据关联映射关系,数据发布业务系统的数据自动提交到数据订阅业务系统的URL供其处理订阅。
(3)发布/订阅配置。建立逻辑映射关系以保证数据的正确传递。发布/订阅配置管理员完成发布/订阅关系维护,包括添加、修改、删除等功能。
(4)数据抓取。负责从数据发布业务系统那里自动获取数据,并且将获得的数据放入数据库中心层。支持实时抓取和定时抓取及进行频率设定。
(5)数据推送。负责从数据中心层自动获取数据,并且根据发布/订阅配置中的映射关系将数据推送给到数据门户,供数据订阅业务系统使用。可设定推送策略,设定推送方式。
(6)数据路由。定义数据传递中的线路、传递规则、选择策略等,并将数据发送到数据服务总线上。
(7)系统监控和日志。实现对各个模块的实时监控和运行日志查看功能。实时查看数据包数量,以及参与数据交换系统的接口运行状态情况,可以随时跟踪数据交换的历史记录,快速定位问题并进行审计。
4.5 安全性设计
数据交互平台由于和众多业务系统要进行数据交互,因此其数据的输入/输出的安全保密就显得尤为重要。在设计过程中,主要从两个方面进行考虑:
(1)访问控制安全。建立访问控制机制,包括用户身份鉴别和控制,设定角色,以防止数据被非法获取。
(2)传输性安全。在数据传输过程中,采用数据加密处理,并在数据发布端和数据订阅端进行加密解密处理。
5 实现效果
(1)实现高效、统一的基础数据管理体系。建立统一的数据源,实现了组织机构信息、人员基本信息、物资基本信息等公用数据的统一存储,并使用数据库视图在系统间进行公用信息的共享,确保数据一致性、有效性、完整性、安全性,有效减少因基础数据不一致造成的变更。
(2)建立数据交互标准与规范。建立统一的数据交互标准与规范,降低对数据提供应用的影响,提高基础数据的标准化、规范程度。
(3)实现业务高效协同。提供可靠的数据基础和协同工作环境,实现跨单位、部门、专业交流,使数据信息能够有效、合理地共享,提升信息的利用率。
(4)打通不同系统、不同工作岗位和工作阶段的数据孤岛,进而消除信息系统孤岛现象。
(5)为企业级的知识管理体系打下数据基础,形成面向各种格式形式的知识收集、分类、审核、推送的知识管理体系。
(6)提供对领导驾驶舱的支持。规范应用系统数据访问接口,实现数据挖掘和职能决策。
6 结论及进一步研究工作
数据交互平台能够将企业内部的数据进行统一的管理和使用,而具体的数据存储在各个业务系统的本身的数据存储环境中,数据交互平台不改变原有业务系统的数据存储模式,而是搭建一个数据交互桥梁和数据关系谱系,通过数据交互平台建立起不同业务系统之间的数据关系及管理活动之间的关系,为不同的业务系统、应用系统提供标准统一的数据服务,保证各个系统之间的数据同源、交互和共享。实现数据交互平台的重要前提是做好数据交互标准,其内容包括管理流程规范,业务模型标准,设计过程标准,设计工具标准,信息系统架构、平台、功能、服务标准,以及跨业务、跨系统的流程定义,多专业协同规范等。建立全面完善的数据交互标准,才能整合过去的信息孤岛,指导今后应用系统与现有系统的融合,才能将数据交互平台实施成功。因此,后续要重点开展对信息交互标准的研究工作。
参考文献
[1] 梅立军.基于SOA的数据交换平台研究与实现[J].计算机工程与设计,2006(3):7?9.
[2] 马俊.国内物流数据交换标准的研究[D].上海:上海交通大学,2005.
[3] Jorgen Thelin. A comparison service?oriented, resource?oriented and object?oriented architecture styles [R]. [S.l.]: Jorgen Thelin Cape ClearSoftware Inc, 2003.
[4] 佚名.系列标题:中间件技术现状及发展[EB/OL/].[2012?03?15].http://www.360doc.com/content/11/0310/16/6268496_99907737.shtml.
[5] 赵亮.面向整合的基础架构软件平台的开发与应用[D].上海:复旦大学,2005.
[6] 吴淑玮,闫训超.信息系统数据交换技术分析[J].计算机系统应用,2012,21(4):60?62.