《数据迁移整合方案》由会员分享，可在线阅读，更多相关《数据迁移整合方案（22页珍藏版）》请在金锄头文库上搜索。
1、.1. 历史数据的迁移整合本次系统是在原有系统的基础上开发完成，因此，新旧系统间就存在着切换的问题。另外，新开发的系统还存在与其他一些应用系统，例如，企业信用联网应用系统、企业登记子、外资登记子等系统进行整合使之成为一个相互连通的系统。本章将针对新老系统迁移和整合提出解决案。1.1. 新老系统迁移整合需求分析系统迁移又称为系统切换，即新系统开发完成后将老系统切换到新系统上来。系统切换得主要任务包括： 数据资源整合、新旧系统迁移、新系统运行监控过程。数据资源整合包含两个步骤： 数据整理与数据转换。 数据整理就是将原系统数据整理为系统转换程序能够识别的数据； 数据转换就是将整理完成后的数据按照一定
2、的转换规则转换成新系统要求的数据格式，数据的整合是整合系统切换的关键；新旧系统迁移就是在数据正确转换的基础上， 制定一个切实可行的计划， 保证业务办理顺利、 平稳过渡到新系统中进行； 新系统运行监控就是在新系统正常运转后，还需要监控整个新系统运行的有效性和正确性， 以便及时对数据转换过程中出现的问题进行纠正。系统整合是针对新开发的系统与保留的老系统之间的整合， 以保证新开发的系统能与保留的老系统互动，保证业务的顺利开展。主要的任务是接口的开发。1.2. 需要进行迁移整合的系统1.3. 数据迁移整合分析根据招标文件工商总局新建系统的数据库基于IBM DB2，而原有系统的数据库包括 ORACLE，
3、SQL Server，DB2。这种异构数据在总局主要存在于两个面，即部门部的异构数据和上下级部门之间的异构数据。同时，系统的技术构件有.NET教育资料.和 J2EE两大类。对于部门部的异构数据的集成采用数据移植的法，如：如果数据有基于DB2 管理的，有 ORACLE管理的，有 SQL Server 管理的，就根据新系统DB2 的要求，把 ORACLE的数据迁移到 DB2 数据库中，把 SQL Server的数据迁移到 DB2 数据库中。上下级国工商局之间的异构数据的集成利用数据交换系统来完成， 重点在于数据库存储标准、 交换标准的制定和遵守， 保证数据的共享， 这部分工作由数据中心完成。1.4
4、. 系统迁移和整合目标系统迁移的主要目标：1. 保证系统正常运行在数据转换过程中， 由于原有的系统数据的复杂性， 给数据转换工作带来了很大的难度，为了在新系统启动后不影响原系统正常的业务，因此数据转换完成后，必须保证新系统的正常运行。2. 保证原有系统在新系统中的独立性原有系统是独立运行的系统， 数据在新系统中虽然是集中存放的， 但是各个系统由于存在业务上的差别，数据在逻辑上应当保持一定的独立性。系统整合的目标：保证直接关联的系统互动， 保证业务的正常办理。 例如公众服务系统与基本业务系统之间互动，基本业务与协同业务之间互动等等。教育资料.1.5. 系统切换案系统切换工作流程系统切换包括前期调
5、研、数据整理、数据转换、系统切换、运行监控五个阶段。系统切换的整个工作流程如下所示。系统切换工作步骤1. 前期调研阶段前期调研是数据转换中很重要的一个步骤， 也是至关重要的一部分。 在进行数据转换工作前，我们需要先认真阅读系统的相关文档，如数据字典 、系统概要设计报告 等，来熟悉原有的系统。 当然在阅读文档的过程中肯定还会有理解不清晰的地， 这时还需要熟悉原有系统的工程师的帮助。 数据转换的前期工作就是对原系统做一次彻底的全面了解，主要需要的考虑的有下面一些情况：1) 原系统的网络结构；2) 原系统的业务围、存在几套业务系统以及他们之间的关系；3) 原系统的开发商、开发工具、开发平台以及采用的
6、数据库；4) 原系统的数据分布状况：包括数据围、数据量大小等；5) 原系统的业务流程；6) 原系统的数据流程；教育资料.7) 原系统的数据结构；在了解这些要素的基础上，需要编写前期调研分析报告 。调研报告主要包含如下一些面：1、将所有数据表进行分类，如系统参数类、代码类、综合业务类、相关业务类等等。2、对所有数据表的数据组成、数据来源、用途等进行描述。3、并非所有的数据都是需要进行转换的，在数据字典分析报告中要指出那些数据表是需要进行转换的， 那些是不需要进行转换的， 对于不需要转换的表要说明不需要转换的原因。4、描述数据在各表中的流向，对于关键的或复杂的业务点要做详细说明。2. 转换设计阶段
7、转换设计阶段主要是完成新旧数据字典的对照， 同时明确各个表中具体数据字段的转换式。在转换设计阶段主要是编写 数据字典对照报告数据字典对照报告主要描述新旧系统数据表间的对照关系以及代码对照关系。以新系统为准， 原系统作参照， 将原系统的数据字典对应到相应的系统数据字典中。在对照过程中，需要遵循数据照搬原则，数据尽量不要作处理。在数据字典对照表中需要进行转换的数据字段应该一一对应， 对新旧数据表中字段的名称、类型、精度等都要有详细的描述，同时还要明确数据的转换式。数据转换式主要有以下几种：1) 直接转换。直接转换式是最常用的式，就是将原表中对应字段的数据原封不动的搬到新表中来。按照“数据照搬”原则
8、，我们应该应该尽量采用这种法。2) 程序转换。对那些需要进行计算才能进行转换的数据将采用程序转换式进行。3) 代码对照。某些代码字段，往往新旧系统的编码不相同，这时就需要参照代码对照表进行代码对照转换。4) 类型转换。少数数据可能需要对类型进行转换，如就表以字符串教育资料.YYYY-MM- DD来存放日期，而新表中以DATE 型来存放日期，这时就需要进行类型转换。5) 常量转换。新表中某些字段可能存在缺省值，这时将采用常量转换式，当旧表没有对应字段或旧表对应字段数据为空时，将直接在新表中写入缺省数据。6) 不转换。对于旧表有但新表中没有的字段将不作任转换。7) 新旧系统代码对照列出了全部需要进
9、行转换的新旧系统数据表中存在的二级代码间的对照关系，主要以二级代码对照表的形式来反映。1.6. 数据迁移案数据整理策略数据整理就是将原系统数据整理为系统转换程序能够识别的数据。 数据整理大致分为两个阶段：第一阶段就是将不同类型来源数据采集备份到统一的数据库中；第二阶段就是将原始数据进行整理，按照不同的要求分类进入不同的中间数据库，为数据转换提供中间数据。数据整理过程采用了以下法：1. 确保原始数据的完整性在进行数据整理之间，我们先需要对原始采集数据进行备份。 备份的目的有两个：一个是统一数据库， 便于数据转换， 另一个就是为以后数据追根溯源提供参考依据。在本系统中，我们将采用 DB2 作为备份
10、统一数据库。2. 数据分级过滤策略数据分级过滤就是把数据按照不同的数据级别进行分类整理进入不同的中间数据库中。本系统中我们把数据分为三个级别：废弃数据、待调整数据、可转换数据。废弃数据就是该部分数据的存在对系统资源造成浪费的数据， 并且会影响以后系统的运行。 待调整数据就是该部分数据重影响新系统的运行， 必须进行人工调整后，可进行数据转换。 可转换数据就是该部分数据不需做任处理， 基本满足教育资料.数据转换的要求或者是该部分数据新系统建议调整，但是不影响系统的运行， 可以等新系统运行后再调整，这样可以为数据转换工作节省很多时间。3. 借助数据整理相关工具数据整理非常艰巨， 涉及的数据量很大，
11、通过人工检查是不可能完成的，因此必须编写相关的数据整理工具完成数据整理。包括数据整理工具和数据纠错工具。数据整理工具负责将原始备份数据库中的数据进行分类进入不同的中间数据库；数据纠错工具负责提供友好、便的工具界面供用户相关人员完善和纠正错误数据。4. 利用中间库作为桥梁由于原系统和新系统的数据库结构可能不一样，所以采用中间库作为衔接新旧系统数据的重要桥梁， 对于建立新旧系统的对照关系很重要。一旦业务人员对新系统中某项转换数据存在疑问的情况下，就可以通过中间库的关联， 顺利找出原数据。数据转换数据转换就是将整理后的数据，依照对照表的要求进行转换，并写入到新系统。这个过程可以通过交换系统实现。数据
12、整理与转换步骤1. 设计数据移植案设计数据移植案主要包括以下几个面工作：研究历史数据的结构、 来源、数据项定义、取值等现状， 研究新旧数据库结构的差异，评估和选择数据移植的软硬件平台、选择数据移植法、选择数据备份和恢复策略、设计数据移植和测试案等。2. 源数据库数据清理对于一个运行已久的数据库，主要存在三种数据库垃圾：数据库对象垃圾、 数据库权限垃圾、 数据垃圾。数据库对象的清理不是一件容易的工作，需有认真负责教育资料.的态度，要有耐力， 任错误的清理不仅会造成前端不能运行， 而且将会造成数据的丢失。所以清理数据库对象也需要一个安全、准确，可很快恢复的法。首先要认识数据库资源，包括数据库对象，
13、如表、数据库事件、过程、函数，数据库结构关系， 在此基础上结合运行系统， 确认数据库垃圾， 制定合理的垃圾清理案，达到清理垃圾的目的。主要法是对数据库数据进行整合和分解， 整合相关数据减少数据的重复， 分解数据则可是数据团体更趋向合理， 当然整合和分解要以适合新设计的数据库结构为基础，以便简化转化程序。3. 进行数据模拟移植根据设计的数据移植案， 建立一个模拟的数据移植环境， 它既能仿真实际环境又不影响实际数据，然后在数据模拟移植环境中测试数据移植的效果。数据模拟移植前也应按备份策略备份模拟数据， 以便数据移植后能按恢复策略进行恢复测试。4. 测试数据模拟移植根据设计的数据移植测试案测试数据模拟移植，也就是检查数据模拟移植后数据和应用软件是否正常，主要包括：数据一致性测试、应用软件执行功能测试、性能测试、数据备份和恢复测试等。5. 准备实施数据移植数据模拟移植测试成功后，在正式实施数据移植前还需要做好以下几个面工作：进行完全数据备份、确
