《大数据计算机信息的处理技术论文》由会员分享,可在线阅读,更多相关《大数据计算机信息的处理技术论文(5页珍藏版)》请在金锄头文库上搜索。
1、大数据计算机信息的处理技术论文 0引言 如今互联网快速发展信息化程度越来越高大数据在经济社会发展中的作用也越来越突出大数据已经进入到我们的生活当中不论是学者做研究还是企业追求更好的发展都离不开大数据的支撑而大数据的搜集与整理需要计算机信息处理技术才能进行因此如果想要更好地搜集和利用数据就要不断地探究计算机信息处理技术不断地进行创新从而促进社会更好地发展 1计算机信息处理技术和大数据概念阐述 11计算机信息处理技术的概念阐述 所谓计算机信息处理技术又称云计算是指利用网络特有的计算方式使相关计算机使用者可以接收到想要的资源和信息的一种类似于电网的一种信息处理技术 12大数据的相关概念阐述 2大数据
2、时代下计算机信息处理技术的应用 21数据采集和交换平台 数据采集和交换平台是将集团各种来源、各种形式(系统、接口、数据库、文件)、各种格式(Excel、Access、XML、Oracle、SQLServerDB2等)的数据经过抽取、沉淀成为具有业务关系的、“干净”的数据存入集团核心数据资源库数据采集和交换平台应满足集团在业务系统建立前和建立后的数据采集和交换要求: (1)当业务系统还未建立时数据采集和交换平台实现人工录入和数据的批量导入形式的数据采集沉淀包括可定制的数据录入系统可以根据用户的需求进行录入界面的定制进行数据的录入采集解决原来存放在纸质文件等非信息化介质上的数据问题;数据的批量导入
3、系统支持对Excel、Access、XML等类型文件的直接导入并可扩展导入用户自定义的数据类型的文件解决原来以文件形式存储的数据问题 (2)当业务系统建立后数据采集和交换平台提供了ETL(数据的抽取、转换、装载)工具实现了数据资源中心与各个业务系统之间一种自动化的数据抽取、转换和沉淀数据采集和交换平台提供数据交换接口定制功能(有操作界面通过鼠标拖拽完成业务系统与数据中心的数据映射)无须开发(当使用技术功能时必须具有快速、准确的业务梳理、分析能力才能通过拖拽完成数据接口配置)即可根据两个业务系统要交换的数据内容进行接口的定制以Web服务的方式提供给其他业务系统调用实现其他业务系统的数据沉淀到数据
4、资源库 集团各部门都需要共享、利用集团核心数据资源库的数据因此数据资源库必须考虑数据如何共享以及共享过程中产生的数据安全性的问题数据采集和交换平台提供的数据共享服务功能可以将需要共享的数据以服务的方式对外发布同时配以用户管理和权限管理既实现了数据共享应用又保证了数据的安全性数据采集和交换平台将针对不同类型的业务数据采用不同的数据获取方式对于需要及时更新的业务数据采用实时更新和实时服务的方式进行;对于及时性要求不高的业务与数据采用定时增量的服务方式进行更新时间一般选择在深夜等业务量较少的时间段进行数据采集和交换平台将建立错误监控处理机制对数据收集和交换的过程、运行状态、数据流量等进行监控及时发现
5、数据收集和交换中的异常问题并建立完备的错误日志在数据处理失败时进行数据恢复数据采集和交换平台提供数据接口版本管理和数据接口权限管理功能数据接口版本管理系统在进行接口变更时需要对接口版本进行升级并对利用接口的应用系统功能进行同步更新数据接口权限管理不同系统对基础数据库的应用需要使用不同的数据访问账号并可以通过日志管理查看数据接口的历史调用情况 22有效信息的收集和传播 如果想在众多纷繁复杂的数据中快速找到有效信息首先要做的就是收集大量数据然后运用云计算对收集的相关数据进行分类和整合最后从中筛选出有效信息而数据的传播方式就如同电网的运行方式两者存在很多的相同点 数据管理维护平台主要解决数据存储之后
6、数据自身的管理、维护、安全等问题保证数据自身高效、合理、有效地运行主要包括数据管理、数据资源目录、日志管理等功能 (1)通过业务分析建立数据标准体系(数据资源目录)通过数据配置功能可以有序、快速地建立各种业务数据库、数据表(具有很强的扩展能力适合将来业务发展需要) (2)利用数据管理维护平台提供的数据资源目录系统使用人员可以用数据台账等直观的方式方便地查看有些数据资源数据管理人员能实时掌握数据的动态情况 (3)数据管理维护平台为专业的数据管理人员提供业务基础数据的维护功能实现资源目录的管理与维护;为高级用户提供自由定义开发新数据结构功能实现数据关系的维护 (4)数据管理维护平台将提供完备的日志
7、管理可以监控具体有些用户、在什么时间、访问了些数据、做了些操作(查询、分析、修改等)保证系统运行过程中监控没有盲点便于后期进行各种运行情况的分析如今随着大数据时代的到来信息化程度的不断提高人们利用大数据搜集到的视频、音频以及文字等数据内容也越来越多而计算机的存储空间是一定的所以有些数据就不能被存储此时就需要采用区别于传统方法的云存储方式才能有效地解决计算机存储空间不足的问题 3计算机信息处理技术的未来 大数据有着以往传统数据信息搜集系统所没有的结构复杂、信息种类多、信息量大等特点由于大数据中的各种信息都是紧密联系在一起的所以使得现在的信息处理系统无法对这些数据进行处理而数据的搜集和存储是需要储
8、存在计算机的硬件中的因此计算机的硬件的好坏非常重要同时有些计算机的硬件不能满足大数据的储存这时就需要研发人员通过开发云存储、云空间等释放计算机硬件的运行压力把数据保存在网络上以供用户下载此外研发人员还需要加大计算机硬件的研发工作的力度增加计算机硬盘的存储量从而有效地解决大数据在运用过程中出现的信息量过大及结构复杂等问题随着科学技术的不断进步出现了例如云计算、云存储等全新的计算机网络体系这种模式改变了以往计算机的传统传输观念同时有力地推动了大数据背景下的计算机信息处理技术的快速发展此外很多研发人员也改变了传统的研发方式突破各种限制使用现在普遍应用的网络工具将很多的小型公司联合在一起共同参与新技术的研发工作 4结语 综上所述与现在的很多发达国家相比我国的计算机信息处理技术由于起步晚、资金不充足等原因与发达国家存在一定的差距同时由于我国对计算机技术给予高度重视近年来的计算机信息处理技术也不断提高因此针对计算机信息处理技术在大数据时代背景下出现的一些问题笔者在上文给出了相应的建议同时如今的发展趋势也已经表明计算机信息处理技术在日常生活中的重要性相信在未来的探索中我国在这方面也会越来越出色