《大数据分析的六大工具介绍》由会员分享，可在线阅读，更多相关《大数据分析的六大工具介绍（5页珍藏版）》请在金锄头文库上搜索。
1、云计算大数据处理分析六大最好工具一、概述来自传感器、购买交易记录、网络日志等的大量数据，通常是万亿或 EB 的大小，如此庞大的数据，寻找一个合适处理工具非常必要，今天我们为大家分享在大数据处理分析过程中六大最好用的工具。我们的数据来自各个方面，在面对庞大而复杂的大数据，选择一个合适的处理工具显得很有必要，工欲善其事，必须利其器，一个好的工具不仅可以使我们的工作事半功倍，也可以让我们在竞争日益激烈的云计算时代，挖掘大数据价值，及时调整战略方向。大数据是一个含义广泛的术语，是指数据集，如此庞大而复杂的，他们需要专门设计的硬件和软件工具进行处理。该数据集通常是万亿或EB 的大小。这些数据集收集自各种
2、各样的来源：传感器、气候信息、公开的信息、如杂志、报纸、文章。大数据产生的其他例子包括购买交易记录、网络日志、病历、事监控、视频和图像档案、及大型电子商务。大数据分析是在研究大量的数据的过程中寻找模式，相关性和其他有用的信息，可以帮助企业更好地适应变化，并做出更明智的决策。二、第一种工具： HadoopHadoop 是一个能够对大量数据进行分布式处理的软件框架。但是Hadoop 是以一种可靠、高效、可伸缩的方式进行处理的。 Hadoop 是可靠的，因为它假设计算元素和存储会失败，因此它维护多个工作数据副本，确保能够针对失败的节点重新分布处理。 Hadoop是高效的，因为它以并行的方式工作，通过
3、并行处理加快处理速度。 Hadoop 还是可伸缩的，能够处理PB 级数据。此外， Hadoop 依赖于社区服务器，因此它的成本比较低，任何人都可以使用。Hadoop 是一个能够让用户轻松架构和使用的分布式计算平台。用户可以轻松地在Hadoop上开发和运行处理海量数据的应用程序。它主要有以下几个优点：高可靠性。Hadoop按位存储和处理数据的能力值得人们信赖。高扩展性。Hadoop是在可用的计算机集簇间分配数据并完成计算任务的，这些集簇可以方便地扩展到数以千计的节点中。高效性。Hadoop能够在节点之间动态地移动数据，并保证各个节点的动态平衡，因 此处理速度非常快。高容错性。Hadoop能够自动
4、保存数据的多个副本，并且能够自动将失败的任务重新 分配。Hadoop带有用Java语言编写的框架，因此运行在Linux生产平台上是非常理想的。Hadoop 上的应用程序也可以使用其他语言编写，比如 C+。三、第二种工具：HPCCHPCC High Performance Computing and Communications（ 高性能计算与通信）的缩 写。1993年，由美国科学、工程、技术联邦协调理事会向国会提交了 “重大挑战项目：高 性能计算与 通信”的报告，也就是被称为 HPCM划的报告，即美国总统科学战略项目， 其目的是通过加强研究与开发解决一批重要的科学与技术挑战问题。HPC英美国实
5、施信息高速公路而上实施的计划，该计划的实施将耗资百亿美元，其主要目标要达到：开发可 扩展的计算系统及相关软件，以支持太位级网络传输性能，开发千兆比特网络技术，扩展研究和教育机构及网络连接能力。High PcrfpnnEincc Computing Cluster (HPCC)八Slrudirtd Mnw-itMdmd uHAlruflhfAdEjcuaooiTrjiriinrnalmLMdhgPeriormancfl忡叶 CcranertlMigFCLHF该项目主要由五部分组成：高性能计算机系统（HPCS）,内容包括今后几代计算机系统的研究、系统设计工具、 先进的典型系统及原有系统的评价等；先
6、进软件技术与算法（ASTA）,内容有巨大挑战问题的软件支撑、新算法设计、软件 分支与工具、计算计算及高性能计算研究中心等；国家科研与教育网格（NREN）内容有中接站及10亿位级传输的研究与开发；基本研究与人类资源（BRHR）内容有基础研究、培训、教育及课程教材，被设计通 过奖励调查者-开始的，长期 的调查在可升级的高性能计算中来增加创新意识流，通 过提高教育和高性能的计算训练和通信来加大熟练的和训练有素的人员的联营，和来 提供必需的基础架构来支持这些调查和研究活动；信息基础结构技术和应用（IITA ）,目的在于保证美国在先进信息技术开发方面的领先地位四、第三种工具： StormStorm是自由
7、的开源软件，一个分布式的、容错的实时计算系统。Storm可以非常可靠的处理庞大的数据流，用于处理Hadoop的批量数据。Storm很简单，支持许多种编程语 言，使用起来非常有趣。Storm由Twitter开源而来，其它知名的应用企业包括 Groupon、 淘宝、支付宝、阿里巴巴、乐元素、 Admaster等等。Storm有许多应用领域：实时分析、在线机器学习、不停顿的计算、分布式RPC越过程调用协议，一种通过网络从远程计算机程序上请求服务）、 ETL（Extraction-Transformation-Loading的缩写，即数据抽取、转换和加载）等等。Storm的处理速度惊人：经测 试，每个
8、节点每秒钟可以处理100万个数据元组。Storm是可扩展、 容错，很容易设置和操作。五、第四种工具 : Apache Drill为了帮助企业用户寻找更为有效、加快Hadoop数据查询的方法，Apache软件基金会近日发起了一项名为“ Drill ”的开源项目。Apache Drill 实现了 Googles Dremel.据 Hadoop厂商 MapR Technologies 公司产品经理 Tomer Shiran 介绍，“Drill ” 已 经作为Apache孵化器项目来运作，将面向全球软件工程师持续推广。该项目将会创建出开源版本的谷歌 Dremel Hadoop工具（谷歌使用该工具来为H
9、adoop 数据分析工具的互联网应用提速）。而“Drill ”将有助于Hadoop用户实现更快查询海量 数据集的目的。“ Drill ”项目其实也是从谷歌的 Dremel 项目中获得灵感：该项目帮助谷歌实现海量数据集的分析处理，包括分析抓取Web文档、跟品安装在 Android Market上的应用程序数据、分析垃圾邮件、分析谷歌分布式构建系统上的测试结果等等。通过开发“ Drill ” Apache开源项目，组织机构将有望建立Drill所属的API接口和灵活强大的体系架构，从而帮助支持广泛的数据源、数据格式和查询语言。六、第五种工具： 第五种工具 RapidMinerRapidMiner 是
10、世界领先的数据挖掘解决方案，在一个非常大的程度上有着先进技术。它数据挖掘任务涉及范围广泛，包括各种数据艺术，能简化数据挖掘过程的设计和评价。功能和特点：免费提供数据挖掘技术和库100%用 Java 代码 （ 可运行在操作系统）数据挖掘过程简单，强大和直观内部XML呆证了标准化的格式来表示交换数据挖掘过程可以用简单脚本语言自动进行大规模进程多层次的数据视图，确保有效和透明的数据图形用户界面的互动原型命令行（批处理模式）自动大规模应用Java API （应用编程接口）简单的插件和推广机制强大的可视化引擎，许多尖端的高维数据的可视化建模400 多个数据挖掘运营商支持耶鲁大学已成功地应用在许多不同的应
11、用领域，包括文本挖掘，多媒体挖掘，功能设计，数据流挖掘，集成开发的方法和分布式数据挖掘。七、第六种工具： Pentaho BIPentaho BI 平台不同于传统的 BI 产品，它是一个以流程为中心的，面向解决方案（Solution） 的框架。 其目的在于将一系列企业级BI 产品、 开源软件、 API 等等组件集成起来， 方便商务智能应用的开发。 它的出现， 使得一系列的面向商务智能的独立产品如 Jfree 、 Quartz 等等，能够集成在一起，构成一项项复杂的、完整的商务智能解决方案。Pentaho BI 平台， Pentaho Open BI 套件的核心架构和基础，是以流程为中心的，因为
12、其中枢控制器是一个工作流引擎。工作流引擎使用流程定义来定义在BI 平台上执行的商业智能流程。流程可以很容易的被定制，也可以添加新的流程。 BI 平台包含组件和报表，用以分析这些流程的性能。目前， Pentaho 的主要组成元素包括报表生成、分析、数据挖掘和工作流管理等等。这些组件通过J2EE 、 WebService、 SOAP、 HTTP、 Java、JavaScript 、 Portals 等技术集成到 Pentaho 平台中来。 Pentaho 的发行， 主要以 Pentaho SDK勺形式进行。Pentaho SDK 共包含五个部分： Pentaho 平台、 Pentaho 示例数据库
13、、可独立运行的Pentaho 平台、 Pentaho 解决方案示例和一个预先配制好的 Pentaho 网络服务器。其中Pentaho 平台是 Pentaho 平台最主要的部分，囊括了 Pentaho 平台源代码的主体;Pentaho数据库为 Pentaho 平台的正常运行提供的数据服务，包括配置信息、 Solution 相关的信息等等， 对于 Pentaho 平台来说它不是必须的， 通过配置是可以用其它数据库服务取代的 ;可独立运行的 Pentaho 平台是 Pentaho 平台的独立运行模式的示例，它演示了如何使Pentaho 平台在没有应用服务器支持的情况下独立运行;Pentaho 解决方案示例是一个Eclipse 工程，用来演示如何为 Pentaho 平台开发相关的商业智能解决方案。Pentaho BI 平台构建于服务器，引擎和组件的基础之上。这些提供了系统的 J2EE 服务器，安全， portal ，工作流，规则引擎，图表，协作，内容管理，数据集成，分析和建模功能。这些组件的大部分是基于标准的，可使用其他产品替换之。
