《大数据实时处理：百分点实时计算架构和算法》由会员分享，可在线阅读，更多相关《大数据实时处理：百分点实时计算架构和算法（8页珍藏版）》请在金锄头文库上搜索。
1、百分点大数据实时计算实践：架构和算法当今时代，数据不再昂贵，但从海量数据中获取价值变得昂贵，而要及时获取价值则更加昂贵，这正是大数据实时计算越来越流行的原因。以百分点公司为例,在高峰期每秒钟会有近万请求发送到百分点服务器上，这些请求包含了用户行为和个性化推荐请求。如何从这些数据中快速挖掘用户兴趣偏好并作出效果不错的推荐呢？这是百分点推荐引擎面临的首要问题。本文将从系统架构和算法两方面全介绍百分点公司在实时计算方面的经验和心得体会，供读者参考。实时计算架构工欲善其事，必先利其器。一个稳定可靠且高效的底层架构是实时计算的必要基础。图给出了百分点数据大平台的总体框架，如图所示，大数据平台包含数据存储
2、和数据处理两个层次。存储服务层提供了数据处理层需要的各类分布式存储，包括分布式文件系统（H分布式数据库（）分布式数据库（d、S分布式消息队列（）分布式搜索引擎（）以及必不可少的。数据处理层由四个部分组成。其中应用云包含了所有直接面对用户的b服务，每个应用都会产生日志以及其他实时数据，这些数据一方面会及时交由实时计算框架进行处理，另一方面也会定期同步至离线计算框架；实时计算框架会处理接收到的实时数据，并将处理结果输出到数据查询框架或者离线计算框架；离线计算框架则定期对数据进行处理，并将处理结果输出至数据查询框架；数据查询框架提供了一系列应用接口供程序调取需要的各项数据，同时提供了一些工具帮助业务
3、人员对海量数据进行统计、汇总和分析。在百分点大数据平台中，与实时计算密切相关的有实时计算框架和数据查询框架，这部分的组件架构和数据流如图2所示。中的数据会被两个处理平台（）和消费并处理。是当下比较流行的开源流处理框架，百分点公司在年中开始使用进行数据清洗、统计和一部分分析任务。在引入之前，百分点所有的实时计算都是基于进行的，它是我们基于中间件开发的一套流处理平台。包含有四类组件:负责从中读取消息，根据消息内容分发给相应的复杂处理接收到的消息，并将处理结果传递给其他在交互关系或配置更新时及时通知和；负责监控和的运行情况,把监控信息提交给,还负责系统异常时的报警，以及和发生故障时进行重启和迁移。数
4、据查询框架由图中最下层的三个组件组成，其中()封装了一系列的数据查询逻辑并以和服务的形式供各种应用调用；(或者输出到各类存储服务中；负责维护和的交互关系和配置信息，并）提供了实时查询用户行为和标签明细，以及近实时的用户多维度统计、汇总和分析功能，这些功能是以和应用方式提供的;是对和的一次封装，以和服务方式对外提供近实时搜索功能。百分点公司的主要服务都是运行在这套架构上的，它拥有良好的稳定性和扩展性，一般来说只需要增加水平扩展结点即可提高数据处理能力,这为百分点业务的稳定发展奠定了技术基础。实时计算算法要真正实现大数据实时计算，光有框架是不行的，还必须针对特定业务开发特定的处理流程和算法。相比较
5、离线计算而言，实时计算在算法方面需要考虑的更多，这是因为实时计算能够用到的存储资源远不如离线，而且处理过程的时间限制要比离线计算严格，这都要求实时计算算法必须做相当多的优化。在这一节中，笔者将以海量计数问题为例介绍百分点公司在实时计算算法方面的经验。目前，百分点数据平台上包含了近千万的电商单品数据，实时追踪这些单品的浏览和交易数据是必须的，这也是做个性化推荐、商品画像、销量预测和用户画像等业务的必要前提。我们的问题是：如何设计一种算法使得我们可以实时查看任意单品最近24小时的浏览量1？这个问题描述起来很简单，但稍加思索就会发现做起来并不容易。下面我们先给出一个简单方案，而后按照一定的原则逐步精
6、化到最佳方案。简单方案图按秒计数方1-看到这个问题时，大部分读者会很快想到如图所示的算法方案。图中红色、蓝色和绿色的方块分别表示不同的单品。在这个方案中，我们为每个单品保存一份浏览信息,它包含两个数据结构：历史浏览量列表（简称历史），一个列表，列表中每个元素包含一个时间戳和一个整数，分别代表过去24小时中2的某一秒及这一秒钟的浏览量，按时间顺序排序。这个列表的最长会包含24*3600=个8元6素4，0但0一般情况下极少有单品时时刻刻都被浏览，我们可以假设这个列表的平均长度不超过。累计浏览量（简称累计量），一个整数，代表截止到最后一次访问时的浏览量。如图所示，假设蓝色单品对应的数据是禾口。这表示
7、时刻的该单品1现实中，我们往往只需要查看当天的浏览量，即从当天的0点开始到当前时间的浏览量，这与文中的提到的问题是完全不同的，前者是指定了起始时间，后者是按时间窗口滚动。研究按时间窗口滚动的问题是非常重要的，特别是针对包含时间衰减的数据模型和算法而言。2“过去24小时”这一说法不是特别准确，但对理解计算过程有帮助。读者在后面的处理过程中会发现，如果某个单品没有被浏览，那它对应的这个列表永远不会被修改。浏览量是,时刻是,是最后一次记录到浏览该单品的时刻，浏览量是n截止到,该单品的总浏览量是。当单品浏览源源不断进入到消息队列时，处理进程（或线程），会实时读取到这些信息，并修改对应单品的数据信息。例
8、如，读取到时亥0对蓝色单品的浏览记录时，会进行下面的操作：得到当前时刻；对数据库中蓝色单品数据加锁，加锁成功后读取出数据，假设历史是，累计量是；累计量递增，即从修改为如果,则更新历史为，否则更新为；最后删除时间戳小于的列表元素，删除的同时从累计量中减去对应时刻的浏览量，例如只有元素,则操作完成后的浏览量为；将新的历史和累计量输出至数据库，释放锁。不难验证这个方案是可以正确得出每个单品小时内的浏览量的,并且只要在资源（计算、存储和网络）充足的情况下,数据库中单品的浏览量是实时更新的。这个方案也是分布式实时计算中最简单最常见的一种模式。避免锁图不包含锁的方案第一个方案中需要对数据库加锁,无论加锁粒
9、度多细,都会严重影响计算效率。虽然像一类的内存数据库提供了这样的原子操作，但这种操作多数情况下只适用于整型数据，并不适合本问题的历史数据。要想提高实时处理效率,避免锁是非常重要的。一种常见的做法是将并行操作串行化,就像中的阶段一样,将相同的数据交由同一个处理。基于这个原理,我们3实际情况要比这里复杂一些，因为消息队列中的消息不一定完全按时间递增排序，届时还必须将新的数据插入或合并到适当的位置才行。可以将方案改造为如图4所示，我们新增一个数据分发处理过程，它的作用是保证同一个单品的所有数据都会发送给同一个处理程序。例如将蓝色单品交由处理,红色交由处理,绿色交由处理。这样在处理过程中不需要对数据库
10、加锁，因为不存在资源竞争。这样可以极大的提高计算效率，于是整个计算过程变为：得到当前时刻；读取数据库中蓝色单品信息，假设历史是2累计量是；累计递增，即从修改为如果，则更新历史为，否则更新为；最后删除时间戳小于的列表元素，删除的同时从累量中减去对应时刻的浏览量；将新的历史和累计量输出至数据库。步骤和省去了锁操作，整个系统的并发性和吞吐量会得到大大提高。当然，没有免费的午餐，这种方案的缺点在于存在单点隐患，例如一旦由于某些原因挂掉了，那么蓝色单品的数据将得不到及时处理，计数结果将无法保证实时。这种计算过程对系统监控和故障转移会有很高的要求。P1数据分层方案二已经可以大大提高计算效率，但这还不够，我
11、们可以看到在计算步骤和中总是要把历史和累计量同时从数据库中读出或写入，实际上这是没有必要的，因为只有累计量才是外部必须使用的数据，而历史只是算法的中间数据。这样，我们可以区别对待历史和累计量，我们将历史和累计量都缓存在计算进程中，定期更新历史至数据库，而累计量则实时更新。新的方案如错误！未找到引用源。所示，计算过程变为:得到当前时刻;s如果本地没有蓝色单品的信息,则从数据库中读取蓝色单品信息;否则直接使用本地缓存的信息。假设历史是t.tt,累计量是;t累计量递增，即从修改为如果tt,则更新历史为tt;最后删除时间戳小于tt，否则更新为tttt的列表兀素，删除的同时从累计量中减去对应时亥啲浏览量
12、；v）将新的累计量输出至数据库；如果满足一定的条件（例如上次输出时间足够久远，或者处理的消息量达到一定数量），则将历史输出至数据库。这种方案可以大大降低数据库压力、数据和序列化反序列化次数，从而提高整个系统的处理效率。数据分层实际上是计算机中一种常用的路数，例如硬件中的高速缓存内存磁盘,系统中的缓冲区磁盘文件，数据库的内存索引、系统缓存等等。我们使用的开源搜索引擎。就使用了同样的思路达到近实时索引。0包含磁盘全量索引和实时增加的内存增量索引，并引入了“soft提交”的方式更新新索引。新数据到达后，0会使用“soft提交的方式更新内存增量索引,在检索的时候通过同时请求全量索引和增量索引并合并的方
13、式获得到最新的数据。之后会在服务器空闲的时候,0会把内存增量索引合并到磁盘全量索引中保证数据完整。当然，这种方案也对系统的稳定性提出了更高的要求,因为一旦挂掉那么它缓存的数据将丢失,及时及时重启，这些数据也无法恢复,那么在一段时间内我们将无法得到准确的实时浏览量。模糊化现在,我们来考虑存储资源问题。假设时间戳和整型都用。类型（字节）保存，那么按照方案一中的估计，我们对每个单品的需要记录的数据大小约为0）字节K万单品的数据总量将超过,如果考虑到数据库和本地缓存因素，那么整个系统需要的存储量至少是！这对于计数这个问题而言显然是得不偿失的，我们必须尝试将数据量降低，在这个问题中可行的是降低历史的存储
14、精度。我们将历史定义为小时级别精度，这样每个单品的历史至多有24个，数据量最多392字节,万单品的信息总量将变为,系统总的存储量不超过,这是可以接受的。如果考虑用t类型代替o类型存储时间（小时数），则存储量可以进一步降低到不足g这样新的计算过程变为：得到当前时刻精确到小时的部分t如果本地没有蓝色单品的信息,则从数据库中读取蓝色单品信息;否则直接使用本地缓存的信息。假设历史是t.tt，累计量是；累计量递增，即从修改为如果tt,则更新历史为ttt，否则更新为ttt;最后删除小时数小于的列表兀素，删除的同时从累计量中减去对应时刻的浏览量；将新的浏览量输出至数据库；如果满足一定的条件，则将历史输出至数
15、据库。在这种方案下，数据库中存储的并不是过去24小时内的浏览量，而是过去23小时多一点内的。例如在月日：时数据库中的浏览量实际上是月日：到月日：的浏览量！这种降低数据精度的方法我们可以称之为模糊化，它是用资源换效率的一种方法。在对数据精确性不是特别敏感的领域，这种方法可以大大降低系统资源使用量、提高系统的处理效率。利用模糊化的实时算法快速得到近似结果，而后用离线算法慢慢修正结果的精确度，是百分点在大数据处理中经常使用的招数。局部精化12-1241112klk2k3k424图局部精华示意图有时候，模糊化会掩盖掉一些重要的细节信息，达不到业务需求的要求。例如，电商有很多的秒杀活动，此时必须及时监测单品浏览量，如果我们还按小时维度进行计算，那显然不能满足要求。这种情况下我们就必须对局部数据进行细化，它是模糊化的逆操作，我们称之为局部精化。如错误！未找到引用源。所示，第小时的数据是很敏感的，我们希望它的数据能更实时一些，那我们可以将第小时的数据切分的更细，对它做分钟、分钟甚至秒级别的计算，而其他时间段仍旧采用小时精度。这种方案会增加系统的设计和开发难度，而且必须有灵活的配置才能满足多变的业务需求。数据建模除了局部细化，还有一
