在AWS上使用Presto和Alluxio构建高性能平台以支持实时游戏服务

概 述

电子艺界(EA)是一家游戏行业的领军企业,为全球数十亿用户提供超过一千种游戏。EA的数据和人工智能部门构建了数百个平台来管理游戏和用户每天生成的PB级数据。这些平台涵盖了大范围的数据分析,从实时数据抽取到ETL流水线过程。企业高管、制作人、产品经理、游戏工程师和设计师广泛使用我们部门产生的格式化数据,以进行营销变现、游戏设计、客户参与度、玩家留存度和最终用户体验等分析。
在这里插入图片描述EA在线服务的近实时信息对于制定业务决策(例如活动和问题定位)至关重要。这些服务包括但不限于实时数据可视化,仪表板和会话分析。我们的团队正在积极寻求可以支持这些用例的框架。

在EA,我们采用了许多数据可视化工具,例如Tableau和Dundas,以支持数据洞察分析。这些工具通常与多个数据源连接,例如MySQL DB,AWS S3或HDFS。使用者可以同时从多个端点加载数据以运行计算密集型算法。一个严重的性能瓶颈是数据加载,因为它是I/O密集负载。当需要多次加载相同的数据,则可能会加剧性能瓶颈情况。因此,我们需要一种通过本地缓存数据来减少数据检索开销的解决方案。

仪表展示是另一个常见用例,用以实时跟踪用户参与度,客户满意度或系统状态。在这些情况下,数据量通常约为GB级,但是频繁刷新需要实时处理。目前,我们使用诸如Redshift之类的商业数据库来对时间敏感的数据提供服务,并且我们正在寻找一种能在不损失性能的情况下削减成本的替代方案。

我们最近开发了一个报告机器人,它可以提供游戏内部即时的相关数据,例如实时用户满意度和实时利润分析。该系统的后端使用存储在S3中的PB级数据运行Presto。机器人将用户的问题转换为ANSI SQL,并在Presto集群中运行这些查询。查询通常进行复杂计算,例如跨越数据集搜索后的预测和合并。我们希望找到一种解决方案,该解决方案可以补充基于S3的数据集,从而在不增加额外成本的情况下提高性能。

系统架构

我们将Alluxio评估为存储和数据处理平台之间的数据编排层。Alluxio已被公认为是高性能的数据编排系统,并已在众多数据处理系统中广泛采用。在我们的评估中,我们将前述的Presto在S3生产环境配置的模拟与Alluxio的类似数据栈进行了比较。架构如下所示:
在这里插入图片描述

  • 每个实例都启动了Presto和Alluxio,这两个服务处于同一位置。

  • 对于硬件,我们使用了三个h1.8xlarge的AWS实例,每个实例都挂载有8TB临时磁盘供Alluxio使用,以缓存Presto本地数据。

  • S3被挂载到Alluxio作为基础持久化文件系统。

  • 为Presto配置了两个目录;一个连接到我们现有的Hive
    Metastore,引用外部存储在S3上的基准数据集,另一个连接到具有在Alluxio中创建的基准表的单独的Hive Metastore。

  • 我们在S3上使用了相同的数据集进行性能比较,并使用alluxio fs distributedLoad /
    testDB命令将数据预加载到Alluxio中。

使用以下配置启动Alluxio集群:

# Impersonation 
alluxio.master.security.impersonation.presto.users=*
alluxio.master.mount.table.root.ufs=<s3://alluxio_path>
alluxio.security.authorization.permission.enabled=false
alluxio.security.authentication.type=SIMPLE
alluxio.security.authorization.permission.supergroup=*
# Alluxio Worker tier configuration
alluxio.worker.block.heartbeat.interval=30sec
# Prevent disk thrashing
alluxio.user.file.passive.cache.enabled=false
# Increase Threadpool concurrency for Presto
alluxio.user.block.master.client.pool.size.max=256
alluxio.user.file.master.client.pool.size.max=256
# Return full list of blocks 
alluxio.user.ufs.block.location.all.fallback.enabled=true 
# Worker properties
alluxio.worker.tieredstore.levels=1
alluxio.worker.tieredstore.level0.dirs.mediumtype=HDD
alluxio.worker.tieredstore.level0.dirs.path=</path1>
alluxio.worker.tieredstore.level0.dirs.quota=<1000GB> 
# file replica 
alluxio.user.file.replication.max=3
# User properties
alluxio.user.file.readtype.default=CACHE_PROMOTE
# Writes data only to Alluxio beforereturning a successful write
alluxio.user.file.writetype.default=MUST_CACHE

以上展示了初始的 alluxio-site.properties

我们注意到在处理大量小文件时,Alluxio的表现不如预期。我们启用了元数据缓存来调整性能:

alluxio.user.metadata.cache.enabled=true 
alluxio.user.metadata.cache.max.size=100000
alluxio.user.metadata.cache.expiration.time=10min

以上展示了alluxio-site.properties 设置以激活元数据缓存。

基准测试结果

在分别使用Alluxio和不使用Alluxio的情况下,运行四个独立基准来对性能进行基准测试:

测试1:运行我们的内部基准测试,该测试将玩家游戏中事件快照合成。数据集采用ORC格式,总大小为1GB,10GB和100GB。每个数据集都使用相同的DDL创建,包含49个cols,40个varchar,5个布尔值和4个映射。基准查询选择具有一个varchar字段过滤条件的所有列,这是典型的重度I / O负载查询用例。

结果:具有元数据缓存的Alluxio比S3快2到7倍。

测试2:使用游戏元数据和用户参与记录来模拟数据可视化。我们分别选择了Tableau和Dundas中经常使用的两个常用数据集和查询。查询选择所有具有日期过滤条件的列,接着是日期的GROUP BY和ORDER BY。这是一个典型的同时强调CPU和I / O的查询。在此测试中,我们不需要在Alluxio中启用元数据缓存,因为它已经显示出显著的改进。

结果:如果没有元数据缓存,使用Dunuxs数据集的Presto和Alluxio的速度比S3快2.75倍,而使用Tableau数据集的速度则快5.1倍。

测试3:使用包含大量小文件的数据集来模拟我们的仪表板用例。数据集是2MB大小的批文件,共50、500和5000个文件。使用的查询是一个选择查询,聚合每个日期的条目数。

结果:具有元数据缓存的Alluxio比S3快1.2到5.9倍。当没有元数据缓存,Alluxio的速度仅提高1倍至1.35倍。通过存储元数据,识别热数据并增加副本,启用元数据缓存可显著减少执行时间。

测试4:模拟会话机器人。使用的数据集是每日游戏性能的快照。该查询包含多个计算阶段,以模拟CPU密集型查询。它将整数字段转换为HyperLogLog,将其合并,然后选择基数。结果由整数和varchar字段过滤。

结果:没有元数据缓存的Alluxio将时间从85.2秒缩短到3秒,从而将性能提高了27倍。

结 论

这篇博客探索了一个以Presto作为计算引擎,并以Alluxio作为Presto和S3存储之间的数据编排层,以支持在线服务,并在游戏行业内提供即时响应的新平台。我们通过数据可视化,仪表板和对话式聊天机器人的实际工业界用例评估了该平台。我们的初步结果表明,在所有情况下,带有Alluxio的Presto均明显优于S3。特别是具有元数据缓存的Alluxio在处理大量小文件时显示出高达5.9倍的性能提升。Alluxio通过管理分配的临时磁盘来将数据从本地S3缓存到Presto,从而实现存储和计算的分离。先进的缓存管理,以及针对热数据和冷数据的不对称副本数量,能够在我们测试的每种情况下提高性能。

热门文章

暂无图片
编程学习 ·

Java输出数组的内容

Java输出数组的内容_一万个小时-CSDN博客_java打印数组内容1. 输出内容最常见的方式// List<String>类型的列表List<String> list new ArrayList<String>();list.add("First");list.add("Second");list.add("Third");list.ad…
暂无图片
编程学习 ·

母螳螂的“魅惑之术”

在它们对大蝗虫发起进攻的时候&#xff0c;我认认真真地观察了一次&#xff0c;因为它们突然像触电一样浑身痉挛起来&#xff0c;警觉地面对限前这个大家伙&#xff0c;然后放下自己优雅的身段和祈祷的双手&#xff0c;摆出了一个可怕的姿势。我被眼前的一幕吓到了&#xff0c;…
暂无图片
编程学习 ·

疯狂填词 mad_libs 第9章9.9.2

#win7 python3.7.0 import os,reos.chdir(d:\documents\program_language) file1open(.\疯狂填词_d9z9d2_r.txt) file2open(.\疯狂填词_d9z9d2_w.txt,w) words[ADJECTIVE,NOUN,VERB,NOUN] str1file1.read()#方法1 for word in words :word_replaceinput(fEnter a {word} :)str1…
暂无图片
编程学习 ·

HBASE 高可用

为了保证HBASE是高可用的,所依赖的HDFS和zookeeper也要是高可用的. 通过参数hbase.rootdir指定了连接到Hadoop的地址,mycluster表示为Hadoop的集群. HBASE本身的高可用很简单,只要在一个健康的集群其他节点通过命令 hbase-daemon.sh start master启动一个Hmaster进程,这个Hmast…
暂无图片
编程学习 ·

js事件操作语法

一、事件的绑定语法 语法形式1 事件监听 标签对象.addEventListener(click,function(){}); 语法形式2 on语法绑定 标签对象.onclick function(){} on语法是通过 等于赋值绑定的事件处理函数 , 等于赋值本质上执行的是覆盖赋值,后赋值的数据会覆盖之前存储的数据,也就是on…
暂无图片
编程学习 ·

Photoshop插件--晕影动态--选区--脚本开发--PS插件

文章目录1.插件界面2.关键代码2.1 选区2.2 动态晕影3.作者寄语PS是一款栅格图像编辑软件&#xff0c;具有许多强大的功能&#xff0c;本文演示如何通过脚本实现晕影动态和选区相关功能&#xff0c;展示从互联网收集而来的一个小插件&#xff0c;供大家学习交流&#xff0c;请勿…
暂无图片
编程学习 ·

vs LNK1104 无法打开文件“xxx.obj”

写在前面&#xff1a; 向大家推荐两本新书&#xff0c;《深度学习计算机视觉实战》和《学习OpenCV4&#xff1a;基于Python的算法实战》。 《深度学习计算机视觉实战》讲了计算机视觉理论基础&#xff0c;讲了案例项目&#xff0c;讲了模型部署&#xff0c;这些项目学会之后可以…
暂无图片
编程学习 ·

工业元宇宙的定义与实施路线图

工业元宇宙的定义与实施路线图 李正海 1 工业元宇宙 给大家做一个关于工业元宇宙的定义。对于工业&#xff0c;从设计的角度来讲&#xff0c;现在的设计人员已经做到了普遍的三维设计&#xff0c;但是进入元宇宙时代&#xff0c;就不仅仅只是三维设计了&#xff0c;我们的目…
暂无图片
编程学习 ·

【leectode 2022.1.15】完成一半题目

有 N 位扣友参加了微软与力扣举办了「以扣会友」线下活动。主办方提供了 2*N 道题目&#xff0c;整型数组 questions 中每个数字对应了每道题目所涉及的知识点类型。 若每位扣友选择不同的一题&#xff0c;请返回被选的 N 道题目至少包含多少种知识点类型。 示例 1&#xff1a…
暂无图片
编程学习 ·

js 面试题总结

一、js原型与原型链 1. prototype 每个函数都有一个prototype属性&#xff0c;被称为显示原型 2._ _proto_ _ 每个实例对象都会有_ _proto_ _属性,其被称为隐式原型 每一个实例对象的隐式原型_ _proto_ _属性指向自身构造函数的显式原型prototype 3. constructor 每个prot…
暂无图片
编程学习 ·

java练习代码

打印自定义行数的空心菱形练习代码如下 import java.util.Scanner; public class daYinLengXing{public static void main(String[] args) {System.out.println("请输入行数");Scanner myScanner new Scanner(System.in);int g myScanner.nextInt();int num g%2;//…
暂无图片
编程学习 ·

RocketMQ-什么是死信队列?怎么解决

目录 什么是死信队列 死信队列的特征 死信消息的处理 什么是死信队列 当一条消息初次消费失败&#xff0c;消息队列会自动进行消费重试&#xff1b;达到最大重试次数后&#xff0c;若消费依然失败&#xff0c;则表明消费者在正常情况下无法正确地消费该消息&#xff0c;此时…
暂无图片
编程学习 ·

项目 cg day04

第4章 lua、Canal实现广告缓存 学习目标 Lua介绍 Lua语法 输出、变量定义、数据类型、流程控制(if..)、循环操作、函数、表(数组)、模块OpenResty介绍(理解配置) 封装了Nginx&#xff0c;并且提供了Lua扩展&#xff0c;大大提升了Nginx对并发处理的能&#xff0c;10K-1000K Lu…
暂无图片
编程学习 ·

输出三角形

#include <stdio.h> int main() { int i,j; for(i0;i<5;i) { for(j0;j<i;j) { printf("*"); } printf("\n"); } }
暂无图片
编程学习 ·

stm32的BOOTLOADER学习1

序言 最近计划学习stm32的BOOTLOADER学习,把学习过程记录下来 因为现在网上STM32C8T6还是比较贵的,根据我的需求flash空间小一些也可以,所以我决定使用stm32c6t6.这个芯片的空间是32kb的。 #熟悉芯片内部的空间地址 1、flash ROM&#xff1a; 大小32KB&#xff0c;范围&#xf…
暂无图片
编程学习 ·

通过awk和shell来限制IP多次访问之学不会你打死我

学不会你打死我 今天我们用shell脚本&#xff0c;awk工具来分析日志来判断是否存在扫描器来进行破解网站密码——限制访问次数过多的IP地址&#xff0c;通过Iptables来进行限制。代码在末尾 首先我们要先查看日志的格式&#xff0c;分析出我们需要筛选的内容&#xff0c;日志…
暂无图片
编程学习 ·

Python - 如何像程序员一样思考

在为计算机编写程序之前&#xff0c;您必须学会如何像程序员一样思考。学习像程序员一样思考对任何学生都很有价值。以下步骤可帮助任何人学习编码并了解计算机科学的价值——即使他们不打算成为计算机科学家。 顾名思义&#xff0c;Python经常被想要学习编程的人用作第一语言…
暂无图片
编程学习 ·

蓝桥杯python-数字三角形

问题描述 虽然我前后用了三种做法&#xff0c;但是我发现只有“优化思路_1”可以通过蓝桥杯官网中的测评&#xff0c;但是如果用c/c的话&#xff0c;每个都通得过&#xff0c;足以可见python的效率之低&#xff08;但耐不住人家好用啊&#xff08;哭笑&#xff09;&#xff09…