视频回顾 | 面对上亿级别的用户行为数据,如何做到秒级响应分析

节前,Kyligence 的资深讲师为大家带来了《面对上亿级别的用户行为数据,如何做到秒级响应分析》线上分享,介绍了如何使用 Apache Kylin 进行用户行为分析。错过直播的同学可以直接点击 【阅读原文】 查看视频回放。

(以下为现场Q&A)

Kylin 的使用

Q: Kylin 刷新的最小单位是什么? 另外数据源可以用 MySQL 吗? 

A: Kylin 最小的刷新单位是 Segment,数据源可以选择 MySQL

Q: 请问 Kylin 如何获取明细数据呢? 

A: 首先通过 intersect_value 计算出用户 UID,之后根据 UID 查询明细

Q: Kylin 3.0支持实时了,如何做数据删除和更新,历史数据如何处理?能介绍一下吗?

A: Kylin 的实时功能支持 lambda 模式,用户在数据经过 ETL 后,需要更新 cube 的数据,可以通过创建一个 lambda 表,通过刷新 lambda 表,来实现 cube 数据的更新具体用法参考我们的教程: 

http://kylin.apache.org/docs/tutorial/lambda_mode_and_timezone_realtime_olap.html 

Q: Hive 表的其中一个字段是数组,Kylin 可以将这个字段拆分出来么?

A: Kylin 不支持这个功能,只支持基础数据类型

Q: Kylin 的结果如何通过 PowerBI 展示,需要什么支持的? 

A: 通过 PowerBI 使用开源 Kylin,可以装 Kylin ODBC Driver,使用 PowerBI  通用 ODBC 接口,开源 Kylin 只有使用 PowerBI import 模式(PowerBI有 import + direct query 两种模式),商业版 Kyligence 两种模式都支持

Q: 在 BI 分析工具中还能继续做筛选吗?

A: 现在 BI 工具不支持在同一个列上做多个筛选器,行为分析,现有的 BI 工具支持不完善,需要做自研开发

Q: UDAF 的实现有参考文档吗? 

A: 请参考 Calcite 官方文档

Q: 假设表结构修改了,Kylin 能感知到吗? 

A: 需要手动刷新同步表结构,但是如果 cube 已经有数据,是不能同步的。 

Q: model 和 cube 的区别是什么呀?

A: 比较像面向对象中的 Class 类与类实例之间的关系,一个Class 类可以 new 出很多个实例,同样的一个 model 可以创建很多个 cube,model 是模型,cube 是具体的预计算方式和结果 

Kylin 的性能优化

Q: 这个函数的使用对于用户基数过大的情况是否会存在数据膨胀过大的情况?

A: 对于用户基数高的不会,对于维度基数高的会存在,但可以通过设置必要维度,层级维度与联合维度进行控制 

Q: Kylin 自动化构建是不是也需要外部脚本或者程序定时调度?

A: 需要外部调度

Q: 宽表是 cube 里的一个关联表,还是最终 cube 存储成了一个宽表? 

A: 所谓宽表是数据源上的宽表,Kylin cube 设计可以只有一个事实表,也可以是星型模型 

Q: 大规模数据中,如果字典表更新了之前 cube 跑过的数据怎么办呢,有么有办法可以快速重新构建的办法? 

A: 目前只能重新构建 

Q: union 前后的 select 查询是串行执行还是并行执行的?

A: 目前还是串行方式 

Q: HBase 里存的是维表的快照吗?如果维表更新了又要重跑怎么办? 

A: HBase 中存放的是 Cuboid 数据,如果维表更新了,需要重新构建维表的存储是有两种方式除了HBase 还有 meta store,具体请参考官网说明。如果在建模时有维度表的字段选为 normal,那么维表更新是必须刷新 cube ,如果维表的字段全部为 derived,那么是不需要刷新 cube

Q: Kylin 的 rowkey 应该是多维度组合生成的,HBase 对点查支持的好,但是大范围维度查询不友好,Kylin 在查询多维度组合的 Cuboid 时,涵盖很多条件时会不会很慢? 

A: 不一定,这个要看 rowkey 的设计,在设计 rowkey 的时候最好能结合查询,把经常查寻的字段和基数比较大的字段往前放,还可以通过 shard 字段切分数据做相应的优化

intersect_count 函数的使用

Q: 用 intersect_count 和直接在 where 里写 and 和 or 条件的性能是一样的么?

A: 有where 筛选条件,效率会高一点.如果有 where 条件,会首先进行一次过滤,之后再运行 intersect_count 

Q: Tableau、Power BI 查询 Kylin 的话也有 intersect_count 函数吗?

A: Tableau、Power BI 没有内置 intersect_count 函数,但是可以通过直接查询模式使用 

往期案例与实践

Kylin's Github Repo 传送门

↓↓↓

https://github.com/apache/kylin

喜欢:heart:Kylin 的话,别忘了 Star :star2:一下哟~

我来评几句
登录后评论

已发表评论数()

相关站点

+订阅
热门文章