1.PGW用户实时位置轨迹
时间:2022-03-09 14:24:01 | 来源:行业动态
时间:2022-03-09 14:24:01 来源:行业动态
1.1、方案介绍
实时收集到的GGSN报文,通过StarRocks的聚合模型,将发生位置变更轨迹的明细数据实时沉淀下来。并对不同的区域维度生成Rollup表。最细粒度到基站级别,然后生成省、地市级别的Rollup表以供不同业务查询。
GGSN报文量35万/s,通过SparkStreaming处理解析后,每1分钟StreamLoad一次入StarRocks。
1.2、方案优化
最开始因为Rollup表建了省、地市、区县、乡镇,导致在写入时IO负担过大,写入速度跟不上数据推送,SparkStreaming出现挤压,后期通过性能测试Rollup表只建立了省、地市维度。同时新增一张乡镇base表,并在其基础上建立区县Rollup表。
同时为保证查询的时效性,base表Rollup表前缀索引在字段类型和选择上按照官方建议,避免使用Varchar类型。