百万并发处理,智能过滤、存储索引
时间:2022-03-29 12:21:01 | 来源:行业动态
时间:2022-03-29 12:21:01 来源:行业动态
inData一体机可以实现百万级IOPS、海量吞吐与微妙延迟,提供PB级海量数据查询秒级响应能力。
在智能过滤方面,inData一体机在存储节点上部署了K-DB数据库实例,充分利用存储服务器的CPU、内存等计算资源,当计算节点收到来自应用的SQL请求后,首先将SQL卸载到存储节点做一遍行与列的筛选,然后将筛选后的更准确的数据块,通过网络传输到计算节点做进一步的精准计算。这一过滤过程既降低计算节点的运算负载,又数十倍的减小了计算与存储之间网络传输压力。在诸如全表扫描等复杂请求场景时,使OLAP业务性能提升5-10倍。
同时,inData一体机可以实现存储智能索引。这项技术可以减少不必要的磁盘I/O。在系统运行过程中,节点会实时地将列数据的概要信息更新存储到存储内存中,比如各区数据的Min/Max值,这样在数据查询过程中就可以通过概要信息预先定位数据存储区间,有效减少了磁盘的I/O次数。
inData一体机会自动统计数据的访问频次,将经常被访问的热点数据,存储在热点盘PCIe NVMe SSD闪存卡中,不经常访问的数据则会存储在大容量机械磁盘中,做到智能缓存,很好的兼顾性能与成本。
这些技术有效提高了inData一体机的负载处理能力,其中OLAP场景的负载处理能力可较传统数据库提高10倍。