数据管道改变了实时处理的重心
时间:2022-03-20 12:18:01 | 来源:行业动态
时间:2022-03-20 12:18:01 来源:行业动态
去年,我们预测物联网将成为把实时流数据推向前端的应用实例。今年,谷歌方面的Anadiotis预测,不仅流数据将成为主流,并且还将逐步实现即时分析。
流数据分析并非是新鲜术语;在此之前,我们已经投入了大量精力以让其重拾关注。在进行数据存储之前,流数据处理可被用于数据的解析与过滤以及模式或事件的检测。物联网数据的爆炸式增长自然催生了难题所有数据是否都需要存储以及在哪里完成数据的处理。
随着我们日益增长的技术需求,我们希望能够在数据运行的同时完成更多的工作负载。这不仅解释了用于队列处理的Kafka与分发数据技术的萌生,还表明了数据平台供应商诸如SAP、Hortonworks、MapR与Teradata正在采取相关行动的原因。Amazon Kinesis、Azure Data Factory以及Google Cloud Dataflow的崛起亦是这类即时需求的直接产物。数据管道能够将实时处理从基础过滤与转换扩展为协调进程,从而支持高级预测分析与机器学习。因此,我们预计数据管道将在2018年成为流式分析的关键性支柱。此外,我们还将在这个领域听到来自于IBM与甲骨文等供应商所带来的更多消息。