HSAP理念落地的核心是什么?

HSAP概念介绍

新一代技术理念HSAP:分析、服务一体化。我们提出了 HSAP 解决方案,HSAP 是指 Hybrid serving and an alytical processing,我们的理念是能够支持这种很高 QPS 的 Serverless 场景的查询写 入,并且将复杂的分析场景在一套体系里面完成。

HSAP理念落地的核心是什么?

HSAP核心是什么呢?

首先,要有一套非常强大的存储,能够把实时的数据和离线的数据存储进来,实现数据的通存,同时还要有 一种高效的查询服务,能够支持高 QPS 的查询,支持复杂的分析以及联邦查询和分析,这 样的话就可以把离线数据和实时数据都导入到系统里去,然后将前端的数据应用,比如 BI 报表和一些在线服务,对接到系统中去。如此,上面提到的架构复杂的问题,其实就可以迎 刃而解。我们把这样的设计理念叫做 HSAP 设计理念。

HSAP系统面临的挑战有哪些?

1.高并发的混合工作负载:HSAP系统需要面对远远超出传统的OLAP系统的并发查询。在实践中,数据服务的并发远远超出OLAP的查询。比如说,我们在现实的应用中见到数据服务需要处理高达每秒钟数千万个查询,这比OLAP查询的并发高出了5个数量级。同时,和OLAP查询相比,数据服务型查询对延迟有着更加苛刻的要求。复杂的混合查询负载对系统的延迟和吞吐有着非常不同的取舍。如何在高效地利用系统的资源同时处理好这些非常不一样的查询,并且保证每个查询的SLO是个巨大的挑战。

2.高吞吐实时数据导入:在处理高并发的查询负载的同时,HSAP系统还需要处理海量的实时数据导入。从传统的OLTP同步过来的数据只是这其中的一小部分,其他还有大量的数据来自日志等没有强事务语意的系统。实时导入的数据量远远超过了传统的HTAP或者OLAP系统。和传统的OLAP系统的另外一个区别是对数据的实时性有着很高的要求,导入的数据需要在秒级甚至亚秒级可见,这样才能保证我们服务和分析结果的时效性。

3.弹性和可扩展性:数据导入和查询负载可能会有突发的高峰,这对HSAP系统提出了很高的弹性和可扩展性的要求。在现实的应用中,我们注意到数据导入峰值能达到是平均的2.5倍,查询的峰值可能达到平均的3倍。数据导入和查询的峰值可能不一定同时出现,这也需要系统有根据不同的峰值做迅速调整的能力。

4.10 平均评分 (82% 分数) – 741
声明:本站所有文章,如无特殊说明或标注,均为本站原创发布。任何个人或组织,在未征得本站同意时,禁止复制、盗用、采集、发布本站内容到任何网站、书籍等各类媒体平台。如若本站内容侵犯了原著者的合法权益,可联系我们进行处理。

如需转载,请注明文章出处豆丁博客和来源网址:https://www.shluqu.cn/8539.html

点赞

发表评论

您的电子邮箱地址不会被公开。 必填项已用*标注