数据库架构,能不引入中间件吗?(2/32)

db 水平切分后,base-service 的复杂性如何收敛——为什么要引入数据库中间件

数据库架构实践第 2 课封面:数据库架构02:数据库架构,能不引入中间件吗? | 数据库架构与实践

db 水平切分后,base-service 的复杂性如何收敛——为什么要引入数据库中间件

《数据库架构与实践》第 2 篇:数据库中间件的引入时机。

不少朋友经常会问我以下问题:

(1)快狗打车有没有使用数据库中间件?

(2)使用了什么数据库中间件,是自研,还是第三方?

(3)怎么实现的,是基于客户端的中间件,还是基于服务端的中间件?

(4)使用中间件后,join/子查询/聚集函数/事务等问题是怎么解决的?

(5)…

你是不是也有类似的疑问?

“究竟为什么要引入数据库中间件”却很少有人问及,今天和大家聊聊:

究竟为什么要引入数据库中间件?

连续分层架构演进后的业务系统后端结构:web-view、web-data、biz-service、base-service、DAO、db

经过连续分层架构演进,DAO层,基础数据服务化,通用业务服务化,前后端分离之后,一个业务系统的后端结构如上:

(1)web-view层通过http接口,从web-data获取json数据(前后端分离);

(2)web-data层通过RPC接口,从biz-service获取数据(通用业务服务);

(3)biz-service层通过RPC接口,从base-service获取数据(基础数据服务);

(4)base-service层通过DAO,从db获取数据(DAO);

(5)db存储数据;

随着时间的推移,数据量会越来越大,base-service通过DAO来访问db的性能会越来越低,需要开始考虑对db进行水平切分,一旦db进行水平切分,原来很多SQL可以支持的功能,就需要base-service层来进行特殊处理:

(1)有些数据需要路由到特定的水平切分库

(2)有些数据不确定落在哪一个水平切分库,就需要访问所有库

(3)有些数据需要访问全局的库,拿到数据的全局视野,到service层进行额外处理

(4)…

更具体的,对于前台高并发的业务,db水平切分后,有这么几类典型的业务场景及应对方案。特别强调一下,此处应对的是“前台”“高并发”“db水平切分”的场景,对于后台的需求,将通过前台与后台分离的架构处理,不在此处讨论。

partition key上的单行查询

典型场景:通过uid查询user。

场景特点:

(1)通过partition key查询;

(2)每次只返回一行记录;

解决方案:base-service层通过partition key来进行库路由。

partition key 单行查询:user-service 通过 uid 直接定位到分库

如上图:

(1)user-service底层user库,分库partition key是uid;

(2)uid上的查询,user-service可以直接定位到库;

非partition key上的单行查询

典型场景:通过login_name查询user

场景特点:

(1)通过非partition key查询;

(2)每次只返回一行记录;

解决方案1:base-service层访问所有库。

方案1:user-service 通过 login_name 先查全库,结果集合并后返回一条记录

如上图:

(1)user-service通过login_name先查全库;

(2)结果集在user-service再合并,最终返回一条记录;

解决方案2:base-service先查mapping库,再通过partition key路由。

方案2:新建 mapping 库记录 login_name 到 uid 的映射,先查 mapping 再路由

如上图:

(1)新建mapping库,记录login_name到uid的映射关系;

(2)当有非 partition key的查询时,先通过login_name查询uid;

(3)再通过partition key进行路由,最终返回一条记录;

解决方案3:基因法

关于“基因法”解决非partition key上的查询需求详见第 10 篇《uid 分库后,uname 怎么查询?五种方法》。

partition key上的批量查询

典型场景:用户列表uid上的IN查询。

场景特点:

(1)通过partition key查询;

(2)每次返回多行记录;

解决方案1:base-service层访问所有库,结果集到base-service合并。

解决方案2:base-service分析路由规则,按需访问。

方案2:base-service 分析路由规则,按需访问相关库并合并结果集

如上图:

(1)base-service根据路由规则分析,判断出有些数据落在库1,有些数据落在库2;

(2)base-service按需访问相关库,而不是访问全库;

(3)base-service合并结果集,返回列表数据;

其他需求…

本文写到这里,上述一、二、三、四其实都不是重点,base-service层通过各种各样的奇技淫巧,能够解决db水平切分后的数据访问问题,只不过:

(1)base-service层的复杂度提高了;

(2)数据的获取效率降低了;

当需要进行db水平切分的base-service越来越多以后,此时分层架构会变成下面这个样子:

多个 base-service 各自处理水平切分复杂性,底层复杂性扩散到各服务

底层的复杂性会扩散到各个base-service,所有的base-service都要关注:

(1)partition key路由;

(2)非partition key查询,先mapping,再路由;

(3)先全库,再合并;

(4)先分析,再按需路由;

(5)跨库分页处理;

(6)…

这个架构图是不是看上去很别扭?如何让数据的获取更加高效快捷呢?

数据库中间件的引入,势在必行

基于服务端的数据库中间件架构图:base-service 像访问 db 一样访问 db-proxy

这是“基于服务端”的数据库中间件架构图:

(1)base-service层,就像访问db一样,访问db-proxy,高效获取数据;

(2)所有底层的复杂性,都屏蔽在db-proxy这一层;

基于客户端的数据库中间件架构图:base-service 通过 db-proxy.jar 获取数据

这是“基于客户端”的数据库中间件架构图:

(1)base-service层,通过db-proxy.jar,高效获取数据;

(2)所有底层的复杂性,都屏蔽在db-proxy.jar这一层;

数据库中间件向上游屏蔽底层复杂性示意

结论:

当数据库水平切分,base-service层获取db数据过于复杂,成为通用痛点的时候,就应该抽象出数据库中间件,简化数据获取过程,提高数据获取效率,向上游屏蔽底层的复杂性。

任何脱离业务的架构设计,都是耍流氓。

“为什么”比“怎么样”更重要。

检验一下

检索练习 · 引入时机

根据本文结论,什么时候就应该抽象出数据库中间件?

检索练习 · 非 partition key 查询

通过 login_name 查 user(非 partition key 单行查询),文中给出了哪三种解决方案?

检索练习 · 两类中间件

文中提到的两类数据库中间件架构分别是?

检索练习 · 批量查询方案

partition key 上的批量 IN 查询,方案2「分析路由规则,按需访问」相对方案1「访问所有库」的优势是?

中间件不是银弹,分库之前其实还有一步更轻的动作——第 3 篇《数据库垂直拆分,怎么实施?》。

知其然,知其所以然。思路比结论更重要。

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

京ICP备2025137728号-3