Soul高可用网关:配置缓存三大同步策略( 二 )

http长轮询zookeeper、websocket 数据同步的机制比较简单,而 http 同步会相对复杂一些 。Soul 借鉴了 Apollo、Nacos 的设计思想,取决精华,自己实现了 http 长轮询数据同步功能 。注意,这里并非传统的 ajax 长轮询!

Soul高可用网关:配置缓存三大同步策略

文章插图
 
http 长轮询机制如上所示,soul-web 网关请求 admin 的配置服务,读取超时时间为 90s,意味着网关层请求配置服务最多会等待 90s,这样便于 admin 配置服务及时响应变更数据,从而实现准实时推送 。
http 请求到达 sou-admin 之后,并非立马响应数据,而是利用 Servlet3.0 的异步机制,异步响应数据 。首先,将长轮询请求任务 LongPollingClient 扔到 BlocingQueue 中,并且开启调度任务,60s 后执行,这样做的目的是 60s 后将该长轮询请求移除队列,即便是这段时间内没有发生配置数据变更 。因为即便是没有配置变更,也得让网关知道,总不能让其干等吧,而且网关请求配置服务时,也有 90s 的超时时间 。
public void doLongPolling(final HttpServletRequest request, final HttpServletResponse response) { // 因为soul-web可能未收到某个配置变更的通知,因此MD5值可能不一致,则立即响应 List<ConfigGroupEnum> changedGroup = compareMD5(request); String clientIp = getRemoteIp(request); if (CollectionUtils.isNotEmpty(changedGroup)) { this.generateResponse(response, changedGroup); return; } // Servlet3.0异步响应http请求 final AsyncContext asyncContext = request.startAsync(); asyncContext.setTimeout(0L); scheduler.execute(new LongPollingClient(asyncContext, clientIp, 60));}class LongPollingClient implements Runnable { LongPollingClient(final AsyncContext ac, final String ip, final long timeoutTime) { // 省略...... } @Override public void run() { // 加入定时任务,如果60s之内没有配置变更,则60s后执行,响应http请求 this.asyncTimeoutFuture = scheduler.schedule(() -> { // clients是阻塞队列,保存了来处soul-web的请求信息 clients.remove(LongPollingClient.this); List<ConfigGroupEnum> changedGroups = HttpLongPollingDataChangedListener.compareMD5((HttpServletRequest) asyncContext.getRequest()); sendResponse(changedGroups); }, timeoutTime, TimeUnit.MILLISECONDS); //clients.add(this); }}如果这段时间内,管理员变更了配置数据,此时,会挨个移除队列中的长轮询请求,并响应数据,告知是哪个 Group 的数据发生了变更(我们将插件、规则、流量配置、用户配置数据分成不同的组) 。网关收到响应信息之后,只知道是哪个 Group 发生了配置变更,还需要再次请求该 Group 的配置数据 。有人会问,为什么不是直接将变更的数据写出?我们在开发的时候,也深入讨论过该问题,因为 http 长轮询机制只能保证准实时,如果在网关层处理不及时,或者管理员频繁更新配置,很有可能便错过了某个配置变更的推送,安全起见,我们只告知某个 Group 信息发生了变更 。
// soul-admin发生了配置变更,挨个将队列中的请求移除,并予以响应class DataChangeTask implements Runnable { DataChangeTask(final ConfigGroupEnum groupKey) { this.groupKey = groupKey; } @Override public void run() { for (Iterator<LongPollingClient> iter = clients.iterator(); iter.hasNext(); ) { LongPollingClient client = iter.next(); iter.remove(); client.sendResponse(Collections.singletonList(groupKey)); } }}当 soul-web 网关层接收到 http 响应信息之后,拉取变更信息(如果有变更的话),然后再次请求 soul-admin 的配置服务,如此反复循环 。
快速使用
  • get soul-admin.jar
> wget https://yu199195.github.io/jar/soul-admin.jar
  • start soul-admin.jar
java -jar soul-admin.jar -Dspring.datasource.url="your MySQL url" -Dspring.datasource.username='you username' -Dspring.datasource.password='you password'
  • visit : http://localhost:8887/index.html username:admin password :123456
  • get soul-bootstrap.jar
> wget https://yu199195.github.io/jar/soul-bootstrap.jar
  • start soul-bootstrap.jar
java -jar soul-bootstrap.jar仓库地址github: https://github.com/Dromara/soul
gitee: https://gitee.com/shuaiqiyu/soul

【Soul高可用网关:配置缓存三大同步策略】


推荐阅读