关键词:
引言
随着功能的迭代和业务的增长,一套开发环境和一套测试环境往往很难满足需求。不同的功能、不同的分支代码在同一套环境测试,难免互相影响。所以看到公司往往有多套开发环境和多套测试环境,以应对这些冲突。多套环境带来的运维成本增加,例如:像中间件、DB、机器等往往需要独立部署。另外多套环境也难以解决众多开发测试需求,还可能造成冲突。
本文介绍通过测试场的方式来解决众多环境的的问题,主要内容有:
下面整理了同一套环境开发测试中的常见问题,RPC调用错乱、消息消费错乱以及数据问题。
1.服务RPC调用错乱如图所示,调用链路调用关系,A调用B,B调用C,接着C调用D,最后D调用E。
在同一套环境中,A和B两个服务分别拉了两个分支开发不同的功能。
期望A-branch1调用B-branch1,而A-branch2调用B-branch2。但有可能A-branch1调用B-branch2,A-branch2调用了B-branch1。也就是A和B之间的调用随机的,给开发调试造成困扰。
2.发送消费消息错乱如图所示,调用链路调用关系,A调用B,B发送消息到消息集群,C消费后RPC调用D,最后D调用E。
在同一套环境中,B和C两个服务分别拉了两个分支开发不同的功能。
期望B-branch1发送的消息被C-branch1消费,而B-branch2发送的消息被C-branch2消费。但有可能B-branch1发送的消息被C-branch2消费了,B-branch2发送的消息被C-branch1消费了。也就是C-branch1和C-branch2消费时随机的,给开发调试造成困扰。
3.存储数据被改错乱数据被改这个容易理解,大家共用一套数据库,各管各的开发调试。
由于数据修改,影响了其他人的调试,给别人造成困扰。
测试场多环境逻辑隔离主要依赖基础组件提供的能力支持,主要涉及标记链路透传、RPC框架节点打标和选择、消息的流量隔离以及网关和分布式调度的标记透传。
1.链路标记透传链路透传在众多方案中都是必备的,比如:全链路压测、链路tracing,可参考下面两种实现方式:
备注:通过中间件提供公共组件完成链路标记向下透传。
2.RPC框架节点打标和选择测试场中需要对节点打标,再根据上下文透传的标记选出打标节点发起调用,具体RPC框架能力为:
对于消息来说,需要对不同的测试场流量进行隔离,如上第三部分测试场调用流程中的消息调用,场景也比较多,消息的方案复杂的多。
流量隔离,通过不同的主题和消费组完成测试场流量的隔离
消息发送侧,如果链路中有测试场标记,则动态拼接隔离主题,将该流量发送到隔离主题,例如:abcd_melon_topic。同时在元数据中心记录【发送侧测试场标记】
消息消费侧,如果该消费组被拉入测试场,通过隔离消费组订阅隔离主题,实现消费流量隔离,例如:abcd_melon_consumer订阅abcd_melon_topic。同时在元数据中心记录【消费侧测试场标记】
稳定环境的消费组,需要监听【发送侧测试场标记】和【消费侧测试场标记】的变化,实现动态接管测试场的流量或者剔除测试场流量,例如:稳定环境消费组melon_consumer除了订阅melon_topic外,是否订阅abcd_melon_topic;取决于测试场中是否有abcd_melon_consumer
在实践中可以在RocketMQ/Kafka集群开启自动创建主题和消费组权限,并在新的集群自动创建的主题和消费组与原集群分离,方便清理。
测试场的流量隔离主要在RPC框架和消息队列实现,网关和分布式调度等主要参与标记透传。另外,数据可以通过构造偏移数据来规避数据的不一致,降低数据库实现逻辑隔离的复杂性。
如果这篇文章对您有所帮助,或者有所启发的话,帮忙扫描下发二维码关注一下,您的支持是我坚持写作最大的动力。
求一键三连:点赞、转发、在看。
关注公众号:「中间件兴趣圈」,在公众号中回复:「PDF」可获取大量学习资料,回复「专栏」可获取15个主流Java中间件源码分析专栏,另外回复:加群,可以跟很多BAT大厂的前辈交流和学习。
走进作者
10年IT老兵给职场新人的一些建议
“我”被阿里巴巴宠幸了
程序员如何提高影响力
优秀程序员必备技能之如何高效阅读源码
我的另一种参与 RocketMQ 开源社区的方式
点击查看“阅读原文”,可直接进入[中间件兴趣圈]文章合集。
多租户saas平台的数据库方案
...术(Multi-TenancyTechnology)又称多重租赁技术:是一种软件架构技术,是实现如何在多用户环境下(此处的多用户一般是面向企业用户)共用相同的系统或程序组件,并且可确保各用户间数据的隔离性。简单讲:在一台服务器上运... 查看详情
手把手这篇全链路压测实践教程(代码片段)
...,前两篇文章,我们说了下关于全链路压测的意义、整体架构,以及5种压测的方案。前面两篇基本都属于比较理论的内容,今天这篇咱们来点实践的东西,手把手带你搞出一个压测来如果不清楚之前两篇的文章的小伙伴,可以... 查看详情
架构设计之「数据库集群方案」
...点,甚至是瓶颈了。也给大家介绍了数据库服务器从主备架构、到主从架构、再到主主架构的基础方案。但如果单台机器已经不能满足完整业务数据存储的时候,我们就需要考虑采用多机甚至多中心的部署方案了。今天我们就再... 查看详情
wetest压测大师链路性能监控|一站式压测监控解决方案,开放免费体验预约
...;但无法快速实现复杂业务逻辑的问题排查,在分布式架构下,系统链路调用长,开发者往往需要花费较多的时间进行跨团队沟通,问题的深度定位难,效率低,问题解决滞后。而压测大师不仅要满足开发... 查看详情
大数据资源管理方案研究
1.研究背景在实际的大数据工程部署中,多个业务部门经常需要运行多个数据应用,在搭建Hadoop集群时,经常面临如何划分大数据集群及进行资源隔离的问题。另外,由于预算有限等原因,数据运维部门也有控制预算,减少大数... 查看详情
接口测试方案怎么写
参考技术A问题一:如何做接口测试对于接口测试,首先测试人员要懂代码,你只需要知道接口的作用是什么就可以了(有文档更好,但大部分都没有);其次,自己去读开发的代码;然后,根据该接口功能及代码写测试用例;... 查看详情
智能网联封闭测试场和开放道路测试政策情况全扫描(2022版)
...市智能网联招投标项目情况,②全国各个城市封闭测试场情况,③全国各个城市智能网联汽车测试管理规范或实施细则情况,④全国各个城市智能网联测试示范区情况。上篇推出了城市级智能网联招投标项目情况全扫... 查看详情
2个大厂100亿级超大流量红包架构方案(代码片段)
2个大厂100亿级超大流量红包架构方案文章目录2个大厂100亿级超大流量红包架构方案100亿级红包应用场景概述百亿级微信红包技术架构架构**南北分布****拆红包入账异步化****发拆落地,其他操作双层cache**高并发**红包算法****... 查看详情
智能网联封闭测试场和开放道路测试政策情况全扫描(2021版)
...市智能网联招投标项目情况,②全国各个城市封闭测试场情况,③全国各个城市智能网联汽车测试管理规范或实施细则情况,④全国各个城市智能网联测试示范区情况。上篇推出了城市级智能网联招投标项目情况全扫... 查看详情
双网隔离环境下cas单点登录的解决方案(代码片段)
阅读目录前言技术背景问题描述问题分析解决方案解决方案1:通过统一域名和DNS解决解决方案2:通过应用程序端解决解决方案3(推荐!):通过Apache/Nginx反向代理配置1:定义VirtualHost,开启反向代理配置2... 查看详情
淘宝首页serverless升级后的质量保障方案
本文主要介绍了serverless架构升级在淘宝首页的应用,新架构对底层所依赖的容器、环境资源等与之前相比差异较大,并且对应的预发、安全生产、生产等环境,与旧架构的完全隔离。背景阿里巴巴集团大淘宝技术全... 查看详情
股票分钟数据存储方案及海量数据架构方案
场景20亿分钟K线数据的更新及查找 1,了解数据使用情况 这些k线数据用于回测,而对于分钟k线回测:大部分回测周期在近几个月或近几年热门股票几多沪深300、上证50等分钟回测需要一定的实时性既在开盘时间... 查看详情
teams的逻辑架构与语音解决方案-officialpostersdownload
意外收获了前几天(0420)刚刚更新出来的Teams架构海报,分享给大家下载MicrosoftTeamsITarchitectureandtelephonysolutionspostershttps://docs.microsoft.com/en-us/microsoftteams/teams-architecture-solutions-posters接下来跟大家一起简单过一下关于Teams的两 查看详情
理解docker:若干企业生产环境中的容器网络方案
...资源(5)Docker网络(6)若干企业生产环境中的容器网络方案 Docker在早期只有单机上的网络解决方案,在1.19版本引 查看详情
云平台-多租户技术设计(代码片段)
...database-basedmultitenancy**)**2.共享数据库,隔离数据架构(**schema-basedmultitenancy**)****3.共享数据库,共享数据架构**(**table-basedmultitenancy**)**4.方案对比**技术方案实现共享数据库,共享数据架构设计... 查看详情
云平台-多租户技术设计(代码片段)
...database-basedmultitenancy**)**2.共享数据库,隔离数据架构(**schema-basedmultitenancy**)****3.共享数据库,共享数据架构**(**table-basedmultitenancy**)**4.方案对比**技术方案实现共享数据库,共享数据架构设计... 查看详情
什么是多租户模式?
...业大大缓解组织用户管理工作量压力。参考技术A多租户架构(Multi-tenancy)是一种软件开发架构,采用这种方式开发的应用软件,一个实例可以同时处理多个用户的请求;也就是说所有的应用共享一个高性能的server,成千上万的... 查看详情
转:nolock的替代方案-提交读快照隔离[行版本控制]
...有锁,实际上在查询一张表时,还是有锁,会对对象增加架构锁,防止表会修改,会对数据库增加共享锁。若使用dropindex,则要等到架构锁释放。 sqlserver2005提供了快照隔离和读取已提交快照这两种新的不加锁、无阻塞的事务... 查看详情