关键词:
又发现一个不错的,工业级的,高性能RPC框架srpc,分享给大家。
(1)RPC简介;
(2)行业常见RPC框架;
(3)srpc特点;
(4)srpc上手指南,demo示例;
(5)srpc架构设计;
(6)srpc相关资料与资源;
文章较长,建议提前收藏。
什么是RPC?
Remote Procedure Call,远程过程调用。
什么是“远程”,为什么“远”?
先来看下什么是“近”,即“本地函数调用”。
当我们写下:
int result = Add(1, 2);
这行代码的时候,到底发生了什么?
(1)传递两个入参;
(2)调用了本地代码段中的函数,执行运算逻辑;
(3)返回一个出参;
这三个动作,都发生在同一个进程空间里,这是本地函数调用。
那有没有办法,调用一个跨进程的函数呢?
典型的,这个进程部署在另一台服务器上。
最容易想到的,两个进程约定一个协议格式,使用Socket通信,来传输:
(1)入参;
(2)调用哪个函数;
(3)出参;
如果能够实现,那这就是“远程”过程调用。
为什么需要RPC框架呢?
如果没有统一的RPC框架,各个团队的服务提供方就需要各自实现一套序列化、反序列化、网络框架、连接池、收发线程、超时处理、状态机等“业务之外”的重复技术劳动,造成整体的低效。
RPC框架的职责,就是要屏蔽各种复杂性:
(1)调用方client感觉就像调用本地函数一样,来调用服务;
(2)提供方server感觉就像实现一个本地函数一样,来实现服务;
有哪些常见的,出圈的RPC框架呢?
(1)gRPC,Google出品,支持多语言;
(2)Thrift,Facebook出品,支持多语言;
(3)Dubbo,阿里开源的,支持Java;
(4)bRPC,百度开源的,支持C++,Java;
(5)tRPC,腾讯RPC框架,支持多语言;
(6)...
画外音:还有哪些?
今天和大家分享的srpc,作者是搜狗的媛架构师liyingxin,基于WF,代码量1W左右:
(1)非常适合用来学习RPC的架构设计;
(2)又是一个工业级的产品,QPS可以到50W,应该是行业能目前性能最好的RPC框架了吧,有不少超高并发的线上应用都使用它。
画外音:不服?来战!
什么是srpc?
基于WF的轻量级,超高性能,工业级RPC框架,兼容多协议,例如百度bRPC,腾讯tRPC,Google的gRPC,以及FB的thrift协议。
srpc有些什么特点?
(1)支持多种IDL格式,包括Protobuf,Thrift等,对于这类项目,可以一键迁移;
(2)支持多种序列化方式,包括Protobuf,Thrift,json等;
(3)支持多压缩方法,对应用透明,包括gzip,zlib,lz4,snappy等;
(4)支持多协议,对应用透明,包括http,https,ssl,tcp等;
(5)高性能;
不同客户端线程压力下的性能表现非常稳定,QPS在50W左右,优于同等压测配置的bRPC与thrift。
(6)轻量级,低门槛,1W行左右代码,只需引入一个静态库;
如何快速上手,体验这个帅气的RPC框架呢?
简单来说,只需要三个步骤。
第一步:定义IDL描述文件。
syntax = "proto3";// proto2 or proto3
message EchoRequest
string message = 1;
string name = 2;
;
message EchoResponse
string message = 1;
;
service Example
rpc Echo(EchoRequest) returns (EchoResponse);
;
第二步:生成代码,并实现ServiceIMPL,server端就搞定了。
class ExampleServiceImpl : public Example::Service
public:
void Echo(EchoRequest *request,
EchoResponse *response,
RPCContext *ctx) override
response->set_message("Hi, " + request->name());
;
make一把,一气呵成。
第三步:自己定义一个请求客户端,向服务端发送echo请求。
int main()
Example::SRPCClient client("127.0.0.1", 1412);
EchoRequest req;
req.set_message("Hello, srpc!");
req.set_name("zhangsan");
client.Echo(&req,
[](EchoResponse *response, RPCContext *ctx));
return 0;
文末的资料集里,有非常详细的手册链接,一步步照着来就行。
srpc的架构设计思路是怎样的?
作为一个RPC框架,srpc的架构是异常清晰的,用户需要关注这3个层次:
(1)IDL接口描述文件层;
(2)RPC序列化协议层;
(3)网络通讯层;
同时,每一层次又提供了多种选择,用户可以任意的组合:
如上图所示:
(1)IDL层,用户可以选择Protobuf或者Thrift;
(2)协议层,可以选择Thrift,bRPC,tRPC等;
画外音:因此,才能和其他RPC框架无缝互通。
(3)通信层,可以选择tcp或者http;
在此分层架构之下,RPC的客户端要做什么工作,RPC的服务端要做什么工作,srpc框架又做了什么工作呢?
首先必须在IDL中要定义好:
(1)逻辑请求包request;
(2)逻辑响应包response;
(3)服务接口函数method;
RPC-client的工作就异常简单了:
(1)调用method;
(2)绑定回调函数,处理回调;
对应上图中顶部方框的绿色部分。
RPC-server的工作也非常简单,像实现一个本地函数一样,提供远程的服务:
(1)实现method;
(2)接受request,逻辑处理,返回response;
对应上图中底部方框的黄色部分。
srpc框架完成了绝大部分的工作:
(1)对request序列化,压缩,处理生成二进制报文;
(2)连接池,超时,任务队列,异步等处理;
(3)对request二进制报文处理,解压缩,反序列化;
...
对应上图中中间的方框的红色部分,以及大部分流程。
在这个过程中,srpc采用插件化设计,各种复杂性细节,对接口调用方与服务提供方,都是透明的,并且具备良好的扩展性。
如上图所示,用户只需要关注IDL,即逻辑请求,响应,接口的调用与实现。框架层面,将各种能力以插件的方式集成进来,向用户提供不同能力的组合选择。
另外,定义好IDL之后,服务端的代码可以利用框架提供的工具自动生成代码,业务服务提供方,只需要专注于业务接口的实现即可,你说帅气不帅气?
画外音:具体的生成工具,与生成方法,请参看git上的文档。
最后,我觉得这个srpc最帅气的地方之一,就是:开源版本即线上工程版本,更新快,issue响应快,并且文档真的很全!
画外音:不少大公司,公司内部的版本和开源的版本是两套代码,开源版本没有文档,KPI完成之后,开源就没人维护了,结果坑了一大票人。
文章的结尾,分享一些学习资源吧。
项目地址:https://github.com/sogou/srpc
项目demo:
README_cn.md
项目架构设计:
docs/wiki.md
作者知乎:
https://www.zhihu.com/people/liyingxin1412/posts
作者联系方式:
发现bug可以随时提交给她,响应绝对快速。
项目地址:https://github.com/sogou/srpc
Star:800+
画外音:srpc还有很多优秀的设计,等待大家去挖掘。
末了,希望这个1W行代码的RPC框架,能够帮助大家更透彻的了解RPC的底层原理。
阅读原文,直达代码,欢迎标星。
开源微服务api网关,单核2万qps,今年最值得学习的开源项目
文章较长,从概念与场景,到原理与架构,到性能分析,最后是demo,希望大家有收获。第一部分:解决什么问题。什么是微服务API网关?API网关是上承前端用户,下接后端服务的咽喉之地,是... 查看详情
架构师之路,21年干货精选
...越来越低了。今年花在开源学习上的时间并不多:《1万行代码,单机50万QPS,今年最值得学习的开源RPC框架!》2.3W+《开源微服务API网关,单核2万QPS,今年最值得学习的开源项目》2W+大家今年阅读开... 查看详情
牛逼!“京东热”框架jd-hotkey开源了...单机qps可达37万!!
JD-hotkey是京东APP后台热数据探测框架,历经多次高压压测和2020年京东618大促考验。在上线运行的这段时间内,每天探测的key数量数十亿计,精准捕获了大量爬虫、刷子用户,另准确探测大量热门商品并毫秒级推送... 查看详情
最值得阅读学习的10个c语言开源项目代码
...连接去测试网站的负载能力。Webbench使用C语言编写, 代码实在太简洁,源码加起来不到600行。下载链接:http://home.tiscali.cz/~cz210552/webbench.h 查看详情
十个最值得阅读学习的c/c++开源项目
...文章第一时间送达!十个最值得阅读学习的C开源项目代码1.Webbench2.Tinyhttpd3.cJSON4.CMockery5. Libev6.Memcached7.Lua8.SQLite9.UNIXv610.NETBSD1.WebbenchWebbench是一个在linux下使用的非常简单的网站压测工具。它使用fork()模拟多个客 查看详情
2016年最值得学习的五大开源项目
...原理进行了精讲,是学习动画很好的项目,项目代码量比较少,也很适合新手学习。项目地址GitHub:https://github.com/l 查看详情
京东热key探测框架新版发布,单机qps可达35万
京东热key探测框架新版发布,单机QPS可达35万△Hollis,一个对Coding有着独特追求的人△这是Hollis的第300篇原创分享作者lHollis来源lHollis(ID:hollischuang)对于大型的分布式系统来说,热点数据一直都是一个需要重点关注的事情,比... 查看详情
值得我们深度学习的十大开源框架
本周早些时候Google开源了TensorFlow(GitHub),此举在深度学习领域影响巨大,因为Google在人工智能领域的研发成绩斐然,有着雄厚的人才储备,而且Google自己的Gmail和搜索引擎都在使用自行研发的深度学习工具。无疑,来自Google军火... 查看详情
go语言值得学习的开源项目推荐
.../Projects 其中有非常多的优秀项目值得学习,有几百行代码适合新手阅读的项目,也有大型如nsq、docker等的项目。 下面推荐几款适合学习的项目:1、cache2gohttps://github.com/muesli/cache2go比较简单的一个缓存库,代码 查看详情
2016年最值得学习的五大开源项目
...原理进行了精讲,是学习动画很好的项目,项目代码量比较少,也很适合新手学习。项目地址GitHub:https://github.com/lgvalle/Material-Animations2,Meizhi每天推送一张妹子图、一个小视频和一系列程序员精选文章,数据... 查看详情
10个超赞的c语言开源项目,值得学习(代码片段)
大家好,我是小麦。今天和大家分享一下10个超赞的C语言开源项目。WebbenchTinyhttpdcJSONCMockeryLibevMemcachedLuaSQLiteUNIXv6NETBSD1.WebbenchWebbench是一个在linux下使用的非常简单的网站压测工具。它使用fork()模拟多个客户端同时访问我们设... 查看详情
10个超赞的c语言开源项目,值得学习(代码片段)
大家好,我是小麦。今天和大家分享一下10个超赞的C语言开源项目。WebbenchTinyhttpdcJSONCMockeryLibevMemcachedLuaSQLiteUNIXv6NETBSD1.WebbenchWebbench是一个在linux下使用的非常简单的网站压测工具。它使用fork()模拟多个客户端同时访问我们设... 查看详情
10个超赞的c语言开源项目,值得学习(代码片段)
大家好,我是小麦。今天和大家分享一下10个超赞的C语言开源项目。WebbenchTinyhttpdcJSONCMockeryLibevMemcachedLuaSQLiteUNIXv6NETBSD1.WebbenchWebbench是一个在linux下使用的非常简单的网站压测工具。它使用fork()模拟多个客户端同时访问我们设... 查看详情
2021年,最值得关注/学习的前端框架和工具库!(代码片段)
点击上方前端下午茶,关注公众号回复1,加入前端交流群作者:林不渡来源:https://juejin.cn/post/6935670539088461855前言最近在知乎看到了这么个问题:学完Vue还有必要学习React和Node吗?[1],有很奇妙的感觉... 查看详情
又一开源神器,值得收藏学习!(代码片段)
大家好,我是小麦。今天给大家推荐一个不错的Qt开源项目项目主页支持功能支持传统的串口调试助手的基本收发功能,同时可以刷新大量的数据而不卡顿支持保存接收的数据支持最大200条可编辑指令的设置,并用于... 查看详情
京东热-key-探测框架新版发布,单机-qps-可达-35-万
还有一种热点数据的发现机制,那就是实时的做收集,比如在客户端、服务端或者在代理层,都可以对实时数据进行采集,然后进行统计汇总。达到一定的数量之后,就会被识别为热key如何解决热key问题解决... 查看详情
分享10个适合初学者学习的c开源项目代码
来源|嵌入式arm十个最值得阅读学习的C开源项目代码1.Webbench2.Tinyhttpd3.cJSON4.CMockery5. Libev6.Memcached7.Lua8.SQLite9.UNIXv610.NETBSD1.WebbenchWebbench是一个在linux下使用的非常简单的网站压测工具。它使用fork()模拟多个客户端同时访问我们设定... 查看详情
系统容量预估
...构复杂度+组件模块+高可用+安全+存储复杂度容量指标:单机QPS,峰值,平均值,用户数、并发、稳定性有多少数据量,数据维度有哪些,服务业务有哪些,数据增长预想如何等这里我们只是谈谈简单的业务通过单节点处理的情... 查看详情