小小的likely背后却大有玄机!(代码片段)

CSDN云计算 CSDN云计算     2022-12-02     669

关键词:

作者 | 张彦飞allen

来源 | 开发内功修炼

今天我给大家分享一个内核中常用的提升性能的小技巧。理解了它对你一定大有好处。

在内核中很多地方都充斥着 likely、unlikely 这一对儿函数的使用。随便揪两处,比如在 TCP 连接建立的过程中的这两个函数。

//file: net/ipv4/tcp_ipv4.c
int tcp_v4_conn_request(struct sock *sk, struct sk_buff *skb)

 if (likely(!do_fastopen)) 
  ...

//file: net/ipv4/tcp_input.c
int tcp_rcv_established(struct sock *sk, ...)

 if (unlikely(sk->sk_rx_dst == NULL))
  ......

在刚开始看源码的时候,我也没弄懂这一对儿函数的玄机。后来才搞懂它原来对性能提升是有帮助的。今天我就来和大家聊聊 likely、unlikely 是如何帮助性能提升的。

1. likely 和 unlikely

咱们先来挖挖这对儿函数的底层实现。

//file: include/linux/compiler.h
#define likely(x)   __builtin_expect(!!(x),1)
#define unlikely(x) __builtin_expect(!!(x),0)

可以看到其实它们就是对 __builtin_expect 的一个封装而已。__builtin_expect 这个指令是 gcc 引入的。该函数作用是允许程序员将最有可能执行的分支告诉编译器,来辅助系统进行分支预测。

(参见 https://gcc.gnu.org/onlinedocs/gcc/Other-Builtins.html)

它的用法为:__builtin_expect(EXP, N)。意思是:EXP == N的概率很大。那么上面 likely 和 unlikely 这两句的具体含义就是:

  • __builtin_expect(!!(x),1) x 为真的可能性更大

  • __builtin_expect(!!(x),0) x 为假的可能性更大

当正确地使用了__builtin_expect后,编译器在编译过程中会根据程序员的指令,将可能性更大的代码紧跟着前面的代码,从而减少指令跳转带来的性能上的下降。

2. 实际动手验证

那我们实际动手写两个例子,来窥探一下编译器是如何进行优化的。为此我写了一段简单的测试代码,如下:

#include <stdio.h>
#define likely(x) __builtin_expect(!!(x), 1)
#define unlikely(x)  __builtin_expect(!!(x), 0)

int main(int argc, char *argv[])

 int n;
 n = atoi(argv[1]);

 if (likely(n == 10))
  n = n + 2;
  else 
  n = n - 2;
 
 printf("%d\\n", n);
 return 0;

这段代码非常简单,对用户的输入做一个 if else 判断。在 if 中使用了 likely,也就是假设这个条件为真的概率更大。那么我们来看看它编译后的汇编码来看看。

图中上面红框内是对 if 的汇编结果,可见它使用的是 jne 指令。它的作用是看它的上一句比较结果,如果不相等则跳转到 4004bc 处,相等的话则继续执行后面的指令。

在 jne 指令后面紧挨着的是 n = n + 2 对应的汇编代码, 也就是说它把 n = n + 2 这段代码逻辑放在了紧挨着自己身边。而把 n = n - 2 的执行逻辑放在了离当前指令较远的 4004bc 处。

我们再把 likey 换成 unlikey 看一下,发现结果是正好相反,这次把 n = n - 2 的执行逻辑放在前面了,如图。

注意,编译时需要加 -O2 选项,使用 objdump -S 来查看汇编指令。为了方便大家使用,我把它写到 makefile 里了,和测试代码一起放到了咱们的 Github 上了。

大家想动手的可以玩玩,地址:

https://github.com/yanfeizhang/coder-kung-fu/tree/main/tests/cpu/test01

3. 性能提升原理

那这么做为什么就能够提升程序运行性能呢?原因有两个。

首先第一个原因就是 CPU 高速缓存。现代的 CPU 一般都有三级的缓存,用来解决内存访问过慢的问题。访问数据时优先从 L1 读取,读取不到再读 L2、还读不到就读 L3,最后用内存兜底。

这里要注意的是,每一次缓存数据的单位都是以一个 CacheLine 64 字节为单位进行存储的。假如说要查询的数据在 L1 中不存在,那么 CPU 的做法是一次性从 L2 中把要访问的数据及其后面的 64 个字节全部缓存进来。

假如下一次再执行的时候要访问的指令在上一次已经在 L1 中存在了,那么就直接访问 L1,就不必再从 L2 来读取了。回到上面的例子,假如说我们执行完了 cmp 对比指令以后,判断确实是要进加法分支,那紧接着就会执行 jne 后面的 mov xor 等指令大概率就可以从 L1 中取到了。

假如说 cmp 对比执行后,发现是要跳到 4004bc 处的指令执行。那大概率该位置处的指令还没有被加载到缓存中(实践中一个分支下可能会包含很多代码,而不是像我这个例子中简单的两三行),就避免不了从 L2 L3 甚至是速度更慢的 L3 去读取指令。

除了高速缓存这个原因以外,还有一个更底层的原理。那就是 CPU 的流水线技术。CPU 在执行程序指令的时候,并不是先执行一个,执行完了再运行下一个这样的。而是把每个指令都分成了多个阶段,并让不同指令的各步操作重叠,从而实现几条指令并行处理。

还拿上面编译出来的汇编码来举例,程序中 cmp、jne、mov 几个指令是挨着的,那么 CPU 在执行的时候实际是大概这样的。

当 jne 指令正在执行的时候,后面的两个 mov 指令都已经分别进入到译码和取址阶段了都。假如说分支预测失败,那么这工作就白干了。

4. 小结

总结一下,今天分享的 likely 和 unlikely 其实是属于是辅助 CPU 分支预测的性能优化方法。这就是 likely 和 unlikely 背后的这点小秘密。它是为了让 CPU 的高速缓存命中率更高,同时也为了让 CPU 的流水线更好地工作。

Linux 作为一个基础程序,在性能上真的是考虑到了极致。内核的作者们内功都是非常的深厚,都深谙计算机的底层工作原理。为了极致的性能追求精心打磨每一个细节,非常值得我们学习和借鉴。

不过这里要说的一点是,likely 和 unlikely 的概率判断务必准确。如果写反了,反而会起到反作用。

往期推荐

如果让你来设计网络

写时复制就这么几行代码,还是不会?

JavaScript 数组你都掰扯不明白,还敢说精通 JavaScript ?

明明还有大量内存,为啥报错“无法分配内存”?

点分享

点收藏

点点赞

点在看

springboot发送邮件,端口号大有玄机

文章目录1.什么是SMTP2.SMTPPort2.1252.25872.34652.4小结3.号外3.1邮件基础3.2准备工作3.3项目创建3.3.1发送简单邮件3.3.2发送带附件的邮件3.3.3发送带图片资源的邮件3.3.4使用Freemarker作邮件模板3.3.5使用Thymeleaf作邮件模板SpringBoot发送邮件... 查看详情

图灵奖得主lecun纽约大学教授marcus,大佬争论背后的玄机(代码片段)

整理|杨阳出品|CSDN(ID:CSDNnews)四年前,纽约大学教授Marcus为反驳深度学习三巨头之一Bengio的“有意识先验”和“解纠缠观念”理论,发表了一篇名为《DeepLearning:ACriticalAppraisal》的论文,长达27页。论文... 查看详情

图灵奖得主lecun纽约大学教授marcus,大佬争论背后的玄机(代码片段)

整理|杨阳出品|CSDN(ID:CSDNnews)四年前,纽约大学教授Marcus为反驳深度学习三巨头之一Bengio的“有意识先验”和“解纠缠观念”理论,发表了一篇名为《DeepLearning:ACriticalAppraisal》的论文,长达27页。论文... 查看详情

京东在美上市背后到底暗藏啥玄机?

5月22日晚上,备受期待的京东商城将于今晚赴美上市。京东最新提交的招股书显示,京东IPO的发行价区间为16美元-18美元。估计将发行9369万股ADS和1405万股超额配售权,最高可融资19.39亿美元。如以发行价区间计算。京东的估ࠆ... 查看详情

mysql精确查询是否字段中包含某个字符串(代码片段)

...KE模糊查询,这样的数据不太精确,如果姓名有“西贝小小凤1,西贝小小凤2”这样的也会查出来,数据不太准确select*fromtablewherefieldlike‘%西贝小小凤%‘查询结果       查看详情

大疆宣布:停售乌俄无人机业务。背后有何玄机?

查看详情

黄铮,张一鸣,宿华退居二线的背后,暗藏玄机,没那么简单

上面这个公号「涩郎」,是我的一个备用号,为了防止万一哪天大号失联,平时一周我也会发三篇左右的我的思考,读书笔记,认知感悟等文章,带领大家一起探索精神与财务自由之路。大家好,我是... 查看详情

让阿根廷队“告吹”的三个球背后,2022年世界杯暗藏哪些技术玄机?

整理|苏宓出品|CSDN(ID:CSDNnews)「足球反着买,别墅靠大海」,昨晚 2022年卡塔尔世界杯的一场小组赛上,最有看头的阿根廷球队出现惊天冷门,以1:2败北沙特阿拉伯队,为此,外部的无数球... 查看详情

gitpul的使用(代码片段)

...充分诠释了什么是简即繁,繁即简;看上去简单的,往往背后蕴藏玄机; 测试环境:本地分支:master和dev远程分支:mast 查看详情

大有乾坤,售前机器人背后的ai技术

...句“在呢,请问有什么可以帮助您?”,屏幕背后大部分为智能客服机器人。在不同业务场景对话中,如何提高智能机器人对用户意图识别和对话逻辑控制,提高营销转化ÿ 查看详情

教妹学java:大有可为的集合(代码片段)

00、故事的起源“二哥,上一篇《泛型》的反响效果怎么样啊?”三妹对她提议的《教妹学Java》专栏很是关心。“有人评论说,‘二哥你敲代码都敲出幻想了啊。’”“呵呵,这句话充斥着满满的讽刺意味... 查看详情

小小的心得把(代码片段)

获得经验遇到500不要惊慌失措,小黄鸭调式,多来几次理清思路,还是500的话那就清缓存,再不行的话就重启电脑!!!还有以后注意这种类型,可把我害惨了enctype="multipart/form-data"写SQL的时候注意?是不是英文的,注意... 查看详情

php为wordpress中的帖子创建小小的url(代码片段)

查看详情

matlab的小小小命令(代码片段)

h=waitbar(x,‘message‘)waitbar(x,‘message‘,‘CreateCancelBtn‘,‘button_callback‘)waitbar(x,‘message‘,property_name,property_value,...)waitbar(x)waitbar(x,h)waitbar(x,h,‘updatedmessage‘)example:h=waitbar( 查看详情

textgit克隆背后的概念(代码片段)

查看详情

css文字背后的线条(代码片段)

查看详情

xmlelb背后的tomcatssl(代码片段)

查看详情

vue暗含玄机的v-for指令(代码片段)

 由于是多个事项,那么这个数据模型是一个数组;为了显示这些代办事项我们首先添加一些样本数据 <script>exportdefaultdata()return    title:‘vue-todos‘,tableData:[date:‘2016-05-02‘,name:‘王小虎‘,address:‘上海市普陀... 查看详情