CPU缓存L1/L2/L3工作原理

╰+哭是因爲堅強的太久メ 2021-07-27 00:49 323阅读 0赞

点击上方“开源Linux”，选择“设为星标”

回复“学习”获取独家整理的学习资料！

![format_png][]

**一、前言**

在过去的几年中，计算机处理器取得了相当大的进步，晶体管的尺寸每年都在变小，而且这种进步达到了摩尔定律迅速变得多余的地步。

当涉及到处理器时，不仅晶体管和频率很重要，高速缓存也很重要。

在讨论CPU(Central Processing Units)时，您可能听说过高速缓存。但是，我们并没有过多地关注这些数字，它们也不是这些CPU广告的主要亮点。

![format_png 1][]

那么，CPU缓存到底有多重要，它又是如何工作的?

**二、什么是CPU缓存?**

首先，缓存只是一种非常快速的内存类型。您可能知道，计算机内部有多种内存类型。有一个主存储(如硬盘或SSD)，用于存储大量数据(操作系统和所有程序)。

接下来，我们有随机存取存储器，通常称为RAM。这比主存储要快得多。

![format_png 2][]

最后，CPU自身具有更快的存储单元，我们称之为缓存。

计算机的内存具有基于速度的层次结构，而缓存位于该层次结构的顶部，是最快的。它也是最靠近中央处理的地方，它是CPU本身的一部分。

高速缓存是静态RAM(SRAM)，而系统RAM是动态RAM(DRAM)。静态RAM是一种可以保存数据但是不要用一直刷新的存储器，与DRAM不同，SRAM更加适合用于高速缓存。

![format_png 3][]

**三、CPU缓存如何工作?**

我们已经知道，程序被设计为一组指令，最终由CPU运行。

当我们运行程序的时候，这些指令必须从主存储器取指令到CPU。这是内存层次结构起作用的地方。

数据首先被加载到RAM中，然后被发送到CPU。因为CPU每秒都能够执行大量指令。为了充分利用其功能，CPU需要访问超高速内存，这是缓存的来源。

内存控制器执行从RAM中获取数据并将其发送到缓存的工作。根据系统中使用的CPU，此控制器可以位于主板的北桥芯片组上，也可以位于CPU本身内部。

然后，高速缓存在CPU内执行数据的来回传输。内存的层次结构也存在于缓存中。

**四、缓存级别：L1，L2和L3**

CPU缓存分为三个主要的级别，即L1，L2和L3。这里的层次结构是根据缓存速度来划分的。

![format_png 4][]

L1(1级)高速缓存是计算机系统中存在的最快的内存。就访问优先级而言，L1缓存具有CPU在完成特定任务时最可能需要的数据。

就其大小而言，L1高速缓存通常最多可达256KB。但是，一些真正功能强大的CPU现在将其占用近1MB。现在，某些服务器芯片组(如Intel的高端Xeon CPU)具有1-2MB的一级缓存。

L1缓存通常也分为两种方式，分为指令缓存和数据缓存。指令高速缓存处理有关CPU必须执行的操作的信息，而数据高速缓存则保留要在其上执行操作的数据。

![format_png 5][]

L2(2级)缓存比L1缓存慢，但大小更大。它的大小通常在256KB到8MB之间，尽管更新，功能强大的CPU往往会超过此大小。L2高速缓存保存下一步可能由CPU访问的数据。在大多数现代CPU中，L1和L2高速缓存位于CPU内核本身，每个内核都有自己的高速缓存。

L3(3级)高速缓存是最大的高速缓存存储单元，也是最慢的一个。它的范围从4MB到50MB以上。现代CPU在CPU裸片上具有用于L3高速缓存的专用空间，并且占用了很大一部分空间。

**五、缓存命中或未命中以及延迟**

数据会从RAM依次流到L3高速缓存，然后是L2，最后是L1。

当处理器正在寻找要执行操作的数据时，它首先尝试在L1高速缓存中找到它。如果CPU能够找到它，则该情况称为高速缓存命中。然后，它继续在L2和L3中找到它。

如果找不到数据，它将尝试从主内存访问数据。这称为高速缓存未命中。

现在，众所周知，高速缓存旨在加快主内存和CPU之间的数据传输。

从内存访问数据所需的时间称为延迟，L1具有最低的延迟，是最快的，并且最接近核心，而L3具有最高的延迟。缓存未命中时，延迟会增加很多。这是因为CPU必须从主存储器中获取数据。

随着计算机变得越来越快和越来越好，我们看到延迟减少了。现在，我们拥有低延迟的DDR4 RAM，以及具有低访问时间的超高速SSD作为主要存储，这两项都大大降低了整体延迟。

以前，缓存设计曾经使L2和L3缓存位于CPU外部，这对延迟产生了负面影响。

然而，CPU制造工艺的进步使得在比以前更小的空间中安装数十亿个晶体管。因此，为缓存留出了更多空间，这使缓存尽可能地靠近核心，从而大大减少了延迟。

**六、缓存的未来**

缓存设计一直在发展，尤其是随着内存变得更便宜，更快和更密集。英特尔和AMD在缓存设计方面进行了相当多的试验，英特尔甚至还在试验L4缓存。CPU市场正在以前所未有的速度向前发展。

这样，我们必定会看到缓存设计跟上CPU不断增长的能力。

缓存设计方面进行了相当多的试验，英特尔甚至还在试验L4缓存。CPU市场正在以前所未有的速度向前发展。

这样，我们必定会看到缓存设计跟上CPU不断增长的能力。

此外，还有很多工作可以减少现代计算机的瓶颈。减少内存延迟可能是其中最大的一部分。业界正在为相同的解决方案而努力，并且未来看起来确实充满希望。

*来源：小麦大叔*

**- End -**

关注「开源Linux」加星标，提升IT技能

[format_png]: /images/20210726/1f47632bdd9d4cac94be0210542d4838.png
[format_png 1]: /images/20210726/2a0d13a6a10346c5b58631003e5ecf45.png
[format_png 2]: /images/20210726/7a4cb4c91aff4813a2a989387b0869e2.png
[format_png 3]: /images/20210726/1406eb79770241e1ae0c6d0b1d26535e.png
[format_png 4]: /images/20210726/4c40976f32994a898dde9213185d47de.png
[format_png 5]: /images/20210726/7d08565bbe9e46f79f2c960e460e404c.png

发表评论取消回复

表情：

评论列表（有 0 条评论，323人围观）

还没有评论，来说两句吧...

相关阅读

相关 L1和L2正则化和L1和L2损失

[L1和L2正则化][L1_L2] [https://blog.csdn.net/weixin\_43216017/article/details/88046435][L1

╰+哭是因爲堅強的太久メ/ 2023年01月13日 10:00/ 0 赞/ 153 阅读

相关 L1distance和L2distance区别

L1distance和L2distance区别： L1distance即曼哈顿，即城市距离，各维度距离之和 L2distance即欧式距离，两点间直线距离参考cs

小鱼儿/ 2022年12月08日 04:21/ 0 赞/ 296 阅读

相关 L1与L2正则化

0 公式定义 L L L为loss L1正则 m i n L + C ⋅ ∥ w ∥ 1 min L + C · \\left \\|w \\right \\|\

红太狼/ 2022年09月17日 05:22/ 0 赞/ 205 阅读

相关 l0-Norm, l1-Norm, l2-Norm, … , l-infinity Norm

原文链接：[http://blog.csdn.net/u011650143/article/details/54695180][http_blog.csdn.net_u0116

Love The Way You Lie/ 2022年06月06日 11:44/ 0 赞/ 204 阅读

相关 L0范式，L1范式，L2范式的简单理解

L0范数是指向量中非0的元素的个数。 L1范数是指向量中各个元素绝对值之和。既然L0可以实现稀疏，为什么不用L0，而要用L1呢？个人理解一是因为L0范数很难优化求解（NP

末蓝、/ 2022年06月03日 04:45/ 0 赞/ 211 阅读

相关 Given a singly linked list L: L 0→L 1→…→L n-1→L n, reorder it to: L 0→L n →L 1→L n-1→L 2→L n-2→…

> 题目描述 Given a singly linked list L: L 0→L 1→…→L n-1→L n, reorder it to: L 0→L n →L 1

Bertha 。/ 2022年05月26日 04:25/ 0 赞/ 200 阅读

相关 L1和L2正则化原理及分析

正则化是指在优化目标函数或代价函数是，在目标函数后面加上一个正则项。正则项通常有L1正则项和L2正则项。 1. L1正则 L1正则是基于L1范数和项，即参数的绝对

阳光穿透心脏的1/2处/ 2022年05月15日 05:04/ 0 赞/ 302 阅读

相关 L1和L2正则化

什么是正则化？正则化就是在损失函数后加上一个正则化项（惩罚项），其实就是常说的结构风险最小化策略，即经验风险（损失函数）加上正则化。一般模型越复杂，正则化值越大。常

蔚落/ 2022年03月02日 08:42/ 0 赞/ 290 阅读

相关 [转] L1 && L2范数

作者：Andy Yang 链接：https://www.zhihu.com/question/26485586/answer/616029832 来源：知乎著作权

ゝ一世哀愁。/ 2022年01月05日 05:39/ 0 赞/ 328 阅读

相关 CPU缓存L1/L2/L3工作原理

点击上方“开源Linux”，选择“设为星标” 回复“学习”获取独家整理的学习资料！ ![format_png][] 一、前言在过去的几年中，计算机处理器取得了相

╰+哭是因爲堅強的太久メ/ 2021年07月27日 00:49/ 0 赞/ 324 阅读