内存虚拟化-空闲空间管理 | 彩潭有鲤的札记

type

status

date

slug

summary

底层机制

分割与合并

空闲列表包含一组元素，记录了堆中的哪些空间还没有分配。假设有下面的30 字节的堆：

对应的空闲列表会有两个元素，一个描述第一个10字节的空闲区域（字节0～9），一个描述另一个空闲区域（20～29）：

任何大于10 字节的分配请求都会失败（返回NULL），因为没有足够的连续可用空间。而恰好10 字节的需求可以由两个空闲块中的任何一个满足。但是，如果申请小于10 字节空间，会发生什么？

假设只申请一个字节的内存。这种情况下，分配程序会执行所谓的分割（splitting）动作：它找到一块可以满足请求的空闲空间，将其分割，第一块返回给用户，第二块留在空闲列表中。

假设这时遇到申请一个字节的请求，分配程序选择使用第二块空闲空间，对malloc()的调用会返回20（1 字节分配区域的地址），空闲列表变成：

许多分配程序中因此也有一种机制，名为合并（coalescing）。

对于这个（小）堆，如果应用程序调用free(10)，归还堆中间的空间，会发生什么？如果只是简单地将这块空闲空间加入空闲列表，不多想想，可能得到如下的结果：

问题出现了：尽管整个堆现在完全空闲，但它似乎被分割成了3 个10 字节的区域。这时，如果用户请求20 字节的空间，简单遍历空闲列表会找不到这样的空闲块，因此返回失败。

为了避免这个问题，分配程序会在释放一块内存时合并可用空间。想法很简单：在归还一块空闲内存时，仔细查看要归还的内存块的地址以及邻它的空闲空间块。如果新归还的空间与一个原有空闲块相邻，就将它们合并为一个较大的空闲块。通过合并，最后空闲列表应该像这样：

追踪已分配空间的大小

free(void *ptr)接口没有块大小的参数。因此它是假定，对于给定的指针，内存分配库可以很快确定要释放空间的大小，从而将它放回空闲列表。要完成这个任务，大多数分配程序都会在头块（header）中保存一点额外的信息，它在内存中，通常就在返回的内存块之前。

检查一个20 字节的已分配块，由ptr指着，设想用户调用了malloc()，并将结果保存在ptr 中：ptr = malloc(20)。

该头块中至少包含所分配空间的大小（20）。它也可能包含一些额外的指针来加速空间释放，包含一个幻数来提供完整性检查，以及其他信息。假定，一个简单的头块包含了分配空间的大小和一个幻数：

用户调用free(ptr)时，库会通过简单的指针运算得到头块的位置：

获得头块的指针后，库可以很容易地确定幻数是否符合预期的值，作为正常性检查（assert(hptr->magic == 1234567)），并简单计算要释放的空间大小（即头块大小加上分配给用户的空间的大小）。

嵌入空闲列表

如何在空闲内存自己内部建立这样一个列表呢？

假设需要管理一个4096 字节的内存块（即堆是4KB）。为了将它作为一个空闲空间列表来管理，首先要初始化这个列表。开始，列表中只有一个条目，记录了大小为4096的空间（减去头块的大小）。下面是该列表中一个节点描述：

head 指针指向这块区域的起始地址，假设是16KB（任何虚拟地址都可以）

现在，假设有一个100 字节的内存请求。为了满足这个请求，库首先要找到一个足够大小的块。因为只有一个4088 字节的块，所以选中这个块。然后，这个块被分割（split）为两块：一块足够满足请求（以及头块），一块是剩余的空闲块。假设记录头块为8个字节（一个整数记录大小，一个整数记录幻数），堆中的空间如图所示：

至此，对于100 字节的请求，库从原有的一个空闲块中分配了108 字节，返回指向它的一个指针（ptr），并在其之前连续的8字节中记录头块信息，供未来的free()函数使用。同时将列表中的空闲节点缩小为3980 字节（4088−108）。

有3个已分配区域，每个100（加上头块是108）。该空间中有3 个头块，以及3 个100字节的用户使用空间。

空闲列表只有一个节点（由head 指向），但在3 次分割后，现在大小只有3764 字节。但如果用户程序通过free()归还一些内存，会发生什么？

应用程序调用free(16500)，归还了中间的一块已分配空间（内存块的起始地址16384加上前一块的108，和这一块的头块的8字节，就得到了16500）。这个值在前图中用sptr 指向。库马上弄清楚了这块要释放空间的大小，并将空闲块加回空闲列表。假设将它插入到空闲列表的头位置

现在的空闲列表包括一个小空闲块（100 字节，由列表的头指向）和一个大空闲块（3764字节）。空闲空间被分割成了两段，但很常见。

现在假设剩余的两块已分配的空间也被释放。没有合并，空闲列表将非常破碎。解决方案：遍历列表，合并（merge）相邻块。完成之后，堆又成了一个整体。

让堆增长

如果堆中的内存空间耗尽，应该怎么办？最简单的方式就是返回失败。在某些情况下这也是唯一的选择，因此返回NULL 也是一种体面的方式。

大多数传统的分配程序会从很小的堆开始，当空间耗尽时，再向操作系统申请更大的空间。通常，这意味着它们进行了某种系统调用（例如，大多数UNIX 系统中的sbrk），让堆增长。操作系统在执行sbrk 系统调用时，会找到空闲的物理内存页，将它们映射到请求进程的地址空间中去，并返回新的堆的末尾地址。这时，就有了更大的堆，请求就可以成功满足。

管理空闲空间的一些基本策略

最优匹配（最小匹配）

首先遍历整个空闲列表，找到和请求大小一样或更大的空闲块，然后返回这组候选者中最小的一块。这就是所谓的最优匹配。只需要遍历一次空闲列表，就足以找到正确的块并返回。最优匹配背后的想法很简单：选择最接它用户请求大小的块，从而尽量避免空间浪费。然而，这有代价。简单的实现在遍历查找正确的空闲块时，要付出较高的性能代价。

最差匹配

最差匹配方法与最优匹配相反，它尝试找最大的空闲块，分割并满足用户需求后，将剩余的块（很大）加入空闲列表。最差匹配尝试在空闲列表中保留较大的块，而不是向最优匹配那样可能剩下很多难以利用的小块。但是，最差匹配同样需要遍历整个空闲列表。更糟糕的是，大多数研究表明它的表现非常差，导致过量的碎片，同时还有很高的开销。

首次匹配

首次匹配（first fit）策略就是找到第一个足够大的块，将请求的空间返回给用户。同样，剩余的空闲空间留给后续请求。

首次匹配有速度优势（不需要遍历所有空闲块），但有时会让空闲列表开头的部分有很多小块。因此，分配程序如何管理空闲列表的顺序就变得很重要。一种方式是基于地址排序。通过保持空闲块按内存地址有序，合并操作会很容易，从而减少了内存碎片。

下次匹配

不同于首次匹配每次都从列表的开始查找，下次匹配算法多维护一个指针，指向上一次查找结束的位置。其想法是将对空闲空间的查找操作扩散到整个列表中去，避免对列表开头频繁的分割。这种策略的性能与首次匹配很接它，同样避免了遍历查找。

设想一个空闲列表包含3 个元素，长度依次为10、30、20：

假设有一个15 字节的内存请求。最优匹配会遍历整个空闲列表，发现20 字节是最优匹配，因为它是满足请求的最小空闲块。结果空闲列表变为：

最差匹配类似，但会选择最大的空闲块进行分割，在结果空闲列表变为：

首次匹配会和最差匹配一样，也发现满足请求的第一个空闲块。不同的是查找开销，最优匹配和最差匹配都需要遍历整个列表，而首次匹配只找到第一个满足需求的块即可，因此减少了查找开销。

其他方式

分离空闲列表

如果某个应用程序经常申请一种（或几种）大小的内存空间，那就用一个独立的列表，只管理这样大小的对象。其他大小的请求都一给更通用的内存分配程序。

这种方法的好处显而易见。通过拿出一部分内存专门满足某种大小的请求，碎片就不再是问题了。而且，由于没有复杂的列表查找过程，这种特定大小的内存分配和释放都很快。就像所有好主意一样，这种方式也为系统引入了新的复杂性。例如，应该拿出多少内存来专门为某种大小的请求服务，而将剩余的用来满足一般请求？超级工程师Jeff Bonwick为Solaris 系统内核设计的厚块分配程序（slab allocator），很优雅地处理了这个问题。

具体来说，在内核启动时，它为可能频繁请求的内核对象创建一些对象缓存（object cache），如锁和文件系统inode 等。这些的对象缓存每个分离了特定大小的空闲列表，因此能够很快地响应内存请求和释放。如果某个缓存中的空闲空间快耗尽时，它就向通用内存分配程序申请一些内存厚块（slab）（总量是页大小和对象大小的公倍数）。相反，如果给定厚块中对象的引用计数变为0，通用的内存分配程序可以从专门的分配程序中回收这些空间，这通常发生在虚拟内存系统需要更多的空间的时候。

厚块分配程序比大多数分离空闲列表这得更多，它将列表中的空闲对象保持在预初始化的状态。Bonwick 指出，数据结构的初始化和销毁的开销很大。通过将空闲对象保持在初始化状态，厚块分配程序避免了频繁的初始化和销毁，从而显著降低了开销。

伙伴系统

因为合并对分配程序很关键，所以人们设计了一些方法，让合并变得简单，一个好例子就是二分伙伴分配程序（binary buddy allocator）。

在这种系统中，空闲空间首先从概念上被看成大小为2N 的大空间。当有一个内存分配请求时，空闲空间被递归地一分为二，直到刚好可以满足请求的大小（再一分为二就无法满足）。这时，请求的块被返回给用户。在下面的例子中，一个64KB 大小的空闲空间被切分，以便提供7KB 的块：

最左边的8KB 块被分配给用户。注意，这种分配策略只允许分配2的整数次幂大小的空闲块，因此会有内部碎片（internal fragment）的麻烦。

伙伴系统的漂亮之处在于块被释放时。如果将这个8KB 的块归还给空闲列表，分配程序会检查“伙伴”8KB 是否空闲。如果是，就合二为一，变成16KB 的块。然后会检查这个16KB 块的伙伴是否空闲，如果是，就合并这两块。这个递归合并过程继续上溯，直到合并整个内存区域，或者某一个块的伙伴还没有被释放。

伙伴系统运转良好的原因，在于很容易确定某个块的伙伴。每对互为伙伴的块只有一位不同，正是这一位决定了它们在整个伙伴树中的层次。

其他想法

上面提到的众多方法都有一个重要的问题，缺乏可扩展性（scaling）。具体来说，就是查找列表可能很慢。因此，更先进的分配程序采用更复杂的数据结构来优化这个开销，牺牲简单性来换取性能。例子包括平衡二叉树、伸展树和偏序树。

考虑到现代操作系统通常会有多核，同时会运行多线程的程序，因此人们做了许多工作，提升分配程序在多核系统上的表现。