深入解析Linux系统下的高端内存
作者：Tommy_wxie
字体：[ ] 来源：wxie的Linux人生 时间：10-08 09:46:35
这篇文章主要介绍了深入解析Linux系统下的高端内存,包括其内存映射方式等问题,需要的朋友可以参考下
Linux内核地址空间划分
通常32位Linux内核虚拟地址空间划分0~3G为用户空间，3~4G为内核空间(注意，内核可以使用的线性地址只有1G)。注意这里是32位内核地址空间划分，64位内核地址空间划分是不同的。通常32位Linux内核虚拟地址空间划分0~3G为用户空间，3~4G为内核空间(注意，内核可以使用的线性地址只有1G)。注意这里是32位内核地址空间划分，64位内核地址空间划分是不同的。
Linux内核高端内存的由来
当内核模块代码或线程访问内存时，代码中的内存地址都为逻辑地址，而对应到真正的物理内存地址，需要地址一对一的映射，如逻辑地址0xc0000003对应的物理地址为0&3，0xc0000004对应的物理地址为0&4，& &，逻辑地址与物理地址对应的关系为
物理地址 = 逻辑地址 & 0xC0000000：这是内核地址空间的地址转换关系，注意内核的虚拟地址在&高端&，但是ta映射的物理内存地址在低端。
　　实际上，&内核直接映射空间&也达不到 1G， 还得留点线性空间给&内核动态映射空间& 呢。
　　因此，Linux 规定&内核直接映射空间& 最多映射 896M 物理内存。
　　对于高端内存，可以通过 alloc_page() 或者其它函数获得对应的 page，但是要想访问实际物理内存，还得把 page 转为线性地址才行（为什么？想想 MMU 是如何访问物理内存的），也就是说，我们需要为高端内存对应的 page 找一个线性空间，这个过程称为高端内存映射。假 设按照上述简单的地址映射关系，那么内核逻辑地址空间访问为0xc0000000 ~ 0xffffffff，那么对应的物理内存范围就为0&0 ~ 0&，即只能访问1G物理内存。若机器中安装8G物理内存，那么内核就只能访问前1G物理内存，后面7G物理内存将会无法访问，因为内核 的地址空间已经全部映射到物理内存地址范围0&0 ~ 0&。即使安装了8G物理内存，那么物理地址为0&的内存，内核该怎么去访问呢？代码中必须要有内存逻辑地址 的，0xc0000000 ~ 0xffffffff的地址空间已经被用完了，所以无法访问物理地址0&以后的内存。
显 然不能将内核地址空间0xc0000000 ~ 0xfffffff全部用来简单的地址映射。因此x86架构中将内核地址空间划分三部分：ZONE_DMA、ZONE_NORMAL和 ZONE_HIGHMEM。ZONE_HIGHMEM即为高端内存，这就是内存高端内存概念的由来。
在x86结构中，三种类型的区域（从3G开始计算）如下：
ZONE_DMA&&&&&&& 内存开始的16MB
ZONE_NORMAL&&&&&& 16MB~896MB
ZONE_HIGHMEM&&&&&& 896MB ~ 结束（1G）
高端内存是指物理地址大于 896M 的内存。对于这样的内存，无法在&内核直接映射空间&进行映射。
　　因为&内核直接映射空间&最多只能从 3G 到 4G，只能直接映射 1G 物理内存，对于大于 1G 的物理内存，无能为力。
高端内存映射有三种方式：
1、映射到&内核动态映射空间&
　　这种方式很简单，因为通过 vmalloc() ，在&内核动态映射空间&申请内存的时候，就可能从高端内存获得页面（参看 vmalloc 的实现），因此说高端内存有可能映射到&内核动态映射空间& 中。
2、永久内核映射
　　如果是通过 alloc_page() 获得了高端内存对应的 page，如何给它找个线性空间？
　　内核专门为此留出一块线性空间，从 PKMAP_BASE 到 FIXADDR_START ，用于映射高端内存。在 2.4 内核上，这个地址范围是 4G-8M 到 4G-4M 之间。这个空间起叫&内核永久映射空间&或者&永久内核映射空间&
　　这个空间和其它空间使用同样的页目录表，对于内核来说，就是 swapper_pg_dir，对普通进程来说，通过 CR3 寄存器指向。
　　通常情况下，这个空间是 4M 大小，因此仅仅需要一个页表即可，内核通过来 pkmap_page_table 寻找这个页表。
　　通过 kmap()， 可以把一个 page 映射到这个空间来
　　由于这个空间是 4M 大小，最多能同时映射 1024 个 page。因此，对于不使用的的 page，应该及时从这个空间释放掉（也除映射关就是解系），通过 kunmap() ，可以把一个 page 对应的线性地址从这个空间释放出来。
3、临时映射
　　内核在 FIXADDR_START 到 FIXADDR_TOP 之间保留了一些线性空间用于特殊需求。这个空间称为&固定映射空间&
　　在这个空间中，有一部分用于高端内存的临时映射。
　　这块空间具有如下特点：
　　1、 每个 CPU 占用一块空间
　　2、 在每个 CPU 占用的那块空间中，又分为多个小空间，每个小空间大小是 1 个 page，每个小空间用于一个目的，这些目的定义在 kmap_types.h 中的 km_type 中。
　　当要进行一次临时映射的时候，需要指定映射的目的，根据映射目的，可以找到对应的小空间，然后把这个空间的地址作为映射地址。这意味着一次临时映射会导致以前的映射被覆盖。
　　通过 kmap_atomic() 可实现临时映射。
&&&&& 下图简单简单表达如何对高端内存进行映射Linux内存线性地址空间大小为4GB，分为2个部分：用户空间部分（通常是3G）和内核空间部分（通常是1G）。在此我们主要关注内核地址空间部分。
内核通过内核页全局目录来管理所有的物理内存，由于线性地址前3G空间为用户使用，内核页全局目录前768项（刚好3G）除0、1两项外全部为0，后256项（1G）用来管理所有的物理内存。内核页全局目录在编译时静态地定义为swapper_pg_dir数组，该数组从物理内存地址0x101000处开始存放。
由图可见，内核线性地址空间部分从PAGE_OFFSET（通常定义为3G）开始，为了将内核装入内存，从PAGE_OFFSET开始8M线性地址用来映射内核所在的物理内存地址（也可以说是内核所在虚拟地址是从PAGE_OFFSET开始的）；接下来是mem_map数组，mem_map的起始线性地址与体系结构相关，比如对于UMA结构，由于从PAGE_OFFSET开始16M线性地址空间对应的16M物理地址空间是DMA区，mem_map数组通常开始于PAGE_OFFSET+16M的线性地址；从PAGE_OFFSET开始到VMALLOC_START & VMALLOC_OFFSET的线性地址空间直接映射到物理内存空间（一一对应影射，物理地址&==&线性地址-PAGE_OFFSET），这段区域的大小和机器实际拥有的物理内存大小有关，这儿VMALLOC_OFFSET在X86上为8M，主要用来防止越界错误；在内存比较小的系统上，余下的线性地址空间（还要再减去空白区即VMALLOC_OFFSET）被vmalloc()函数用来把不连续的物理地址空间映射到连续的线性地址空间上，在内存比较大的系统上，vmalloc()使用从VMALLOC_START到VMALLOC_END（也即PKMAP_BASE减去2页的空白页大小PAGE_SIZE（解释VMALLOC_END））的线性地址空间，此时余下的线性地址空间（还要再减去2页的空白区即VMALLOC_OFFSET）又可以分成2部分：第一部分从PKMAP_BASE到FIXADDR_START用来由kmap()函数来建立永久映射高端内存；第二部分，从FIXADDR_START到FIXADDR_TOP，这是一个固定大小的临时映射线性地址空间，（引用：Fixed virtual addresses are needed for subsystems that need to know the virtual address at compile time such as the APIC），在X86体系结构上，FIXADDR_TOP被静态定义为0xFFFFE000,此时这个固定大小空间结束于整个线性地址空间最后4K前面，该固定大小空间大小是在编译时计算出来并存储在__FIXADDR_SIZE变量中。
&&&&& 正是由于vmalloc()使用区、kmap()使用区及固定大小区（kmap_atomic()使用区）的存在才使ZONE_NORMAL区大小受到限制，由于内核在运行时需要这些函数，因此在线性地址空间中至少要VMALLOC_RESERVE大小的空间。VMALLOC_RESERVE的大小与体系结构相关，在X86上，VMALLOC_RESERVE定义为128M，这就是为什么ZONE_NORMAL大小通常是16M到896M的原因。
大家感兴趣的内容
12345678910
最近更新的内容本帖子已过去太久远了，不再提供回复功能。一.概述 & & & & & & & & & & & & & & & & & & & & & & & & &
内存映射是在调用进程的虚拟地址空间创建一个新的内存映射。
内存映射分为2种：
1.文件映射：将一个普通文件的全部或者一部分映射到进程的虚拟内存中。映射后，进程就可以直接在对应的内存区域操作文件内容！
2.匿名映射：匿名映射没有对应的文件或者对应的文件是虚拟文件(如：/dev/zero)，映射后会把内存分页全部初始化为0。
当多个进程映射了同一个内存区域时，它们会共享物理内存的相同分页。通过fork()创建的子进程也会继承父进程的映射副本！！！
如果多个进程都会同一个内存区域操作时，会根据映射的特性，会有不同的行为。映射特征可分为私有映射和共享映射：
1.私有映射：映射的内容对其他进程不可见。对于文件映射来说，某一个进程在映射内存中改变文件的内容不会反映到被映射的底层文件中。内核会使用copy-on-write(写时复制)技术来解决这个问题：只要有一个进程修改了分页中的内容，内核会为该进程重新创建一个新的分页，并将需要修改的内容复制到新分页中。
2.共享映射：某一个进程对共享的内存区域操作都对其他进程可见！！！对于文件映射，操作的内容会反映到底层文件中。
注意：进程执行exec()调用后，先前的内存映射会丢失，而fork()创建的子进程会继承父进程的，映射的特征(私有和共享)也会被继承。
异常信号：
1.当映射内存的属性设置只读时，如果进行写操作会产生SIGSEGV信号。
2.当映射内存的字节数大于被映射文件的大小，且大于该文件当前的内存分页大小时。如果访问的区域超过了该文件分页大小，会产生SIGBUS信号。
有点绕口，举个简单的例子：假设内核维护的内存分页是4k(一般都是4k，4096字节)，一个普通文件a.txt的大小是10字节。如果创建一个映射内存为4097字节，并映射该文件。此时，因为a.txt的大小用一个分页就可以完全映射，10字节远小于一个分页的4096字节，所以内核只会给它一个分页。内存地址是从0开始，0-9区间的内容对应a.txt文件的数据，我们也是可以访问10-4095的区间。但如果访问4096区间时，已经超过一个分页的大小了，此时会产生SIGBUS信号！！！
等会我们用个简单的例子演示下这2个异常。
二.函数接口 & & & & & & & & & & & & & & & & & & & & & &
1.创建映射
1 #include &sys/mman.h&
3 void *mmap(void *addr, size_t length, int prot, int flags, int fd, off_t offset);
addr：映射后要存放的虚拟内存地址。如果是NULL，内核会自动帮你选择。
length：映射内存的字节数。
prot：权限保护：PROT_NONE(无法访问)，PROT_READ(可读)，PROT_WRITE(可写)，PROT_EXEC(可执行)。
flags：映射特征：MAP_PRIVATE(私有)，MAP_SHARED(共享)，MAP_ANONYMOUS。还有一些其他的可查询man手册。
fd：要映射的文件描述符。
offset：文件的偏移量，如果为0，且length为文件长度，代表映射整个文件。
2.解除映射
1 #include &sys/mman.h&
3 int munmap(void *addr, size_t length);
addr：要解除内存的起始地址。如果addr不在刚刚映射区域的开始位置，解除一部分后内存区域可能会分成两半！！！
length：要解除的字节数。
&3.同步映射区
1 #include &sys/mman.h&
3 int msync(void *addr, size_t length, int flags);
addr：要同步的内存起始地址。
length：要同步的字节长度。
flags：MS_SYNC(执行同步文件写入)，此操作内核会把内容直接写到磁盘。MS_ASYNC(执行异步文件写入)，此操作内核会先把内容写到内核的缓冲区，某个合适的时候再写到磁盘。
三.文件映射实例 & & & & & & & & & & & & & & & & & & & & &&
* @file mmap_file.c
5 #include &stdio.h&
6 #include &stdlib.h&
7 #include &string.h&
8 #include &fcntl.h&
9 #include &signal.h&
10 #include &unistd.h&
11 #include &sys/mman.h&
13 #define MMAP_FILE_NAME "a.txt"
14 #define MMAP_FILE_SIZE 10
16 void err_exit(const char *err_msg)
printf("error:%s\n", err_msg);
22 /* 信号处理器 */
23 void signal_handler(int signum)
if (signum == SIGSEGV)
printf("\nSIGSEGV handler!!!\n");
else if (signum == SIGBUS)
printf("\nSIGBUS handler!!!\n");
32 int main(int argc, const char *argv[])
if (argc & 2)
printf("usage:%s text\n", argv[0]);
int file_fd, text_
long int sys_
/* 设置信号处理器 */
if (signal(SIGSEGV, signal_handler) == SIG_ERR)
err_exit("signal()");
if (signal(SIGBUS, signal_handler) == SIG_ERR)
err_exit("signal()");
if ((file_fd = open(MMAP_FILE_NAME, O_RDWR)) == -1)
err_exit("open()");
/* 系统分页大小 */
sys_pagesize = sysconf(_SC_PAGESIZE);
printf("sys_pagesize:%ld\n", sys_pagesize);
/* 内存只读 */
//addr = (char *)mmap(NULL, MMAP_FILE_SIZE, PROT_READ, MAP_SHARED, file_fd, 0);
/* 映射大于文件长度，且大于该文件分页大小 */
//addr = (char *)mmap(NULL, sys_pagesize + 1, PROT_READ | PROT_WRITE, MAP_SHARED, file_fd, 0);
/* 正常分配 */
addr = (char *)mmap(NULL, MMAP_FILE_SIZE, PROT_READ | PROT_WRITE, MAP_SHARED, file_fd, 0);
if (addr == MAP_FAILED)
err_exit("mmap()");
/* 原始数据 */
printf("old text:%s\n", addr);
/* 越界访问 */
//addr += sys_pagesize + 1;
//printf("out of range:%s\n", addr);
/* 拷贝新数据 */
text_len = strlen(argv[1]);
memcpy(addr, argv[1], text_len);
/* 同步映射区数据 */
//if (msync(addr, text_len, MS_SYNC) == -1)
err_exit("msync()");
/* 打印新数据 */
printf("new text:%s\n", addr);
/* 解除映射区域 */
if (munmap(addr, MMAP_FILE_SIZE) == -1)
err_exit("munmap()");
1.首先创建一个10字节的文件：
1 $:dd if=/dev/zero of=a.txt bs=1 count=10
2.把程序编译运行后，依次执行2次写入：
可以看到本机的分页大小是4096字节。第一次写入9个字节，原来用dd命令创建的文件为空，old text为空。第二次写入4个字节，只覆盖了最前面的1234。
3.验证可访问现有分页的内存。写入超过10字节的数据：
上面我们写入了17个字节，虽然64行的mmap()映射了MMAP_FILE_SIZE=10字节。但从输入new text可以看出，我们依然可以访问10字节后面的内存，因为该数据都在一个分页(4096)里面。cat查看a.txt后，只有前10个字节写入了a.txt。
4.验证SIGSEGV信号。把64行注释调，58行打开，设置映射属性为只读，编译后访问：
设置只读属性后，第77行有写操作。我们自定义的信号处理器就捕捉到了该信号。如果没有自定义信号处理器，终端就会输出Segmentation fault
5.验证SIGBUS信号。用61行的方法来映射内存。映射了一个分页大小再加1字节的内存，并放开72，73行的代码，让指针指向一个分页后的区域。编译后运行：
SIGBUS信号被自定义处理器捕捉到了。如果没有自定义信号处理器，终端就会输出Bus error
四.匿名映射 & & & & & & & & & & & & & & & & & & & & & &
匿名映射有2种方式：
1.指定mmap()的flags参数为MAP_ANONYMOUS，在linux上当指定这个值后会忽略fd参数的值。不过在有的UNIX上还需要把fd指定为-1。
2.把/dev/zero当做文件描述符打开，从/dev/zero读取数据时它会给你提供无穷无尽的0，向它写数据，它会丢弃。丢弃这点跟/dev/null一样，只是/dev/null不跟你提供数据。
3.匿名映射的使用跟上面的文件映射差不多。这里不再给例子。
阅读(...) 评论()