kmap的实现分析与实验

kmap的实现分析

kmap/unkmap系统调用是用来映射高端物理内存页到内核地址空间的api函数，他们分配的内核虚拟地址范围属于[PKMAP_BASE，PAGE_OFFSET]即[0xbfe00000，0xc0000000]范围，大小是2M的虚拟空间，为了映射该块虚拟地址，所使用的二级页表的大小刚好是一个物理page的总计是两个pte table（4KB）

kmap的调用流程分析：

arch/arm/mm/highmem.c

void *kmap(struct page *page)
{
	might_sleep();
	if (!PageHighMem(page)){//如果是低端内存，则直接返内存页对应的直接映射虚拟地址
		//printk("low mem page\n");
		return page_address(page);//所有的低端内存，在内核初始化时就已经映射好了，并且是不变得，且物理到虚拟相差0xc0000000
	}else{
		//printk("high mem page\n");
	}
	return kmap_high(page);//高端内存页
}

进入/trunk/mm/highmem.c的kmap_high

/**
 * kmap_high - map a highmem page into memory
 * @page: &struct page to map
 *
 * Returns the page's virtual memory address.
 *
 * We cannot call this from interrupts, as it may block.
 */
void *kmap_high(struct page *page)
{
	unsigned long vaddr;

	/*
	 * For highmem pages, we can't trust "virtual" until
	 * after we have the lock.
	 */
	lock_kmap();
	vaddr = (unsigned long)page_address(page);
	if (!vaddr)//如果该页的映射还未建立
		vaddr = map_new_virtual(page);//开始建立新的映射
	pkmap_count[PKMAP_NR(vaddr)]++;//该数组的值为1，说明映射已经建立，为2表明该应声存在着引用
	BUG_ON(pkmap_count[PKMAP_NR(vaddr)] < 2);
	unlock_kmap();
	return (void*) vaddr;
}

进入到map_new_virtual函数：

static inline unsigned long map_new_virtual(struct page *page)
{
	unsigned long vaddr;
	int count;

start:
	count = LAST_PKMAP; // 2MB/4096KB=512 entries = LAST_PKMAP

	/* Find an empty entry */
	for (;;) {
		last_pkmap_nr = (last_pkmap_nr + 1) & LAST_PKMAP_MASK;
		if (!last_pkmap_nr) {
			flush_all_zero_pkmaps();
			count = LAST_PKMAP;
		}
		if (!pkmap_count[last_pkmap_nr])//为0，说明该虚拟地址不存在映射，没人使用
			break;	/* Found a usable entry */
		if (--count)//如果遍历了整个kmap虚拟空间，都不能找到空闲的虚拟地址，则休眠等待unkmap释放虚拟地址
			continue;

		/*
		 * Sleep for somebody else to unmap their entries
		 */
		{
			DECLARE_WAITQUEUE(wait, current);

			__set_current_state(TASK_UNINTERRUPTIBLE);
			add_wait_queue(&pkmap_map_wait, &wait);
			unlock_kmap();
			schedule();
			remove_wait_queue(&pkmap_map_wait, &wait);
			lock_kmap();

			/* Somebody else might have mapped it while we slept */
			if (page_address(page))
				return (unsigned long)page_address(page);

			/* Re-start */
			goto start;
		}
	}
	vaddr = PKMAP_ADDR(last_pkmap_nr);//#define PKMAP_ADDR(nr) (PKMAP_BASE + ((nr) << PAGE_SHIFT))
	set_pte_at(&init_mm, vaddr,
		   &(pkmap_page_table[last_pkmap_nr]), mk_pte(page, kmap_prot));

	pkmap_count[last_pkmap_nr] = 1;
	set_page_address(page, (void *)vaddr);

	return vaddr;
}

上面代码中的pkmap_page_table是kmap所对应的虚拟地址[PKMAP_BASE，PAGE_OFFSET]所对应的二级映射表，即pte table，该映射表刚好是4KB用来映射2MB的虚拟到物理地址

pkmap_page_table使在trunk/arch/arm/mm/mmu.c文件中设置的：

static void __init kmap_init(void)
{
#ifdef CONFIG_HIGHMEM

        //获取kmap所对应的虚拟地址[PKMAP_BASE，PAGE_OFFSET]所对应的二级映射表的开始地址。该二级映射表刚好就是一个物理页的大小
	pkmap_page_table = early_pte_alloc_and_install(pmd_off_k(PKMAP_BASE),
		PKMAP_BASE, _PAGE_KERNEL_TABLE);
	printk("************************************************\n");
	printk("pkmap_page_table:%x, phy of pkmap_page_table:%x\n",pkmap_page_table,virt_to_phys(pkmap_page_table));
	printk("************************************************\n");
#endif
}

上述函数中的pmd_off_k(PKMAP_BASE)是获取PKMAP_BASE虚拟地址对应的一级映射表中所对应的页表项地址，

static pte_t * __init early_pte_alloc_and_install(pmd_t *pmd,
	unsigned long addr, unsigned long prot)
{
	if (pmd_none(*pmd)) {//如果一级页表项无效，即还未分配该表项所指向二级页表，即pte table
		pte_t *pte = early_pte_alloc(pmd);//分配二级页表，即pte tabble
		early_pte_install(pmd, pte, prot);//将pte table的hw/pte page0，hw/pte page1分别填充到一级页表项的低4byte和高4byte

	}
	BUG_ON(pmd_bad(*pmd));
	return pte_offset_kernel(pmd, addr);//返回二级页表中对应的页表项地址。
}

以上过程，具体见下图的映射关系图1

kmap的实验

kmap试验目的：

a：kmap映射高端内存页返回的地址是否属于0xbfe00000 - 0xc0000000范围。

b：kmap的二级映射表的虚拟地址：pkmap_page_table，在函数kmap_init中打印该虚拟地址和对应的物理地址，然后根据二级映射表的结构，找到kmap返回的虚拟地址对应的物理地址。

再根据该物理地址，使用mu内存查看工具，查看该物理页的内容是否是我们之前在驱动中通过kmap返回的虚拟地址设置的特殊数值。

详细的测试代码如下：

#include <linux/module.h>
#include <linux/init.h>
#include <linux/mm.h>
#include <linux/fs.h>
#include <linux/types.h>
#include <linux/delay.h>
#include <linux/moduleparam.h>
#include <linux/slab.h>
#include <linux/errno.h>
#include <linux/ioctl.h>
#include <linux/cdev.h>
#include <linux/string.h>
#include <linux/list.h>
#include <linux/pci.h>
#include <linux/gpio.h>
#include <linux/gfp.h>
#include <asm/highmem.h>

下面的函数，是通过kmap分配高端内存页，并且将分配得到的内存页，都特别的设置成特殊的数据，依次为：0x5a，0x5b，0x5c

struct page * map_high_mem(int order)
{
	int i=0;
	static int poison = 0x5a;
	unsigned char *buf = NULL;
	struct page *high_page = alloc_pages(__GFP_HIGHMEM,order);	//指定可以从高端内存分配物理空闲页
	//struct page *high_page = alloc_pages(GFP_HIGHUSER,order);
	if(high_page){
		printk("high_page alloc success\n");
	}else{
		printk("high_page alloc failed\n");
	}
	buf = kmap(high_page);//为该高端内存页，建立临时映射，该函数可能休眠
	if(buf){
		printk("kmap success,buf addr:%x\n",buf);//如果映射成功，返回影射后的虚拟地址
		for(i=0;i<4096;i++)
			buf[i] = poison;
		poison++;
	}else{
		printk("kmap failed\n");
	}
	return high_page;
}

void free_high_mem(struct page *page,int order)
{
	kunmap(page);//拆除映射
	__free_pages(page,order);//释放对应物理页
}

struct page *page_array[5];
#define NUM_ORDER 0
static int __init dev_init(void)
{
	int ret;
	int i;
	/*************************************************************/	
	i = 0;
	page_array[i++] = map_high_mem(NUM_ORDER);//连续分配，映射三个物理页
	page_array[i++] = map_high_mem(NUM_ORDER);
	page_array[i++] = map_high_mem(NUM_ORDER);
	
	printk("module address,page_array:0x%x\n",page_array);
	return ret;
}

static void __exit dev_exit(void)
{

	int i = 0;
	free_high_mem(page_array[i++],NUM_ORDER);
	free_high_mem(page_array[i++],NUM_ORDER);
	free_high_mem(page_array[i++],NUM_ORDER);
}
module_init(dev_init);
module_exit(dev_exit);
MODULE_LICENSE("GPL");
MODULE_AUTHOR("LKN@SCUT");

以上是我们的测试代码，代码编译，加载执行。

以下log是得到pkmap_page_table的物理地址，即kmap的二级映射表的开始物理地址，该log是内核启动阶段在kmap_init函数打印出来的。

[    0.000000] ************************************************
[    0.000000] pkmap_page_table:ef7fc000, phy of pkmap_page_table:2f7fc000(759MB)
[    0.000000] ************************************************

由于kmap是2MB的虚拟空间，刚好一个page大小的二级映射表就可以完全覆盖到。如上的log所显示，这个二级映射表的开始物理地址是：2f7fc000。

模块加载时的log：

/storage/sdcard1 # insmod mymap.ko 
[   83.289132] kernel buffer virtial address:ee155000
[   83.293936] kernel buffer physical address:2e155000
[   83.298801] high_page alloc success
[   83.302264] kmap success,buf addr:bfeee000------------->(a)  //第一次kmap映射返回的虚拟地址，将该页都初始化为0x5a
[   83.306393] high_page alloc success
[   83.309809] kmap success,buf addr:bfeef000------------->(b)  //第二次kmap映射返回的虚拟地址，将该页都初始化为0x5b
[   83.313990] high_page alloc success
[   83.317414] kmap success,buf addr:bfef0000------------->(c)   //第三次kmap映射返回的虚拟地址，将该页都初始化为0x5c

可见三次kmap返回的虚拟地址都是属于0xbfe00000 - 0xc0000000范围。

根据他们返回的虚拟地址，我们再结合之前得出的二级映射表的物理地址，我们推算出该三个虚拟地址所对应的物理内存页，分别如下：

由程序的虚拟地址得到对应的物理地址的公式为：virt_addr----->phy_addr

二级映射表的开始物理地址+2KB的硬件页表页内偏移+virt_addr[bit20,bit12] * 4 上存储的内容即为虚拟页对应的物理页

case a: bfeee000---------->374ce000
2f7fc000 + 1024*2(800) + 238*4(3b8) = 2F7FCBB8（二级映射表项的物理地址）

0x37ce000即是虚拟页bfeee000对应的物理页，我们可以看到，该页上的内容刚好就是我们之前设置的0x5a。




case b: bfeef000---------->37b0c000
2f7fc000 + 1024*2(800) + 238*4(3bc) = 2F7FCBBC（二级映射表项的物理地址）

37b0c000即是虚拟页bfeef000对应的物理页，我们可以看到，该页上的内容刚好就是我们之前设置的0x5b。

case c: bfef0000---------->37b0b000
2f7fc000 + 1024*2(800) + 240*4(3C0) = 2F7FCBC0（二级映射表项的物理地址）

37b0b000即是虚拟页bfef0000对应的物理页，我们可以看到，该页上的内容刚好就是我们之前设置的0x5c。

通过以上的实验，我们验证了自己对linux arm二级映射表结构的理解，同时也明白了kmap映射的原理。