从qsort的局限性闲话gcc对“闭包”运算的支持以及DEP/NX的影响
一、问题的产生：
前几周/月？在CU论坛闲逛时看到OWO同学出了一道C语言题，由于年代久远细节记不得了，以下是自己对关键问题在记忆中改造后的描述：
//有一个enum表示科目，以0开头，以TYPE_END结尾，其余默认
enum subject_type{CHINESE=0, MATH, ENGLISH, TYPE_END};
#define N 100
//有一结构体表示学生信息
strcut student_t
{
char* name;
int number;
float mark[TYPE_END];
} students[N];
问题、使用qsort对不同科目成绩进行排序？如果以后学校开设了更多科目，对于此问题你会怎样解决？
二、问题的分析与解答：
我们一般有两种解决方案：
方案1、为每个科目写不同的compare函数，这是最容易想到的办法，但是每个compare都很相似，除了mark的下标不同，而且当扩展不同科目的时候需要写不同的compare函数。
方案2、使用 全局/文件 级别的变量来保存下标，这样就只需要写一个compare函数，使用这个下标，这样是的compara和外部进行通信。但是仍然有缺点，这个compare函数是不可重入，也就是说多线程不安全的，多个线程可能会同时更改全局变量，导致compare中出现逻辑错误。
这个问题的出现是目的是为了说明C语言的qsort函数看起来很通用（泛型），但其实却也有隐含缺陷，也就是qsort和compare函数之间传递的信息不足。不过支持lambda（闭包）语义的C++的std::sort可以一句话完成这个问题，示例代码如下：
for(int i = 0; i < TYPE_END; ++i)
{
std::sort(students, students+N, [i](student_t a, student_t b){return a.mark[i]此代码一出让人不得不惊叹C++的强大（还有复杂--!）
———————————————————从此过了许多日的分割线———————————————————————
三、问题再次解答：
前两天受到“谭浩强之启示”，发现了一个在gcc下可以用C++类似概念来解决此问题的trick，代码如下:
for(int i = 0; i < TYPE_END; ++i)
{
//山寨"闭包"函数
int compare(const void *a, const void *b)
{
return ((const struct student_t*)a)->mark[i] - ((const struct student_t*)b)->mark[i];
}
qsort(st, N, sizeof(st[0]), compare);
}此代码山寨味道浓厚，还用了gcc扩展特性——嵌套函数定义，不过它很好的解决了问题。知其然，也要知其所以然，让我们来分析下这个代码到底工作的吧。
从C代码看是compare使用了函数外部for循环的i，从而得到额外信息可以使得任务得到解决。由于函数嵌套是ISO C禁止的，所以我们也不好推测，于是objdump下汇编码得知一下重要情报：
1、compare函数是作为独立函数放到了可执行文件的.text段中
2、qsort中使用的compare并不是.text段中compare函数地址，而是当前函数栈上的一个可疑地址A ？？！
3、利用gdb追踪可疑地址A发现这个它的前面保存了变量i的数据，而且更重要的是
4、可疑地址A处竟然有把变量i的地址保存到ecx寄存器(32位机)，然后jmp到真正compare函数上的 机器码 ！！！
6、compare函数从ecx里面得到i的地址后就可以自然的使用它了。
四、闭包话题的延伸
qsort调用的compare函数看来和C++的lambda神似（除了C不能定义匿名函数外，语法错误原因在于函数的实参列表里面不能有变量声明），那么C的内嵌函数和闭包比起来究竟有几分货色呢，让我们再仔细分析一下。
1、在闭包中在局部函数引用的外部变量有个名词叫做upvalue,在我们的示例中变量i再次不妨把它看作一个"upvalue"。
2、在我们的C代码中 upvalue和部分执行代码是保存在外部函数的栈中的，这样的话多线程运行外部函数不会导致upvalue和运行混乱，这个是标准的闭包行为，很好。
3、也是由于upvalue和部分执行代码存在了函数的栈中，当函数退出的时候栈会被销毁，那么就意味着我们不能使用内部函数，这样一来闭包最大用途之一 "返回内部函数给外边使用" 就不能用了，例如累加器的例子://C风格的累加器生成函数
int (*counter_creator(int sed))(void)
{
int start = sed;
//累加器函数
int counter(void)
{
return start++;
}
return counter;
}
//生成一个conter
int(*cnt)(void) = counter_creater(1);
//使用这个conter
printf("%d\n", cnt());在这里，counter函数使用了counter_creator的局部变量start作为upvalue，但是start在出了counter_creator之后就会失效了，所以这种用法是不正确的，虽然这个代码可能会看似正确的输出值，但是一旦中间有任何操作把counter_creator的栈空间覆盖掉，程序就出错了（不信你可以再printf一次试试）。而且也不能直接把upvalue保存到外部使用，这的确很糟糕。
4、如果我们在局部函数里面修改了外面变量的值，那么这个值会影响到下一次使用，所以用起来一定要小心。
5、总结一下，只读的使用外部变量是很安全的，多线程也依然安全。 不能把局部的东西返回给外部使用，这是"C闭包"和标准闭包的最大差异。不支持这一项的闭包基本上可以算80%残废了，也就是说前面费尽口舌和心思所讨论和理解的东西其使用范围非常有限，而且还是编译器额外支持的特性。看到这点是不是觉得有点挫呢，我也这么觉得，不过好歹也让咱窥探了下C语言实现的一些细节，如果悟性再高一些说不定还能觉察到C语言KISS哲学观。五、DEP/NX话题的延伸
由于上一个换题太坑爹，所以换个话题，前面的C代码用了栈数据执行，所以如果你在有DEP/NX位保护的机器上用gcc再编译此代码一般会出现以下几种情况。
1、生成的汇编代码和前面描述的一样，运行也依旧。我的Intel T2130+PAE+exec-shield的机器上就是如此，编译链接的时候栈段就是可执行的，而且gcc有链接参数 -z execstack|noexecstack来控制栈是否可执行。大概是自己没有设置好DEP吧，有知情同学麻烦告知，先行谢过。
2、汇编码里面加入了奇怪的调用，用来让系统保护开放这一部分栈的执行权限。我在开了DEP的WINDOWS上观察到了这个结果(mingw编译器)，使用了VirtualQuery和VirtualProtect这两个API来取得权限，而且尤为奇怪的是，程序几乎给每个库函数在文本段生成了一小段代码，内容是jmp到真正的库函数上去。
我估计大多数能编译通过此代码后的程序都不会运行出错，除非编译器忘记了DEP这个东西而且用了栈或者其他数据段，也欢迎大家来测试这个例子。同时为了验证你的DEP是否真的有效，这里有段代码拿去测试吧(仅限intel平台)
int main(void){((void (*)(void))"\xc3")(); return 0;}如果你和我一样运行无误，那么恭喜你 DEP没能保护这个程序 --
你也可以把"\xc3"这个字符串保存到栈上运行试试
最近看到intel又有了新的保护技术叫做TXT(Trusted Execution Technology) ，不会保护的连文本文档都打不开了吧（笑~）
以上
PS：最近没有更新的动力啊，怎么办才好...