【VS】Windbg的gflags.exe调试堆栈溢出,访问越界等问题。

【VS】Windbg的gflags.exe调试堆栈溢出,访问越界等问题。

gflags.exeWindbg下的一个小工具,非常好用,对于调试程序隐藏的bug很有帮助。现在 只要是VS2019以上的都会自带gflags.exe

:我在vs2019中遇到访问越界的问题,但程序不会在越界的地方发生崩溃中断,而是在一个不可能存在访问错误的地方发生了错误,以至于无法定位问题的位置。
 
  所以在网上看到了Windbg的方法,一开始对Windbg不是很了解,熟悉之后发现Windbg很强大,虽然只用到了其中的一个小工具gflags.exe

举个栗子:

int main()   
{    
    char *p = new char[10];  
    for(int i = 0; i != 11; ++i)     
        p[i] = i;    
    return 0;    
}

这是一个非常简单的越界程序,当i = 10时,访问越界了。但是如果不采用测试工具,这里是不会发生崩溃的。一般情况下,程序获取的空间是16字节对齐的,所以p[10]访问到的是对齐之后增加的空间,不会导致越界崩溃。但这是隐患,为了使隐患尽早被发现,使用工具是很好的选择。
  gflags用来跟踪这个程序的执行,可以设置每一次new分配的堆空间都单独的占有一块空间,并且这个空间相邻的位置被设置为不可访问的,一旦访问越界立即触发访问无效错误,尽早的触发崩溃。

gflags.exe的作用:跟踪被调试的程序

方法:

  1. 下载Debugging Tools for Windows或者使用VS自带的,使用其中的gflags.exe
  2. 双击打开gflags.exe,选择Image File标签。前两个标签是对所有程序进行跟踪。
  3. 在Image栏里输入你希望调试的程序名。比如,mytest.exe。(按Tab刷新)。
  4. 勾选Debugger并输入vsjitdebugger.exe
  5. 点击OK或者Apply。

注:用vc编译出release版本的可执行文件:mytest.exe。(注意:不是debug版本),gflags.exe工具跟踪被监控的程序一定要是release版本的,debug版本的跟踪的不会那么的准确。

【VS】Windbg的gflags.exe调试堆栈溢出,访问越界等问题。_第1张图片

这个时候,已经把要监控的test.exe注册上了。程序会中断到发生错误的地方,有源代码更好查看,本人就是在源代码下进行调试。

最后、问题解决了记得关闭gflags,因为开启gflags,调试运行就慢了,最后会影响到程序的性能,亲测性能下降非常严重。
关闭方法;

HKEY_LOCAL_MACHINE/SOFTWARE/Microsoft/WindowsNT/CurrentVersion/Image File Execution Options/mytest.exe

当然 也可以写一个小脚本。

网上看到是取消Debugger的勾选,但是无效,最后清除注册表后程序恢复原有速度。

你可能感兴趣的:(#,visual,studio,windows,visual,studio)