VMware+Windgb+Win7内核驱动调试

--------------------------------------------------------------

转自http://yexin218.iteye.com/blog/545187

VMware+Windgb+Win7内核驱动调试

本人在此基础之上根据具体情况有所改动

--------------------------------------------------------------

 http://www.cnblogs.com/witty/archive/2012/04/23/2466024.html

本文主要记录个人安装VMware+Windgb+Win7内核驱动调试的笔记。

 

一、安装环境

 

主机：Windows 7 x64 En U 版

虚拟机：VMware 7.1.4  VM8.0.2 (亲测)

GUestOS(虚拟机): Win7 x64 chs U 版

Windbg: 最新

 

二、虚拟机配置

 

1. 打开相应 vmware 虚拟机上的 “Virtaul Machine Settings“
   
    

   

 

1. 1. “Hardware　”选项中 ----> 点击“Add"　添加一个串口设备 SeriallPort .
      
       

      

 

1. 1.  "Next",在 "Serial Port" 里选中 “Output to named pipe"
      
       

      

 

1. 1. "next",然后如下设置：
      
      

      

      
       
      

 

1. 确定之后，回到如下界面，在右脚"Virtual Machine Settings" 页面时，在“I/O Mode” 里选中“Yield CPU on poll“
   
   

   

   
   
2.  Ok之后就设定完毕了。

 

 

三、Windbg设置

 

      下载地址： Windbg

 

       安装之后，设置一个桌面快捷方式，然后，右键->属性，在Target中的引号后面添加如下：-b -k com:pipe,port=\\.\pipe\com_1,resets=0

 

 

            或者是： -b -k com:port=\\.\pipe\com_1,baud=115200,pipe 【二者似乎皆可】

 

四、GuestOS设置 （就是虚拟机里的系统配置）

 

         适用于win7 vistar  如果感觉黑窗口玩不了 请看 7. 这种方法更直观

 

1. 在administrator权限下, 进入command line模式,  键入bcdedit命令, 会出现以下界面:
   
   
   
    

2. 然后, 设置端口COM1, baudrate为115200 (除COM1外, 也可以用1394或USB. 1394用起来比COM口快多了, 当然前提是你需要有1394卡及其驱动. 很恶心的是Vista不再支持1394的文件传输协议, 但是用windbg双机调试还是可以的)
   命令为:
   bcdedit /dbgsettings {serial [baudrate:value][debugport:value] | 1394 [channel:value] | usb }
   
   
    
3. 接着, 我们需要复制一个开机选项, 以进入OS的debug模式
   命令为:
   bcdedit /copy {current} /d DebugEnty
   DebugPoint为选项名称, 名字可以自己定义. 然后复制得到的ID号. 
   
   
    
4. 接着增加一个新的选项到引导菜单
   bcdedit /displayorder {current} {ID}
   这里的{ID}的ID值是刚生成的ID值.
   
   
    
5. 激活DEBUG : bcdedit /debug {ID} ON
   这里的{ID} 的ID值还是刚才的ID值.
   
   
    
6. 命令执行成功后, 重新启动机器.
7. 7.或者更简单的图形界面设置：在msconfig界面中，选Boot,再选Advanced options，在选择Debug、Debug port、Baud rate都打上钩。如果所示：
   
   
    
8. 选择DebugEntry[debug]作为等入口。启动后，打开windbg.可以看到类似如下的信息：

    Microsoft (R) Windows Debugger Version 6.11.0001.404 X86
    Copyright (c) Microsoft Corporation. All rights reserved.
   
    Opened \\.\pipe\com_1
    Waiting to reconnect...
    Connected to Windows 7 7600 x86 compatible target at (Thu Dec 10 17:46:36.928 2009 (GMT+8)), ptr64 FALSE
    Kernel Debugger connection established.  (Initial Breakpoint requested)
    Symbol search path is: *** Invalid ***
    ****************************************************************************
    * Symbol loading may be unreliable without a symbol search path.           *
    * Use .symfix to have the debugger choose a symbol path.                   *
    * After setting your symbol path, use .reload to refresh symbol locations. *
    ****************************************************************************
    Executable search path is:
    *********************************************************************
    * Symbols can not be loaded because symbol path is not initialized. *
    *                                                                   *
    * The Symbol Path can be set by:                                    *
    *   using the _NT_SYMBOL_PATH environment variable.                 *
    *   using the -y <symbol_path> argument when starting the debugger. *
    *   using .sympath and .sympath+                                    *
    *********************************************************************
    *** ERROR: Symbol file could not be found.  Defaulted to export symbols for ntkrpamp.exe -
    Windows 7 Kernel Version 7600 MP (1 procs) Free x86 compatible
    Product: WinNt, suite: TerminalServer SingleUserTS
    Built by: 7600.16385.x86fre.win7_rtm.090713-1255
    Machine Name:
    Kernel base = 0x83e0f000 PsLoadedModuleList = 0x83f57810
    Debug session time: Thu Dec 10 17:46:32.658 2009 (GMT+8)
    System Uptime: 0 days 0:06:18.429
    Break instruction exception - code 80000003 (first chance)
    *******************************************************************************
    *                                                                             *
    *   You are seeing this message because you pressed either                    *
    *       CTRL+C (if you run kd.exe) or,                                        *
    *       CTRL+BREAK (if you run WinDBG),                                       *
    *   on your debugger machine's keyboard.                                      *
    *                                                                             *
    *                   THIS IS NOT A BUG OR A SYSTEM CRASH                       *
    *                                                                             *
    * If you did not intend to break into the debugger, press the "g" key, then   *
    * press the "Enter" key now.  This message might immediately reappear.  If it *
    * does, press "g" and "Enter" again.                                          *
    *                                                                             *
    *******************************************************************************
    nt!DbgBreakPointWithStatus+0x4:
    83e7a394 cc              int     3

    

 

 

 

五、操作方式提示

我发现，如果在GuestOs -win7启动过程中，如果打开了windbg之后，整个系统就像死机，不动了。估计是windbg启动后设定了断点做调试，试试按F5,或者go这样就可以恢复原来的状态

----------------------------------问题及解决办法-----------------------------------------------------------------------------------

Windows7 x64 + VMware + WinDbg 双机调试故障解决

源于： http://blog.tianya.cn/blogger/post_read.asp?BlogID=1439846&PostID=38575768

作者: MuseHero    2012-02-07 09:37 星期二 晴

　　最近对虚拟机及里面的OS都进行了升级，在配置Windbg双机调试时，出现两个问题。
　　在网上搜了搜，第二个问题几乎没有参考资料，就在国外看到过一例出同样问题的，现把解决方法放出来，供有同样麻烦的朋友们参考：
　　
　　第一个问题：
　　 现像：打开虚拟机后无法连接，提试无法打开连接端口。
　　 故障原因：WMWare7.x及以后的版本在添加Serial Port时默认为Serial Port2，即COM2端口，而习惯了用WMWare6.x的朋友们升级7.x时习惯了按旧有设置（COM1）来进行双机调试，就会连接不上了。
　　
　　 解决方案：
　　 1、在添加Serial Port时将虚拟机硬件配置中的打印机删除，再创建SerialPort时就是SerialPort1了，其它不用改变，直接可以按原有方式进行双调试的设置。
　　 2、虚拟的硬件设置不变，在虚拟OS中添加调试引导项时（bcdedit里），把端口设为COM2，也是可行的。
　　 以上两个方案任选其一可解决。
　　
　　第二个问题：
　　 现像：在虚拟OS开机引导，加载完ClassPnp驱动后，实机中的WinDbg强制关闭（就是窗口突然没了，进程也结束了）
　　 故障原因：调试WinDbg时显示故障是“调试目标初始化时出现问题，错误码：0x8000FFFF”。（现在我也没搞明白这是啥子故障）
　　 解决方案：
　　 这个故障是在引导过程中发生的，通过排除发现不加载网络驱动则不会出现故障，所以解决方案也就很简单了，在虚拟硬件设置中把网络连接中的“开机连接”去掉，让开机时不连接网络。
进入虚拟OS后，如果需要使用网络，再手动连接网络，经测试开机后手动连接不会触发故障出现。
　　
　　 第二个问题用笨方法解决了，但原理没有搞清楚，应该是跟虚拟网络有关，有明白原因的朋友还请告诉一下子，谢谢了。
（后注：用了几天后发现第二个问题的解决方案并不稳定，时好时坏，最后不得不换装Windows7家庭版解决，经测试VMWare里面装Windows7 64位旗舰版时会出这个问题，装家庭版未发现有同样的问题。）

友情提示：
在设置双机调试时，总是记不住bcdedit的命令，后来才知道用msconfig就可以直接在图形界面设置了，同样记忆力差的朋友可以尝试一下子。