我这里将一步一步的介绍,是从新手的角度来讲的,所以对高手来说,可能有些啰嗦。如果你看完这篇文章还不知道如何设置,那么原因可能有两个: 1. 我没讲好; 2. 你需要稍微认真看下并实践下,并实现对相关基本概念要有所了解。
本文参考了以下的 blog 及文章,在此对作者的辛勤劳动表示感谢!
1. http://hi.baidu.com/1ian9yu
2. http://www.cppblog.com/fwxjj/archive/2008/01/17/41349.html
一、环境的搭建
首先介绍如何使用 WinDbg 和 VMware 来搭建调试内核驱动的环境。这里先把我用到的软件版本说明下:
WinDbg 6.10 X86 ( http://www.microsoft.com/whdc/devtools/debugging/installx86.mspx#a )
Windows 符号表,当然也是 XP 版本的, ( http://www.microsoft.com/whdc/devtools/debugging/symbolpkg.mspx#d )
VMware WorkStation 6.0 (这个网上搜,我是公司内部网下的,应该有更新的版本了,这个能用,所以就先用着,主要是公司大家统一安装这个)
虚拟机安装的操作系统是 Windows XP SP2 ,真实的(我自己用的)操作系统也是 Windows XP SP2 。在这里,先统一称呼,虚拟机操作系统叫 GuestOS ,实际的叫 HostOS 。
下面是详细的步骤:
1. 下载 VMware 并安装好
2. 下载 Windows 符号表并安装好,按默认设置即可( C:\Windows\Symbols\ ,这个路径稍后要用到)
3. 下载 WinDbg 并安装,也是默认即可
4. 接下来在虚拟机 VMware 里安装操作系统( XP ),安装好后启动进入 GuestOS , 修改 boot.ini 文件(找不到?在 C 盘根目录下,要设置系统文件可显示,如何设置就不说了,自己 Google )。在文件中添加一行(添在文件最后即可, 也即 operating systems] 节中加入一行),内容如下:
multi(0)disk(0)rdisk(0)partition(1)\WINDOWS="Microsoft Windows XP Professional Debug" /fastdetect /debug /debugport=com1 /baudrate=115200
上面可以完全 copy 过去
5. 随后关闭系统。配制虚拟机的硬件,点击 "Edit virtual machine settings" ,添加一个 Serial Port ,选择 "Output to named pipe" ,然后下一步,第一框里保持默认的 \\.\pipe\com_1 , 第二框里选 "This end is the server." 第三框里选 "The other end is an application." 选中 "Connect at power on" 选项,点击完成,再在 settings 主界面的 I/O mode 选中 ”Yield CPU on poll” 选项。
好,以上是在虚拟机要做的全部事情,下面我们要在真实系统中做一些设置了。
6. 在真实系统中,我们要在设备管理器中。找到通讯端口 Com1 口,然后再属性页中修改他的速率(每秒位数)为 115200 。
7. 为使用方便,我们在桌面新建一快捷方式(桌面右键 - 新建 - 快捷方式),快捷方式的命令行为
"C:\Program Files\Debugging Tools for Windows (x86)\windbg.exe" -y C:\Windows\Symbols\ -b -k com:pipe,port=\\.\pipe\com_1
上面可以完全 copy 过去,当然引号内的路径是需要修改的,就是你安装的 WinDbg 路径了。
这里面 -y 后面的路径就是我们前面安装符号表的路径。
名称我设置为 WinDbg
好,到此为止,所有设置完毕,现在开始运行了。
8. 再此启动 GuestOS ,这个时候可以看到操作系统选择屏幕了(类似你安装了双操作系统),我们选择那个带有 Debug 的。
9. 双击第 7 步创建的那个快捷方式 WinDbg ,它会去自动连接 GuestOS ,这是在 WinDbg 里会显示一些信息。
至此,环境设置完毕
附加说明:
原理就是 VMware 在 GuestOS 虚拟一个 COM 口,并在 HostOS 创建了一个管道,这个管道的一端连接 GuestOS 的 COM 口,另一端则是 WinDbg ,所以 HostOS ( WinDBG )和 GuestOS 的所有数据交换都是通过这个管道来流通转发的。
1. 我的电脑没有 COM 口,所以不能搭建调试环境?
不是的,你的电脑有没有 COM 口与这个调试环境没有任何关系,整个过程根本没有使用到你电脑的物理 COM 口。 VMware 只是在 GuestOS 虚拟了一个 COM 口而已。
2. 在创建串口( COM 口属于串口的一种)的过程中,看到指定的管道为 “\\.\pipe\com_ 1” ,我可以指定为其他吗?
可以的。这只是指定一个管道名字而已, VMware 用这个名字来创建一个命名管道。我们完全可以改成 “\\.\pipe\liangyu” 、 “\\.\pipe\aaa” 等等,但记得要把 WinDbg 的快捷方式处的管道名字更改为一样。
3. 我可以在 GuestOS 的 boot.ini 文件更改那个 COM 口吗?比如把 COM1 改为 COM2 ?
不可以的, VMware 会把虚拟出的这个 COM 口总是定义为 com1 。 GuestOS 的其他 COM 口都得让位。
4. 看到很多教程都说到要勾选 “I/O mode” 一定要勾选吗 ?
这个勾选不勾选都可以,我没发现有什么大的区别。
5. 在更改 GuestOS 的 boot.ini 文件的时候,增加有 “/debugport=com1 /baudrate= 115200” 这些内容,含义是?
使用的调试端口是 com1 ,波特率是 115200 。这是在告诉 GuestOS 现在要调试内核 ( 操作系统),把调试信息往 COM1 口输出,使用的波特率是 115200 。
我在试验的时候发现,这个波特率其实也不一定要设为 115200 ,完全可以修改为 112233 、 445566 等等其他数据。可能是因为 WinDBG 自动调节波特率来适配管道或 COM 口,所以波特率在这里没有实际意义。
6.WinDbg 的快捷方式那里添加了 “-b -k com:pipe,port=\\.\pipe\com_1,resets= 0” 这些内容,含义是?
大概意思就是使用管道 “\\.\pipe\com_ 1” 来进行内核调试。各个参数的说明在 WinDbg 的参考文档里面有,这里粘贴一下:
-b
(Kernel mode only) This option has two effects:
1. The debugger will break into the target computer immediately upon connection.
2. After a reboot, the debugger will break into the target computer once the kernel is initialized. See Crashing and Rebooting the Target Computer for details and for other methods of changing this status.
-k [ConnectType]
(Kernel mode only) Starts a kernel debugging session. For details, see Choosing Kernel Debugging Settings. If -k is used without any ConnectType options following it, it must be the final entry on the command line.
resets=0
Specifies that an unlimited number of reset packets can be sent to the target when the host and target are synchronizing. Use the resets=0 parameter for Microsoft Virtual PC and other virtual machines whose pipes drop excess bytes. Do not use this parameter for VMware or other virtual machines whose pipes do not drop all excess bytes.
7. 一定要这样创建一个 WinDbg 的快捷方式才能进行调试吗?
不是的,我们完全可以先正常运行 WinDbg ,然后选择菜单 “File”--->“Kernel Debug...” ,然后在弹出的对话框中进行设置,这样也是可以进行调试的。
8. 上面第 8 、第 9 步有先后顺序吗?看到很多资料都很强调这个先后顺序。
这个是没有先后顺序的。你可以先执行第 8 ,再到第 9 步,或者先执行第 9 ,再到第 8 步都是没有关系的。
选择 Debug 模式后,即使进入系统操作了很久,运行了很多东西,但只要你运行 WinDbg ,照样能够连上去调试。所以说这里是没有先后顺序的。
下面介绍第二部分,驱动调试
二、驱动调试
编写完驱动后,我们当然要进行调试(除非你是蓄意想让用户不断蓝屏,当然牛人除外),这不可能在 HostOS (本机)里调试,否则 BOSD 就麻烦了,而且支持本机调试的调试器比较流行的只有 softice ,这个东西早就停止更新了,而且对目前的操作系统的支持更是非常不好。所以使用 WinDbg 和 VMware 调试驱动程序绝对是我们最佳的选择。
在这里,我就以微软自带的 Passthru (其实什么驱动都是一样的)为例。
好了,开始。
1. 按照之前的说明搭好调试环境后,先用 WinDbg 连上 VMware ,如果 GuestOS 阻塞了,则在 WinDBG 输入命令 “g” ,然后回车,直到让 GuestOS 跑起来。我们把编译好的驱动文件 (*.sys) 放到 GuestOS 里,回到 WinDbg ,按 “Ctrl+Break” , WinDbg 会让 GuestOS 暂停下来,我们也可以在 WinDbg 的命令栏输入命令了,在这里输入 “bu drivername!driverentry” (本例是 bu passthru!driverentry, 大小写不限)可以在驱动的 DriverEntry 函数的入口点下一个延迟断点,其实 BU 的意思就是 Set Unresolved Breakpoint , WinDbg 会记住这个断点,当这个驱动被加载了并且执行到这个地方, WinDbg 会暂停 GuestOS 让你进行调试操作。 drivername 是你的驱动名字,比如我在这里的驱动名字是 passthru ,那我在这里输入的命令如下: bu passthru!driverentry 。
2. 回车后即下好断点了。现在打开源文件,源文件在 HostOS 呢。 “Ctrl+O” 找到驱动的源文件打开,我们打开 passthru.c 。
3. 还要设置符号路径。 “Ctrl+S” 打开设置窗体,符号路径一般有两个(可以有多个),一个是你设置保存系统符号文件的路径,另一个是你驱动的 PDB 的路径,以分号隔开。如下:
C:\Windows\Symbols\;E:\Passthru\driver\objchk_wxp_x86\i386
4. 记得勾选 “Reload” , OK 后稍等片刻,等 WinDbg 把这些东西加载完毕后再操作。加载完后我们输入 “g” ,回车,让 GuestOS 跑起来。在 GuestOS 里运行驱动加载 / 卸载工具把我们的驱动加载起来。可以看到,已经断下来了,我们可以源码调试驱动了。
注:打开源文件和设置符号路径可以在一开始的时候就做,这是没有严格先后顺序的。