【转帖】借助VMware实现单机使用WinDbg

ゝ一纸荒年。 2022-08-23 15:55 148阅读 0赞

调试器中，SoftICE可以说是鼎鼎大名。而 Microsoft 的调试器 WinDbg 则有很多 SoftICE 不具备的非常有用的功能。对于从事 Windows 系统研究和驱动开发的人来说，WinDbg 实在是件上好的兵器，值得推荐。不过要想使用它并不是件容易的事，它需要有两台计算机，一台调试，一台被调试。这个条件对于大多数人来说是非常苛刻的。  
  
今天我们介绍借助VMware实现单机使用WinDbg进行调试的方法。

VMware Support 中说，自 4.0.18.0 版本之后的 WinDbg 都支持了通过 pipe 来进行调试，不过微软对此并没有任何说明。所以，在VMware中虚拟被调试的系统，然后通过VMware虚拟一个com端口。使用这个虚拟的端口，就可 以用 WinDbg 进行调试了。  
  
具体步骤如下：  
  
**1 设置 VMware 的虚拟com**  
  
1.1 运行 VMware ，点击 "Edit virtual machine settings"

![5ce56160ebd6f4c58cb10d0a.jpg][]

1.2 点击 "Add..." 来运行 VMware 的 Hardware Wizard

![16d74e8de3089308b21bba0b.jpg][]

1.3 选择 "Serial Port"，点 "下一步"

![ea818e19d4bb1d5f42a9ad0b.jpg][]

1.4 选择 "Output to named pipe",点 "下一步"

![0b108a4502d6283ccefca30b.jpg][]

1.5 第一框里保持默认的 "//./pipe/com\_1"  
第二框里选"This end is the server."  
第三框里选"The other end is an application."  
选中 "Connect at power on"  
然后点击 "Advanced>>"

![3a6077ed7d0c21ceb21cb10b.jpg][]

1.6 选中 "Yield CPU on poll"（VMware Support 中提到了这一点），然后点完成。

![715b9dec7b85fb272797910b.jpg][]

1.7 这样就完成了虚拟com的设置。

![c7aba32f5c8e82221e308912.jpg][]

1.8 重新启动一下。  
  
**2 设置 VMware 虚拟出来的 guest os**  
  
现在 power on 虚拟出来的 guest os  
  
2.1 设置boot.ini  
  
在c: /下，可以找到boot.ini，可以用记事本打开它。我们需要在 guest os 的启动项上加些参数，才能够使用WinDbg调试它。我们可以在现有的行后面直接加参数，不过强烈推荐复制一个新行，在新行的后面加参数。这样在调试启动 有问题的时候，我们可以方便的换回原来的启动方式。下面就是我改好的boot.ini。  
其中 " multi(0)disk(0)rdisk(0)partition(1)/WINNT="Microsoft Windows 2000 Professional" /fastdetect "  
是原来的行。  
" multi(0)disk(0)rdisk(0)partition(1)/WINNT="Microsoft Windows 2000 Professional - debug" /fastdetect /debug /debugport=com1 /baudrate=115200 " 是我新加的将来用于 WinDbg 调试的行。  
  
\------------------------------------------------------------------------------------------  
  
\[boot loader\]  
timeout=10  
default=multi(0)disk(0)rdisk(0)partition(1)/WINNT  
\[operating systems\]  
multi(0)disk(0)rdisk(0)partition(1)/WINNT="Microsoft Windows 2000 Professional" /fastdetect  
multi(0)disk(0)rdisk(0)partition(1)/WINNT="Microsoft Windows 2000 Professional - debug" /fastdetect /debug /debugport=com1 /baudrate=115200  
  
\-------------------------------------------------------------------------------------------  
  
这 里还要注意的是,timeout不要为0，否则直接启动默认的项。新行后面加上了参数 /debug /debugport=com1 /baudrate=115200 ，可以看到 debugport=com1 ，baudrate=115200 。参数的具体作用，可以参考 WinDbg 的帮助文件。

![e7dc153842b6433eb9998f12.jpg][]

2.2 设置com1端口的速度  
在 guest os 的设备管理器中把com1端口的速度也就是"每秒位数"项，设为和上面一样的115200。

**3 设置 WinDbg**  
  
我们需要告诉WinDbg通过pipe进行连接和连接的速度。可以在命令提示符（cmd.exe）下加参数  
\-k com:port=//./pipe/com\_1,baud=11520,pipe 运行WinDbg（VMware Support 中没有提到 baud=11520 这个参数，其实这是个比较重要的参数）。 更方便的方法是在桌面建立一个WinDbg的快捷方式，在该快捷方式的属性，"目标"框中，加上参数 -k com:port=//./pipe/com\_1,baud=11520,pipe 。这样运行这个快捷方式启动的WinDbg就完成了设置。参数的具体作用，可以参考 WinDbg 的帮助文件。

![fd41377b678ed1ee0bd18712.jpg][]

**4 推荐的操作顺序**  
  
4.1 首先运行 VMware ，启动 Guest OS ，到系统启动选择，选择 "Microsoft Windows 2000 Professional - debug" 项，先不要按回车。

![808d182d41ac822e359bf712.jpg][]

4.2 通过刚才设置好的快捷方式运行WinDbg。  
  
4.3 在 Guest OS 中选择 "Microsoft Windows 2000 Professional - debug" 项，按回车。  
  
4.4 稍等片刻，就连接上了。如果很长时间没有连接上的话，可以按 WinDbg 菜单中的 "Debug"->"Kernel Connection"->"Resynchronize"。

![f51a0bd348bf1c1a3bf3cf12.jpg][]

4.5 最后按 WinDbg 菜单中的 "Debug"->"Break" ，你就可以向 WinDbg 下命令了。

![78f64f0e8f747dd07acbe113.jpg][]

**? 其他**  
?.1 VMware Support 中还提到了可以通过修改虚拟机的配置文件来改变虚拟串口的速度，有兴趣的话可以参考 VMware Support 中的方法。  
?.2 WinDbg 的菜单项 "View"->"Show Version" 可以看到一些相关信息。  
  
参考  
Driver Debugging with WinDbg and VMWare [http://silverstr.ufies.org/lotr0/windbg-vmware.html  
][http_silverstr.ufies.org_lotr0_windbg-vmware.html]VMware Support 相关部分 [http://www.vmware.com/support/ws3/doc/ws32\_devices3.html][http_www.vmware.com_support_ws3_doc_ws32_devices3.html]

**感谢阅读 - 完**

[5ce56160ebd6f4c58cb10d0a.jpg]: /images/20220823/46ff9e2fc98f42428d731b111ac61885.png
[16d74e8de3089308b21bba0b.jpg]: /images/20220823/ddb7770647d441b6b29978ca99054d0c.png
[ea818e19d4bb1d5f42a9ad0b.jpg]: /images/20220823/dddc83372cd8400a99384ed9fe34f62d.png
[0b108a4502d6283ccefca30b.jpg]: /images/20220823/21cfb297595746e1bb41b6236b0a6a6a.png
[3a6077ed7d0c21ceb21cb10b.jpg]: /images/20220823/a2674a2ce7d34e90a80cd8ab311aae83.png
[715b9dec7b85fb272797910b.jpg]: /images/20220823/7f89ed71785f422d877d06f0f49e073c.png
[c7aba32f5c8e82221e308912.jpg]: /images/20220823/843052b0e4e44d39a986a553b8222be1.png
[e7dc153842b6433eb9998f12.jpg]: /images/20220823/b2be3adc38ce4272a13a6617bd11bcff.png
[fd41377b678ed1ee0bd18712.jpg]: /images/20220823/3538f2b7d6164dbb9e88715d4391e3e0.png
[808d182d41ac822e359bf712.jpg]: /images/20220823/96ed5306e3d1458a91b717eecd442231.png
[f51a0bd348bf1c1a3bf3cf12.jpg]: /images/20220823/fcf6f183f5594ae9b1d51addb1bc8ecc.png
[78f64f0e8f747dd07acbe113.jpg]: /images/20220823/a2c38dadcb274832a084ae57dff8f55c.png
[http_silverstr.ufies.org_lotr0_windbg-vmware.html]: http://silverstr.ufies.org/lotr0/windbg-vmware.html
[http_www.vmware.com_support_ws3_doc_ws32_devices3.html]: http://www.vmware.com/support/ws3/doc/ws32_devices3.html