在win7 64位环境编译 VirtualBox-5.0.0 OSE

最近因需要尝试编译了一次Vbox，官方论坛上只有32位环境的编译教程，所以这次在64位、特别是中文环境上遇到不少坑。这里总结出来，希望对后面的人有帮助。

下载编译所需工具

编译所需工具可参考Windows build instructions
该地址为官网的编译操作指南，写得比较泛泛而谈，简单参考一下即可。我编译64位VBox用到的工具如下：

1. Visual Studio 2010 加 Visual Studio 2010 Service pack 1也就是sp1
2. Windows Platform SDK v7.1
3. Windows Driver Development Kit (WDK) v7.1
4. MingW-w64
5. Qt-4.7.3
6. SDL-1.2.15
7. cURL-7.49.1
8. OpenSSL-1.0.1t
9. ActivePerl
10. Python 2.x
11. VirtualBox 5.0.0

还有一些东西官网的操作指南有提到，但是不是必须的，在这里我没有用到。

搭建编译环境

1. 安装Windows Platform SDK
2. 安装WDK
3. 安装Visual Studio 2010
4. 安装Visual Studio 2010 Service pack 1
5. 安装python和ActivePerl
   最好在安装VS2010之前安装SDK和WDK，不然安装时可能会出显示.Net框架冲突的错误。

开始编译

从现在开始接下来一路是坑

解压文件

1. 新建一个Vbox的编译目录，如：E:\Vbox，将qt-everywhere-opensource-src-4.7.3，SDL-1.2.15，mingw64，openssl-1.0.1t，curl-7.49.1解压到E\Vbox下。将openssl和curl复制一份，重命名为openssl-1.0.1t-86，openssl-1.0.1t-64，curl-7.49.1-86，curl-7.49.1-64。

├─curl-7.49.1-64
│
├─curl-7.49.1-86
│
├─mingw64
│  
├─openssl-1.0.1t-64
│  
├─openssl-1.0.1t-86
│  
├─qt-everywhere-opensource-src-4.7.3
│  
├─SDL-1.2.15
│  
├─VirtualBox-5.0.0

编译QT

1. 将Qt目录加入环境变量，如：E:\Vbox\qt-4.7.3\bin
2. 开始菜单->所有程序->Microsoft Visual Studio 2010->Visual Studio Tools->Visual Studio x64 兼容工具命令提示(2010)
3. 切换到Qt根目录，如：E:\Vbox\qt-4.7.3
4. 命令行输入

set QMAKESPEC=E:\Vbox\qt-everywhere-opensource-src-4.7.3\mkspecs\win32-msvc2010 
configure -debug-and-release -opensource -platform win32-msvc2010
nmake

编译OpenSSL-64

1. 开始菜单->所有程序->Microsoft Visual Studio 2010->Visual Studio Tools->Visual Studio x64 兼容工具命令提示(2010)
2. 切换到openssl-64目录，如：E:\Vbox\openssl-1.0.1t-64
3. 命令行输入

perl Configure VC-WIN64A --prefix=E:\Vbox\openssl-1.0.1t-64\output
ms\do_win64a
nmake -f ms\ntdll.mak
nmake -f ms\ntdll.mak install

编译结果将输出到 E:\Vbox\openssl-1.0.1t-64\output

编译OpenSSL-86

1. 开始菜单->所有程序->Microsoft Visual Studio 2010->Visual Studio Tools->Visual Studio 命令提示(2010)
2. 切换到openssl-86目录，如：E:\Vbox\openssl-1.0.1t-86
3. 命令行输入

perl Configure VC-WIN32 --prefix=E:\Vbox\openssl-1.0.1t-86\output
ms\do_ms
nmake -f ms\ntdll.mak
nmake -f ms\ntdll.mak install

编译结果将输出到 E:\Vbox\openssl-1.0.1t-86\output

编译cURL-64

1. 开始菜单->所有程序->Microsoft Visual Studio 2010->Visual Studio Tools->Visual Studio x64 兼容工具命令提示(2010)
2. 切换到cURL-64目录，如：E:\Vbox\curl-7.49.1-64
3. 命令行输入

set OPENSSL_PATH=..\openssl-1.0.1t-64
pushd lib
nmake /f Makefile.vc10 cfg=release-dll MACHINE=x64

编译结果将输出到 E:\Vbox\curl-7.49.1-64\lib\release-dll

4. 将E:\Vbox\curl-7.49.1-64\lib\release-dll\libcurl_imp.lib 重命名为 libcurl.lib
5. 将E:\Vbox\curl-7.49.1-64\lib\release-dll\libcurl.lib和E:\Vbox\curl-7.49.1-64\lib\release-dll\libcurl.dll 复制到 E:\Vbox\curl-7.49.1-64

编译cURL-86

1. 开始菜单->所有程序->Microsoft Visual Studio 2010->Visual Studio Tools->Visual Studio 命令提示(2010)
2. 切换到cURL-86目录，如：E:\Vbox\curl-7.49.1-86
3. 命令行输入

set OPENSSL_PATH=..\openssl-1.0.1t-86
pushd lib
nmake /f Makefile.vc10 cfg=release-dll MACHINE=x86

编译结果将输出到 E:\Vbox\curl-7.49.1-86\lib\release-dll

4. 将E:\Vbox\curl-7.49.1-86\lib\release-dll\libcurl_imp.lib 重命名为 libcurl.lib
5. 将E:\Vbox\curl-7.49.1-86\lib\release-dll\libcurl.lib和E:\Vbox\curl-7.49.1-86\lib\release-dll\libcurl.dll 复制到 E:\Vbox\curl-7.49.1-86

编译Virtual Box

1. 在Vbox根目录（如：E:\Vbox\VirtualBox-5.0.0）下建立LocalConfig.kmk

VBOX_WITH_HARDENING :=
SDK_VBOX_OPENSSL-x86_INCS := E:/Vbox/openssl-1.0.1t-86/output/include
SDK_VBOX_OPENSSL-x86_LIBS := E:/Vbox/openssl-1.0.1t-86/output/lib/ssleay32.lib E:/Vbox/openssl-1.0.1t-86/output/lib/libeay32.lib
SDK_VBOX_BLD_OPENSSL-x86_LIBS := $(SDK_VBOX_OPENSSL-x86_LIBS)
SDK_VBOX_LIBCURL-x86_INCS := E:/Vbox/curl-7.49.1-86/include
SDK_VBOX_LIBCURL-x86_LIBS.x86 := E:/Vbox/curl-7.49.1-86/lib/release-dll/libcurl.lib

2. 复制E:\Vbox\curl-7.49.1-64\include\curl到E:\Vbox\VirtualBox-5.0.0\include\curl
3. 复制E:\Vbox\openssl-1.0.1t-64\output\include\openssl到E:\Vbox\VirtualBox-5.0.0\include\openssl
4. 修改E:\Vbox\VirtualBox-5.0.0\Config.kmk 190行

 #VBOX_NM ?= $(PATH_TOOL_MINGW32)/bin/nm.exe -p
 VBOX_NM ?= E:/Vbox/mingw64/bin/nm.exe -p 

5. 修改E:\Vbox\VirtualBox-5.0.0\configure.vbs

#line 1063
#if Shell(DosSlashes(strPathVC & "/bin/cl.exe"), True) <> 0 then
if Shell(DosSlashes(strPathVC & "/cl.exe"), True) <> 0 then 

#line 1068
#if   (InStr(1, g_strShellOutput, "Version 16.") <= 0) _
if   (InStr(1, g_strShellOutput, "16.") <= 0) _

#line 1069
#And (InStr(1, g_strShellOutput, "Version 17.") <= 0) then
And (InStr(1, g_strShellOutput, "17.") <= 0) then

#line 1077
#if InStr(1, g_strShellOutput, "Version 16.") > 0 then
if InStr(1, g_strShellOutput, "16.") > 0 then

6. 修改E:\Vbox\VirtualBox-5.0.0\Makefile.kmk，在最后一行追加

VBOX_BLD_PYTHON=E:\Python\python.exe

7. 用记事本将以下文件另存为Unicode

E:\Vbox\VirtualBox-5.0.0\src\VBox\Devices\PC\DevLPC.cpp
E:\Vbox\VirtualBox-5.0.0\src\VBox\Disassembler\DisasmCore.cpp
E:\Vbox\VirtualBox-5.0.0\src\VBox\VMM\VMMAll\SELMAll.cpp
E:\Vbox\VirtualBox-5.0.0\src\VBox\Main\testcase\tstGuestCtrlParseBuffer.cpp

其中tstGuestCtrlParseBuffer.cpp修改编码后会发现代码有问题，将引号补齐如下

//line 88
    { "??f?\0\0",                    sizeof("??f?\0\0"),                             0,  sizeof("??f?\0") - 1,                   1, VINF_SUCCESS },
    { "??f?\0????",               sizeof("??f?\0????"),                        0,  sizeof("??f?\0") - 1,                   1, VERR_MORE_DATA },

8. 开始菜单->所有程序->Microsoft Visual Studio 2010->Visual Studio Tools->Visual Studio x64 兼容工具命令提示(2010)
9. 切换到vbox根目录，如：E:\Vbox\VirtualBox-5.0.0
10. 命令行输入

cscript configure.vbs --with-libSDL=E:\Vbox\SDL-1.2.15 --with-openssl=E:\Vbox\openssl-1.0.1t-64\output --with-libcurl=E:\Vbox\curl-7.49.1-64 --with-QT4=E:\Vbox\qt-everywhere-opensource-src-4.7.3 --with-MinGW-w64=E:\Vbox\mingw64

11. 修改E:\Vbox\VirtualBox-5.0.0\AutoConfig.kmk

#line 8
#PATH_TOOL_VCC100      := C:/PROGRA~2/MIB5D6~1.0/VC/BIN
PATH_TOOL_VCC100      := C:/PROGRA~2/MIB5D6~1.0/VC

12. 命令行输入

env.bat
kbuild\envwin.cmd --win64
kmk

运气好的话，等待1至2小时就编译成功了，编译好的Vbox在E:\Vbox\VirtualBox-5.0.0\out目录下。

安装Virtual Box

1. 将以下dll拷贝到VirtualBox.exe所在目录下，如： E:\Vbox\VirtualBox-5.0.0\out\win.x86\release\bin

libcurl.dll (e.g.,  from E:\Vbox\curl-7.49.1-64\lib\)
libeay32.dll (e.g., from E:\Vbox\openssl-1.0.1t-64\output\bin\)
ssleay32.dll (e.g., from E:\Vbox\openssl-1.0.1t-64\output\bin\)
QtCore4.dll (e.g., from E:\Vbox\qt-4.7.3\bin)
QtGui4.dll (e.g., from E:\Vbox\qt-4.7.3\bin)
QtNetwork4.dll (e.g., from E:\Vbox\qt-4.7.3\bin)
QtOpenGL4.dll (e.g., from E:\Vbox\qt-4.7.3\bin)

2. 开始菜单->cmd->右键->以管理员身份运行
3. 切换到vbox根目录，如：E:\Vbox\VirtualBox-5.0.0，命令行输入

env.bat

4. 切换到VirtualBox.exe所在目录下，如： E:\Vbox\VirtualBox-5.0.0\out\win.x86\release\bin，命令行输入

comregister.cmd
loadall.cmd

安装完成（伪）

编译驱动程序签名的Virtual Box

在经历上面一系列坑爹的步骤之后，相信大家在敲下loadall.cmd的时候都有一种终于解放了的爽快感。然而天不遂人愿，在loadall.cmd之后，我们马上就会看见一堆无情的错误。

error.png

这是因为在win7 64位系统上，没有经过签名认证的驱动程序是无法安装的，所以我们需要在上面的编译步骤里面加上签名的步骤，然后整个重新编译一次。

创建、安装测试证书

1. 开始菜单->所有程序->Microsoft Visual Studio 2010->Visual Studio Tools->Visual Studio x64 兼容工具命令提示(2010)
2. 命令行输入

makecert.exe -r -pe -ss my -n "CN=MyTestCertificate" mytestcert.cer
certmgr.exe -add mytestcert.cer -s -r localMachine root
certmgr.exe 

检查在“个人”和“受信任的根证书颁发机构”里面是否都有MyTestCertificate

3. 开始菜单->cmd->右键->以管理员身份运行
4. 命令行输入

Bcdedit.exe -set TESTSIGNING ON

这个据说是打开win7的调试模式，使用测试证书签名的程序必须在这个模式下才能使用，可以使用下面的命令关闭调试模式。

Bcdedit.exe -set TESTSIGNING OFF

这个功能可能不能正常使用，我没有遇到，所以也没办法提供解决方法。但是要注意我的笔记本是神舟战神K660E D1，使用这个命令后直接无法进入Bios，最后是将系统盘安装在别的电脑上，还原了系统备份才解决。不过据了解，这个命令正常来说应该是不会造成这种情况的，我的系统盘在别的电脑上系统也能正常启动。所以神舟战神K660E D1这款电脑的Bios可能是个特例。下面继续：

certmgr.exe -add mytestcert.cer -s -r localMachine root
certmgr.exe -add mytestcert.cer -s -r localMachine trustedpublisher

重启电脑，然后应该能看见桌面右下角显示“测试模式”。

重新编译Vbox需要的dll

1. 删除前面除Vbox以外的所有东西，重新解压新的文件，删掉Vbox的out目录，从头开始。
2. 修改E:\Vbox\qt-everywhere-opensource-src-4.7.3\mkspecs\win32-msvc2010\qmake.conf

#line 64
#QMAKE_LFLAGS_DLL        = /DLL
QMAKE_LFLAGS_DLL        = /DLL /INTEGRITYCHECK

2. 重新编译Qt
3. 修改E:\Vbox\openssl-1.0.1t-64\ms\ntdll.mak

#line 34
#LFLAGS=/nologo /subsystem:console /opt:ref /debug
LFLAGS=/nologo /subsystem:console /opt:ref /debug /INTEGRITYCHECK

#line 51
#MLFLAGS= /nologo /subsystem:console /opt:ref /debug /dll
MLFLAGS= /nologo /subsystem:console /opt:ref /debug /dll /INTEGRITYCHECK

ntdll.mak 要在ms\do_win64a指令后才会有，因为是新解压的，所以要先执行到ms\do_win64a为止。

5. 重新编译OpenSSL
6. 修改E:\Vbox\curl-7.49.1-64\lib\Makefile.vc10

#line 114
#LNKDLL       = link.exe /DLL
LNKDLL       = link.exe /DLL //INTEGRITYCHECK

7. 重新编译curl
8. 开始菜单->所有程序->Microsoft Visual Studio 2010->Visual Studio Tools->Visual Studio x64 兼容工具命令提示(2010)
9. 使用

Signtool.exe sign –v [name].dll

对以下文件进行签名

libcurl.dll (e.g., from E:\Vbox\curl-7.49.1-64\lib\)
libeay32.dll (e.g., from E:\Vbox\openssl-1.0.1t-64\output\bin\)
ssleay32.dll (e.g., from E:\Vbox\openssl-1.0.1t-64\output\bin\)
QtCore4.dll (e.g., from E:\Vbox\qt-4.7.3\bin)
QtGui4.dll (e.g., from E:\Vbox\qt-4.7.3\bin)
QtNetwork4.dll (e.g., from E:\Vbox\qt-4.7.3\bin)
QtOpenGL4.dll (e.g., from E:\Vbox\qt-4.7.3\bin)

10. 可以使用

Link.exe /dump /headers [name].dll

查看DLL characteristics下是否显示Check integrity

11. 修改E:\Vbox\VirtualBox-5.0.0\LocalConfig.kmk

#VBOX_WITH_HARDENING :=
VBOX_SIGNING_MODE=test 

12. 将以下文件复制到E:\Vbox\VirtualBox-5.0.0\tools\win.x86\selfsign\r1

C:\WinDDK\7600.16385.1\bin\selfsign\*
C:\WinDDK\7600.16385.1\bin\amd64\SignTool.exe

13. 重新编译并安装Vbox

结语

1. 至此Vbox编译安装结束，不过受限于驱动签名证书是测试证书，只能在开启了TESTSIGNING模式的电脑上使用。如果想在别的电脑上正常使用，就去证书机构申请证书吧。
2. 上面的编译步骤一开始是没有做驱动签名的，之所以分开来写，是想把编译步骤区分开来，这样其中一步出错了，能够比较快地定位错误。
3. 编译过程中可能会遇到很多编码问题，根据提示一一修改为Unicode即可。
4. 上述步骤里面并没有加入webservice API和Java API，如果需要用到相应API，参考Windows build instructions。
5. 最后附赠一篇编译Win 32位Vbox的帖子
   Building VirtualBox OSE 5.0.0 on Windows 7 (x86)。