虚拟机迁移技术漫谈（转）

http://www.ibm.com/developerworks/cn/linux/l-cn-mgrtvm1/index.html

如何在虚拟机和物理机以及虚拟机和虚拟机之间的迁移系统

虚拟机迁移技术为服务器虚拟化提供了便捷的方法。目前流行的虚拟化工具如 VMware，Xen，HyperV，KVM 都提供了各自的迁移组件。尽管商业的虚拟软件功能比较强大，但是开源虚拟机如 Linux 内核虚拟机 KVM 和 XEN 发展迅速，迁移技术日趋完善。本系列文章介绍了虚拟机迁移的三种方式 P2V、V2V 和 V2P，及他们在内核虚拟机 KVM 上的实现方法，分成五个部分。本文是第一部分，全面介绍了虚拟机迁移的各种方法和相应的迁移工具 , 并且着重分析了 Linux 平台上开源的虚拟化工具 KVM 和 XEN 实时迁移中的的内存预拷贝技术。

前言

系统的迁移是指把源主机上的操作系统和应用程序移动到目的主机，并且能够在目的主机上正常运行。在没有虚拟机的时代，物理机之间的迁移依靠的是系统备份和恢复技术。在源主机上实时备份操作系统和应用程序的状态，然后把存储介质连接到目标主机上，最后在目标主机上恢复系统。随着虚拟机技术的发展，系统的迁移更加灵活和多样化。

本系列文章全面介绍了虚拟机迁移的三种方式 P2V、V2V 和 V2P，及他们在内核虚拟机 KVM 上的实现方法，分成五个部分。第一部分，介绍虚拟机迁移的各种方法和相应的迁移工具，并且着重分析 Linux 平台上开源的虚拟化工具 KVM 和 XEN 实时迁移中的的内存预拷贝技术；

第二部分介绍 KVM 虚拟机之间的 V2V 迁移技术，包括离线迁移和在线迁移；第三部分介绍基于 VMware 或 XEN 的虚拟机如何迁移到基于 KVM 的虚拟机；第四部分介绍物理机到虚拟机迁移 P2V 和虚拟机到物理机迁移 V2P 在 KVM 虚拟机上的实现；第五部分介绍和虚拟机迁移密切相关的虚拟机克隆、快照和备份技术。

虚拟机迁移简介

为什么要迁移服务器

迁移服务器可以为用户节省管理资金、维护费用和升级费用。以前的 x86 服务器，体积比较“庞大”；而现在的服务器，体积已经比以前小了许多，迁移技术使得用户可以用一台服务器来同时替代以前的许多台服务器，这样就节省了用户大量的机房空间。另外，虚拟机中的服务器有着统一的“虚拟硬件资源”，不像以前的服务器有着许多不同的硬件资源（如主板芯片组不同，网�%Aq不同，�% 1�盘，RAID 卡，显卡不同）。迁移后的服务器，不仅可以在�%Bx�个统一的界面中进行管理，而且通�%B �某些虚拟机软件，如 VMware 提供的高可用性工具，在这些服务�%Ax因�eBA各�% 7�故障停机时，可以自动切换到网络中另外相同的虚拟服务器中，从而达到不中断业务的目的。总之，迁移的优势在于简化系统维护管理， 提高系统负载均衡，增强系统错误容忍度和优化系统电源管理。

虚拟机迁移的性能指标

一个优秀的迁移工具，目标是最小化整体迁移的时间和停机时间，并且将迁移对于被迁移主机上运行服务的性能造成的影响降至最低。当然，这几个因素互相影响，实施者需要根据迁移针对的应用的需求在其中进行衡量，选用合适的工具软件。虚拟机迁移的性能指标包括以下三个方面：

1. 整体迁移时间：从源主机开始迁移到迁移结束的时间
2. 停机时间：迁移过�eA8�中，源主机、目的主机同时不可用的时间
3. 对应用程序的�e80�能影响：迁移对于被迁移主机上运行服务性能的的影响程度。

虚拟机迁移的分类及原理

物理机到虚拟机的迁移（Physical-to-Virtual）

P2V 指迁移物理服务器上的操作系统及其上的应用软件和数据到 VMM（Virtual Machine Monitor）管理的虚拟服务器中。这种迁移方式，主要是使用各种工具软件，把物理服务器上的系统状态和数据“镜像”到 VMM 提供的虚拟机中，并且在虚拟机中“替换”物理服务器的存储硬件与网卡驱动程序。只要在虚拟服务器中安装好相应的驱动程序并且设置与原来服务器相同的地址（如 TCP/IP 地址等），在重启虚拟机服务器后，虚拟服务器即可以替代物理服务器进行工作。

P2V 迁移方法

• 手动迁移：手动完成所有迁移操作，需要对物理机系统和虚拟机环境非常了解。

1. 关闭原有的物理机上的服务和操作系统，并且从其他媒质上启动一个新的系统。比如从 LiveCD 上启动一个新的光盘系统。大部分的发行版都会带有 LiveCD。
2. 把物理机系统的磁盘做成虚拟机镜像文件，如有多个磁盘则需要做多个镜像，并且拷贝镜像到虚拟主机上。
3. 为虚拟机创建虚拟设备，加载镜像文件
4. 启动虚拟机，调整系统设置，并开启服务。

• 半自动迁移：利用专业工具辅助 P2V 的迁移，把某些手动环节进行自动化。比如将物理机的磁盘数据转换成虚拟机格式，这一向是相当耗时的工作，你可以选择专业的工具来完成这个步骤。这里有大量的工具可以使用，如 RedHat 的开源工具 virt-p2v，Microsoft Virtual Server Migration Toolkit 等。
• P2V 热迁移：迁移中避免宕机 。大部分 P2V 工具也有一个很大的限制：在整个迁移过程中，物理机不可用。在运行关键任务的环境或有 SLA（服务水平协议）的地方，这种工具不可选。幸运的是随着 P2V 技术的发展，VMware vCenter Converter 和 Microsoft Hyper-V 已经能够提供热迁移功能，避免宕机。目前，P2V 热迁移仅在 Windows 物理服务器可用，未来将添加对 Linux 的支持。

虚拟机到虚拟机的迁移（Virtual-to-Virtual）

V2V 迁移是在虚拟机之间移动操作系统和数据，照顾主机级别的差异和处理不同的虚拟硬件。虚拟机从一个物理机上的 VMM 迁移到另一个物理机的 VMM，这两个 VMM 的类型可以相同，也可以不同。如 VMware 迁移到 KVM， KVM 迁移到 KVM。可以通过多种方式将虚拟机从一个 VM Host 系统移动到另一个 VM Host 系统。

V2V 离线迁移

离线迁移（offline migration）：也叫做常规迁移、静态迁移。在迁移之前将虚拟机暂停，如果共享存储，则只拷贝系统状态至目的主机，最后在目的主机重建虚拟机状态，恢复执行。如果使用本地存储，则需要同时拷贝虚拟机镜像和状态到目的主机。到这种方式的迁移过程需要显示的停止虚拟机的运行。从用户角度看，有明确的一段服务不可用的时间。这种迁移方式简单易行，适用于对服务可用性要求不严格的场合。

V2V 在线迁移

在线迁移（online migration)：又称为实时迁移 (live migration)。是指在保证虚拟机上服务正常运行的同时，虚拟机在不同的物理主机之间进行迁移，其逻辑步骤与离线迁移几乎完全一致。不同的是，为了保证迁移过程中虚拟机服务的可用，迁移过程仅有非常短暂的停机时间。迁移的前面阶段，服务在源主机运行，当迁移进行到一定阶段，目的主机已经具备了运行系统的必须资源，经过一个非常短暂的切换，源主机将控制权转移到目的主机，服务在目的主机上继续运行。对于服务本身而言，由于切换的时间非常短暂，用户感觉不到服务的中断，因而迁移过程对用户是透明的。在线迁移适用于对服务可用性要求很高的场景。

目前主流的在线迁移工具，如 VMware 的 VMotion，XEN 的 xenMotion，都要求物理机之间采用 SAN（storage area network）， NAS（network-attached storage）之类的集中式共享外存设备，因而在迁移时只需要考虑操作系统内存执行状态的迁移，从而获得较好的迁移性能。

另外，在某些没有使用共享存储的场合，可以使用存储块在线迁移技术来实现 V2V 的虚拟机在线迁移。相比较基于共享存储的在线迁移，数据块在线迁移的需要同时迁移虚拟机磁盘镜像和系统内存状态，迁移性能上打了折扣。但是他使得在采用分散式本地存储的环境下，仍然能够利用迁移技术转移计算机环境，并且保证迁移过程中操作系统服务的可用性，扩展了虚拟机在线迁移的应用范围。V2V 在线迁移技术消除了软硬件相关性，是进行软硬件系统升级，维护等管理操作的有力工具。

V2V 内存迁移技术

对于 VM 的内存状态的迁移，XEN 和 KVM 都采用了主流的的预拷贝（pre-copy）的策略。迁移开始之后，源主机 VM 仍在运行，目的主机 VM 尚未启动。迁移通过一个循环，将源主机 VM 的内存数据发送至目的主机 VM。循环第一轮发送所有内存页数据，接下来的每一轮循环发送上一轮预拷贝过程中被 VM 写过的脏页内存 dirty pages。直到时机成熟，预拷贝循环结束，进入停机拷贝阶段，源主机被挂起，不再有内存更新。最后一轮循环中的脏页被传输至目的主机 VM。预拷贝机制极大的减少了停机拷贝阶段需要传输的内存数据量，从而将停机时间大大缩小。

然而，对于更新速度非常快的内存部分，每次循环过程都会变脏，需要重复 pre-copy，同时也导致循环次数非常多，迁移的时间变长。针对这种情况，KVM 虚拟机建立了三个原则：集中原则，一个循环内的 dirty pages 小于等于 50；不扩散原则， 一个循环内传输的 dirty pages 少于新产生的；有限循环原则，循环次数必须少于 30。在实现上，就是采取了以下措施：

• 有限循环：循环次数和效果受到控制，对每轮 pre-copy 的效果进行计算，若 pre-copy 对于减少不一致内存数量的效果不显著，或者循环次数超过了上限，循环将中止，进入停机拷贝阶段。
• 在被迁移 VM 的内核设置一个内存访问的监控模块。在内存 pre-copy 过程中，VM 的一个进程在一个被调度运行的期间，被限制最多执行 40 次内存写操作。这个措施直接限制了 pre-copy 过程中内存变脏的速度，其代价是对 VM 上的进程运行进行了一定的限制。

KVM 的预拷贝在线迁移过程详解：

1. 系统验证目标服务器的存储器和网络设置是否正确，并预保留目标服务器虚拟机的资源。

   图 1. 源服务器和目标服务器简图

2. 当虚拟机还在源服务器上运转时，第一个循环内将全部内存镜像复制到目标服务器上。在这个过程中，KVM 依然会监视内存的任何变化。

   图 2. 内存镜像复制示意图

   
3. 以后的循环中，检查上一个循环中内存是否发生了变化。 假如发生了变化，那么 VMM 会将发生变化的内存页即 dirty pages 重新复制到目标服务器中，并覆盖掉先前的内存页。在这个阶段，VMM 依然会继续监视内存的变化情况。

   图 3. 进行有变化的内存复制

   
4. VMM 会持续这样的内存复制循环。随着循环次数的增加，所需要复制的 dirty pages 就会明显减少，而复制所耗费的时间就会逐渐变短，那么内存就有可能没有足够的时间发生变化。最后，当源服务器与目标服务器之间的差异达到一定标准时，内存复制操作才会结束，同时暂停源系统。

   图 4. 所需复制的数据在减少

5. 在源系统和目标系统都停机的情况下，将最后一个循环的 dirty-pages 和源系统设备的工作状态复制到目标服务器。

   图 5. 状态信息的复制

   
6. 然后，将存储从源系统上解锁，并锁定在目标系统上。启动目标服务器，并与存储资源和网络资源相连接。

   图 6. 停止源服务器，启动目标服务器

   

Virtual-to-Physical 虚拟机到物理机的迁移

V2P 指把一个操作系统、应用程序和数据从一个虚拟机中迁移到物理机的主硬盘上，是 P2V 的逆操作。它可以同时迁移虚拟机系统到一台或多台物理机上。尽管虚拟化的基本需求是整合物理机到虚拟机中，但这并不是虚拟化的唯一的应用。比如有时虚拟机上的应用程序的问题需要在物理机上验证，以排除虚拟环境带来的影响。另外，配置新的工作站是件令 IT 管理者头痛的事情，但虚拟化的应用可以帮助他解决这个难题。先配置好虚拟机，然后运用硬盘克隆工具复制数据至工作站硬件，比如赛门铁克的 Save & Restore (Ghost)。不过这种克隆方法有两个局限：一个镜像只能运用在同种硬件配置的机器上；要想保存配置的修改，只能重做新的镜像。

V2P 的迁移可以通过确定目标的物理环境来手动完成，如把一个特定的硬盘加载到虚拟系统中，然后在虚拟环境中安装操作系统、应用程序和数据，最后手动修改系统配置和驱动程序。这是一个乏味且不确定的过程，特别是在新的环境比旧的环境包含更多大量不同的硬件的情况下。为了简化操作，我们可以利用专门的迁移工具以自动的方式来完成部分或全部迁移工作。目前支持 V2P 转换的工具有 PlateSpin Migrate 和 EMC HomeBase。使用这样的工具使得 V2P 转换过程更简易，并且比使用第三方磁盘镜像工具更快捷。

V2P 迁移方法

V2P 的不确定性导致自动化工具不多，目前主要有以下几种解决方案：

• VMware 官方推荐的是使用 Ghost+sysprep 来实现半自动化的迁移。
• 基于备份和恢复操作系统的解决方案。这个方案利用了现成的系统备份恢复工具，没有体现虚拟机和物理机的差别，类似于 P2P（Physical-to-Physical 物理机到物理机迁移）。注意备份工具能够恢复系统到异构硬件平台上。
• 开源工具的解决方案。适合 Linux/Unix 系统，使用开源工具和脚本，手动迁移系统。这个方案难度较大，适合有经验的管理员。

回页首

Linux 系统在虚拟机迁移中的技术难点

通常我们期望虚拟机的迁移能够全部自动化或者部分自动化完成，但实际上 Linux 系统在 P2V 和 V2V 的迁移中可能遇到一些困难。本节列举了 Linux 迁移中需要注意的地方。

1. 磁盘分区名被硬编码。当我们做磁盘虚拟化时，可能会使用不同类型的虚拟磁盘设备，这将会导致磁盘名字的变化。比如 Xen 虚拟机中的半虚拟化设备使用 /dev/xvda 而标准的 Linux 半虚拟化设备使用 /dev/vda。准备迁移的 Linux 系统中存在对 /dev/hd* 和 /dev/sd* 磁盘分区名分散的关联，比如在 /etc/fstab 文件，启动初始化文件系统 ramfs 和一些解析磁盘设备的开机启动脚本文件中。V2V 迁移工具需要在整个磁盘上查找并修改这些关联。有一个简单的方法来避免这种情况： Linux 系统上主流的文件系统和交换分区类型可以使用 Lables 或 UUID 作为分区名。迁移时这些信息是被重点保护的，系统应该小心使用这些信息，一定不要使用设备作为分区名。另外，LVM 分区名和设备无关，在迁移中也不受影响。
2. 网络硬件设备的改变。当系统迁移时，网络设备很可能产生变化。比如虚拟网络设备和物理网络设备的转化或者不同类型的网络设备之间的转变。但是是他们的 MAC 地址没有变化。MAC 地址是 IEEE 分配给物理设备制造商的，两个物理设备不会有相同的 MAC 地址；然而虚拟网络设备可能出现这种情况。所以在做虚拟机迁移时，你必须记录每一个网络设备的 MAC 地址，保证 MAC 地址和网络设备的对应关系。
3. 内核不支持某些虚拟设备。某些 Linux 发行版没有 virtio 虚拟设备的驱动，可能是因为 Linux 发行版早于虚拟设备发布了；或者虚拟设备的驱动是闭源的；或者是在系统编译时去掉了。因此，有时我们另外需要一个完全不同的内核（比如 Xen 早期的版本就是这样的）。无论如何，在客户机上安装一个新的内核并且使之可以启动是一个很大的冒险，最好避免这样做。
4. Xwindow 需要重新配置。与磁盘、网络设备一样，系统迁移后显示设备也会变化。理想的情况是 Xwindow 会自动处理这个的变化，探测所有的显示设备并且使用它发现的第一个设备。但是这不意味着所有的 Linux 发行版都会以这种方式工作。
5. 网络环境的变化。静态 IP 地址和静态 DNS 解析在虚拟机迁移中 是一个麻烦的事情。尽管不是必须的，但是最好配置系统从 DHCP 服务器自动获得所有的网络配置信息。
6. CPU 的扩展指令集发生变化。迁移后的系统中，新的虚拟 CPU 或主板和旧的会有一些不同。CPU 的扩展指令集如 SSE，Vectors, NX 可能被加入或去掉。CPU 的型号和制造商信息可能被改变。因此，如果你想要优化虚拟系统上的软件，这可能是浪费时间并且导致系统崩溃。最好是使用通用的软件，让程序在每次启动的时候检查运�e8C环�% 2�和是否需要优化。实际上，实时迁移的状况比这个还要复杂，�%Ap为�e84理器可能在程序的运行的过% 7���%A 被改变。目前为止还没有一个方案能很好的解决这个问�%y8。