openstack存储类型总结

 

   对于openstack，有的时候很无力。一个人瞎折腾了快4个月了。感脚还是比较难，openstack的目标不是建立一个简单快捷的云平台么？我咋觉得就这么难呢？

   下面就对opensack里面用到了几类不同的储存做一下说明。一般会有三类，如果超过视情况而定：

 

opesntack storage

	实例/临时存储	卷的块存储(cinder)	对象存储（swift）
用途	给实例的初始空间	提供给VM永久的额外存储空间	存储虚拟镜像和文件
持久性	跟vm的生命周期一样	直到被删除为止	直到被删除为止
实现	本地文件系统实现	通过iscsi挂载实现		通过REST API实现
定义	根据flavors来定义大小	根据需求	根据需求，而且有极高的扩展性
例子	m1.small 10G/root 20G/临时存储	2TB的本地存储空间	10T以上的swift存储空间

 

  默认情况下生成的实例实在:/var/lib/nova/instances下面。

 

root@master:~# virsh list
 Id Name                 State
----------------------------------
  1 instance-00000006    running

root@master:~# ll /var/lib/nova/instances/instance-00000006/
total 494308
drwxrwxr-x 2 nova         nova      4096 Jan 14 12:04 ./
drwxr-xr-x 5 nova         nova      4096 Jan 14 11:59 ../
-rw-rw---- 1 libvirt-qemu kvm          1 Jan 14 12:05 console.log
-rw-r--r-- 1 libvirt-qemu kvm  506134528 Jan 16 11:20 disk
-rw-r--r-- 1 libvirt-qemu kvm     197120 Jan 14 12:04 disk.local
-rw-rw-r-- 1 nova         nova      1694 Jan 14 11:59 libvirt.xml

 

在实例目录下面会有几个文件。console日志。disk，disk.local，libvirt.xml。一下进行说明：

 

root@master:~# cd /var/lib/nova/instances/instance-00000006/
root@master:/var/lib/nova/instances/instance-00000006# ls
console.log  disk  disk.local  libvirt.xml
root@master:/var/lib/nova/instances/instance-00000006# qemu-img info disk
p_w_picpath: disk
file format: qcow2
virtual size: 10G (10737418240 bytes)
disk size: 483M
cluster_size: 65536
backing file: /var/lib/nova/instances/_base/09a1c65fb799ed070dd1e65b6296e19e656a040a_10 (actual path: /var/lib/nova/instances/_base/09a1c65fb799ed070dd1e65b6296e19e656a040a_10)
root@master:/var/lib/nova/instances/instance-00000006# qemu-img info disk.local p_w_picpath: disk.local
file format: qcow2
virtual size: 20G (21474836480 bytes)
disk size: 136K
cluster_size: 65536
backing file: /var/lib/nova/instances/_base/ephemeral_0_20_None (actual path: /var/lib/nova/instances/_base/ephemeral_0_20_None)

  你会发现里面disk有一个虚拟大小10G,还有存储大小483M.其实这个是创建实例的时候从glance拷贝过来的。下面一个20G就是临时存储了，当vm被删除后就会自动被释放里面的东西就完全没了。现在你可以理解为20G的空间被用了136K。

   一般情况下都有做热迁移的需求，那么你就需要用到共享存储了。说明白一点就是：将所有的openstack节点下的/var/lib/nova/instances目录能放在一个存储上而且共享，包括用户权限。(uid:nova gid:nova).因为里面存的都是虚拟机，目录的容量要比较大，可以用存储设备来支持（我真的很想用这个）。不过我做的是用glusterfs+ctdb+nfs+lvs这样的一个廉价的结构来实现的，但是这个性能真的很疼：因为局域网的带宽没有考虑到，所以搭起来的时候吓死我了。本地的读写大概在180M/S,iops峰值900左右。做成这个结构以后降到了5.7M/S.iops下降到峰值只有90左右（而且是集群测试，单节点更慢）。啥性能都没有了。网络环境太烂了，勿笑。

   块存储：F版出了一个cinder的东西。它的原理就是用iscsi个逻辑卷lvm结合。把存储空间做成逻辑卷然后利用iscsi远程挂载到被需求的实例上。那么后端的块存储就可以很灵活了，用什么设备你自己看咯。那么我用的是本地的硬盘，4个节点同是安装上 openstack storage,那么调度器会选中其中一台来提供。都是tgt端，安装上lvm2。 

   对象存储：swift这个可以单独部署使用可以，不需要结合openstack。但是在opensack里面目前我知道是用来存储虚拟镜像的，还有视频文档等等，比较像网盘。这个我就做了简单的应用。

   切记因为openstack里面用到多种方式的存储，对应的放案也不一样，所以很容易搞错了，提前做好认知工作是很有必要的。以上都是这些天来的实践经验，有问题的地方希望大家能帮俺指出哦！！