Pxe运维平台:
数据都是模拟的,勿当真!!!
更多关于运维自动化的文章,请到 xiaorui.cc
这段时间,去感受了下公司的pxe装机平台。 这边的装机是二次开发过的,加了很多的自定义的模块。一说 pxe装机,大家觉得很简单的事,说来也确实是。。。但是我们经常会遇见些皮毛又让人蛋疼的事,尤其是批量装机后,让业务线验收的时候,我们要先ping主机,然后ssh测试下,raid配置检查下,初始化下。。。
有朋友说可以用脚本搞呀,我们这边也确实是这么搞的,但还是会出现手忙脚乱的现象,我相信很多朋友也都遇见过,小量的pxe装机,大家都很稳妥的,我这段时间和同事测试,20个服务器之内的,大家都很是胸有成竹。但是数目一大,服务器一杂,配置的不通,这时候就会出现。。。。 其实就单纯的用cobbler装机,肯定不会很快的又特别顺利的配置完毕。 当一切顺利的时候还好说,但是万一出问题,比如是raid情况,有些是没有初始化,有些是没有根据业务线需求配置各种信息,还有些确实是装完了,但是让人恼火的是ping不通,ssh登录不了,kerberos也登录不了。。。。等等。。。
要做平台话的原因是:
我们不用手忙脚乱的做检测,要让我们知道各个服务器的进度到那里了。 是否重启了,是否划入了装机的vlan,是否收到了dhcp给的ip,是否进行安装,是否配置了ip,是否初始化了,是否部署了berkeros 。。。。。。 等等
前端 handlebars jquery
后端 python
服务 cobbler
平台处理流程:
业务线提需求——领导批准——通告网络组——配置pxe以及收集服务器信息——ipmi控制pxe——自动配置raid——装机——配置ip——获取他要做的事情——初始化信息——测试环境——通告基础运维组——通告业务线
我这里简单说下,要点。
cobbler 已经有了web ui 。但是好多东西和自己这边的工单和数据平台接口不搭边,干脆就自己搞的了。
自动化装机一定要格外小心,别他线上的机器给装了,为了确保这一点,有能力的公司,一般都会配置一个vlan ,pxe就在这个vlan中,这个pxe在这vlan中只能和pxe服务器、同级的服务器有通信能力。pxe有双网卡,一个是pxe,另一个是在外面的。有些服务器时常的抽风,重启后会pxe启动,要是你在装机vlan下,他会拿到dhcp的ip和tftp的地址。。。。这就糟了。。。
自动配置raid ,一般都是需要把一堆的raid工具集成到一个小系统里面,类似winpe的东西,这样我们可以在小系统内完成raid的配置。
ipmi管理,现在服务器都有ipmi的东西的,我们通过ipmitool工具对服务器进行重启,以及boot配置,通过浏览器进行console控制。
获取他要做的事情,我们在pxe做了一个小server,比如临时的调整,已经信息的收集,脚本的运行。
通告,客户端把所有事都搞完了,给pxe的那个小server发个包,说自己已经完成,申请进入数据vlan
他会给你发个邮件,或者在平台中看到,你点确认后,他会划入数据vlan
装机服务器中有个脚本,一直ping外网,当他能访问外网,就说明 一切都ok了。他会发邮件并给平台发个post数据。
关于这些cobbler,我相信大多数的朋友已经搞过好多了,我也就不多说了。
需要注意的话,更好的自动化还需要多点的功能,比如 ipmitool的用法,以及通告完成,自动划入划出vlan,初始化各种信息和密码。。。。
源地址:http://rfyiamcool.blog.51cto.com/1030776/1280524
先说下ipmitool
通过ipmitool主要可以实现以下几种操作:
1、查看主板的各种传感器信息,如cpu文档,主板电压等。
2、查看电源状态,并远程硬关机和开机。
3、远程指定boot引导顺序
4、远程视图,此功能是在ipmi的基础上改进bmc实现kvm功能(Keyboard, Video, Mouse)
5、远程文本视图
1、先是查看和配置ip信息和用户信息 ipmitool -H ip -U user -P xxxx lan print 1 #1为网络(lan)的信道(channel) ,默认是1, 运行命令时可以省略不输入。 ipmitool -I open lan print 1 #此命令和上面效果一样,不过此处是在本地执行,上一条是远程执行 ipmitool -I open lan set 1 ipaddr 192.168.0.120 #在隧道1设置ip ipmitool -I open lan set 1 netmask 255.255.255.0 #在隧道1设置掩码 ipmitool -I open lan set 1 defgw ipaddr 192.168.0.254 #在隧道1设置网关 ipmitool -I open lan set 1 access on #开启隧道1访问 ipmitool -H ip -U root -P xxxx user list #查看用户列表 ipmitool -H ip -U root -P xxxx user set password 2 #设置用户密码 2、查看传感器信息(对应管理A) ipmitool -H ip -U root -P xxxx sdr #打印传感器数据 ipmitool -H ip -U root -P xxxx sensor #打印传感器详细数据 3、远程开关机 ipmitool -H ip -U root -P xxxx power off #硬关机,直接切断电源 ipmitool -H ip -U root -P xxxx power soft #软关机,即如同轻按一下开机扭 ipmitool -H ip -U root -P xxxx power on #硬开机 ipmitool -H ip -U root -P xxxx power reset #硬重启 ipmitool -H ip -U root -P xxxx power status #获取当前电源状态 4、设置boot启动项 ipmitool -H ip -U root -P xxxx chassis bootdevbootdev [clear-cmos=yes|no] bootdev [options=help,...] none : Do not change boot device order pxe : Force PXE boot disk : Force boot from default Hard-drive safe : Force boot from default Hard-drive, request Safe Mode diag : Force boot from Diagnostic Partition cdrom : Force boot from CD/DVD bios : Force boot into BIOS Setup floppy: Force boot from Floppy/primary removable media
ipmitool就可以实现与硬件交互,推荐使用,你也没有别的好选择。
自动中可以配合重启,pxe,获取电源状态,重新配置密码。
需要说明的一点: ipmi的管理,有时经常的抽风,很让人郁闷~ dell还可以,尤其是hp dl系列 ibm x3... 系列的服务器 ,让人抓狂。经常会遇见登录不了,果断时间又可以了,所以大家需要把错误的管理ip暂时堆放到队列里面,等sleep 30s后 再去获取,这时候就90%的可能性成功了。
关于ipmi的管理,我是用python调用ipmitool工具写的,各种模块写完,差不多有1800行的代码量,说实话很费心。因为各个服务器用的管理卡型号不一样,有时会莫名的修改错误,比如 lanplus和 user list 。
有时就需要亲自上手改ip和密码了。
对于自动划入装机vlan,他的标准做法是你提供ip和mac地址,然后从交换机上测试,ip和mac匹配的话,进行划入装机vlan。
有时候因为各种的错误没有ip地址了,这样的话,我们需要用ipmi来重启服务器,在交换机中可以看到up down的信息,当端口down的时候,我们用ipmitool的工具查看是否真的电源down状态,当up的时候,看看是否电源已经开启了。通过这两点判断准确性,不然碰巧有个sb重启了,你给划入装机vlan。。。。这就。。。
自动划入vlan实现的方式是,定期去交换机拿数据,然后对比信息,推送信息和指令。
自动raid的配置, 我们是是封装的一个小内核系统,附带了厂家的raid厂商工具,实现自动的配置。
大家可以用MegaCli,他可以实现这些功能的。
简单提下他的用法,详细的大家搜搜哈~
创建一个 raid5 阵列,由物理盘 2,3,4 构成,该阵列的热备盘是物理盘 5 #/opt/MegaRAID/MegaCli/MegaCli64 -CfgLdAdd -r5 [1:2,1:3,1:4] WB Direct -Hsp[1:5] -a0 创建阵列,不指定热备 #/opt/MegaRAID/MegaCli/MegaCli64 -CfgLdAdd -r5 [1:2,1:3,1:4] WB Direct -a0 删除阵列 #/opt/MegaRAID/MegaCli/MegaCli64 -CfgLdDel -L1 -a0 在线添加磁盘 #/opt/MegaRAID/MegaCli/MegaCli64 -LDRecon -Start -r5 -Add -PhysDrv[1:4] -L1 -a0 阵列创建完后,会有一个初始化同步块的过程,可以看看其进度。 #/opt/MegaRAID/MegaCli/MegaCli64 -LDInit -ShowProg -LALL -aALL
对于信息的定制,是分两种方式的。cobbler system就可以实现根据mac地址分配不同的业务。我们也可以通过c s的框架来获取业务的需求。装机后,会去server端 也就是到pxe端get任务数据。
通告的方式一是调用exchange的接口发邮件,二是 提交post请求,把工单的状态修改成完成。
对于平台化的思路:
我们能直接页面就定***务
这个就较简单了,把工单上被领导批准的任务取出来,然后展现到页面上。
咱们选择后,直接异步的给后端处理。后端调用cobbler接口来对参数的传递参数。
我们可以看到服务器的进度
通过后端的处理,用js模板把数据展现到页面中,我们可以看到各个主机的电源情况,ping情况,装机时间,完成的个数图表
我们可以看到各个指标完成进度
对于每个可以发送状态的情况,都要向pxe的一个server,发送他现在的情况。
比如 pxe启动,划入vlan,装机后获取到的临时ip【这个需求在pxe端监控dhcp log】,正在改需求中的ip,部署业务,初始化,已经发送邮件,已经验收。。。 这些都可以发送一个状态出来,这样我们就可以知道每个服务器都在那个进度上。对于一些过慢的,咱们就直接ipmi的bmc瞅瞅原因。
源地址:http://rfyiamcool.blog.51cto.com/1030776/1280524
这两天我要写个简单demo,来实现页面的数据展现
主要是:
进度的查看,以及系统版本,ks文件,脚本,业务线的选择
我们也可以用ipmitool的文本视窗功能远程控制ipmi图形
现在已经实现了,类似小米的装机平台,在页面上看到ipmi主机情况。
这是我的实现方式,只是还没空放到页面上显示罢了~
有兴趣的朋友,可以搞搞saltstack cobbler的方式 !