本帖最后由 larryexchange 于 2017-1-22 21:43 编辑
差不多两年前开始玩HP MicroServer Gen8时,就想着利用这些小机器来打造一个分布式的存储。
[NAS] 用三台GEN8打造一个分布式分层存储-硬件篇
[NAS] 用三台GEN8打造一个分布式分层存储-软件篇
如今时过境迁,三台GEN8出了两台,还剩一台也挂在咸鱼上了。
至于为什么最终放弃了,有个人的原因,也有本身千兆网卡限制了整体性能的发挥。更重要的是如@[NAS] Gen8升级之选,四盘位 8核16线程 128GB DDR4内存NAS开箱 中提到的,Gen8的内存太少。即便用三台组成一个群集,可以供给虚拟机用的内存也就三十多个GB。
[email protected],[email protected]��[email protected]87的主板。不过一直没有下决心入手,一来是价格偏高,二来3.5寸的盘位对我来说有些浪费。手边多的是2.5寸的盘,如果有一个只使用2.5寸硬盘但体积更小的服务器就最理想了。
终于在美亚上发现超微的另一款紧凑型的小服务器准系统SYS-E300-8D (https://www.amazon.com/Supermicr ... d=1478246645&sr=8-1)。
SYS-E300-8D.jpg (56.12 KB, 下载次数: 1)
2016-11-4 16:14 上传
乍一看,是不是有点像台路由器?如果扩展成下面这样,你是不是甚至会误以为它是台桌面交换机?
tinkertry-sys-e300-8d_back-700x176.png (202.35 KB, 下载次数: 1)
2016-11-4 16:11 上传
不过它实实在在是台功能完整的小服务器,包括了:
CPU: INTEL至强D-1518, 4核/8线程,2.2GHz(如果你有条件将其放入冰库中使用,甚至可以替换为集成D-1587的主板,16核/32线程,而且还有了SAS控制器)
内存:支持128GB DDR4服务器内存(同5028D一样)
硬盘接口:1个M.2(最大支持尺寸22110),1个mSATA(半高或全高),4个SATA3(其中两个黄色的可以用于SuperDOM的盘)
网口:1个IPMI管理口,6个千兆网口(有国外科技博主说是4个千兆网口,两个万兆电口,有待验证),两个万兆光口(你没看错一共9个网口)
扩展槽:2个PCIe 3.0 x8的扩展槽
这个机器最吸引我的除了便宜(两台的价格也就比一台5028D多一点),主要是尺寸小,借tinkertry.com的一张图来对比一下。
TinkerTry-front-view-comparison-Supermicro-SuperServer-SYS-5028D-TN4T-and-SYS-E3.jpg (102.43 KB, 下载次数: 1)
2016-11-4 16:34 上传
上面左边是5028D,右边上面的是E200-8D,下面就是E300-8D。
再来一张E300和Surface Pro放在一起的比较
E300-and-Surface.jpg (99.1 KB, 下载次数: 3)
2016-11-30 16:24 上传
偷懒这里借https://forums.servethehome.com/ ... -sys-e300-8d.10723/ 帖子中的几张开箱图,重复的就不发了。
外包装
1 (Medium).jpg (87.97 KB, 下载次数: 1)
2016-11-4 16:39 上传
正面
2 (Medium).jpg (94.91 KB, 下载次数: 1)
2016-11-4 16:39 上传
侧面
7 (Medium).jpg (79.43 KB, 下载次数: 1)
2016-11-4 16:39 上传
背面
3 (Medium).jpg (100.78 KB, 下载次数: 1)
2016-11-4 16:39 上传
打开上盖,注意到打开上盖后还有个板,这个板上开了固定两个2.5寸硬盘的螺孔。但是由于1U机箱的高度限制和CPU及散热器的高度,右侧的那个是没有空间再加一块硬盘的,7mm的也不行。
4 (Medium).jpg (111.97 KB, 下载次数: 1)
2016-11-4 16:39 上传
好在左侧那个可以。下图中是一块15mm的4TB硬盘。事实上亲测叠加三个7mm的2.5寸硬盘都没有问题。三个硬盘可以用绝缘耐热胶带绑在一起。
IMG_0106 (Custom).JPG (117.28 KB, 下载次数: 2)
2016-11-30 16:26 上传
原配的线缆只支持一块2.5寸的硬盘。
IMG_0108 (Custom).JPG (181.4 KB, 下载次数: 2)
2016-11-30 17:04 上传
如果要接三块的话,需要自己准备线缆。下图是装入了三块SSD的样子。
IMG_0206 (Custom).JPG (148.26 KB, 下载次数: 1)
2017-1-3 22:32 上传
揭开上面那块用于固定硬盘的盖板后,可以看到机器内部的样子。
5 (Custom).jpg (187.79 KB, 下载次数: 1)
2016-11-4 16:41 上传
这是插入了M.2 NVMe SSD的样子。那个M.2的槽位既可以支持NVMe的SSD,也可以支持M.2形式的SATA的SSD。最大长度支持22110尺寸的M.2盘。不过由于SYS-E300-8D的主板的最新的BIOS只是1.0a,实测发现不支持NVMe启动。5028D也是更新到1.0b以后才支持的。相信再过阵子或许会发出新的BIOS来支持NVMe启动。
6 (Medium).jpg (167.35 KB, 下载次数: 1)
2016-11-4 16:39 上传
没有NVMe启动问题也不大,主板上两个黄色的SATA口是带供电的,可以插超微自己的Super DOM盘,DOM盘是最适合作为操作系统盘的。Super DOM盘和普通DOM的区别就在于插在黄色的口上不需要再连接侧面的那根供电线。64GB的容量运行操作系统绰绰有余,性能也足够用了。对于服务器来说,无论是小型机箱还是2U甚至更大的服务器,使用DOM都可以节省一个宝贵的硬盘槽位。
DOM.jpg (41.87 KB, 下载次数: 2)
2016-11-30 18:45 上传
as-ssd-bench SATA SSD 11.30.2016 6-51-52 PM.png (46.4 KB, 下载次数: 2)
2016-11-30 18:52 上传
这是用于固定PCIe Riser卡的附件。
8 (Medium).jpg (92.37 KB, 下载次数: 1)
2016-11-4 16:39 上传
注意包装中没有包括那块PCIe Riser卡,需要单独购买,我也是从美亚下的单。型号是RSC-RR1U-E8(https://www.amazon.com/gp/produc ... 0_s00?ie=UTF8&psc=1)。
1331567396.jpeg (27.1 KB, 下载次数: 1)
2016-11-4 16:51 上传
下面是装上Riser卡后的样子
IMG_0121 (Custom).JPG (106.05 KB, 下载次数: 2)
2016-11-30 16:30 上传
为什么一定要买这个PCIe Riser卡?因为有了它,你才能将PCIe槽真正用起来,而这是这台小机器可以变化出不同玩法的地方。
比如:
通过下面的mSATA转PCIe的卡可以扩展出4块mSATA的SSD,这样就有了,5块mSATA,2块SuperDOM,1块M.2,共8块SSD,这还没考虑空闲的两个SATA口,至少加两个DOM盘是没有问题的。
e2015061874313.jpg (67.45 KB, 下载次数: 1)
2016-11-4 17:33 上传
我开始采用的也是方案二。(不要问我为什么只装了3块mSATA,我暂时只需要三块,问多了怕触发我的强迫症)
IMG_0125 (Custom).JPG (136.07 KB, 下载次数: 2)
2016-11-30 16:33 上传
将上面的PCIe卡插入Riser卡
IMG_0127 (Custom).JPG (125.97 KB, 下载次数: 2)
2016-11-30 16:33 上传
再装入机箱,并增加了一个13K rpm的风扇可以给PCIe卡和上面的mSATA盘散热。
IMG_0128 (Custom).JPG (165.45 KB, 下载次数: 2)
2016-11-30 16:33 上传
合上硬盘盖板和外盖。
IMG_0129 (Custom).JPG (124.77 KB, 下载次数: 3)
2016-11-30 16:33 上传
来张两台放在一起的合影
IMG_0123 (Custom).JPG (94.81 KB, 下载次数: 2)
2016-11-30 16:38 上传
从背后看接线也很简洁,两根黄线是链接外部网络的,两根DAC把两台机器的4个光口直连起来,甚至都不用作任何配置(不需要设置IP地址,链路聚合),Windows Server 2016会自动将节点间的流量通过这些万兆的口,而且通过SMB Multichannel可以均衡地获得20Gb的节点间吞吐。
IMG_0124 (Custom).JPG (103.23 KB, 下载次数: 2)
2016-11-30 16:38 上传
这是从系统中看单节点的磁盘配置
Get-PhysicalDisk.png (122.59 KB, 下载次数: 3)
2016-11-30 16:43 上传
之所以选择E300-8D而不是更小的E200-8D,就是觉得这个机器多了个半高的PCIe槽位,可玩性要高得多。
~~~~~~~2016年12月26日更新~~~~~~~~~~
通过本站网友推荐的购买链接https://www.chiphell.com/thread-1681019-1-1.html 入手了一块Intel 910,用于替代上面的三块mSATA及转接卡。新的SSD实际上是四块独立的HGST SSD400M 200GB SSD,正好符合我需要的三块以上独立数据磁盘的要求。
Intel_910_ang1.jpg (85.92 KB, 下载次数: 1)
2016-12-26 17:20 上传
~~~~~~~2017年1月3日更新~~~~~~~~~~
SYS-E300-8D原配的主板是X10SDV-TP8F,集成的CPU是4核8线程的至强D-1518
E300-8D在压力测试下,CPU温度稳定在55度。(更换了CPU主动散热器和加装了第三个风扇)
Stress Test0.png (177.99 KB, 下载次数: 1)
2017-1-3 23:02 上传
此时风扇速度在6000转左右(平时在5000转以下),噪音有些大。
Fan Speed0.png (141.21 KB, 下载次数: 1)
2017-1-3 23:03 上传
另一台是用的是高配的X10SDV-7TP8F主板。这块主板搭载了16核32线程的D-1587。另外还多4个SAS2接口。
要说D-1587,那是相当强悍。它给了这个小怪兽一颗强大的心脏。根据STH上发布的评测 https://www.servethehome.com/int ... ore-xeon-d-is-here/ ,这颗CPU相当于两颗Xeon E5-2670 V1或者两颗Xeon E5-2620 V3。
至于温度,更换CPU主动散热器的情况下,经过烤机几个小时,稳定在78度。
Stress Test.png (172.56 KB, 下载次数: 1)
2017-1-3 22:37 上传
风扇虽未全速(平时三个前置风扇转速在5000转左右,CPU风扇转速在2800转。在对PM953压力测试时,前置风扇出现过14000转的极速),那噪音在室内已很难忍受。
此时功耗在129W左右(注意此时的功耗仅仅是CPU和内存,还没有装上Intel 910,也没有对于安装的mSATA和NVMe盘加压)。如果禁用SAS控制器和I350四口网卡,压力测试时功耗大约118W。
IMG_0208 (Custom).JPG (122.46 KB, 下载次数: 1)
2017-1-3 22:32 上传
所以最终换了DELL的216W电源(12V, 18A)才算勉强撑得住。上一张图,你们感受一下这个电源砖头的大小。
IMG_0174 (Custom).JPG (101.06 KB, 下载次数: 1)
2016-12-26 17:30 上传
下面是换上主板,插满内存,插上SM841 512GB的mSATA作为启动盘和系统盘,插上PM953 960GB M.2后的样子。
IMG_0205 (Custom) (2).JPG (230.57 KB, 下载次数: 2)
2017-1-3 22:35 上传
细心的网友可能发现机箱也换了新的,这是我单为这块主板购买的机箱,相对于E300-8D原本的机箱,这个机箱有几点变化:
第三个风扇的位置更加合理,可以对着PCIe卡吹。
两个侧面的开孔更多
RESET按钮较深,需要用笔尖才能捅到