E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
lustre
Lustre
可靠性增强系统MTFS:第6篇 编程风格
遵循约定总会使得多人协作的成本降低,对于软件开发来说也是这样。 6.1 编程风格 MTFS的编程风格基本与内核的风格基本保持一致。可以用indent命令查看是否有较大出入。一段代码如下所示: int mtfs_setxattr(struct dentry *dentry, const char *name,const void *value, size_t size, int flag
jiagou
·
2012-07-27 11:00
编程
Lustre
可靠性增强系统MTFS:第5篇 在
Lustre
文件系统中的使用
本文选取分布式文件系统
Lustre
作为下层文件系统,提出了一种使用MTFS的副本模式增强分布式存储系统可靠性的方法。
jiagou
·
2012-07-24 22:00
文件系统
Lustre
可靠性增强系统MTFS:第4篇 下层文件系统支持
4.1 为何需要下层文件系统支持? MTFS的目的是为众多文件系统提供一种通用的高可用框架。为了这个目的,MTFS的大部分实现方式都是通用的。但是下层文件系统千奇百怪,因此还需要一种机制来处理下层文件系统的差异性,这个机制就是枢纽机制。 4.2 如何添加下层文件系统支持? 对于每种作为MTFS的下层文件系统,首先需要定义structlowerfs_operations,在其中给出下层文件系
jiagou
·
2012-07-14 19:00
文件系统
深入理解
Lustre
文件系统-第2篇 Portal RPC
Portal RPC是
Lustre
的RPC组件,它构建于LNET之上,提供客户端和服务器之间进行消息通信的接口。 2.1消息通信连接的建立 进行Portal RPC通信的
jiagou
·
2012-07-11 23:00
Portal
分布式文件系统比较
Lustre
复杂,高效,适合大型集群。PVFS2搭配定制应用会很好,据说曙光的并行文件系统就是基于PVFS。适合做通用文件系统的有MooseFS,GlusterFS,
Lustre
。==
zhyuxuan_lan
·
2012-06-21 15:26
分布式
文件系统
hdfs
gfs
mf
linux集群高可用
分布式文件系统比较
Lustre
复杂,高效,适合大型集群。PVFS2搭配定制应用会很好,据说曙光的并行文件系统就是基于PVFS。适合做通用文件系统的有MooseFS,GlusterFS,
Lustre
。==
zhyuxuan_lan
·
2012-06-21 15:26
分布式
GFS
hdfs
文件系统
MFS
深入理解
Lustre
文件系统-第1篇 跟踪调试系统
一直以来,Linus Torvalds对内核调试器都秉持着抵触态度,并且摆出了我是bastard我怕谁的姿态。他保持了一贯风格,言辞尖锐却直指本质。相信这是经验之谈。在调试内核时,最关键的问题是如何获取出错相关的信息,准确定位出错位置。获取信息有很多方法,其中内核调试器只能提供有限的帮助,而分析日志则是最基本也是最主要的方法。为内核层软件提供一种方便的日志工具,将大大简化其调试工作。在Linux
jiagou
·
2012-06-18 23:00
文件系统
Lustre
可靠性增强系统MTFS:第3篇 系统结构
MTFS是一种扇出式的内核层堆叠式文件系统。那么什么是堆叠式文件系统?堆叠式文件系统是一种轻量级的文件系统,它可安装在其他文件系统之上,从而为已有文件系统提供了一种增量式开发方法。堆叠式文件系统本身不提供数据存储功能,而是堆叠在下层文件系统之上,调用下层文件系统接口,完成文件系统操作。按照堆叠方式的不同,堆叠式文件系统可分为线性和非线性两类,非线性堆叠式文件系统又可分为扇入式(fan-in)和扇出
jiagou
·
2012-06-13 23:00
系统
Lustre
可靠性增强系统MTFS:第2篇 安装
2.1 硬件环境需求 除了硬件环境能被一定版本的Linux操作系统支持之外,MTFS对硬件环境没有其他的特殊需求。 2.2 软件环境需求 对使用环境上,MTFS具有一下要求: MTFS支持有限的linux内核版本。 MTFS支持的安装方式包括源码安装和rpm包安装。如需通过rpm包安装,则需要安装有相应的rpm包管理工具。 为了使用MTFS的工具,需要包含readline库
jiagou
·
2012-06-12 17:00
安装
Lustre
可靠性增强系统MTFS:第1篇 简介
1.1 MTFS是什么? MTFS(MulTi File System)是一个基于副本的可靠性增强系统。它通过维持文件的多个副本,提高分布式存储系统的可靠性。 MTFS是一个堆叠式的(stackable)文件系统,它本身不提供数据的存储能力,而直接利用下层文件系统存储数据。因此MTFS可独立于下层文件系统的具体实现,专注于副本策略的设计。MTFS支持包括本地文件系统、网络文件系统
jiagou
·
2012-06-10 19:00
简介
欢迎共同参与开源内核文件系统开发项目:
Lustre
可靠性增强系统MTFS
一、MTFS是什么? 1. MTFS(MulTi File System)是一个基于副本的可靠性增强系统。它通过维持文件的多个副本,提高分布式存储系统的可靠性。 2. MTFS是一个堆叠式的(stackable)文件系统,它本身不提供数据的存储能力,而直接利用下层文件系统存储数据。因此MTFS可独立于下层文件系统的具体实现,专注于副本策略的设计。MTFS支持包括本地文件系统、网络文件系
jiagou
·
2012-06-09 21:00
文件系统
fuse-2.9.0编译 安装到 板子上
一些文件系统如ZFS,glusterfs和
lustre
使用FUSE实现。Linux用于支持用户空间文件系统的内核模块名叫FUSE,FUSE一词有时特指Linux下的用户空间文件系统。
ypist
·
2012-06-08 09:00
linux
虚拟机
File
download
makefile
深入理解
Lustre
文件系统-第13篇 未来的工作
Lustre
文件系统是由U.S.
jiagou
·
2012-05-29 17:00
文件系统
深入理解
Lustre
文件系统-第12篇
Lustre
磁盘文件系统:ldiskfs
现在它只被
Lustre
文件系统用在服务器端,作为底层的本地文件系统。本节给出了对ldiskfs机器与ext3文件系统不同之处的简要介绍。 就各自的I/O路径而言,
jiagou
·
2012-05-24 22:00
文件系统
深入理解
Lustre
文件系统-第12篇
Lustre
磁盘文件系统:ldiskfs
现在它只被
Lustre
文件系统用在服务器端,作为底层的本地文件系统。本节给出了对ldiskfs机器与ext3文件系统不同之处的简要介绍。 就各自的I/O路径而言,
jiagou
·
2012-05-24 22:00
文件系统
深入理解
Lustre
文件系统-第11篇
Lustre
一般化文件系统封装层:fsfilt
Lustre
在底层本地文件系统和
Lustre
之间提供了一个称为fsfilt的封装层。
jiagou
·
2012-05-03 19:00
文件系统
深入理解
Lustre
文件系统-第11篇
Lustre
一般化文件系统封装层:fsfilt
Lustre
在底层本地文件系统和
Lustre
之间提供了一个称为fsfilt的封装层。
jiagou
·
2012-05-03 19:00
文件系统
深入理解
Lustre
文件系统-第10篇 LNET:
Lustre
网络
LNET是一个消息传递API,源自SandiaPortals。虽然它们俩有一些共同点,但是它们俩是不同的东西。我们将探讨LustreLNET,但是不会深入研究这两者的不同。10.1核心概念首先,我们需要澄清一些在本节接下来的部分使用的一些术语,特别是进程ID、匹配项、匹配位和内存描述符。LNET进程IDLNET使用LNET进程ID来区分它的peer们,定义如下:typedefstruct{lnet
jiagou
·
2012-05-01 22:00
文件系统
深入理解
Lustre
文件系统-第10篇 LNET:
Lustre
网络
LNET是一个消息传递API,源自SandiaPortals。虽然它们俩有一些共同点,但是它们俩是不同的东西。我们将探讨LustreLNET,但是不会深入研究这两者的不同。10.1核心概念首先,我们需要澄清一些在本节接下来的部分使用的一些术语,特别是进程ID、匹配项、匹配位和内存描述符。LNET进程IDLNET使用LNET进程ID来区分它的peer们,定义如下:typedefstruct{lnet
jiagou
·
2012-05-01 22:00
文件系统
深入理解
Lustre
文件系统-第9篇 Portal RPC
Portal RPC为如下内容提供了基础机制: 通过输入口发送请求,接受请求 通过输出口接收和处理请求,发送请求 执行块数据传输 错误恢复 9.1客户端接口 我们将首先探讨Portal RPC的接口,而不深入到实现细节中。我们将用LDLM的发送机制作为例子。对这个实例,LDLM向客户端发送一个阻塞ASTRPC(ldlm_server_b
jiagou
·
2012-04-27 17:00
Portal
深入理解
Lustre
文件系统-第9篇 Portal RPC
Portal RPC为如下内容提供了基础机制: 通过输入口发送请求,接受请求 通过输出口接收和处理请求,发送请求 执行块数据传输 错误恢复 9.1客户端接口 我们将首先探讨Portal RPC的接口,而不深入到实现细节中。我们将用LDLM的发送机制作为例子。对这个实例,LDLM向客户端发送一个阻塞ASTRPC(ldlm_server_b
jiagou
·
2012-04-27 17:00
Portal
0xdeadbeaf的理解
在看
lustre
代码时,ldlm_lock_free函数中调用了#defineOBD_SLAB_FREE(ptr,slab,size) \do{
Choice_JJ
·
2012-04-16 19:00
cache
深入理解
Lustre
文件系统-第8篇 基础结构支持
此节探讨关于
Lustre
初始化、客户端注册、OBD设备管理等多个方面。
jiagou
·
2012-04-07 22:00
文件系统
深入理解
Lustre
文件系统-第8篇 基础结构支持
此节探讨关于
Lustre
初始化、客户端注册、OBD设备管理等多个方面。
jiagou
·
2012-04-07 22:00
文件系统
当下流行的分布式文件系统大阅兵
当前比较流行的分布式文件系统包括:
Lustre
、Hadoop、MogileFS、FreeNAS、FastDFS、NFS、OpenAFS、MooseFS、pNFS、以及GoogleFS。
wangshu3000
·
2012-04-05 16:00
分布式文件系统
深入理解
Lustre
文件系统-第7篇 MDC和
Lustre
元数据
7.1MDC概论 MDC模块是处在
Lustre
Lite之下的一层。它定义了一些元数据相关的函数,
Lustre
Lite可以调用这些函数来向MDS传输元数据请求。
jiagou
·
2012-04-01 21:00
文件系统
深入理解
Lustre
文件系统-第7篇 MDC和
Lustre
元数据
7.1MDC概论 MDC模块是处在
Lustre
Lite之下的一层。它定义了一些元数据相关的函数,
Lustre
Lite可以调用这些函数来向MDS传输元数据请求。
jiagou
·
2012-04-01 21:00
文件系统
深入理解
Lustre
文件系统-第6篇 OST和obdfilter
staticintost_setup(structobd_device*obd,obd_countlen,void*buf){...}fromLustresourcetreeb16如果我们正确地理解了上述注释,
Lustre
jiagou
·
2012-03-26 21:00
filter
深入理解
Lustre
文件系统-第6篇 OST和obdfilter
staticintost_setup(structobd_device*obd,obd_countlen,void*buf){...}fromLustresourcetreeb16如果我们正确地理解了上述注释,
Lustre
jiagou
·
2012-03-26 21:00
filter
深入理解
Lustre
文件系统-第5篇 LDLM:锁管理者
Lustre
锁管理者的基本思想来自于VAXDLM。在我们深入源码理解它如何工作之前,我们需要解释一些基本的概念。5.1名字空间我们首先涉及的概念是名字空间。
jiagou
·
2012-03-16 23:00
文件系统
深入理解
Lustre
文件系统-第4篇 LOV和OSC
从高层的图景看,LOV的任务是将页指向正确的OSC,而OSC的任务是收集脏页向量、组合(group)它们、将它们从传输线上发送到OST(当然,通过PortalRPC和LNET)。4.1OBD设备操作OBD面向设备操作是一个在LOV、OSC和MDC中使用并能被看到的一般性的源码组织模式和实现方法。OBD设备由obd_ops结构体定义的方法表描述,该方法表有点类似于前面提到的VFS文件、索引节点、de
jiagou
·
2012-03-15 22:00
文件系统
深入理解
Lustre
文件系统-第3篇
lustre
lite
作为概要,LustreLite以方法表(methodtable)的形式提供了如下函数:
Lustre
特有的文件操作,通过ll_file_operations表。
jiagou
·
2012-03-08 22:00
文件系统
深入理解
Lustre
文件系统-第2篇 体系结构的模块视图
Lustre
是一个以GNUGeneralPublic为许可证的,开源的分布式并行文件系统,由SunMicrosystemsInc.公司开发和维护。
jiagou
·
2012-03-05 22:00
文件系统
文件系统那些事-第4篇 并行文件系统之开源解决方案
Lustre
在高性能存储领域,
Lustre
是一个如雷贯耳的名字。据统计(2011年7月),世界十大超级计算中心当中的七个以及超过50%的全球top50超级计算机都在使用
Lustre
。
jiagou
·
2012-03-05 22:00
文件系统
深入理解
Lustre
文件系统-第1篇 前言
Lustre
文件系统是由U.S.Department of Energy Office of Science and National Nuclear SecurityAdministration
jiagou
·
2012-03-05 22:00
文件系统
why use
lustre
世界500强诸多在用
Lustre
。2,NFS适合底端100TB和高端1PB,存在单点故障问题,扩展性差。3,SAN性能好,但价格昂贵。4,30个高级工程师提供支持、服务和增强。
cafe_bing
·
2012-03-02 16:35
职场
文件系统
休闲
centos
lustre
简单 安装教程
因为业务需要,需要做一个分布式的
lustre
,提高I/O性能。
wsl3511
·
2012-02-23 10:07
安装
centos
职场
教程
休闲
Lustre
centos
lustre
简单 安装教程
因为业务需要,需要做一个分布式的
lustre
,提高I/O性能。
wsl3511
·
2012-02-23 10:07
职场
休闲
centos
分布式文件系统MFS、Ceph、GlusterFS、
Lustre
的比较
原文:http://www.weiruoyu.cn/?p=510MooseFS(MFS)CephGlusterFSLustreMetadataserver单个MDS。存在单点故障和瓶颈。多个MDS,不存在单点故障和瓶颈。MDS可以扩展,不存在瓶颈。无,不存在单点故障。靠运行在各个节点上的动态算法来代替MDS,不需同步元数据,无硬盘I/O瓶颈。双MDS(互相备份)。MDS不可以扩展,存在瓶颈。FUS
wsl3511
·
2012-02-22 11:16
MFS
Ceph
GlusterFS
L
分布式文件系统MFS、Ceph、GlusterFS、
Lustre
的比较
原文:http://www.weiruoyu.cn/?p=510MooseFS(MFS)CephGlusterFSLustreMetadataserver单个MDS。存在单点故障和瓶颈。多个MDS,不存在单点故障和瓶颈。MDS可以扩展,不存在瓶颈。无,不存在单点故障。靠运行在各个节点上的动态算法来代替MDS,不需同步元数据,无硬盘I/O瓶颈。双MDS(互相备份)。MDS不可以扩展,存在瓶颈。FUS
wsl3511
·
2012-02-22 11:16
GlusterFS
ceph
MFS
Lustre
Lustre
V.S. Hadoop V.S. Gluster
本文转载:http://smilett.com/?p=280差异总结表 LustreFSHadoopFSGlusterFSMetadataServer有。存在单点故障。 MDS使得用户可以访问到存储在一个或多个MDT上的元数据。每个MDS管理着LustreFS中的文件名和目录,并且为一个或者多个MDT提供网络请求处理。有。存在单点故障。 Namenode是一个中心服务器,负责管理文件系统的命名
peter_cloud
·
2012-01-04 17:00
Ubuntu+
Lustre
文件系统
Lustre
是一个透明的全局文件系统,客户端可以透明地访问集群文件系统中的数据,而无需知道这些数据的实际存储位置。
Happy_wuwy
·
2011-12-11 22:23
技术
服务器
客户端
应用程序
影响
FastDFS和GFS以及NFS的对比
这两个可能不是一个范畴的,或许与KFS,Gluster或
lustre
更接近一些,能不能描述一下这几个的区别,因为这方面的文档很少,这么好的东西要推广,也要有一个比较明确的对比和说明,更容易做方案去说服老板
wishfly
·
2011-11-06 17:00
apache
server
服务器
存储
文档
Facebook
Lustre
是开放源代码的集群文件系统
Lustrehttp://wiki.huihoo.com/wiki/
Lustre
您可以在Wikipedia上了解到此条目的英文信息
Lustre
Thanks,Wikipedia.
Lustre
是开放源代码的集群文件系统
·
2011-10-25 18:00
文件系统
MFS分布式文件系统
5、
Lustre
复杂,高效,适合大型集群。6、PVFS2搭配定制应用会很好,据说曙光的并行文件系统就是基于PVFS。以上评价,非个人评价,是从CHINAUNIX中,
325232100
·
2011-08-25 15:28
分布式
mfs
服务相关
MFS分布式文件系统
5、
Lustre
复杂,高效,适合大型集群。 6、PVFS2搭配定制应用会很好,据说曙光的并行文件系统就是基于PVFS。 以上评价,非个人评价,是从CHINA
325232100
·
2011-08-25 15:28
分布式
MFS
当下流行的分布式文件系统简单介绍
当前比较流行的分布式文件系统包括:
Lustre
、Hadoop、MogileFS、FreeNAS、FastDFS、NFS、OpenAFS、MooseFS、pNFS、以及GoogleFS。
woshisap
·
2011-07-14 13:00
GlusterFS学习
GlusterFS学习对于分布式存储已经被越来越多的公司所应用,对于这方面的学习自然不能忽略,之前就也看过相关的内容,像红帽的GFS,google的googlefs,开源的现在也越来越多,像Fastdfs,ZFS,
Lustre
ijqingyy
·
2011-07-10 14:54
职场
休闲
Glusterfs
linux
GlusterFS学习
GlusterFS学习 对于分布式存储已经被越来越多的公司所应用,对于这方面的学习自然不能忽略,之前就也看过相关的内容,像红帽的GFS,google的googlefs,开源的现在也越来越多,像Fastdfs,ZFS,
Lustre
ijqingyy
·
2011-07-10 14:54
职场
GlusterFS
休闲
Debian下搭建Samba CTDB集群。
在使用SambaCTDB搭建群集时,推荐使用如下图所示的结构,在SambaCTDB的节点后面使用GPFS、GFS2、GlusterFS、
Lustre
之类的集群存储系统。
onlyzq
·
2011-06-22 18:27
linux
Debian
samba
onlyzq
CTDB
上一页
1
2
3
4
5
6
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他