(5)高性能、高可用的大型分布式网站(4)

一、大型网站的特点:

1.用户多,分布广泛

2.大流量,高并发

3.海量数据,服务高可用

4.安全环境恶劣,易受网络攻击

5.功能多,变更快,频繁发布

6.从小到大,渐进发展

7.以用户为中心

8.免费服务,付费体验

二、大型网站架构目标

(5)高性能、高可用的大型分布式网站(4)_第1张图片

1.高性能:提供快速的访问体验。

2.高可用:网站服务一直可以正常访问。

3.可伸缩:通过硬件增加/减少,提高/降低处理能力。

4.扩展性:方便地通过新增/移除方式,增加/减少新的功能/模块。

5.安全性:提供网站安全访问和数据加密、安全存储等策略。

6.敏捷性:随需应变,快速响应。

1.高性能架构

高性能的架构是以用户为中心,提供快速的网页访问体验,主要参数有较响应时间、较大的并发处理能力、较高的吞吐量稳定性能参数。

可分为前端优化、浏览器优化、应用层优化、代码层优化与存储层优化:

前端优化:网站业务逻辑之前的部分。

浏览器优化减少 HTTP 请求数,使用浏览器缓存,启用压缩,CSS JS 位置,JS 异步,减少 Cookie 传输;CDN 加速反向代理

应用层优化:处理网站业务的服务器。使用缓存,异步,集群

代码优化:合理的架构,多线程资源复用(对象池,线程池等),良好的数据结构,JVM调优单例,Cache 等。

存储优化缓存、固态硬盘、光纤传输、优化读写、磁盘冗余、分布式存储(HDFS)、NoSQL 等。

2.高可用架构

大型网站应该在任何时候都可以正常访问,正常提供对外服务。因为大型网站的复杂性,分布式,廉价服务器,开源数据库,操作系统等特点,要保证高可用是很困难的,也就是说网站的故障是不可避免的。

如何提高可用性,就是需要迫切解决的问题。首先,需要从架构级别考虑,在规划的时候,就考虑可用性。

行业内一般用几个 9 表示可用性指标,比如四个 9(99.99),一年内允许的不可用时间是 53 分钟。

不同层级使用的策略不同,一般采用冗余备份和失效转移解决高可用问题:

应用层:一般设计为无状态的,对于每次请求,使用哪一台服务器处理是没有影响的。一般使用负载均衡技术(需要解决 Session 同步问题)实现高可用。

服务层:负载均衡,分级管理,快速失败(超时设置),异步调用,服务降级,幂等设计等。

数据层:冗余备份(冷,热备[同步,异步],温备),失效转移(确认,转移,恢复)。数据高可用方面著名的理论基础是 CAP 理论。(持久性,可用性,数据一致性[强一致,用户一致,最终一致])

3.可伸缩架构

伸缩性是指在不改变原有架构设计的基础上,通过添加/减少硬件(服务器)的方式,提高/降低系统的处理能力:

应用层:对应用进行垂直或水平切分。然后针对单一功能进行负载均衡(DNS、HTTP[反向代理]、IP、链路层)。

服务层:与应用层类似。

数据层分库、分表、NoSQL 等;常用算法 Hash,一致性 Hash。

4.可扩展架构

可以方便地进行功能模块的新增/移除,提供代码/模块级别良好的可扩展性:

模块化,组件化:高内聚,低耦合,提高复用性,扩展性。

稳定接口:定义稳定的接口,在接口不变的情况下,内部结构可以“随意”变化。

设计模式:应用面向对象思想,原则,使用设计模式,进行代码层面的设计。

消息队列:模块化的系统,通过消息队列进行交互,使模块之间的依赖解耦。

分布式服务:公用模块服务化,提供其他系统使用,提高可重用性,扩展性。

5.安全架构

对已知问题有有效的解决方案,对未知/潜在问题建立发现和防御机制。对于安全问题,首先要提高安全意识,建立一个安全的有效机制,从政策层面,组织层面进行保障。

比如服务器密码不能泄露,密码每月更新,并且三次内不能重复;每周安全扫描等。

以制度化的方式,加强安全体系的建设。同时,需要注意与安全有关的各个环节。

安全问题不容忽视,包括基础设施安全,应用系统安全,数据保密安全等:

基础设施安全:硬件采购,操作系统,网络环境方面的安全。一般采用正规渠道购买高质量的产品,选择安全的操作系统,及时修补漏洞,安装杀毒软件防火墙。

防范病毒,后门。设置防火墙策略,建立 DDOS 防御系统,使用攻击检测系统,进行子网隔离等手段。

应用系统安全:在程序开发时,对已知常用问题,使用正确的方式,在代码层面解决掉。

防止跨站脚本攻击(XSS),注入攻击,跨站请求伪造(CSRF),错误信息,HTML 注释,文件上传,路径遍历等。

还可以使用 Web 应用防火墙(比如:ModSecurity),进行安全漏洞扫描等措施,加强应用级别的安全。

数据保密安全:存储安全(存储在可靠的设备,实时,定时备份),保存安全(重要的信息加密保存,选择合适的人员复杂保存和检测等),传输安全(防止数据窃取和数据篡改)。

常用的加解密算法(单项散列加密[MD5、SHA],对称加密[DES、3DES、RC]),非对称加密[RSA]等。

6.敏捷性

网站的架构设计,运维管理要适应变化,提供高伸缩性,高扩展性。方便的应对快速的业务发展,突增高流量访问等要求。

除上面介绍的架构要素外,还需要引入敏捷管理,敏捷开发的思想。使业务,产品,技术,运维统一起来,随需应变,快速响应。

三、大型网站架构模式

(5)高性能、高可用的大型分布式网站(4)_第2张图片

1.分层:一般可分为应用层、服务层、数据层、管理层与分析层

2.分割:一般按照业务/模块/功能特点进行划分,比如应用层分为首页、用户中心

3.分布式:将应用分开部署(比如多台物理机),通过远程调用协同工作。

4.集群:一个应用/模块/功能部署多份(如:多台物理机),通过负载均衡共同提供对外访问。

5.缓存:将数据放在距离应用或用户最近的位置,加快访问速度。

6.异步:将同步的操作异步化。客户端发出请求,不等待服务端响应,等服务端处理完毕后,使用通知或轮询的方式告知请求方。一般指:请求——响应——通知模式。

7.冗余:增加副本,提高可用性、安全性与性能。

8.安全:对已知问题有有效的解决方案,对未知/潜在问题建立发现和防御机制。

9.自动化:将重复的、不需要人工参与的事情,通过工具的方式,使用机器完成。

10.敏捷性:积极接受需求变更,快速响应业务发展需求。

1.分层:

第一层客户层:支持 PC 浏览器和手机 App。差别是手机 App 可以直接通过IP访问,反向代理服务器。

第二层前端层:使用 DNS 负载均衡,CDN 本地加速以及反向代理服务。

第三层应用层:网站应用集群;按照业务进行垂直拆分,比如商品应用,会员中心等。

第四层服务层:提供公用服务,比如用户服务,订单服务,支付服务等。

第五层数据层:支持关系型数据库集群(支持读写分离),NOSQL 集群,分布式文件系统集群;以及分布式 Cache。

第六层大数据存储层:支持应用层和服务层的日志数据收集,关系数据库和 NOSQL 数据库的结构化和半结构化数据收集。

第七层大数据处理层:通过 Mapreduce 进行离线数据分析或 Storm 实时数据分析,并将处理后的数据存入关系型数据库。

(实际使用中,离线数据和实时数据会按照业务要求进行分类处理,并存入不同的数据库中,供应用层或服务层使用)

4.使用集群改善应用服务器性能

应用服务器作为网站的入口,会承担大量的请求,我们往往通过应用服务器集群来分担请求数。

应用服务器前面部署负载均衡服务器调度用户请求,根据分发策略将请求分发到多个应用服务器节点。

常用的负载均衡技术硬件的有 F5,价格比较贵,软件的有 LVS、Nginx、HAProxy。

LVS 是四层负载均衡,根据目标地址和端口选择内部服务器,Nginx 和 HAProxy 是七层负载均衡,可以根据报文内容选择内部服务器。

因此 LVS 分发路径优于 Nginx 和 HAProxy,性能要高些;而 Nginx 和 HAProxy 则更具配置性,如可以用来做动静分离(根据请求报文特征,选择静态资源服务器还是应用服务器)。

https://www.toutiao.com/a6573634116791566851/

你可能感兴趣的:((5)高性能、高可用的大型分布式网站(4))