我眼中的运维

 

一・

Linux系统

  

Linux内核

 

服务器搭建

 

Python

 

Shell

 

Php

 

Tcp/IP

 

Mysql

 

Nosql

 

 

生产者消费者模型

 


varnish 

Varnish是一款高性能的开源HTTP加速器,挪威最大的在线报纸 Verdens Gang 使用3Varnish代替了原来的12Squid,性能比以前更好。

 

voip

VoIP(Voice over Internet Protocol)简而言之就是将模拟信号(Voice)数字化,以数据封包(Data Packet)的形式在IP网络(IP Network)上做实时传递VoIP最大的优势是能广泛地采用Internet和全球IP互连的环境,提供比传统业务更多、更好的服务VoIP可以在IP网络上便宜的传送语音、传真、视频、和数据等业务,如统一消息业务虚拟电话、虚拟语音/传真邮箱、查号业务、Internet呼叫中心Internet呼叫管理、电话视频会议、电子商务、传真存储转发和各种信息的存储转发等。

 

SIP - 信令控制协议 

SIP(Session Initiation Protocol,会话初始协议)是由IETF(Internet Engineering Task Force,因特网工程任务组)制定的多媒体通信协议。它是一个基于文本的应用层控制协议,用于创建、修改和释放一个或多个参与者的会话。广泛应用于CS(Circuit Switched,电路交换)NGN(Next Generation Network,下一代网络)以及IMS(IP Multimedia SubsystemIP多媒体子系统)的网络中,可以支持并应用于语音、视频、数据等多媒体业务,同时也可以应用于Presence(呈现)Instant Message(即时消息)等特色业务。可以说,有IP网络的地方就有SIP协议的存在。

SIP是类似于HTTPSIP可以减少应用特别是高级应用的开发时间。由于基于IP协议的SIP利用了IP网络,固定网运营商也会逐渐认识到SIP技术对于他们的远意义。

 

 

WAL: Write-Ahead Logging 预写日志系统        

数据库中一种高效的日志算法,对于非内存数据库而言,磁盘I/O操作是数据库效率的一大瓶颈。在相同的数据量下,采用WAL日志的数据库系统在事务提交时,磁盘写操作只有传统的回滚日志的一半左右,大大提高了数据库磁盘I/O操作的效率,从而提高了数据库的性能。

 

awstats                  2

Awstats是一个免费非常简洁而且强大有个性的网站日志分析工具。

可以统计您站点的如下信息:

一:访问量,访问次数,页面浏览量,点击数,数据流量等

二:精确到每月、每日、每小时的数据

三:访问者国家

四:访问者IP

五:Robots/Spiders的统计

:访客持续时间

七:对不同Files type 的统计信息

八:Pages-URL的统计

九:访客操作系统浏览器等信息

十:其它信息(搜索关键字等等)

 

 cdn     内容分发网络(       

CDN的通俗理解就是网站加速,可以解决跨运营商,跨地区,服务器负载能力过低带宽过少等带来的网站打开速度慢等问题。

 

iaas                

IaaS(Infrastructure as a Service),即础设施即服务

消费者通过Internet 可以从完善的计算机基础设施获得服务。这类服务称为基础设施即服务

 

PaaS

Internet上其他类型的服务包括平台即服务(Platform as a ServicePaaS)PaaS提供了用户可以访问的完整或部分的应用程序开发

 

 

SaaS

软件即服务(Software as a ServiceSaaS)SaaS则提供了完整的可直接使用的应用程序,比如通过 Internet管理企业资源。

 

keepalive     

TCP中有一个Keep-alive的机制可以检测死连接,原理很简单,TCP会在空闲了一定时间后发送数据给对方:

1.如果主机可达,对方就会响应ACK应答,就认为是存活的。

2.如果可达,但应用程序退出,对方就RST应答,发TCP撤消连接。

3.如果可达,但应用程序崩溃,对方就发FIN消息。

4.如果对方主机不响应ack, rst,继续发送直到超时,就撤消连接。这个时间就是默认的二个小时。

 

LVS - Linux虚拟服务器 

LVSLinux Virtual Server的简写,意即Linux虚拟服务器是一个虚拟的服务器集群系统。

 

Memcached 

 

memcached是一套分布式的高速缓存系,

memcached缺乏认证以及安全管制,这代表应该将memcached服务器放置在防火墙后。 memcachedAPI使用三十二比特的循环冗余校验(CRC-32)计算键值后,将数据分散在不同的机器上。当表格满了以后,接下来新增的数据会LRU机制替换掉。由于memcached通常只是当作高速缓存系统使用,所以使用memcached的应用程序在写回较慢的系统时(像是后端的数据库)需要额外的代码更新memcached内的数据。

 

SC前置机

可以实现计费本地采集、存储、实现向计费中心快速安全传送的功能,优化计费网络结构及链路的稳定性,解决计费传送的安全等问题。对计费采集过程的智能管理。如链路控制,通过MSC前置机给计费中心提供对MSC中计费数据生成情况的查询和控制等。还可以实现计费的部分预处理功能。如计费文件完整性检查,计费数据过滤、筛选、分类等等。

 

Binlog

binlog的启动大概会为mysql增加1%的负载,因此在绝大多数情况下,binlog都不会成为mysql的性能瓶颈。

Binlogmysql以二进制形式打印的日志,它默认不加密,不压缩。

 

mysqldump 

这个工具将您的数据库中所有的设计倒转!!!

mysqldumpmysql用于转存储数据库的实用程序。它主要产生一个SQL脚本,其中包含从头重新创建数据库所必需的命令CREATE TABLE INSERT

 

OpenStack 

 

OpenStack是一个由NASA(美国国家航空航天局)Rackspace合作研发并发起的,以Apache许可证授权的自由软件开放源代码项目。

OpenStack是一个开源的云计算管理平台项目,由几个主要的组件组合起来完成具体工作。OpenStack支持几乎所有类型的云环境,项目目标是提供实施简单、可大规模扩展、丰富、标准统一的云计算管理平台OpenStack通过各种互补的服务提供了基础设施即服务(IaaS)的解决方案,每个服务提供API以进行集成。

OpenStack是一个旨在为公共及私有云的建设与管理提供软件的开源项目。

 

     perl 

 

Perl 最初的设计者为拉里沃尔(Larry Wall),他于19871218日发表Perl借取了Csedawkshell scripting以及很多其他程序语言的特性。其中最重要的特性是它内部集成了正则表达式的功能,以及巨大的第三方代码库CPAN简而言之,PerlC一样强大,像awksed等脚本描述语言一样方便,被称之为"一种拥有各种语言功能的梦幻脚本语""Unix 中的王牌工具"。 Perl 一般被称为"实用报表提取语言"(Practical Extraction and Report Language)

 

 

 php-fpm 

 

PHP-FPM是一个PHPFastCGI管理器,是只用于PHP的。

 

                 Postfix   

“postfixWietse Venema想要为使用最广泛的sendmail提供替代品的一个尝试

postfixWietse VenemaIBMGPL协议之下开发的MTA(邮件传输代理)软件。postfixWietse Venema想要为使用最广泛的sendmail提供替代品的一个尝试。在Internet世界中,大部分的电子邮件都是通过sendmail来投递的,大约有100万用户使用sendmail,每天投递上亿封邮件。这真是一个让人吃惊的数字。Postfix试图更快、更容易管理、更安全,同时还与sendmail保持足够的兼容性

 

puppet 

puppet是一种LinuxUnixwindows平台的集中配置管理系统,使用自有的puppet描述语言,可管理配置文件、用户、cron任务、软件包系统服务puppet把这些系统实体称之为资源,puppet的设计目标是简化对这些资源的管理以及妥善处理资源间的依赖关系。

puppet采用C/S星状的结构,所有的客户端和一个或几个服务器交互。每客户端周期的(默认半个小时)向服务器发送请求,获得其最新的配置信息,保证和该配置信息同步每个puppet客户端每半小时(可以设置)连接一次服务器端下载最新的配置文件,并且严格按照配置文件来配置服务器配置完成以后,puppet客户端可以反馈给服务器端一个消息如果出错,也会给服务器端反馈一个消息.

 

  Ruby - 一种面向对象程序设计的脚本语言 

Ruby,一种为简单快捷的面向对象编程(面向对象程序设计)而创的脚本语言Ruby明显比其他类似的编程语言(如PerlPython)年轻,又因为Ruby是日本人发明的,所以早期的非日文资料和程序都比较贫乏,所以现在在网上仍然可以找到Ruby的资料太少之类的批评。约于2000年,Ruby开始进入美国,英文的资料开始发展。201110311.9.3的第一个稳定版本1.9.3p0发布。

 

SaltStack

Salt,,一种全新的基础设施管理方式,部署轻松,在几分钟内可运行起来,扩展性好,很容易管理上万台服务器,速度够快,服务器之间秒级通讯

 

squid

Squid是一个缓存internet数据的一个软件,它接收用户的下载申请,并自动处理所下载的数据。也就是说,当一个用户想要下载一个主页时,它向Squid发出一个申请,要Squid替它下载,然后Squid 连接所申请网站并请求该主页,接着把该主页传给用户同时保留一个备份,当别的用户申请同样的页面时,Squid把保存的备份立即传给用户,使用户觉得速度相当快。

 

 Tomcat

Tomcat 服务器是一个免费的开放源代码的Web 应用服务器,属于轻量级应用服务器中小型系统和并发访问用户不是很多的场合下被普遍使用,是开发和调试JSP 程序的首选。对于一个初学者来说,可以这样认为,当在一台机器上配置好Apache 服务器,可利用它响应HTML(标准通用标记语言下的一个应用)页面的访问请求。实际上Tomcat 部分是Apache 服务器的扩展,但它是独立运行的,所以当你运行tomcat 时,它实际上作为一个与Apache 独立的进程单独运行的。

诀窍是,当配置正确时,Apache HTML页面服务,而Tomcat 实际上运行JSP 页面和Servlet另外,TomcatIISWeb服务器一样,具有处理HTML页面的功能,另外它还是一个ServletJSP容器,独立的Servlet容器是Tomcat的默认模式。不过,Tomcat处理静态HTML的能力不如Apache服务器。目前Tomcat最新版本为8.0

 

                   VSFTP 

安全、高速、稳定

VSFTP是一个基于GPL发布的类Unix系统上使用的FTP服务器软件,它的全称是Very Secure FTP 从此名称可以看出来,编制者的初衷是代码的安全。

 

WEBSPHERE 

WebSphere 是 IBM 的软件平台。它包含了编写、运行和监视全天候的工业强度的随需应变 Web 应用程序和跨平台、跨产品解决方案所需要的整个中间件基础设施,如服务器、服务和工具。WebSphere 提供了可靠、灵活和健壮的软件。

WebSphere 是一个模块化的平台,基于业界支持的开放标准。可以通过受信任和持久的接口,将现有资产插入 WebSphere,可以继续扩展环境。WebSphere 可以在许多平台上运行,包括 IntelLinux 和 z/OS

WebSphere 是随需应变的电子商务时代的最主要的软件平台,可用于企业开发、部署和整合新一代的电子商务应用,如B2B,并支持从简单的网页内容发布到企业级事务处理的商业应用。WebSphere 可以创建电子商务站点, 把应用扩展到联合的移动设备, 整合已有的应用并提供自动业务流程。

 

 zabbix 

zabbix(音同 zbix)是一个基于WEB界面的提供分布式系统监视以及网络监视功能的企业级的开源解决方案。

zabbix能监视各种网络参数,保证服务器系统的安全运营;并提供灵活的通知机制以让系统管理员快速定位/解决存在的各种问题。

zabbix2部分构成zabbix server与可选组件zabbix agent

zabbix server可以通过SNMPzabbix agentping,端口监视等方法提供对远程服务器/网络状态的监视,数据收集等功能,它可以运行在LinuxSolarisHP-UXAIXFree BSDOpen BSDOS X等平台上。

 

                      插件 

插件(Plug-in,又称addinadd-inaddonadd-on,又译外挂)是一种遵循一定规范的应用程序接口编写出来的程序。其只能运行在程序规定的系统平台下(可能同时支持多个平台),而不能脱离指定的平台单独运行。因为插件需要调用原纯净系统提供的函数库或者数据。很多软件都有插件,插件有无数种。例如在IE中,安装相关的插件后,WEB浏览器能够直接调用插件程序,用于处理特定类型的文件。插件的定位是开发实现原纯净系统平台、应用软件平台不具备的功能的程序,其只能运行在程序规定的系统平台下(可能同时支持多个平台),而不能脱离指定的平台单独运行。因为插件需要调用原纯净系统提供的函数库或者数据。

 

CloudStack

CloudStack是一个开源的具有高可用性及扩展性的云计算平台。支持管理大部分主流的hypervisors,如KVMXenServerVMwareOracle VMXen等。

同时CloudStack是一个开源云计算解决方案。可以加速高伸缩性的公共和私有云(IaaS)的部署、管理、配置。使用CloudStack作为基础,数据中心操作者可以快速方便的通过现存基础架构创建云服务。

 

 CMDB 

CMDB -- Configuration Management Database 置管理数据库

CMDB存储与管理企业IT架构中设备的各种配置信息,它与所有服务支持和服务交付流程都紧密相联,支持这些流程的运转、发挥配置信息的价值,同时依赖于相关流程保证数据的准确性。在实际的项目中,CMDB常常被认为是构建其它ITIL流程的基础而优先考虑,ITIL项目的成败与是否成功建立CMDB有非常大的关系。

70%~80%IT相关问题与环境的变更有着直接的关系。实施变更管理的难点和重点并不是工具,而是流程。即通过一个自动化的、可重复的流程管理变更,使得当变更发生的时候,有一个标准化的流程去执行,能够预测到这个变更对整个系统管理产生的影响,并对这些影响进行评估和控制。而变更管理流程自动化的实现关键就是CMDB

 

 cobbler 

Cobbler 可以用来快速建立 Linux 网络安装环境,它已将 Linux 网络安装的技术门槛,从大专以上文化水平,成功降低到初中以下,连补鞋匠都能学会。

 

Debussy 

DebussyNOVAS Software, Inc(思源科技)发展的HDL Debug & Analysis tool,这套软体主要不是用来跑模拟或看波形,它最强大的功能是:能够在HDL source codeschematic diagramwaveformstate bubble diagram之间,即时做trace,协助工程师debug

 

devops 

DevOps看作开发(软件工程)、技术运营和质量保障(QA)三者的交集

DevOps(英文DevelopmentOperations的组合)是一组过程、方法与系统的统称,用于促进开发(应用程序/软件工程)、技术运营和质量保障(QA)部门之间的沟通、协作与整合。它的出现是由于软件行业日益清晰地认识到:为了按时交付软件产品和服务,开发和运营工作必须紧密合作。

 

  Flume 

FlumeCloudera提供的一个高可用的,高可靠的,分布式的海量日志采集、聚合和传输的系统Flume支持在日志系统中定制各类数据发送方,用于收集数据;同时,Flume提供对数据进行简单处理,并写到各种数据接受方(可定制)的能力。

 

  KAFKA分布式消息系统 

Kafka[1]是linkedin用于日志处理的分布式消息队列,linkedin的日志数据容量大,但对可靠性要求不高,其日志数据主要包括用户行为(登录、浏览、点击、分享、喜欢)以及系统运行日志(CPU、内存、磁盘、网络、系统及进程状态)。当前很多的消息队列服务提供可靠交付保证,并默认是即时消费(不适合离线)。高可靠交付对linkedin的日志不是必须的,故可通过降低可靠性来提高性能,同时通过构建分布式的集群,允许消息在系统中累积,使得kafka同时支持离线和在线日志处理

 

 hypervisor 

Hypervisor是一种运行在物理服务器和操作系统之间的中间软件层,可允许多个操作系统和应用共享一套基础物理硬件,因此也可以看作是虚拟环境中的""操作系统,它可以协调访问服务器上的所有物理设备和虚拟机,也叫虚拟机监视器(Virtual Machine Monitor)Hypervisor所有虚拟化技术的核心。非中断地支持多工作负载迁移的能力是Hypervisor的基本功能当服务器启动并执行Hypervisor时,它会给每一台虚拟机分配适量的内存、CPU、网络和磁盘,并加载所有虚拟机的客户操作系统

 

IPTABLES 

iptables 是与最新的 3.5 版本 Linux 内核集成的 IP 信息包过滤系统。如果 Linux 系统连接到因特网或 LAN、服务器或连接 LAN 和因特网的代理服务器, 则该系统有利于在 Linux 系统上更好地控制 IP 信息包过滤和防火墙配置。

防火墙在做信息包过滤决定时,有一套遵循和组成的规则,这些规则存储在专用的信 息包过滤表中,而这些表集成在 Linux 内核中。在信息包过滤表中,规则被分组放在我们所谓的链(chain)中。而netfilter/iptables IP 信息包过滤系统是一款功能强大的工具,可用于添加、编辑和移除规则

虽然 netfilter/iptables IP 信息包过滤系统被称为单个实体,但它实际上由两个组件netfilter 和 iptables 组成。

netfilter 组件也称为内核空间(kernelspace)是内核的一部分,由一些信息包过滤表组成,这些表包含内核用来控制信息包过滤处理的规则集。

iptables 组件是一种工具,也称为用户空间(userspace),它使插入、修改和除去信息包过滤表中的规则变得容易。除非您正在使用 Red Hat Linux 7.1 或更高版本,否则需要下载该工具并安装使用它。

 

    JVM

 

JVMJava Virtual Machine(Java虚拟机)的缩写,JVM是一种用于计算设备的规范,它是一个虚构出来的计算机,是通过在实际的计算机上仿真模拟各种计算机功能来实现的。

Java语言的一个非常重要的特点就是与平台的无关性。而使用Java虚拟机是实现这一特点的关键。一般的高级语言如果要在不同的平台上运行,至少需要编译成不同的目标代码。而引入Java语言虚拟机后,Java语言在不同平台上运行时不需要重新编译。Java语言使用Java虚拟机屏蔽了与具体平台相关的信息,使得Java语言编译程序只需生成在Java虚拟机上运行的目标代码(字节码),就可以在多种平台上不加修改地运行Java虚拟机在执行字节码时,把字节码解释成具体平台上的机器指令执行。这就是Java的能够"一次编译,到处运行"的原因。

 

  modelsim 

 

Mentor公司的ModelSim是业界最优秀HDL语言仿真软件,它能提供友好的仿真环境,是业界唯一的单内核支持VHDLVerilog混合仿真的仿真器。它采用直接优化的编译技术Tcl/Tk技术、和单一内核仿真技术,编译仿真速度快,编译的代码与平台无关,便于保护IP核,个性化的图形界面和用户接口,为用户加快调错提供强有力的手段,是FPGA/ASIC设计的首选仿真软件。

 

 spring MVC 

Spring MVC属于SpringFrameWork的后续产品,已经融合在Spring Web Flow里面。Spring 框架提供了构建 Web 应用程序的全功能 MVC 模块。使用 Spring 可插入的 MVC 架构,可以选择是使用内置的 Spring Web 框架还可以是 Struts 这样的 Web 框架。

 

       ssl 

SSL(Secure Sockets Layer 安全套接层)协议,及其继任者TLSTransport Layer Security传输层安全)协议,是为网络通信提供安全及数据完整性的一种安全协议。TLSSSL在传输层对网络连接进行加密,于保障网络数据传输安全,利用数据加密技术,确保数据在网络传输过程中不会被截取及窃听。SSL协议已成为全球化标准,有主要的浏览器和WEB服务器程序都支持SSL协议,可通过安装SSL证书激活SSL协议。

SSL 证书就是遵守 SSL协议的服务器数字证书,由受信任的证书颁发机构(CA机构),验证服务器身份后颁发,部署在服务器上,具有网站身份验证和加密传输双重功能。

 

  vcs 

VCS是由视频监控技术领域唯一的公安部重点实验室-"视频图像智能分析与应用技术公安部重点实验室"研发而成。

近年来,全国各地公安机关大力开展视频监控系统建设,视频技术已逐步成为各类案事件侦破处置过程中搜集犯罪证据、提取犯罪线索的重要手段。图侦技术由此成为继刑侦、技侦、网侦之后侦查破案的"第四大技术"但是,面对海量视频资料,目前存在的审看手段效率低下、耗时费力等问题,极大限制了视频监控资料的利用效率和范围。

 

   VMM 

VMM虚拟机(VMM Virtual Machine Monitor)它包括规划、部署、管理和优化虚拟基础结构等端到端功能。

 

\

Storm

TwitterStorm正式开源了,这是一个分布式的、容错的实时计算系统,它被托管在GitHub上,遵循 Eclipse Public License 1.0Storm是由BackType开发的实时处理系统BackType现在已在Twitter麾下。GitHub上的最新版本是Storm 0.8.0,基本是用Clojure写的。

Storm为分布式实时计算提供了一组通用原语,可被用于"流处理"之中,实时处理消息并更新数据库。这是管理队列及工作者集群的另一种方式。 Storm也可被用于"连续计算"(continuous computation),对数据流做连续查询,在计算时就将结果以流的形式输出给用户。它还可被用于"分布式RPC",以并行的方式运行昂贵的运算。 Storm的主工程师Nathan Marz表示:

Storm可以方便地在一个计算机集群中编写与扩展复杂的实时计算,Storm用于实时处理,就好比 Hadoop 用于批处理。Storm保证每个消息都会得到处理,而且它很快--在一个小集群中,每秒可以处理数以百万计的消息。更棒的是你可以使用任意编程语言来做开发。

 

系统自动化配置和管理工具:SaltStack

们的服务器由 Puppet 配置管理工具来管理,服务器上线后由 puppet 完成初始化和配置等一系列工作(比如,静态 IP 配置,DNS 设置,NFS/SAN 挂载,LDAP/Kerberos 登录,安全加固配置,内核参数优化,防火墙规则配置等等),等初始化完成后开始运行,运行一段时间后会有一些需要自动和手动操作的任务(比如升级、重启、备份等),这时候我们使用 Fabric 来批量执行这些临时任务。

所以从这里可以看到 Puppet 和 Fabric 其实是两个不同性质的工具,看下面的归类可能会更清楚一些。Puppet 和 Fabric 两个的工作其实可以由一个工具 SaltStack(或 AnsibleWorks)完成,减少一个工具的使用会减轻一点负担

 

自动化运维工具之ansible

ansible是新出现的运维工具是基于Python研发的糅合了众多老牌运维工具的优点实现了批量操作系统配置、批量程序的部署、批量运行命令等功能。

 

Chef

Chef是一个C/S架构的分布式软件配置管理工具。

 

Chef Server存储配置各个节点所需的所有信息,以REST API接口提供服务,Chef Nodes是指那些安装了chef-client的节点,chef-client主要用于与Chef Server通信,获取各自的runlistrecipes,进行相应的软件安装、配置和启动工作。

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 


你可能感兴趣的:(分布式,大数据,运维,云计算)