爬虫集群环境安装

jdk和tomcat等安装路径

安装路径统一放在/usr下面,分别有/usr/jdk8,/usr/apache

yum的使用

  1. yum下载安装wget
yum -y install wget
  1. 通过wget下载jdk

    wget --no-check-certificate --no-cookies --header "Cookie: oraclelicense=accept-securebackup-cookie" http://download.oracle.com/otn-pub/java/jdk/8u191-b12/2787e4a523244c269598db4e85c51e0c/jdk-8u191-linux-x64.rpm

    wget为:下载方式

    --no-check-certificate:用于禁止检查证书

    --no-cookies:用于禁用Cookies

    --header=header-line:用于定义请求头信息

    http...即为jdk1.8下载链接

  1. yum本地安装jdk1.8

    yum -y localinstall 本地文件

  2. 安装的路径

    /usr/java

  3. 环境变量

    export JAVA_HOME=/usr/lib/jvm/java-1.8.0-openjdk-1.8.0.151-1.b12.el7_4.x86_64
    export PATH=PATH
    export CLASSPATH=.:JAVA_HOME/lib/tools.jar

yum命令参考

tomcat配置

  1. 下载

    wget --no-check-certificate --no-cookies --header "Cookie: oraclelicense=accept-securebackup-cookie" http://mirror.bit.edu.cn/apache/tomcat/tomcat-8/v8.5.34/bin/apache-tomcat-8.5.34.tar.gz

  2. 解压

tar –xvf file.tar //解压 tar包

tar -xzvf file.tar.gz //解压tar.gz

tar -xjvf file.tar.bz2 //解压 tar.bz2tar –xZvf file.tar.Z //解压tar.Z

解压目录在/usr/tomcat

  1. 安装

安装目录
/usr/apache-tomcat-8.5.34/

  1. 启动tomcat
    启动后访问8080端口,页面无响应,使用curl http:10.1.24.23:8080,出现Failed connect to 10.1.24.23:8080; No route to host。使用如下命令,开放ip和端口,firewall-cmd --permanent --add-rich-rule="rule family="ipv4" source address="192.168.142.166" port protocol="tcp" port="5432" accept",防火墙配置,配置完成没有效果。原因不是因为防火墙,而是ssh2配置连接的时候配置问题,因为是复制前面的服务配置,只改了名称,而ssh2连接地址没有改。

centos7防火墙配置

1、启动防火墙

systemctl start firewalld.service

2、指定IP与端口

firewall-cmd --zone=public --add-port=80/tcp --permanent
firewall-cmd --permanent --add-rich-rule="rule family="ipv4" source address="10.1.24.23" port protocol="tcp" port="8080" accept"

3、重新载入,使配置生效

systemctl restart firewalld.service

4、查看配置结果

firewall-cmd --list-all

5、删除规则

firewall-cmd --permanent --remove-rich-rule="rule 
family="ipv4" source address="10.1.24.23" 
port protocol="tcp" port="8080" accept"

应用开机自启动配置

参考文档

  查看全部服务命令:

systemctl list-unit-files --type service

  查看服务

systemctl status name.service

  启动服务

systemctl start name.service

  停止服务

systemctl stop name.service

  重启服务

systemctl restart name.service

  增加开机启动

systemctl enable name.service

  删除开机启动

systemctl disable name.service

其中.service 可以省略

具体做法:

1.tomcat启动参数增加

  tomcat 需要增加一个pid文件.
在tomca/bin 目录下面,增加 setenv.sh 配置,catalina.sh启动的时候会调用,同时配置java内存参数。

#add tomcat pid
CATALINA_PID="$CATALINA_BASE/tomcat.pid"
#add java opts
JAVA_OPTS="-server -XX:PermSize=256M -XX:MaxPermSize=1024m -Xms512M -Xmx1024M -XX:MaxNewSize=256m"

2.增加tomcat.service

  在/usr/lib/systemd/system目录下增加tomcat.service,目录必须是绝对目录。

[Unit]
Description=Tomcat
After=syslog.target network.target remote-fs.target nss-lookup.target
 
[Service]
Type=forking
PIDFile=/data/tomcat/tomcat.pid
ExecStart=/data/tomcat/bin/startup.sh 
ExecReload=/bin/kill -s HUP $MAINPID
ExecStop=/bin/kill -s QUIT $MAINPID
PrivateTmp=true
 
[Install]
WantedBy=multi-user.target

如果启动报错,说没有环境变量,还需要在tomcat.service中添加Environment=JAVA_HOME=/path/to/bin,apache-tomcat-8-on-centos-7服务配置,systemctl daemon-reload,重新加载tomcat.service,再启动服务。

3.使用tomcat.service

配置开机启动

systemctl enable tomcat

启动tomcat
systemctl start tomcat
停止tomcat
systemctl stop tomcat
重启tomcat
systemctl restart tomcat

因为配置pid,在启动的时候会再tomcat根目录生成tomcat.pid文件,停止之后删除。

同时tomcat在启动时候,执行start不会启动两个tomcat,保证始终只有一个tomcat服务在运行。

多个tomcat可以配置在多个目录下,互不影响。

jvm内存设置

Linux下修改tomat使用jvm内存大小

思考问题

  • Linux的链接作用
  • Linux目录规范(目录结构)
  • Linux环境变量修改问题,能添加路径,如何减少路径?
  • markdown代码块问题
  • 应用开机自启动是怎么回事?

你可能感兴趣的:(爬虫集群环境安装)