Scala,spark,Kafka,storm配置(1+x)

目录

Scala与spark部署

Kafka部署

Storm部署


  • Scala与spark部署

配置环境变量

Scala,spark,Kafka,storm配置(1+x)_第1张图片

Scala,spark,Kafka,storm配置(1+x)_第2张图片

      解压文件

Scala,spark,Kafka,storm配置(1+x)_第3张图片

Scala,spark,Kafka,storm配置(1+x)_第4张图片

改名

Scala,spark,Kafka,storm配置(1+x)_第5张图片

      生效环境变量

      检验Scala是否能使用

Scala,spark,Kafka,storm配置(1+x)_第6张图片

      按CTRL+C退出

      配置spark文件

Scala,spark,Kafka,storm配置(1+x)_第7张图片

      新建文件并写入

Scala,spark,Kafka,storm配置(1+x)_第8张图片

Scala,spark,Kafka,storm配置(1+x)_第9张图片

      分发环境变量,并到另外两台机器使环境变量生效

      分发文件

Scala,spark,Kafka,storm配置(1+x)_第10张图片

      三台机器启动zookeeper,并查看状态

Scala,spark,Kafka,storm配置(1+x)_第11张图片

Scala,spark,Kafka,storm配置(1+x)_第12张图片

Scala,spark,Kafka,storm配置(1+x)_第13张图片

Scala,spark,Kafka,storm配置(1+x)_第14张图片

Scala,spark,Kafka,storm配置(1+x)_第15张图片

Scala,spark,Kafka,storm配置(1+x)_第16张图片

      启动spark

      在master1-1的spark下的sbin里启动Hadoop

      访问master1-1:8080

Scala,spark,Kafka,storm配置(1+x)_第17张图片

      在slave1-1的spark下的sbin里启动master

      访问slave1-1:8080

Scala,spark,Kafka,storm配置(1+x)_第18张图片

  • Kafka部署

配置环境变量

      解压文件

      改名

Scala,spark,Kafka,storm配置(1+x)_第19张图片

      生效环境变量

      分发环境变量,并到另外两台机器使环境变量生效

      三台机器启动zookeeper,并查看状态

Scala,spark,Kafka,storm配置(1+x)_第20张图片

Scala,spark,Kafka,storm配置(1+x)_第21张图片

Scala,spark,Kafka,storm配置(1+x)_第22张图片

Scala,spark,Kafka,storm配置(1+x)_第23张图片

Scala,spark,Kafka,storm配置(1+x)_第24张图片

Scala,spark,Kafka,storm配置(1+x)_第25张图片

      配置文件

Scala,spark,Kafka,storm配置(1+x)_第26张图片

Scala,spark,Kafka,storm配置(1+x)_第27张图片

Scala,spark,Kafka,storm配置(1+x)_第28张图片

Scala,spark,Kafka,storm配置(1+x)_第29张图片

      新建文件夹

Scala,spark,Kafka,storm配置(1+x)_第30张图片

分发文件

Scala,spark,Kafka,storm配置(1+x)_第31张图片

      修改另外两台机器的配置文件

Scala,spark,Kafka,storm配置(1+x)_第32张图片

Scala,spark,Kafka,storm配置(1+x)_第33张图片

      启动Kafka(三台)

      在master1-1上创建topic-test

      在master1-1上查看topic

Scala,spark,Kafka,storm配置(1+x)_第34张图片

      在master1-1上创建生产者

      在slave1-1上创建消费者

      在master1-1里测试生产者

      返回slave1-1查看消费者状态

  • Storm部署

配置环境变量

Scala,spark,Kafka,storm配置(1+x)_第35张图片

解压文件

改名

      生效环境变量

分发环境变量,并到另外两台机器使环境变量生效

三台机器启动zookeeper,并查看状态

Scala,spark,Kafka,storm配置(1+x)_第36张图片

Scala,spark,Kafka,storm配置(1+x)_第37张图片

Scala,spark,Kafka,storm配置(1+x)_第38张图片

Scala,spark,Kafka,storm配置(1+x)_第39张图片

Scala,spark,Kafka,storm配置(1+x)_第40张图片

编辑配置文件

Scala,spark,Kafka,storm配置(1+x)_第41张图片

      分发文件

      启动

Master端(启动四个),并查看

Scala,spark,Kafka,storm配置(1+x)_第42张图片

Salve端(启动两个),并查看

Scala,spark,Kafka,storm配置(1+x)_第43张图片

      访问网页

Scala,spark,Kafka,storm配置(1+x)_第44张图片

你可能感兴趣的:(scala,spark,大数据,kafka,运维)