Yarn 搭建及提交任务,java.lang.UnsatisfiedLinkError: org.apache.hadoop.io.nativeio.NativeIO$W异常处理

Hadoop 安装的时候,默认的Yarn里面已经含有,我们希望将job 提交Yarn的时候,我们首先要启动Yarn的集群环境。

首先 Yarn是啥?为啥要用它?

yarn是一个分布式程序的运行调度平台,高可用部署 :nodeManager 跟datanode 部署在同一台机器上,resource manager在物理上应该独立部署在一台专门的机器上

yarn中有两大核心角色

ResourceManager:接受用户提交的分布式计算程序,并为其划分资源 管理、监控各个Node Manager上的资源情况,以便于均衡负载

NodeManager管理它所在机器的运算资源(cpu + 内存)负责接受Resource Manager分配的任务,创建容器、回收资源。

配置yarn-site.xml 文件(其他slave节点也要配置),文件位置在hadoop的解压包下面/etc/hadoop/下面


Yarn 搭建及提交任务,java.lang.UnsatisfiedLinkError: org.apache.hadoop.io.nativeio.NativeIO$W异常处理_第1张图片
配置内容

启动yarn集群:start-yarn.sh, jps查询进程(注:该命令应该在resourcemanager所在的机器上执行)

用web浏览器查看yarn的web控制台 http://主节点机器名:8088 如下图:


Yarn 搭建及提交任务,java.lang.UnsatisfiedLinkError: org.apache.hadoop.io.nativeio.NativeIO$W异常处理_第2张图片
web

job提交类

Yarn 搭建及提交任务,java.lang.UnsatisfiedLinkError: org.apache.hadoop.io.nativeio.NativeIO$W异常处理_第3张图片
job提交类

job configuration 不用配置,应为在提交后,hadoop的配置文件(Yarn前期已经配置过了)会加载到classpath中,所以自动提交Yarn处理。

你可能感兴趣的:(Yarn 搭建及提交任务,java.lang.UnsatisfiedLinkError: org.apache.hadoop.io.nativeio.NativeIO$W异常处理)