hadoop基础配置

ubuntu下编译Hadoop

Ubuntu下编译Hadoop-2.9.2系统环境系统：ubuntu-18.10-desktop-amd64maven：ApacheMaven3.6.0jdk:jdk_1.8.0_201ProtocolBuffer
janlle·2023-12-31 06:44

往hdfs中上传文件

这个在hadoop的帮助文档里面，里面有一部分东西是网页式的内容。最后是利用了curl的命令实现了这个命令。
VChao·2023-12-31 06:23

开源可观测性平台Signoz（四）【链路监控及数据库中间件监控篇】

前文链接：开源可观测性平台Signoz系列（一）【开篇】开源可观测性平台Signoz（二）【日志采集篇】开源可观测性平台Signoz（三）【服务器主机监控篇】在前文中，分享了signoz的安装、基础配置
西风未眠·2023-12-31 06:50

开源可观测性平台Signoz（三）【服务器主机监控篇】

前文链接：开源可观测性平台Signoz系列（一）【开篇】开源可观测性平台Signoz（二）【日志采集篇】在前文中，分享了signoz的安装、基础配置、日志采集，本文则分享signoz中如何添加主机监控。
西风未眠·2023-12-31 06:50

修改某目录的权限拥有者-----Linux

1、修改权限//例如用户名：hadoop密码：pw目录:/home/hadoop/booksudochownhadoop:pw/home/hadoop/book2、查看修改情况cd~//查看当前目录下的所有文件的详细情况
chubby_乌托邦·2023-12-31 06:35

【HarmonyOS】鸿蒙开发简介与项目基础配置演示

从今天开始，博主将开设一门新的专栏用来讲解市面上比较热门的技术“鸿蒙开发”，对于刚接触这项技术的小伙伴在学习鸿蒙开发之前，有必要先了解一下鸿蒙，从你的角度来讲，你认为什么是鸿蒙呢？它出现的意义又是什么？鸿蒙仅仅是一个手机操作系统吗？它的出现能够和Android和IOS三分天下吗？它未来的潜力能否制霸整个手机市场呢？抱着这样的疑问和对鸿蒙开发的好奇，让我们一起走进HarmonyOS开发的精彩世界吧！
亦世凡华、·2023-12-31 05:26

Vmware虚拟机无法联通主机解决方法二

昨天在遇到了VMware虚拟机无法联通主机，导致我在CentOS-7搭建的伪Hadoop3服务，无法访问管理平台，使用将网络编辑器修改为“桥接”模式解决。
在奋斗的大道·2023-12-31 05:45

Vmware 虚拟机无法联通主机

问题描述：今天使用VmwareWorkstation创建CentOS-7虚拟机，基于CentOS-7搭建Hadoop3伪分布式版本，CentOS-7测试Hadoop3服务正常启动，通过主机连接Hadoop3
在奋斗的大道·2023-12-31 05:14

MapReduce基础介绍

一.MapReduce1.MapReduce定义Mapreduce是一个分布式运算程序的编程框架，是用户开发“基于hadoop的数据分析应用”的核心框架。
Movle·2023-12-31 01:41

mail 465邮件发送案例(含有不带附件和带附件log文件发送)

_144511.png选择开启SMTP服务记录你的授权码2019-08-24_144500.png二、停止服务servicesendmailstopchkconfigsendmailoff[root@hadoop001
吃货大米饭·2023-12-30 22:55

【图文详解】HBase 数据模型及其架构原理

HBase简介https://hbase.apache.org/HBase，HadoopDatabase，是一个高可靠性、高性能、面向列存储、可伸缩、实时读写的分布式开源NoSQL数据库。
禅与计算机程序设计艺术·2023-12-30 21:40

【大数据入门核心技术-Hadoop】（六）Hadoop3.2.1高可用集群搭建

目录一、Hadoop部署的三种方式1、Standalonemode（独立模式）2、Pseudo-Distributedmode（伪分布式模式）3、Clustermode（集群模式）二、准备工作1、先完成
forest_long·2023-12-30 18:49

java大数据和javaee哪个好,java与大数据之间的关系

Sourcecodedownload:本文相关源码大数据是目前互联网流行的技术语言，处理大数据的编程语言比较有优势的也很多，比如java、python、go、R语言、Hadoop等等，按道理来说每种编程语言都可以处理大数据
chatgpt001·2023-12-30 17:14

Nginx基础配置及场景应用

目录简介Nginx单实例安装（以centos服务器为例）Nginx使用场景场景一:反向代理端口请求转发场景二:使用Nginx反向代理，根据访问的路径跳转到不同端口的服务中。场景三：nginx实现动静分离场景四Nginx高可用集群Nginx配置详解配置演示图全局块events块server块，常用要参与改动的块location块简介Nginx是一个高性能的HTTP和反向代理服务器。Nginx官网：h
别告诉我有BUG·2023-12-30 14:38

CDH5到CDH6都更新了些什么？

CDH6是基于Hadoop3同时包含大量其他组件的大版本更新的发布版本，许多用户考虑到未来CDH的版本主要是基于CDH6，而CDH5会慢慢的停止更新，所以考
ClouderaHadoop·2023-12-30 14:18

vite-ts-vue3笔记

vitenpmcreatevite@latestnpmrundev开始预览时使用模块是esmodule打包生产环境使用rollupwebpack基于nodevite基于原生module和rollupvite的基础配置根目录下的
苦逼的猿宝·2023-12-30 10:28

ClickHouse基础知识（六）：ClickHouse的副本配置

1.副本写入流程2.配置步骤➢启动zookeeper集群➢在hadoop101的/etc/clickhouse-server/config.d目录下创建一个名为metrika.xml的配置文件,内容如下
依晴无旧·2023-12-30 09:07

Hadoop开发环境搭建

文章目录第1关：配置开发环境-JavaJDK的配置第2关：配置开发环境-Hadoop安装与伪分布式集群搭建hadoop-env.sh配置yarn-env.sh配置core-site.xml配置hdfs-site.xml
柔雾·2023-12-30 09:42

大数据背后的绿色收割：基于Hadoop的农产品价格信息智能分析

大数据背后的绿色收割：基于Hadoop的农产品价格信息智能分析引言正文1.数据获取与准备2.数据清洗与处理3.Hadoop数据分析引擎的运用4.MySQL数据库的集成5.创新性的可视化6.结论与展望结语引言随着信息技术的不断发展
爱欲无极·2023-12-30 09:01

Hadoop之Yarn 详细教程

1、yarn的基本介绍和产生背景YARN是Hadoop2引入的通用的资源管理和任务调度的平台，可以在YARN上运行MapReduce、Tez、Spark等多种计算框架，只要计算框架实现了YARN所定义的接口
白鸽呀·2023-12-30 08:57

springboot整合hadoop遇错

错误一：Causedby:java.io.FileNotFoundException:HADOOP_HOMEandhadoop.home.dirareunset.解决：下载：https://github.com
S梦天涯S·2023-12-30 08:50

大数据竞赛MR培训与题型

MapReduce编程模板1.自定义Mapper类继承类并重写map方法：importorg.apache.hadoop.io.IntWritable;importorg.apache.hadoop.io.LongWritable
背帆·2023-12-30 08:52

Hadoop分布式集群搭建（三台虚拟机）

一.准备工作搭建好VMwareWorkstationPro（我这里装的版本是16）二.新建虚拟机hadoop01搭建hadoop集群需要三台虚拟机1.新建虚拟机——>自定义（高级）2.不用改动，点击下一步
# Ling·2023-12-30 07:00

IDEA使用HDFS的JavaApi

1.准备工作1.1创建测试类创建测试类，并定义基本变量publicclassHDFSJAVAAPI{//定义后续会用到的基本变量publicfinalStringHDFS_PATH="hdfs://hadoop00
向之 所欣·2023-12-30 07:59

Hadoop完全分布式搭建 - 第二章 CentOS集群安装配置

CentOS7.6.1080一些其他博主的参考+原创一、准备工作将安装好的CentOS7克隆多两台出来关闭防火墙：systemctlstopfirewalld.service禁用防火墙：systemctldisablefirewalld.service查看防火墙状态firewall-cmd--state重启reboot二、实现三台机器ssh免密登录前提：确保三台机的名称与IP1.修改IP(设置为手
Dehan.Dan·2023-12-30 07:29

CentOS系统部署Hadoop完全分布式集群

查看当前使用的CentOS版本及JDK、Hadoop版本，结果如下截图：Hadoop全分布部署与伪分布的单机部分完全相同，唯有hadoop的文件配置略有不同，本文建立在伪分布部署的基础上重新修改配置文件
ScriptFlying·2023-12-30 07:28

基于centos7.6搭建hadoop-3.1.2集群

基于centos7.6搭建hadoop-3.1.2集群hadoop单节点安装。Hadoop单节点的安装不需要守护进程，所以不需要安装zookeeper。
mo_5201314·2023-12-30 07:27

Hadoop集群搭建教程（完全分布式）

环境准备：本案例使用VMwareWorkstationPro虚拟机创建服务器来搭建Hadoop集群，所用软件及版本及简要配置方法如下：1.VMwareWorkstationPro15.5.1（推荐使用15
这是一个死肥宅·2023-12-30 07:27

基于vmware workstations 10 、centos6.4和hadoop-2.7.1的hadoop完全分布式集群的开发环境搭建

1.准备安装包环境：win1064位Vmware10Centos6.4jdk-7u80-linux-x64.rpmHadoop-2.7.1.tar.gzEclipse-java-neon-R-linux-gtk-x86
ronaldo4511·2023-12-30 07:57

三台CentOS7.6虚拟机搭建Hadoop完全分布式集群（三）

这个是笔者大学时期的大数据课程使用三台CentOS7.6虚拟机搭建完全分布式集群的案例，已成功搭建完全分布式集群，并测试跑实例。9安装hbase温馨提示：安装hbase先在master主节点上配置，然后远程复制到slave01或slave02，在配置环境即可。9.1解压并配置环境变量9.1.1解压安装包1)使用WinSCP将hbase-2.2.2-bin.tar.gz的压缩包从windows系统传
666-LBJ-666·2023-12-30 07:56

在CentOS7上安装Hadoop分布式系统

项目背景：Hadoop原来是ApacheLucene下的一个子项目，它最初是从Nutch项目中分离出来的专门负责分布式存储以及分布式运算的项目。
栗子艾李子·2023-12-30 07:26

CentOS 7.6搭建Hadoop2.9.2完全分布式集群，狠详细！

一、概述本文基于宿主机Win10笔记本（8G+256固态，连接无线wifi）+三台虚拟机进行搭建。以下为搭建的详细过程，接近于现场直播Live。二、软件环境准备使用到具体软件及版本如下：虚拟机VMwareVMware-workstation-full-12.5.7-5813279.exe下载地址https://my.vmware.com/web/vmware/details?productId=5
cichu1740·2023-12-30 07:26

三台CentOS7.6虚拟机搭建Hadoop完全分布式集群（二）

这个是笔者大学时期的大数据课程使用三台CentOS7.6虚拟机搭建完全分布式集群的案例，已成功搭建完全分布式集群，并测试跑实例。6.安装JDK以下操作现在master上操作，然后远程复制到slave01、slave02即可。6.1将压缩包发送到master节点机器上，并解压利用WinSCP，将JDK压缩包从windows系统传至master主节点机器上，并将其放于/opt/software目录注意
666-LBJ-666·2023-12-30 07:54

Hadoop架构概述

HDFS架构概述HDFS（HadoopDistributedFileSystem）的架构概述NameNode(nn)：存储文件的元数据，如文件名、文件目录结构、文件属性(生成时间、副本数、文件权限)，以及每个文件的块列表和块所在的
青涩的芒果汁·2023-12-30 06:31

Ambari入门及安装

Ambari简述什么是AmbariApacheAmbari项目旨在通过开发用于配置，管理和监控ApacheHadoop集群的软件来简化Hadoop管理。
青涩的芒果汁·2023-12-30 06:30

Spark Streaming

批量计算和实时计算（三）流计算概念（四）流计算框架（五）流计算处理流程二、SparkStreaming（一）SparkStreaming设计（二）SparkStreaming与Storm的对比（三）从“Hadoop
Francek Chen·2023-12-30 06:54

配置log4j和slf4j爬过的坑

现在将错误记录一下[WARNING]failedorg.mortbay.jetty.plugin.Jetty6PluginWebAppContext@3fd05b3e{/adgame_ms,/home/hadoop
zerone-f·2023-12-30 06:18

测试：如何查看节点进程？

对于Hadoop集群在Hadoop集群中，您可以使用`jps`命令来查看正在运行的Java进程。
AnyaPapa·2023-12-30 05:58

虚拟机上进行Hadoop伪分布式部署并进行大数据处理

本文章基于的大数据文件：https://download.csdn.net/download/qq_60567426/87940872?spm=1001.2014.3001.5503引言：虚拟机经常卡死，卡死就按这个重新启动VMware虚拟机下载：1：首先安装VMware，官网链接：VMware-DeliveringaDigitalFoundationForBusinesses2：点击Produc
软件开发技术局·2023-12-30 03:38

Hadoop和大数据：60款顶级开源工具

说到处理大数据的工具，普通的开源解决方案（尤其是ApacheHadoop）堪称中流砥柱。
weixin_33905756·2023-12-30 01:25

大数据框架介绍

大数据学习必备三个框架Hadoop，Spark，Storm大数据的主要特点为数据量大(Volume)，数据类别复杂(Variety)，数据处理速度快(Velocity)和数据真实性高(Veracity)
mikecg·2023-12-29 23:06

执行hadoop jar 或者是yarn jar 报Exception in thread “main“ java.lang.NoClassDefFoundError：XXX

找到上传的目录，执行yarnjar或者hadoopjar报一下的错。报错的原因可能是：在idea打包的过程中没有相关的类，那你在打包的时候，没有把相关依赖都打进去。
爱吃肉的白熊·2023-12-29 22:36

给linux(centos)操作系统设置主机名的几种方式

镜像下载、域名解析、时间同步请点击阿里云开源镜像站一、前言就是我们需要集群部署hadoop,Flink时，写ip地址太长了，然后大家想的就是能不能用比如：node1,node2,node3去代替IP地址
萌褚·2023-12-29 21:13

HDFS常用命令

1.hdfsdfs与hadoopfs命令的形式：hdfsdfs-linux命令这与linux中命令操作是一样的。
langzitianya·2023-12-29 21:15

SpringBoot 3.2.0 基于Spring Security+JWT实现动态鉴权

用例采用模拟数据，可自行修改为对应的ORM操作编写SpringSecurity基础配置导入依赖4.4.033.0.0-jre​org.springframework.bootspring-boot-starter-weborg.springfr
入秋的大橘·2023-12-29 18:04

HBASE的应用场景

2018/08/31HBase是如何与Hadoop嵌入在一起的，那么他的作用又是什么。这显然跟我原来理解的那些个数据库不太一样，就比如mango这种。现在比较关注的就是他的数据导入，是怎么样的。
VChao·2023-12-29 16:49

Kafka 初识

kafka是由LinkedIn公司开发的，是一个分布式、支持分区的、多副本的，基于zookeeper协调的分布式消息系统，它的最大特点就是可以实时的处理大量数据以满足各种需求场景：比如基于Hadoop的批处理系统
Advancer-lbh·2023-12-29 14:56

Spark集群- 连接hadoop、hive集群

目的使spark代码提交到集群运行时，能够操作hdfs、hive等保证所有spark机器都能解析hadoop集群的机器名称如果spark和hadoop部署在同样的集群，则可以省略这一步如果spark和hadoop
heichong·2023-12-29 13:59

OSPF①----工作过程及基础配置

OSPF：开放式最短路径优先协议是一种无类别链路状态型IGP协议；由于其基于拓扑进行更新收敛，故更新量会随着拓扑的变大而成指数上升；故OSPF协议为了能在大、中型网络中运行，需要结构化的部署----合理的区域划分、良好的地址规划，正常等开销负载均衡；跨层封装协议，协议号89；组播更新224.0.0.5224.0.0.6触发更新+周期更新（30min）距离矢量DV链路状态LSRIPEIGRPOSPF
wuqing_5450·2023-12-29 12:44

RSTP基础配置-新版（8）

目录整体拓扑操作步骤1.实验编址表相应的基本IP地址1.1配置PC1IP地址1.2配置PC2IP地址1.3检测连通性2、配置RSTP基本功能2.1配置S1生成树模式2.2配置S2生成树模式2.3配置S3生成树模式2.4配置S4生成树模式2.5查看S1生成树信息2.6查看S2生成树信息2.7查看S3生成树信息2.8查看S4生成树信息2.9配置S1优先级2.10配置S2优先级2.11查看S1生成树信息
℡ 萧·2023-12-29 12:43
上一页 29 30 31 32 33 34 35 36 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他