E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
Linux安装Hadoop
MapReduce基础介绍
一.MapReduce1.MapReduce定义Mapreduce是一个分布式运算程序的编程框架,是用户开发“基于
hadoop
的数据分析应用”的核心框架。
Movle
·
2023-12-31 01:41
Linux 安装redis后没有redis-server
记录
Linux安装
redis遇到的一个问题首先用wget下载好redis的jar包,版本去官网看,我这个可能不是最新版wgethttp://download.redis.io/releases/redis
一颗知足的心
·
2023-12-30 22:22
linux
linux
mail 465邮件发送案例(含有不带附件和带附件log文件发送)
_144511.png选择开启SMTP服务记录你的授权码2019-08-24_144500.png二、停止服务servicesendmailstopchkconfigsendmailoff[root@
hadoop
001
吃货大米饭
·
2023-12-30 22:55
【图文详解】HBase 数据模型及其架构原理
HBase简介https://hbase.apache.org/HBase,
Hadoop
Database,是一个高可靠性、高性能、面向列存储、可伸缩、实时读写的分布式开源NoSQL数据库。
禅与计算机程序设计艺术
·
2023-12-30 21:40
【大数据入门核心技术-
Hadoop
】(六)
Hadoop
3.2.1高可用集群搭建
目录一、
Hadoop
部署的三种方式1、Standalonemode(独立模式)2、Pseudo-Distributedmode(伪分布式模式)3、Clustermode(集群模式)二、准备工作1、先完成
forest_long
·
2023-12-30 18:49
大数据技术入门到21天通关
hadoop
大数据
hdfs
zookeeper
hive
在
Linux安装
的Docker中开启IPv6
先在Linux中安装docker,然后在docker中开启IPv6。安装docker第一步,卸载旧版本docker。若系统中已安装旧版本docker,则需要卸载旧版本docker以及与旧版本docker相关的依赖项。命令:yum-yremovedockerdocker-clientdocker-client-latestdocker-commondocker-latestdocker-latest
Jerry 二河小鱼
·
2023-12-30 18:21
2023运维
linux
docker
运维
服务器
IPv6
java大数据和javaee哪个好,java与大数据之间的关系
Sourcecodedownload:本文相关源码大数据是目前互联网流行的技术语言,处理大数据的编程语言比较有优势的也很多,比如java、python、go、R语言、
Hadoop
等等,按道理来说每种编程语言都可以处理大数据
chatgpt001
·
2023-12-30 17:14
java
linux软件安装及管理程序
一、如何在
linux安装
卸载软件?1.编辑安装、灵活性较高,难度较大,可以安装较新的版本。
小白学习记哈
·
2023-12-30 15:10
linux
服务器
运维
CDH5到CDH6都更新了些什么?
CDH6是基于
Hadoop
3同时包含大量其他组件的大版本更新的发布版本,许多用户考虑到未来CDH的版本主要是基于CDH6,而CDH5会慢慢的停止更新,所以考
ClouderaHadoop
·
2023-12-30 14:18
ClickHouse基础知识(六):ClickHouse的副本配置
1.副本写入流程2.配置步骤➢启动zookeeper集群➢在
hadoop
101的/etc/clickhouse-server/config.d目录下创建一个名为metrika.xml的配置文件,内容如下
依晴无旧
·
2023-12-30 09:07
大数据
clickhouse
linux安装
配置jenkins
linux安装
配置jenkins第一个大坎儿:下载安装包不想选择war包的方式,想用安装包的方式来下载,但是说啥找不到官网里下载npm包的地方,哪儿哪儿都是war包,最后终于找到了rpm包的位置,记录一下官网传送门因为我的是
舌尖上的蛋炒饭
·
2023-12-30 09:20
持续集成
linux
jenkins
linux安装
jenkins以及解决各种常见问题
linux安装
jenkins以及解决各种常见问题参考文章:(1)
linux安装
jenkins以及解决各种常见问题(2)https://www.cnblogs.com/yuexiaoyun/articles
jcoiwenwfkowe
·
2023-12-30 09:19
linux
Linux安装
常用的软件(jdk,MySQL,nginx)并完成对前后端项目的部署发布
linux软件安装:安装方式介绍:二进制发布包安装:软件已经针对具体平台编译打包发布,只要解压,修改配置即可rpm安装:软件已经按照redhat的包管理规范进行打包,使用rpm命令进行安装,不能自行解决库依赖问题yum安装:一种在线软件安装方式,本质上还是rpm安装,自动下载安装包并安装,安装过程中自动解决库依赖问题源码编译安装:软件以源码工程的形式发布,需要自己编译打包安装JDK:操作步骤:1,
烛.照103
·
2023-12-30 09:48
Linux专栏相关
linux
java
mysql
nginx
Hadoop
开发环境搭建
文章目录第1关:配置开发环境-JavaJDK的配置第2关:配置开发环境-
Hadoop
安装与伪分布式集群搭建
hadoop
-env.sh配置yarn-env.sh配置core-site.xml配置hdfs-site.xml
柔雾
·
2023-12-30 09:42
hadoop
大数据
分布式
大数据背后的绿色收割:基于
Hadoop
的农产品价格信息智能分析
大数据背后的绿色收割:基于
Hadoop
的农产品价格信息智能分析引言正文1.数据获取与准备2.数据清洗与处理3.
Hadoop
数据分析引擎的运用4.MySQL数据库的集成5.创新性的可视化6.结论与展望结语引言随着信息技术的不断发展
爱欲无极
·
2023-12-30 09:01
大数据
Spark
Hadoop
大数据
hadoop
分布式
Hadoop
之Yarn 详细教程
1、yarn的基本介绍和产生背景YARN是
Hadoop
2引入的通用的资源管理和任务调度的平台,可以在YARN上运行MapReduce、Tez、Spark等多种计算框架,只要计算框架实现了YARN所定义的接口
白鸽呀
·
2023-12-30 08:57
大数据
hadoop
java
eclipse
基本操作(六)
Linux安装
字体操作
1.安装字体yuminstall-yfontconfigmkfontscale如果因为rpm安装失败,进行rpm修复进入Linux服务器的字体目录cd/usr/share/fonts/创建存放中文字体的目录然后将对应的字体上传到该目录下mkdirchinese修改目录的权限chmod-R755/usr/share/fonts/chinese安装ttmkfdir来搜索目录中所有的字体信息,汇总生成f
选择与努力
·
2023-12-30 08:52
linux
springboot整合
hadoop
遇错
错误一:Causedby:java.io.FileNotFoundException:
HADOOP
_HOMEand
hadoop
.home.dirareunset.解决:下载:https://github.com
S梦天涯S
·
2023-12-30 08:50
hadoop
java
大数据
Linux安装
中文字体2018-10-29
Installafontmanuallybydownloadingtheappropriate.ttforotffilesandplacingtheminto/usr/local/share/fonts(system-wide),~/.local/share/fonts(user-specific)or~/.fonts(user-specific).Thesefilesshouldhavethep
RoadToGood
·
2023-12-30 08:32
大数据竞赛MR培训与题型
MapReduce编程模板1.自定义Mapper类继承类并重写map方法:importorg.apache.
hadoop
.io.IntWritable;importorg.apache.
hadoop
.io.LongWritable
背帆
·
2023-12-30 08:52
大数据
大数据
mr
hadoop
Hadoop
分布式集群搭建(三台虚拟机)
一.准备工作搭建好VMwareWorkstationPro(我这里装的版本是16)二.新建虚拟机
hadoop
01搭建
hadoop
集群需要三台虚拟机1.新建虚拟机——>自定义(高级)2.不用改动,点击下一步
# Ling
·
2023-12-30 07:00
hadoop
大数据
分布式
IDEA使用HDFS的JavaApi
1.准备工作1.1创建测试类创建测试类,并定义基本变量publicclassHDFSJAVAAPI{//定义后续会用到的基本变量publicfinalStringHDFS_PATH="hdfs://
hadoop
00
向之 所欣
·
2023-12-30 07:59
Hadoop
intellij-idea
hdfs
java
Hadoop
完全分布式搭建 - 第二章 CentOS集群安装配置
CentOS7.6.1080一些其他博主的参考+原创一、准备工作将安装好的CentOS7克隆多两台出来关闭防火墙:systemctlstopfirewalld.service禁用防火墙:systemctldisablefirewalld.service查看防火墙状态firewall-cmd--state重启reboot二、实现三台机器ssh免密登录前提:确保三台机的名称与IP1.修改IP(设置为手
Dehan.Dan
·
2023-12-30 07:29
CentOS系统部署
Hadoop
完全分布式集群
查看当前使用的CentOS版本及JDK、
Hadoop
版本,结果如下截图:
Hadoop
全分布部署与伪分布的单机部分完全相同,唯有
hadoop
的文件配置略有不同,本文建立在伪分布部署的基础上重新修改配置文件
ScriptFlying
·
2023-12-30 07:28
Hadoop平台
基于centos7.6搭建
hadoop
-3.1.2集群
基于centos7.6搭建
hadoop
-3.1.2集群
hadoop
单节点安装。
Hadoop
单节点的安装不需要守护进程,所以不需要安装zookeeper。
mo_5201314
·
2023-12-30 07:27
hadoop
Hadoop
集群搭建教程(完全分布式)
环境准备:本案例使用VMwareWorkstationPro虚拟机创建服务器来搭建
Hadoop
集群,所用软件及版本及简要配置方法如下:1.VMwareWorkstationPro15.5.1(推荐使用15
这是一个死肥宅
·
2023-12-30 07:27
hadoop
hadoop
大数据
基于vmware workstations 10 、centos6.4和
hadoop
-2.7.1的
hadoop
完全分布式集群的开发环境搭建
1.准备安装包环境:win1064位Vmware10Centos6.4jdk-7u80-linux-x64.rpm
Hadoop
-2.7.1.tar.gzEclipse-java-neon-R-linux-gtk-x86
ronaldo4511
·
2023-12-30 07:57
大数据
hadoop集群配置
三台CentOS7.6虚拟机搭建
Hadoop
完全分布式集群(三)
这个是笔者大学时期的大数据课程使用三台CentOS7.6虚拟机搭建完全分布式集群的案例,已成功搭建完全分布式集群,并测试跑实例。9安装hbase温馨提示:安装hbase先在master主节点上配置,然后远程复制到slave01或slave02,在配置环境即可。9.1解压并配置环境变量9.1.1解压安装包1)使用WinSCP将hbase-2.2.2-bin.tar.gz的压缩包从windows系统传
666-LBJ-666
·
2023-12-30 07:56
大数据
分布式
hadoop
大数据
在CentOS7上安装
Hadoop
分布式系统
项目背景:
Hadoop
原来是ApacheLucene下的一个子项目,它最初是从Nutch项目中分离出来的专门负责分布式存储以及分布式运算的项目。
栗子艾李子
·
2023-12-30 07:26
hadoop
linux
hdfs
分布式
CentOS 7.6搭建
Hadoop
2.9.2完全分布式集群,狠详细!
一、概述本文基于宿主机Win10笔记本(8G+256固态,连接无线wifi)+三台虚拟机进行搭建。以下为搭建的详细过程,接近于现场直播Live。二、软件环境准备使用到具体软件及版本如下:虚拟机VMwareVMware-workstation-full-12.5.7-5813279.exe下载地址https://my.vmware.com/web/vmware/details?productId=5
cichu1740
·
2023-12-30 07:26
大数据
java
运维
三台CentOS7.6虚拟机搭建
Hadoop
完全分布式集群(二)
这个是笔者大学时期的大数据课程使用三台CentOS7.6虚拟机搭建完全分布式集群的案例,已成功搭建完全分布式集群,并测试跑实例。6.安装JDK以下操作现在master上操作,然后远程复制到slave01、slave02即可。6.1将压缩包发送到master节点机器上,并解压利用WinSCP,将JDK压缩包从windows系统传至master主节点机器上,并将其放于/opt/software目录注意
666-LBJ-666
·
2023-12-30 07:54
大数据
分布式
hadoop
大数据
Hadoop
架构概述
HDFS架构概述HDFS(
Hadoop
DistributedFileSystem)的架构概述NameNode(nn):存储文件的元数据,如文件名、文件目录结构、文件属性(生成时间、副本数、文件权限),以及每个文件的块列表和块所在的
青涩的芒果汁
·
2023-12-30 06:31
技术分享
Ambari入门及安装
Ambari简述什么是AmbariApacheAmbari项目旨在通过开发用于配置,管理和监控Apache
Hadoop
集群的软件来简化
Hadoop
管理。
青涩的芒果汁
·
2023-12-30 06:30
技术分享
Spark Streaming
批量计算和实时计算(三)流计算概念(四)流计算框架(五)流计算处理流程二、SparkStreaming(一)SparkStreaming设计(二)SparkStreaming与Storm的对比(三)从“
Hadoop
Francek Chen
·
2023-12-30 06:54
Spark编程基础
spark
大数据
分布式
Spark
Streaming
配置log4j和slf4j爬过的坑
现在将错误记录一下[WARNING]failedorg.mortbay.jetty.plugin.Jetty6PluginWebAppContext@3fd05b3e{/adgame_ms,/home/
hadoop
zerone-f
·
2023-12-30 06:18
log4j
slf4j
java
log4j
slf4j
测试:如何查看节点进程?
对于
Hadoop
集群在
Hadoop
集群中,您可以使用`jps`命令来查看正在运行的Java进程。
AnyaPapa
·
2023-12-30 05:58
测试
运维
linux安装
protoc
下载安装包下载地址1、首先确定自己当前linux版本(当前版本为x86_64)uname-a 2、选择相应的版本下载并解压到当前目录wgethttps://github.com/protocolbuffers/protobuf/releases/download/v3.14.0/protoc-3.14.0-linux-x86_64.zipunzipprotoc-3.14.0-
匿名了匿名了
·
2023-12-30 05:15
linux
运维
服务器
Linux安装
、卸载程序
目录一、RPM安装(一)rpm包的格式(二)rpm命令1.查询所有已安装的软件信息2.安装、卸载、升级二、yum安装(一)配置本地yum源1.作用2.挂载光盘镜像3.备份原文件4.创建本地yum仓库配置文件5.清理缓存,下载元数据(二)yum命令三、编译安装Linux里安装软件的方法有三种:编译安装、RPM安装、yum安装一、RPM安装RPM(RedHatPackageManager)是一种在基于
hy199707
·
2023-12-30 03:13
linux
运维
centos
虚拟机上进行
Hadoop
伪分布式部署并进行大数据处理
本文章基于的大数据文件:https://download.csdn.net/download/qq_60567426/87940872?spm=1001.2014.3001.5503引言:虚拟机经常卡死,卡死就按这个重新启动VMware虚拟机下载:1:首先安装VMware,官网链接:VMware-DeliveringaDigitalFoundationForBusinesses2:点击Produc
软件开发技术局
·
2023-12-30 03:38
分布式
linux
大数据
ubuntu
python
java
spark
Hadoop
和大数据:60款顶级开源工具
说到处理大数据的工具,普通的开源解决方案(尤其是Apache
Hadoop
)堪称中流砥柱。
weixin_33905756
·
2023-12-30 01:25
大数据
操作系统
java
在linux环境下搭建自己的SVN服务器
Linux安装
SVN服务挂载新硬盘查看未指派分区的硬盘名称[root@localhost~]#fdisk-l[root@localhost~]#fdisk-l磁盘/dev/sdb:2000.4GB,2000398934016
自信人间三百年
·
2023-12-30 00:14
linux
服务器
运维
大数据框架介绍
大数据学习必备三个框架
Hadoop
,Spark,Storm大数据的主要特点为数据量大(Volume),数据类别复杂(Variety),数据处理速度快(Velocity)和数据真实性高(Veracity)
mikecg
·
2023-12-29 23:06
执行
hadoop
jar 或者是yarn jar 报Exception in thread “main“ java.lang.NoClassDefFoundError:XXX
找到上传的目录,执行yarnjar或者
hadoop
jar报一下的错。报错的原因可能是:在idea打包的过程中没有相关的类,那你在打包的时候,没有把相关依赖都打进去。
爱吃肉的白熊
·
2023-12-29 22:36
笔记
hadoop
mapreduce
java
给linux(centos)操作系统设置主机名的几种方式
镜像下载、域名解析、时间同步请点击阿里云开源镜像站一、前言就是我们需要集群部署
hadoop
,Flink时,写ip地址太长了,然后大家想的就是能不能用比如:node1,node2,node3去代替IP地址
萌褚
·
2023-12-29 21:13
HDFS常用命令
1.hdfsdfs与
hadoop
fs命令的形式:hdfsdfs-linux命令这与linux中命令操作是一样的。
langzitianya
·
2023-12-29 21:15
大数据
hdfs
hadoop
大数据
如何在Docker环境下安装火狐浏览器并结合内网穿透工具实现公网访问
文章目录1.部署Firefox2.本地访问Firefox3.
Linux安装
Cpolar4.配置Firefox公网地址5.远程访问Firefox6.固定Firefox公网地址7.固定地址访问FirefoxFirefox
日出等日落
·
2023-12-29 19:24
内网穿透
docker
容器
运维
Linux 安装 nginx
Linux安装
nginx哎哟,其实安装过好多次了,在哔哔一次吧。
我是ed.
·
2023-12-29 17:44
nginx
linux
nginx
运维
HBASE的应用场景
2018/08/31HBase是如何与
Hadoop
嵌入在一起的,那么他的作用又是什么。这显然跟我原来理解的那些个数据库不太一样,就比如mango这种。现在比较关注的就是他的数据导入,是怎么样的。
VChao
·
2023-12-29 16:49
Linux安装
docker及常用命令
以CentOS7为例官方安装教程InstallDockerEngineonCentOS|DockerDocs如果之前安装过,先卸载旧版本sudoyumremovedocker\docker-client\docker-client-latest\docker-common\docker-latest\docker-latest-logrotate\docker-logrotate\docker-e
好的明天qaz
·
2023-12-29 16:30
Rhcsa+Rhce
linux
docker
运维
Kafka 初识
kafka是由LinkedIn公司开发的,是一个分布式、支持分区的、多副本的,基于zookeeper协调的分布式消息系统,它的最大特点就是可以实时的处理大量数据以满足各种需求场景:比如基于
Hadoop
的批处理系统
Advancer-lbh
·
2023-12-29 14:56
消息中间件
kafka
分布式
消息中间件
上一页
34
35
36
37
38
39
40
41
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他