hadoop单机

No.2大数据入门 | 环境搭建：jdk1.8安装及环境配置

上一篇文章我们安装了虚拟机以及linux操作系统，接下来就要安装在操作系统上运作的大数据核心hadoop分布式系统基础架构！
滚滚红尘_8133·2024-02-08 11:43

Hadoop多次格式化后如何解决

产生原因我们在配置hadoop中的hdfs时，会设置元数据的存储位置，如图所示要想解决此问题，先停止所有启动的服务stop-all.sh然后删除上图画出来的配置文件，这里三台机器都要删，最后进入hadoop
(((φ(◎ロ◎;)φ)))牵丝戏安·2024-02-08 11:50

CentOS 7搭建Hadoop伪分布模式

配置文件：链接：https://pan.baidu.com/s/1rYvnxbyqXOG1DjI63dxbAw提取码：6e1l复制这段内容后打开百度网盘手机App，操作更方便哦1.1修改IP地址在虚拟机的命令行中输入下面的命令，修改网卡的配置文件vi/etc/sysconfig/network-scripts/ifcfg-ens33配置以下信息TYPE=Ethernet#类型为以太网BOOTPRO
clevercondy·2024-02-08 09:52

2018-07-14

复制/etc/skel目录为/home/tuser1改权限2、编辑/etc/group文件，添加组hadoop。
啊鑫007·2024-02-08 08:56

[缓存] - Redis

之前压缩数据设置key有效期选择回收策略(maxmemory-policy)减少不必要的连接限制redis的内存大小（防止swap，OOM）slowLog使用pipline批量操作数据2.高可用2.1单机版的高可用数据持久化
don't_know·2024-02-08 08:33

Hadoop生态漏洞修复记录

Hadoop常用端口介绍HDFSNameNode50070dfs.namenode.http-addresshttp服务的端口50470dfs.namenode.https-addresshttps服务的端口
不会吐丝的蜘蛛侠。·2024-02-08 08:30

Hadoop2.7配置

core-site.xmlfs.defaultFShdfs://bigdata/ha.zookeeper.quorum192.168.56.70:2181,192.168.56.71:2181,192.168.56.72:2181-->hadoop.tmp.dir
不会吐丝的蜘蛛侠。·2024-02-08 08:59

hive2.3.2配置(带kerberos)

hive-env.shexportHADOOP_HEAPSIZE=2048exportHADOOP_CLIENT_OPTS="-Xmx2g-Xms2g-Djava.net.preferIPv4Stack
不会吐丝的蜘蛛侠。·2024-02-08 08:59

高性能hbase配置

hbase-env.shexportHADOOP_HOME=/export/hadoopexportHADOOP_CONF_DIR=/export/common/hadoop/confexportJAVA_HOME
不会吐丝的蜘蛛侠。·2024-02-08 08:59

HDFS执行balance报错：hdfs balance java.io.IOException: Another Balancer is running.. Exiting

现象：1、大数据Hadoop集群，HDFS扩容后，为了使各节点数据均衡，执行balance操作。2、启动hdfsbalance时，一直出现其他的balance在执行中，其实并没有执行。
不会吐丝的蜘蛛侠。·2024-02-08 08:29

大数据问题：Hadoop的web页面无法访问logs

HTTPERROR403Problemaccessing/logs/.Reason:Useryarnisunauthorizedtoaccessthispage.PoweredbyJetty://分析：1、有的说是权限问题，但是并没有用yarn用户启动Hadoop
不会吐丝的蜘蛛侠。·2024-02-08 08:28

hadoop调优-hdfs配置优化

dfs.permissions.enabledtruedfs.namenode.handler.count90dfs.ha.automatic-failover.enabledtrue其它优化：dfs.hosts/export/hadoop
不会吐丝的蜘蛛侠。·2024-02-08 08:28

spark运行失败The directory item limit of /spark_dir/spark_eventLogs is exceeded: limit=1048576 items=104

报错：org.apache.hadoop.ipc.RemoteException(org.apache.hadoop.hdfs.protocol.FSLimitException$MaxDirectoryItemsExceededException
不会吐丝的蜘蛛侠。·2024-02-08 08:58

grafana+prometheus+hiveserver2(jmx_exporter+metrics)

文件开启metricshive.server2.metrics.enabledtruehive.service.metrics.codahale.reporter.classesorg.apache.hadoop.hive.common.metrics.metrics2
不会吐丝的蜘蛛侠。·2024-02-08 08:24

hadoop学习笔记

下载安装伪分布式：1.国内源下载地址：https://mirrors.tuna.tsinghua.edu.cn/apache/hadoop/common/Indexof/apache/hadoop/commonhttps
草琳情·2024-02-08 08:54

flink on yarn

Per-JobCluster模式flinkrunflinkrunapplication-tyarn-application配置任务退出时保留Checkpoint从外部checkpoint恢复应用资料使用安装完hadoop3.3.4
枪枪枪·2024-02-08 07:46

Mac 安装多版本 protoc / protobuf

)brew安装brewinstallprotobuf#查看安装目录$whichprotoc/opt/homebrew/bin/protoc#2)配置环境变量vim~/.zshrc#protoc(forhadoop
大数据王小皮·2024-02-08 07:26

sqoop导入数据到hdfs

Sqoop是apache旗下的一款”Hadoop和关系数据库之间传输数据”的工具导入数据：将MySQL，Oracle导入数据到Hadoop的HDFS、HIVE、HBASE等数据存储系统导出数据：从Hadoop
鲲鹏猿·2024-02-08 06:40

Hadoop之环境配置

1.安装环境ubuntu2.安装jdk3.安装Hadoop1.在安装ubuntu时需要注意安装ubuntu创建用户，等待时间比较长，大家需要有点耐心。
鲲鹏猿·2024-02-08 06:39

数据采集工具Sqoop、Datax、Flume、Canal

libcpmysql-connector-java-5.1.10.jar/sqoop-install-path/lib重命名文件并配置文件mvsqoop-env-template.shsqoop-env.sh#添加环境变量exportHADOOP_COMMON_HOME
yue-verdure·2024-02-08 06:08

大数据系列—数据迁移(Sqoop,Flume,DataX)对比学习（stage3）

个人大数据技术栈：DataX,Sqoop,Hadoop,Hive,Spark,Flink,Hbase,Kafka,Kettle,Azkaban,Airflow,Tableau…个人在学习领域：Python
道-闇影·2024-02-08 06:07

Zookeeper搭建集群步骤

[hadoop@note1~]$cat/etc/hosts127.0.0.1localhostlocalhost.localdomainlocalhost4localhost4.localdomain4
qq_22019789·2024-02-08 06:37

MapReduce的类型与格式

MapReduce的类型Hadoop的MapReduce中，map函数和reduce函数遵循如下格式：map：(k1,v1)--->list(k2,v2)combiner：（k2,list(v2)）--
Vechace·2024-02-08 05:31

如何做优惠券群主挣钱，微信优惠券群怎么赚钱，优惠券群怎么才能做起来

这些优惠券群主通过对接优惠券返利平台，开通云发单机器人或者手动分享将优惠券商品分享到自己建立的优惠券群内，群友下单优惠券群主就可得到商家给优惠券群主的佣金返利赚钱了。
日常购物技巧呀·2024-02-08 05:28

Spark安装（Yarn模式）

一、解压链接：https://pan.baidu.com/s/1O8u1SEuLOQv2Yietea_Uxg提取码：mb4htar-zxvf/opt/software/spark-3.0.3-bin-hadoop3.2
莫噶·2024-02-08 04:44

Hadoop搭建（完全分布式）

bigdata-masterbigdata-slave1bigdata-salve2NameNodeNodeManagerNodeManagerSecondaryNameNodeDataNodeDataNodeResourceManagerNodeManagerDataNode目录一、jdk安装：二、hadoop
莫噶·2024-02-08 04:14

现成Hadoop安装和配置，图文手把手交你

为了可以更加快速的可以使用Hadoop，便写了这篇文章，想尝试自己配置一下的可以参考从零开始配置Hadoop，图文手把手教你，定位错误资源1.两台已经配置好的hadoop2.xshell+Vmware链接
叫我小唐就好了·2024-02-08 03:56

美团社区团购发单机器人认证怎么弄

要进行美团社区团购发单机器人的认证，您需要按照以下步骤进行操作：1.登录美团开放平台：首先，您需要在美团开放平台上进行登录。如果您还没有注册账号，需要先注册一个新用户。
高省爱氧惠·2024-02-08 02:45

nacos安装手册

1.单机模式1.1准备安装介质nacos-server-2.1.1.tar.gz1.2环境准备1台服务器安装JDK1.8+1.3解压tar-zxvfnacos-server-2.1.1.tar.gz1.4
小满别摸鱼·2024-02-08 01:50

Spark Standalone 集群配置

ApacheMesos-一个通用的集群管理器，也可以运行HadoopMapReduce和服务应用程序。（已弃用）HadoopYARN-Hado
董可伦·2024-02-07 23:01

测试小实训

第一单元1.软件的分类单机版软件:红警分布式软件:b/s架构:客户端为浏览器，如百度、hao123等c/s架构:客户端需安装专门软件，如QQ微信等2、软件测试的定义：通过人工或自动化的方式来验证软件的实际结果与用户需求是否一致的过程
会冒泡的鱼____·2024-02-07 23:09

Hadoop系统应用之Zookeeper分布式集群部署

一、Zoopkeeper安装包下载安装【Zookeeper版本型号为3.4.10】1.下载Zookeeper安装包（地址）https://archive.apache.org/dist/zookeeper/zookeeper-3.4.10/2.上传安装包（SecureCRT&FX）通过软件FX将安装包上传到linux系统的/export/software/目录下3.解压Zookeeper安装包执行
-牧心-·2024-02-07 22:31

歌曲《六月的雨》

2005年，《六月的雨》被选为根据同名国产单机游戏改编的古装玄幻电视剧《仙剑奇狭传》的插
yingyingjilv789·2024-02-07 21:21

Hadoop | 集群配置（一）使用Shell脚本解决完全分布式集群节点之间的文件传输问题 | scp命令 | rsync命令

文章目录参考资料一、前言二、rsync远程同步工具三、使用shell编写分发脚本四、总结参考资料视频链接Linuxscp命令一、前言在Hadoop完全分布式集群环境下，里面的各个节点都是通过SSH免密登陆连接的
「已注销」·2024-02-07 21:20

开源分子对接软件LeDock之--在单机上快速部署及使用

文章目录前言一、LeDock介绍二、使用介绍1.LeDock在Ubuntu上一键安装2.脚本一键运行LeDock，输出对接结果总结参考来源：前言本文介绍开源分子对接软件LeDock在LinuxUbuntu上快速便捷安装及简易使用。一、LeDock介绍LeDock是由HongtaoZhao,PhD开发的一款分子对接软件，目前已可以公开获取使用。Linux版LeDock官方下载地址LeDock在生成P
Blockbuater_drug·2024-02-07 20:27

计算机的构成CPU/GPU内存显存

zhuanlan.zhihu.com/p/654417967GPU内存(显存)的理解与基本使用：https://zhuanlan.zhihu.com/p/4621914211CPU处理器+内存GPU处理器+显存2单机多卡
愚昧之山绝望之谷开悟之坡·2024-02-07 20:22

ShardingSphere 5.x 系列【7】元数据持久化

本系列ShardingSphere版本5.4.0源码地址：https://gitee.com/pearl-organization/study-sharding-sphere-demo文章目录概述2.单机模式
云烟成雨TD·2024-02-07 18:15

【hadoop】集群搭建之部署mysql并远程访问（连接）

的roo账号密码并连接mysql（四）更改默认密码并创建testdb数据库（五）将mysqljdbc驱动引入ider中的java项目里（六）通过jdbc连接（访问）mysql(使用ider)（七）创建hadoop
db_lcz_2014·2024-02-07 18:32

《向量数据库指南》——Milvus Cloud 「部署」：简化部署一直在路上

单机部署为什么还依赖这么多组件？"“大家MilvusCloud集群部署有没有实践过比较好的方案？”作为一个开源数据库，是否能够进行快速部署，是所有工作的前提。
LCHub低代码社区·2024-02-07 17:54

自行车中的简单机械

《自行车中的简单机械》一课作为本单元的最后一课，有引导学生归纳总结的作用。我国是一个自行车大国，学生在生活中都见过自行车，大部分学生也是有过自行车的使用体验，可是学生缺乏对自行车的细节观察，
附小科学杨玲·2024-02-07 17:29

【166】经典手机游戏battleheart小攻略 上

OliverWorldsFile166现在的手机游戏真是多啊，每隔一段时间就会推出一些“重磅”游戏来，基本上不出意外的话，网络游戏占据了99%的份额了吧，手机平台上真的很难推出单机版的游戏来了，原因很简单
OliverWorlds·2024-02-07 15:03

学习大数据需要掌握哪些知识？

而且不论是学习hadoop，还
大数据学习01·2024-02-07 15:16

JAVA使用jdbc流处理从mysql导入clickhouse

简述最近开始又大数据统计分析，需要将亿级业务数据进行聚合查询统计，传统的关系型库(mysql)已经满足不了业务需求，经过精细的技术选型成本计算后，自建了一个单机(4c16g)的clickhouse。
Freeeeeeeeom·2024-02-07 13:45

浅谈交换原理（3）——交换网络

1.1单机交换网络与多级交换网络交换网络按拓扑连接方式可分为：单级交换网络和多级交换网络。
apple_ttt·2024-02-07 12:12

分布式锁简记

分布式锁：跨进程跨物理节点需要一把公共的锁，单机锁并不能应对这种场景。
背帆·2024-02-07 12:09

CentOS7集群配置免密登录

准备工作提前开启三台虚拟机hadoop102、hadoop103,hadoop104,关于三台虚拟机的安装可以参考：https://mp.csdn.net/mp_blog/creation/editor
在下区区俗物·2024-02-07 12:00

CentOS7搭建Hadoop集群

集群环境搭建（3台）-CSDN博客2、配置虚拟机之间免密登录，参考：CentOS7集群配置免密登录-CSDN博客3、虚拟机分别安装jdk，参考：CentOS7集群安装JDK1.8-CSDN博客4、下载Hadoop
在下区区俗物·2024-02-07 12:57

请问半吊子 C++选手该如何深入学习 C++?

java是典型的后台语言，能和netty、hadoop、hbase-、elastics
枪哥玩转嵌入式·2024-02-07 11:21

关于发布部署的简述实践和若干思考

文章目录1背景描述1.所处位置2.概念简述3.分析目标2部署方式简述及实践2.1手动部署2.2自动化部署2.3智能化部署3部署模式简述3.1单机部署3.2分布式部署3.3容器云部署4若干思考4.1整体基于三点进行考虑
安晓狸狸·2024-02-07 10:54

hadoop集群搭建踩坑实录

由于不可控以及不可知的原因我搭建的hadoop集群突然显示虚拟机出现了问题导致某一个DataNode数据丢失并且无法通过Xshell远程访问其他的DataNode主机和虚拟机无法互相ping通网上能找的解决办法基本都找了依然无法解决因此我能想到的是只能删除虚拟机重新克隆一台机器然而还是无法通过远程连接无奈之下我重启电脑发现又可以通过
温文尔雅的流氓·2024-02-07 10:39
上一页 8 9 10 11 12 13 14 15 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他