Hadoop基本操作

Hadoop2.7配置

core-site.xmlfs.defaultFShdfs://bigdata/ha.zookeeper.quorum192.168.56.70:2181,192.168.56.71:2181,192.168.56.72:2181-->hadoop.tmp.dir
不会吐丝的蜘蛛侠。·2024-02-08 08:59

hive2.3.2配置(带kerberos)

hive-env.shexportHADOOP_HEAPSIZE=2048exportHADOOP_CLIENT_OPTS="-Xmx2g-Xms2g-Djava.net.preferIPv4Stack
不会吐丝的蜘蛛侠。·2024-02-08 08:59

高性能hbase配置

hbase-env.shexportHADOOP_HOME=/export/hadoopexportHADOOP_CONF_DIR=/export/common/hadoop/confexportJAVA_HOME
不会吐丝的蜘蛛侠。·2024-02-08 08:59

HDFS执行balance报错：hdfs balance java.io.IOException: Another Balancer is running.. Exiting

现象：1、大数据Hadoop集群，HDFS扩容后，为了使各节点数据均衡，执行balance操作。2、启动hdfsbalance时，一直出现其他的balance在执行中，其实并没有执行。
不会吐丝的蜘蛛侠。·2024-02-08 08:29

大数据问题：Hadoop的web页面无法访问logs

HTTPERROR403Problemaccessing/logs/.Reason:Useryarnisunauthorizedtoaccessthispage.PoweredbyJetty://分析：1、有的说是权限问题，但是并没有用yarn用户启动Hadoop
不会吐丝的蜘蛛侠。·2024-02-08 08:28

hadoop调优-hdfs配置优化

dfs.permissions.enabledtruedfs.namenode.handler.count90dfs.ha.automatic-failover.enabledtrue其它优化：dfs.hosts/export/hadoop
不会吐丝的蜘蛛侠。·2024-02-08 08:28

spark运行失败The directory item limit of /spark_dir/spark_eventLogs is exceeded: limit=1048576 items=104

报错：org.apache.hadoop.ipc.RemoteException(org.apache.hadoop.hdfs.protocol.FSLimitException$MaxDirectoryItemsExceededException
不会吐丝的蜘蛛侠。·2024-02-08 08:58

grafana+prometheus+hiveserver2(jmx_exporter+metrics)

文件开启metricshive.server2.metrics.enabledtruehive.service.metrics.codahale.reporter.classesorg.apache.hadoop.hive.common.metrics.metrics2
不会吐丝的蜘蛛侠。·2024-02-08 08:24

hadoop学习笔记

下载安装伪分布式：1.国内源下载地址：https://mirrors.tuna.tsinghua.edu.cn/apache/hadoop/common/Indexof/apache/hadoop/commonhttps
草琳情·2024-02-08 08:54

flink on yarn

Per-JobCluster模式flinkrunflinkrunapplication-tyarn-application配置任务退出时保留Checkpoint从外部checkpoint恢复应用资料使用安装完hadoop3.3.4
枪枪枪·2024-02-08 07:46

【Linux】vim的基本操作与配置（上）

2.vim基本操作2.1三种模式的切换首先我们先创建一个文件test.c,然后用vim打
崽崽..·2024-02-08 07:08

Mac 安装多版本 protoc / protobuf

)brew安装brewinstallprotobuf#查看安装目录$whichprotoc/opt/homebrew/bin/protoc#2)配置环境变量vim~/.zshrc#protoc(forhadoop
大数据王小皮·2024-02-08 07:26

sqoop导入数据到hdfs

Sqoop是apache旗下的一款”Hadoop和关系数据库之间传输数据”的工具导入数据：将MySQL，Oracle导入数据到Hadoop的HDFS、HIVE、HBASE等数据存储系统导出数据：从Hadoop
鲲鹏猿·2024-02-08 06:40

Hadoop之环境配置

1.安装环境ubuntu2.安装jdk3.安装Hadoop1.在安装ubuntu时需要注意安装ubuntu创建用户，等待时间比较长，大家需要有点耐心。
鲲鹏猿·2024-02-08 06:39

Linux个人学习笔记2 Linux系统基本操作

1.命令格式command[-options][paramter]#命令[-选项][参数]#例如ls-l/vedios2.路径操作（1）ls效果作用：以平铺的方式列出当前目录中所有文件以及文件夹[failur@localhost~]$ls#DesktopDocumentsDownloadsMusicPicturesPublicTemplatesVideos语法ls[-a-l-h][/...]用户登
Failur·2024-02-08 06:51

数据采集工具Sqoop、Datax、Flume、Canal

libcpmysql-connector-java-5.1.10.jar/sqoop-install-path/lib重命名文件并配置文件mvsqoop-env-template.shsqoop-env.sh#添加环境变量exportHADOOP_COMMON_HOME
yue-verdure·2024-02-08 06:08

大数据系列—数据迁移(Sqoop,Flume,DataX)对比学习（stage3）

个人大数据技术栈：DataX,Sqoop,Hadoop,Hive,Spark,Flink,Hbase,Kafka,Kettle,Azkaban,Airflow,Tableau…个人在学习领域：Python
道-闇影·2024-02-08 06:07

Zookeeper搭建集群步骤

[hadoop@note1~]$cat/etc/hosts127.0.0.1localhostlocalhost.localdomainlocalhost4localhost4.localdomain4
qq_22019789·2024-02-08 06:37

MapReduce的类型与格式

MapReduce的类型Hadoop的MapReduce中，map函数和reduce函数遵循如下格式：map：(k1,v1)--->list(k2,v2)combiner：（k2,list(v2)）--
Vechace·2024-02-08 05:31

Spark安装（Yarn模式）

一、解压链接：https://pan.baidu.com/s/1O8u1SEuLOQv2Yietea_Uxg提取码：mb4htar-zxvf/opt/software/spark-3.0.3-bin-hadoop3.2
莫噶·2024-02-08 04:44

Hadoop搭建（完全分布式）

bigdata-masterbigdata-slave1bigdata-salve2NameNodeNodeManagerNodeManagerSecondaryNameNodeDataNodeDataNodeResourceManagerNodeManagerDataNode目录一、jdk安装：二、hadoop
莫噶·2024-02-08 04:14

蓝桥杯必备模块及常用操作(python)

python）：字符类型模块日期函数模块(常用)优先级队列itertools模块collections模块Bisect模块List()集合set()集合Math模块字符类型模块先看点常用但比较琐碎的⭐基本操作演示
爱康代码·2024-02-08 04:13

易用性测试

•易学习性：用户在初次使用时，能否快速上手并掌握软件的基本操作
软件测试很重要·2024-02-08 03:31

现成Hadoop安装和配置，图文手把手交你

为了可以更加快速的可以使用Hadoop，便写了这篇文章，想尝试自己配置一下的可以参考从零开始配置Hadoop，图文手把手教你，定位错误资源1.两台已经配置好的hadoop2.xshell+Vmware链接
叫我小唐就好了·2024-02-08 03:56

Spark Standalone 集群配置

ApacheMesos-一个通用的集群管理器，也可以运行HadoopMapReduce和服务应用程序。（已弃用）HadoopYARN-Hado
董可伦·2024-02-07 23:01

队列的基本操作

队列是一个插入操作和删除操作受到限制的线性表数据结构队列的插入和删除被限制在表的两端，即插入操作只能在表的一端进行，而删除操作只能在表的另端进行，因此队列又称先进先出表（1）允许删除的一端称为队头（Front）。（2）允许插入的一端称为队尾（Rear）。（3）当队列中没有元素时称为空队列。（4）队列亦称作先进先出（FirstInFirstOut）的线性表，简称为FIFO表。队列的修改是依先进先出的
麻辣清汤·2024-02-07 23:04

线性表的创建和基本操作

&&逻辑与||逻辑或线性表是最基本、最简单、也是最常用的一种数据结构。线性表结构中，数据元素之间通过一对一首位相接的方式连接起来。具体实现时，线性表可以采用不同的存储策略。该方案将线性表存储在一片连续的空间里，通过data,len,和max三个属性元素。组织成为了一个结构：data:给出线性存储空间的起始地址；max:指明线性表存储空间最len:当前线性表里的数据元素个数。为了讨论简化，我们假设每
麻辣清汤·2024-02-07 23:03

Hadoop系统应用之Zookeeper分布式集群部署

一、Zoopkeeper安装包下载安装【Zookeeper版本型号为3.4.10】1.下载Zookeeper安装包（地址）https://archive.apache.org/dist/zookeeper/zookeeper-3.4.10/2.上传安装包（SecureCRT&FX）通过软件FX将安装包上传到linux系统的/export/software/目录下3.解压Zookeeper安装包执行
-牧心-·2024-02-07 22:31

Hadoop | 集群配置（一）使用Shell脚本解决完全分布式集群节点之间的文件传输问题 | scp命令 | rsync命令

文章目录参考资料一、前言二、rsync远程同步工具三、使用shell编写分发脚本四、总结参考资料视频链接Linuxscp命令一、前言在Hadoop完全分布式集群环境下，里面的各个节点都是通过SSH免密登陆连接的
「已注销」·2024-02-07 21:20

【hadoop】集群搭建之部署mysql并远程访问（连接）

的roo账号密码并连接mysql（四）更改默认密码并创建testdb数据库（五）将mysqljdbc驱动引入ider中的java项目里（六）通过jdbc连接（访问）mysql(使用ider)（七）创建hadoop
db_lcz_2014·2024-02-07 18:32

Java Map HashMap集合的基本操作与使用

JavaMapHashMap集合的基本操作与使用packagecom.zhong.mapdemo.map;importjdk.jfr.Description;importjavax.swing.plaf.synth.SynthOptionPaneUI
她似晚风般温柔789·2024-02-07 15:33

day1 markdown基本操作

Markdown基操1标题操作一级标题aaaaaa二级标题bbbbbbbbb三四五六级标题分别使用“##################”进行操作Markdown基操2列表操作无序列表的使用，在符号“-”后加空格使用狼人ez德玛控制无序列表的层级，则需要在符号“-”前使用空格dnf英雄联盟诺克萨斯城德莱文诺手有序列表的使用，在数字及符号“.”后或者前加空格几个绝地求生刺激战场2.198k2.2m2
遇见那天的雨真大·2024-02-07 15:05

学习大数据需要掌握哪些知识？

而且不论是学习hadoop，还
大数据学习01·2024-02-07 15:16

071：vue中过滤器filters的使用方法（图文示例）

提供vue2的一些基本操作：安装、引用，模板使用，computed，watch，生命周期(beforeCreate，created,beforeMount，mounted,beforeUpdate，updated
还是大剑师兰特·2024-02-07 13:56

CentOS7集群配置免密登录

准备工作提前开启三台虚拟机hadoop102、hadoop103,hadoop104,关于三台虚拟机的安装可以参考：https://mp.csdn.net/mp_blog/creation/editor
在下区区俗物·2024-02-07 12:00

CentOS7搭建Hadoop集群

集群环境搭建（3台）-CSDN博客2、配置虚拟机之间免密登录，参考：CentOS7集群配置免密登录-CSDN博客3、虚拟机分别安装jdk，参考：CentOS7集群安装JDK1.8-CSDN博客4、下载Hadoop
在下区区俗物·2024-02-07 12:57

请问半吊子 C++选手该如何深入学习 C++?

java是典型的后台语言，能和netty、hadoop、hbase-、elastics
枪哥玩转嵌入式·2024-02-07 11:21

Apache Pulsar 在腾讯 Angel PowerFL 联邦学习平台上的实践

Angel机器学习平台上，利用Angel-PS支持万亿级模型训练的能力，将很多在Worker上的计算提升到PS（参数服务器）端；AngelPowerFL为联邦学习算法提供了计算、加密、存储、状态同步等基本操作接口
StreamNative·2024-02-07 11:24

hadoop集群搭建踩坑实录

由于不可控以及不可知的原因我搭建的hadoop集群突然显示虚拟机出现了问题导致某一个DataNode数据丢失并且无法通过Xshell远程访问其他的DataNode主机和虚拟机无法互相ping通网上能找的解决办法基本都找了依然无法解决因此我能想到的是只能删除虚拟机重新克隆一台机器然而还是无法通过远程连接无奈之下我重启电脑发现又可以通过
温文尔雅的流氓·2024-02-07 10:39

Hadoop分布式计算实验踩坑实录及小结

目录Hadoop分布式计算实验踩坑实录及小结踩坑实录Hadoop学习Hadoop简介HDFSSomeconceptsMapReduce主要配置文件集群搭建来源与引用Hadoop分布式计算实验踩坑实录及小结踩坑实录单机
小童同学_·2024-02-07 10:08

Flutter探究

向上构建出了一整套平台无关的渲染体系和事件处理体系,一套代码可以无差异的同时跑在iOS与Android两端性能体验：Flutter底层是通过C++实现的，性能几乎与原生一模一样，帧频率达到到60帧/秒是基本操作开发效率
superFool·2024-02-07 10:45

kyuubi 接入starrocks | doris

kyuubi接入starrocks一、环境Hadoop集群组件版本Hadoop3.1.1spark3.Xzookeeper3.XHive3.Xkyuubi版本1.7.1starrocks2.X 已将kyuubi
甜甜的巧克力阿·2024-02-07 09:48

数学实验第三版（主编：李继成 赵小艳）课后练习答案（一）

实验一：MATLAB软件基本操作练习一1.上机实践示例2,3,5,7,8,9,10.略2.计算,其中x=-7.5°，y=18°.此题中，度数的表达是一个困难点。
C.L.L·2024-02-07 09:29

python数据容器之集合相关的操作

集合的基本操作：添加元素：
酷爱码·2024-02-07 08:42

GoLang学习笔记之进阶编程（一）：文件操作

目录一、文件信息的获取二、文件的基本操作2.1.创建文件2.2.读取文件2.2.1.IO接口直接读2.2.2.带缓冲区的读(bufio)2.2.3.ioutil包直接读2.3.写入文件2.3.1.IO接口直接写
Allen-LuLu·2024-02-07 07:56

【数据结构与算法】堆 / 堆排序 / TopK问题（Heap）

文章目录1.堆2.C语言实现堆2.1堆结构与基本操作2.2其它辅助操作2.3堆的基本操作2.3.1插入2.3.2删除3.堆排序4.TopK5.所有代码1.堆堆总是一棵完全二叉树，而完全二叉树更适合使用*
念来过倒字名qwq·2024-02-07 07:24

linux驱动开发之常见面试问题

linux驱动开发之常见面试问题新增驱动的基本操作寄存器基址怎么映射？probe里的常规操作。
墨染 锦年·2024-02-07 07:52

win10 spark scala 本地运行wordcount

注意每次修改环境变量都要重启cmd本机运行需要hadoopcommon，可以从github下载zip，解包以后设置HADOOP_HOME环境变量指向它，然后在PATH里加上HADOOP_HOME\bin
疯琴·2024-02-07 06:06

同是ZooKeeper，你和架构师的理解差在哪里？

Dubbo，Kafka,Hadoop等等项目里都能看到它的影子。但是你真的了解ZooKeeper吗？如果面试官让你给他讲讲ZooKeeper是个什么东西，你能回答到什么地步呢？
l鹿狸i·2024-02-07 06:12

Hadoop-IDEA开发平台搭建

1.安装下载Hadoop文件1）hadoop-3.3.5将下载的文件保存到英文路径下，名称一定要短。
Snower_2022·2024-02-07 05:02
上一页 9 10 11 12 13 14 15 16 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他