hadoop问题处理

日更A106——【币圈金马奖30天日更营23/30】反思（12）

客户的问题处理虽然有些波折，但最终还是
超说·2024-02-11 10:45

Hive与ClickHouse的区别

Hive是Hadoop生态系统中事实上的数据仓库标准。Hive是建立在Hadoop生态中的数据仓库中间件，其本身并不提供存储与计算能力。
晓之以理的喵~~·2024-02-11 08:18

Hadoop（三）通过C#/python实现Hadoop MapReduce

MapReduceHadoop中将数据切分成块存在HDFS不同的DataNode中，如果想汇总，按照常规想法就是，移动数据到统计程序：先把数据读取到一个程序中，再进行汇总。
dotNET跨平台·2024-02-11 08:17

flink启动找不到yarn-session.sh命令

主要还是因为自己当初安装flink的几种模式时，是分开复制安装，导致自己以为配置了环境变量，还有一个需要注意：yarn-sisson.sh是flink/bin/的命令，并不是hadoop的yarn的命令
故乡的花又开了吗·2024-02-11 07:57

MapReduce的uber运行模式

背景在有些情况下，运行于Hadoop集群上的一些mapreduce作业本身的数据量并不是很大，如果此时的任务分片很多，那么为每个map任务或者reduce任务频繁创建Container，势必会增加Hadoop
盗梦者_56f2·2024-02-11 01:42

C#系列-C#访问hadoop API（9）

在C#中访问Hadoop通常涉及到与Hadoop分布式文件系统（HDFS）进行交互，以及可能执行MapReduce作业或其他Hadoop生态系统组件（如HBase或Hive）。
管理大亨·2024-02-10 22:27

hadoop-HDFS

1.详情1.架构图在这里插入图片描述2.读写的流程图在这里插入图片描述2.操作1.使用MAVEN集成对应的jar包org.apache.hadoophadoop-common2.7.1org.apache.hadoophadoop-hdfs2.7.12
炽热_3a57·2024-02-10 22:45

大数据毕业设计django+vue.js+scrapy租房推荐系统 租房大屏可视化 租房爬虫 hadoop spark 58同城租房爬虫 房源推荐系统 计算机毕业设计

博主介绍：✌全网粉丝100W+,前互联网大厂软件研发、集结硕博英豪成立工作室。专注于计算机相关专业毕业设计项目实战6年之久，选择我们就是选择放心、选择安心毕业✌由于篇幅限制，想要获取完整文章或者源码，或者代做，可以给我留言或者找我聊天。感兴趣的可以先收藏起来，还有大家在毕设选题，项目以及论文编写等相关问题都可以给我留言咨询，希望帮助更多的人。文章包含：项目选题+项目展示图片（必看）计算机毕业设计吊
B站计算机毕业设计超人·2024-02-10 20:52

Hive安装部署

pwd=6666通过XFTP将安装包上传到hadoop102的/opt/software目录下安装部署1、解压hive-3.1.3.tar.gz到/opt/module/目录下面进入安装包所在目录cd/
在下区区俗物·2024-02-10 20:30

CentOS7虚拟机 enss33没有ip地址

参考链接：CentOS7虚拟机enss33没有ip地址的解决方法_ens33没有ip地址_weixin_45307968的博客-CSDN博客在搭建Hadoop集群时，需要修改ip地址，但是当我查看时发现并没有显示
我想吃新疆炒米粉！·2024-02-10 18:31

谈钱伤感情：女子借娘家几十万养男友，八年后男友却说咱俩不合适

不管是什么关系中，钱的问题处理不好，最终伤感情都是大概率的。特别是谈恋爱，一旦一方对另一方总是提经济上的要求，就已经脱离了恋爱的纯粹，最后的结局一定是惨淡无比外加一地鸡毛。
是波姐啊·2024-02-10 11:20

计算机毕业设计PyFlink+Hadoop+Hive民宿数据分析可视化大屏 民宿推荐系统 民宿爬虫 民宿大数据 知识图谱 机器学习 大数据毕业设计

流程1.selenium自动化爬虫框架采集民宿数据约10万条存入.csv文件作为数据集；2.使用pandas+numpy或MapReduce对数据进行数据清洗，生成最终的.csv文件并上传到hdfs；3.使用hive数仓技术建表建库，导入.csv数据集；4.离线分析采用hive_sql完成，实时分析利用Flink之Scala、FlinkSQL完成;5.统计指标使用sqoop导入mysql数据库；6
计算机毕业设计大神·2024-02-10 10:56

Hadoop fs命令

目录前言命令及含义fs-lsfs-rmvfs-mkvfs-getfs-putfs-metatest;前言调用文件系统(FS)Shell命令应使用bin/hadoopfs的形式。
November丶Chopin·2024-02-10 08:02

HDFS常用命令

HDFS常用命令hdfs命令最常用的就是：hdfsdfs-[linux的命令]通过查看Hadoop的命令与hdfs的命令并不相同，且不存在包含关系。仅仅是hadoopfs与hdfsdfs可以等价。
昱东i·2024-02-10 06:30

could only be replicated to 0 nodes instead of minReplication (=1). There are 1 datanode(s) running

学习使用Hadoop-3.2.2APIIDEA中使用Java向hdfs写入文件时出现如下错误：couldonlybereplicatedto0nodesinsteadofminReplication(=
昱东i·2024-02-10 06:30

Hbase安装配置（含分布式ZooKeeper）

CentOS6.0192.168.255.128=》server01192.168.255.130=》server02192.168.255.131=》server03/etc/hosts文件中有这些IP和域名的映射关系配置server01在hadoop
聊码·2024-02-10 04:17

新人数据技术如何快速提升

对于数据平台和工具而言，一般情况下都是在Hadoop生态下做开发，但对于一些有特殊要求的团队，Spark和Flink已经得
晓阳的数据小站·2024-02-09 23:46

java大数据hadoop2.9.2 hive操作

1、创建常规数据库表（1）创建表createtablet_stu2(idint,namestring,hobbymap)rowformatdelimitedfieldsterminatedby','collectionitemsterminatedby'-'mapkeysterminatedby':';（2）创建文件student.txt1,zhangsan,唱歌:非常喜欢-跳舞:喜欢-游泳:一般
crud-boy·2024-02-09 21:24

java大数据hadoop2.9.2 Flume安装&操作

1、flume安装（1）解压缩tar-xzvfapache-flume-1.9.0-bin.tar.gzrm-rfapache-flume-1.9.0-bin.tar.gzmv./apache-flume-1.9.0-bin//usr/local/flume（2）配置cd/usr/local/flume/confcp./flume-env.sh.template./flume-env.shvifl
crud-boy·2024-02-09 21:54

数据中台 pdf_数据中台到底怎么建设，有人把他说清楚了

本人断断续续从事数据仓库约有五六年经验，在移动公司前三年是负责数据仓库项目实施，后四年开发搞大数据平台，见证了从传统数据仓库转型到大数据平台的全历程，见证了大数据平台从0到1的全部过程，包括第一个MPP数据集市、第一个Hadoop
weixin_39699121·2024-02-09 18:59

Zookeeper原理架构

首先，Zookeeper是Apache的一个java项目，属于Hadoop系统，扮演管理员的角色。然后看到官网那些专有名词，实在理解不了。
白纸糊·2024-02-09 17:53

大数据Hadoop生态圈技术之浅析PageRank计算原理

二、计算环境——Hadoop-2.5.2——四台主机——两台NN的HA——两台RM的HA——离线计算框架MapReduce三、计算原理（1）思考
A尚学堂Nancy老师·2024-02-09 10:23

macos安装local模式spark

文章目录配置说明安装hadoop安装Spark测试安装成功配置说明Scala-3.18+Spark-3.5.0Hadoop-3.3.6安装hadoop从这里下载相应版本的hadoop下载后解压，配置系统环境变量
SparklingTheo·2024-02-09 08:52

SQL条件判断语句嵌套window子句的应用【易错点】--HiveSql面试题25

目录0需求分析1数据准备3数据分析4小结0需求分析需求：表如下user_idgood_namegoods_typerk1hadoop1011hive1221sqoop2631hbase1041spark1351flink2661kafka1471oozie108
莫叫石榴姐·2024-02-09 06:00

HiveSQL——条件判断语句嵌套windows子句的应用

0需求分析需求：表如下user_idgood_namegoods_typerk1hadoop1011hive1221sqoop2631hbase1041spark1351flink2661kafka1471oozie108
爱吃辣条byte·2024-02-09 06:58

大数据 - Spark系列《五》- Spark常用算子

Spark系列文章：大数据-Spark系列《一》-从Hadoop到Spark：大数据计算引擎的演进-CSDN博客大数据-Spark系列《二》-关于Spark在Idea中的一些常用配置-CSDN博客大数据
王哪跑nn·2024-02-09 05:25

spark原理总体介绍

部署图image.png从部署图中可以看到整个集群分为Master节点和Worker节点，相当于Hadoop的Master和Slave节点。
tracy_668·2024-02-09 03:48

Zookeeper集群搭建（3台）

准备工作1、提前安装好hadoop102、hadoop103、hadoop104三台机器，参照：CentOS7集群环境搭建（3台）-CSDN博客2、提前下载好Zookeeper安装包并上传到/opt/software
在下区区俗物·2024-02-08 21:35

Hadoop集群所有进程查看脚本

/bin/bashforiinhadoop102hadoop103hadoop104doecho---------$i----------ssh$i"$*"done2、赋予文件运行权限chmod+xxcall.sh3
在下区区俗物·2024-02-08 21:04

并发编程中一种经典的分而治之的思想！！

有点像Hadoop中的MapReduce。ForkJoin是由JDK1.7之后提供的多线程并发处理框架。ForkJoin框架的基本思想是分而治之。什么是分而治之？
冰河团队·2024-02-08 19:06

docker load -i 导入后 看不到镜像

dockerload-i导入后看不到镜像[root@centos8~]#dockerimagesREPOSITORYTAGIMAGEIDCREATEDSIZEcsctbb.com/hadoop3.3.0084faab5baec7hoursago1.68GBcentos8.1.1911470671670cac14monthsago237MBkubeguide
吕楚王·2024-02-08 19:29

大数据从何学起？大数据脑图+学习路线清晰的告诉你！

【大数据开发学习资料领取方式】：加入大数据技术学习交流扣扣群458345782，点击加入群聊，私信管理员即可免费领取第一阶段linux+搜索+hadoop体系Linux基础→sh
yoku酱·2024-02-08 18:16

Hadoop深度运维：Apache集群原地升级Ambari-HDP

作者介绍冯武，目前在瓜子从事大数据集群运维管理，主要负责Hadoop、Ansible、Ambari、ClouderaManager等技术栈的维护调优工作。
Summer_1981·2024-02-08 18:42

7.0 MapReduce编程实例教程

注意：MapReduce依赖Hadoop的库，但由于本教程使用的Hadoop运行环境
二当家的素材网·2024-02-08 18:11

linux运维故障案列,linux 运维故障排查思路

一、linux系统故障处理思路1.重视报错信息，一般情况下此提示基本定位了问题的所在2.查阅日志文件，系统日志和应用日志3.分析、定位问题4.动手解决二、网络问题处理思路1.网络硬件问题。
weixin_39712455·2024-02-08 17:10

Zookeeper的详细介绍及使用场景

Zookeeper是什么Zookeeper分布式服务框架是ApacheHadoop的一个子项目，它主要是用来解决分布式应用中经常遇到的一些数据管理问题，如：统一命名服务、状态同步服务、集群管理、分布式应用配置项的管理等
Zal哥哥·2024-02-08 15:11

深入理解Spark的前世今生

Spark，是一种通用的大数据计算框架，正如传统大数据技术Hadoop的MapReduce、Hive引擎，以及Storm流式实时计算引擎等。
闲云野鹤~~~·2024-02-08 14:01

配置集群时间同步

配置集群时间同步:1.时间服务器配置(必须root用户)检查ntp是否安装[root@hadoop102桌面]#rpm-qa|grepntpntp-4.2.6p5-10.el6.centos.x86_64fontpackages-filesystem
sixleaves·2024-02-08 14:49

SQL在云计算中的新角色：重新定义数据分析

文章目录1.云计算与数据分析的融合2.SQL在云计算中的新角色3.分布式SQL查询引擎4.SQL-on-Hadoop解决方案5.SQL与其他数据分析工具的集成6.实时数据分析与SQL7.SQL在云数据仓库中的角色
程序边界·2024-02-08 13:01

从零搭建测试平台aiotest - 003后端搭建、跨域问题处理

后端语言Python版本3.9.2，web框架sanic：21.6.2版。步骤1：新建项目aiotest步骤2：安装sanicsanic：安装步骤3：启动和访问sanic：启动和访问什么是跨域？当一个请求url的协议、域名、端口三者之间任意一个与当前页面url不同即为跨域举几个栗子：图片由于项目采用的是前后端分离，会产生上图中最后一种情况：端口号不同，所以不可避免的会造成跨域问题。后端需要的处理的
玩转测试开发·2024-02-08 12:38

No.2大数据入门 | 环境搭建：jdk1.8安装及环境配置

上一篇文章我们安装了虚拟机以及linux操作系统，接下来就要安装在操作系统上运作的大数据核心hadoop分布式系统基础架构！
滚滚红尘_8133·2024-02-08 11:43

Hadoop多次格式化后如何解决

产生原因我们在配置hadoop中的hdfs时，会设置元数据的存储位置，如图所示要想解决此问题，先停止所有启动的服务stop-all.sh然后删除上图画出来的配置文件，这里三台机器都要删，最后进入hadoop
(((φ(◎ロ◎;)φ)))牵丝戏安·2024-02-08 11:50

CentOS 7搭建Hadoop伪分布模式

配置文件：链接：https://pan.baidu.com/s/1rYvnxbyqXOG1DjI63dxbAw提取码：6e1l复制这段内容后打开百度网盘手机App，操作更方便哦1.1修改IP地址在虚拟机的命令行中输入下面的命令，修改网卡的配置文件vi/etc/sysconfig/network-scripts/ifcfg-ens33配置以下信息TYPE=Ethernet#类型为以太网BOOTPRO
clevercondy·2024-02-08 09:52

2018-07-14

复制/etc/skel目录为/home/tuser1改权限2、编辑/etc/group文件，添加组hadoop。
啊鑫007·2024-02-08 08:56

Hadoop生态漏洞修复记录

Hadoop常用端口介绍HDFSNameNode50070dfs.namenode.http-addresshttp服务的端口50470dfs.namenode.https-addresshttps服务的端口
不会吐丝的蜘蛛侠。·2024-02-08 08:30

Hadoop2.7配置

core-site.xmlfs.defaultFShdfs://bigdata/ha.zookeeper.quorum192.168.56.70:2181,192.168.56.71:2181,192.168.56.72:2181-->hadoop.tmp.dir
不会吐丝的蜘蛛侠。·2024-02-08 08:59

hive2.3.2配置(带kerberos)

hive-env.shexportHADOOP_HEAPSIZE=2048exportHADOOP_CLIENT_OPTS="-Xmx2g-Xms2g-Djava.net.preferIPv4Stack
不会吐丝的蜘蛛侠。·2024-02-08 08:59

高性能hbase配置

hbase-env.shexportHADOOP_HOME=/export/hadoopexportHADOOP_CONF_DIR=/export/common/hadoop/confexportJAVA_HOME
不会吐丝的蜘蛛侠。·2024-02-08 08:59

HDFS执行balance报错：hdfs balance java.io.IOException: Another Balancer is running.. Exiting

现象：1、大数据Hadoop集群，HDFS扩容后，为了使各节点数据均衡，执行balance操作。2、启动hdfsbalance时，一直出现其他的balance在执行中，其实并没有执行。
不会吐丝的蜘蛛侠。·2024-02-08 08:29

大数据问题：Hadoop的web页面无法访问logs

HTTPERROR403Problemaccessing/logs/.Reason:Useryarnisunauthorizedtoaccessthispage.PoweredbyJetty://分析：1、有的说是权限问题，但是并没有用yarn用户启动Hadoop
不会吐丝的蜘蛛侠。·2024-02-08 08:28
上一页 3 4 5 6 7 8 9 10 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他