E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
hadoop单机
淘宝优惠券群怎么快速拉人?微信优惠券群怎么拉人话术?
开通账账号,使用云发
单机
器人即可自动分享优惠券商品,更轻松,更赚钱。今天教大家淘宝优惠券怎么快速拉人,并分享最有效的优惠券群怎么拉人话术,一步步教你如何做优惠券群主赚钱。
高省APP
·
2024-02-06 03:56
淘宝客微信发
单机
器人是什么?微信发
单机
器人怎么设置?
淘宝客微信发
单机
器人是一种自动化工具,用于在微信平台上执行淘宝客推广活动。淘宝客是淘宝平台上的一种推广方式,通过分享商品链接,吸引用户购买并获得佣金。
高省爱氧惠
·
2024-02-06 02:42
Centos7.5+Ambari2.7.3+HDP3.1.0.0离线安装
Centos7.5+Ambari2.7.3+HDP3.1.0.0离线安装1简介Ambari跟
Hadoop
等开源软件一样,也是ApacheSoftwareFoundation中的一个项目,并且是顶级项目。
WaiSaa
·
2024-02-06 02:53
关于Spark/
Hadoop
中Master/Slave IP不正确的问题
在配置SparkStandAloneMode的时候,我遇到了Slave无法向正确的MasterIP发送数据的问题。通常这类问题都来源于没有正确配置./conf/spark_env.sh文件,只要在这个文件里定义好了SPARK_LOCAL_IP和SPARK_MASTER_HOST,就可以解决这个问题。而我设置了configure文件之后问题依然存在。原因在于MasterNode上有多个网卡,每个网卡
ecce
·
2024-02-06 02:37
hbase基本命令
1、进入hbase的shellhbase提供了一个shell的终端给用户交互[root@
hadoop
3conf]#hbaseshell退出使用quit或者ctrl+c需要关闭
hadoop
的安全模式不然进行一些操作
小月半会飞
·
2024-02-06 01:52
Docker 可视化工具
1、Portainer概念介绍Portainer是一款轻量级的应用,它提供了图形化界面,用于方便地管理Docker环境,包括
单机
环境和集群环境。
HuaLuLemon
·
2024-02-06 01:09
docker
docker
容器
运维
shell中正则表达式
[atguigu@
hadoop
101shells]$cat/etc/passwd|grepatguigu1.常用特殊字符^$.*[]\^:匹配一行的开头$:匹配一行的结束.
看山不是山a
·
2024-02-05 23:07
Linux
正则表达式
linux
运维
RabbitMQ部署指南
RabbitMQ部署指南1.
单机
部署我们在Centos7虚拟机中使用Docker来安装。
程序员老周666
·
2024-02-05 23:35
rabbitmq
分布式
为什么没人给我点赞啊
连更15天了,感觉一直在玩
单机
!互动好少啊,虽然有点失落,但看到好多一千多字文章点的赞也少得可怜,又觉得自己不算啥了。
想吃天鹅肉
·
2024-02-05 22:40
PyTorch 2.2 中文官方教程(十九)
先决条件:PyTorch分布式概述
单机
模型并行最佳实践开始使用分布式RPC框架RRef辅助函数:RRef.rpc_sync()
绝不原创的飞龙
·
2024-02-05 22:18
人工智能
pytorch
人工智能
python
大数据之 ZooKeeper原理及其在
Hadoop
和HBase中的应用
链接:https://blog.csdn.net/zhang123456456/article/details/78008626ZooKeeper是一个开源的分布式协调服务,由雅虎创建,是GoogleChubby的开源实现。分布式应用程序可以基于ZooKeeper实现诸如数据发布/订阅、负载均衡、命名服务、分布式协调/通知、集群管理、Master选举、分布式锁和分布式队列等功能。简介ZooKeep
yangfhit
·
2024-02-05 20:29
Hadoop
Start(1) ——Google与
Hadoop
的前世今生
参考文档:《
Hadoop
权威指南(第4版)》网址:http://
hadoop
.apache.org/[1]HDFS:
Hadoop
DistributionFileSystem
Hadoop
分布式文件系统[2
bclz
·
2024-02-05 18:41
kafka_2.13-2.8.0
启动zookeeperzookeeper.propertieszookeeper是否启动成功lsof-i:2181ps-aux|grepzookeeper启动kafkaserver.properties
单机
版配置验证
qq_26264237
·
2024-02-05 17:57
kafka
java
分布式
Kafka2.13集群搭建
准备3台服务器,并配置hosts172.17.0.2 node0172.17.0.3 node1172.17.0.4 node2在其中一台服务器中搭建Zookeeper(
单机
或集群都可以)Zookeeper
咩哥无敌
·
2024-02-05 17:57
kafka
kafka
zookeeper
分布式
如何对HDFS进行节点内(磁盘间)数据平衡
由于
Hadoop
2.x版本并不支持HDFS的磁盘间数据均衡,因此,会造成老数据磁盘占用率很高,新挂载的数据盘几乎很空。在这种情况下
格格巫 MMQ!!
·
2024-02-05 16:39
hadoop
hdfs
hdfs
hadoop
大数据
hadoop
调优-HDFS集群数据不均衡处理hdfs balancer
会造成datanode数据存储不均衡,一个datanode使用了70%,而有一个只使用了30%.解决:通过执行
hadoop
提供的balancer,来进行datanode之间数据balance。
不会吐丝的蜘蛛侠。
·
2024-02-05 16:08
Hadoop
hadoop
hdfs
big
data
HDFS BALANCER
介绍
Hadoop
的HDFS集群非常容易出现机器与机器之间磁盘利用率不平衡的情况,比如集群中添加新的数据节点。
风筝Lee
·
2024-02-05 16:07
hadoop
hdfs
balancer
Hadoop
-HDFS的DataNode介绍及原理
DataNodeDataNode工作机制1、一个数据块在DataNode上以文件形式存储在磁盘上,包括两个文件,一个是数据本身,一个是元数据包括数据块的长度,块数据的校验和,以及时间戳。2、DataNode启动后向NameNode注册,通过后,周期性(1小时)的向NameNode上报所有的块信息。3、心跳是每3秒一次,心跳返回结果带有NameNode给该DataNode的命令如复制块数据到另一台机
魔笛Love
·
2024-02-05 16:07
hadoop
大数据
HDFS DataNode高密度存储机型的探索尝试
我们如何在保证机器开销前提下,最大程度提升
单机
器的存储能力,这个就成为了一个集群维护人员需要思考和解决的问题。鉴于这个出发点,笔者最近在研
Android路上的人
·
2024-02-05 16:05
Hadoop
HDFS
hadoop
big
data
hdfs
绝对完美解决hdfs datanode数据和磁盘数据分布不均调整(hdfs balancer )——经验总结
Hadoop
集群Datanode数据倾斜,个别节点hdfs空间使用率达到95%以上,于是新增加了三个Datenode节点,由于任务还在跑,数据在不断增加中,这几个节点现有的200GB空间估计最多能撑20
ZhaoYingChao88
·
2024-02-05 16:05
Hadoop
hdfs
spark学习4:spark安装
1.下载spark安装包2.配置环境1.cd/bigdata/spark-3.0.1-bin-
hadoop
3.2/conf/2.4.添加动态库在
hadoop
-3.2.2/bin目录下添加
hadoop
.dll
hzp666
·
2024-02-05 14:58
spark
spark
大数据
《向量数据库指南》——Milvus Cloud集群」生产环境永远推荐使用集群模式
“MilvusCloud集群版依赖太多了,资源很缺,部署
单机
版支持主从或者多副本么?”MilvusCloud是一个分布式的向量数据库,“分布式”是它的一个核心特点。目前
LCHub低代码社区
·
2024-02-05 14:13
数据库
milvus
向量数据库
Milvus
Cloud
Milvus
ModaHub
计算机毕业设计
hadoop
+spark+hive小说数据分析可视化大屏 小说推荐系统 小说爬虫 小说大数据 机器学习 知识图谱 小说网站 大数据毕业设计
流程1.爬取17k的小说数据约5-10万,存入mysql数据库;2.使用mapreduce对mysql中的小说数据集进行数据清洗,转为.csv文件上传至hdfs文件系统;3.根据.csv文件结构,使用hive建库建表;4.一半分析指标使用hive_sql完成,一半分析指标使用Spark-Scala完成;5.将分析结果使用sqoop导入mysql数据库;6.使用Flask+echarts构建可视化大
计算机毕业设计大神
·
2024-02-05 14:48
6.Linux虚拟机下的
Hadoop
集群搭建之完全分布式配置
Hadoop
及相关组件搭建指导WeChat:h19396218469
hadoop
-3.1.3jdk-8u162-linux-x64本案例软件包:链接:https://pan.baidu.com/s/1ighxbTNAWqobGpsX0qkD8w
学习BigData
·
2024-02-05 13:01
关于Hadoop的学习笔记
hadoop
分布式
linux
Exception in thread “main“ java.lang.NoSuchMethodError: com.google.comon.base.Preconditions.checkArg
hadoop
-3.1.3hbase-2.2.2-bin一、问题描述:在学习林子雨老师编写的《Spark编程基础》时使用如下命令运行jar包读取HBase时出现如下错误:Exceptioninthread
学习BigData
·
2024-02-05 13:01
关于Hadoop的学习笔记
java
hadoop
hive
Hadoop
一键启动脚本编写
一、问题描述针对
Hadoop
集群使用start-dfs.shstart-yarn.sh进程无法全部启动,但是使用单独启动命令可以启动的问题进行解决。
学习BigData
·
2024-02-05 13:01
关于Hadoop的学习笔记
linux
hadoop
4.Linux虚拟机下的
Hadoop
集群搭建之Xshell及Xftp的使用和SSH服务配置
Hadoop
及相关组件搭建指导WeChat:h19396218469本案例软件包:链接:https://pan.baidu.com/s/1ighxbTNAWqobGpsX0qkD8w提取码:lkjh(若链接失效在下面评论
学习BigData
·
2024-02-05 13:31
关于Hadoop的学习笔记
linux
hadoop
ssh
6.0 MapReduce 服务使用教程
Hadoop
中包含了许多经典的MapReduce示例程序,其中就包
二当家的素材网
·
2024-02-05 13:29
Hadoop
教程
mapreduce
大数据
使用deepspeed继续训练LLAMA
数据训练配置2.模型载入3.优化器设置4.DeepSpeed设置5.DeepSpeed初始化6.模型训练LLAMA模型子结构:1.数据训练配置利用PyTorch和Transformers库创建数据加载器,它支持
单机
或多机分布式训练环境下的数据加载与采样
samoyan
·
2024-02-05 13:58
pytorch
llama
魔兽世界
单机
mysql密码_魔兽世界
单机
版-Trinity-Core数据库表解释
玩
单机
版的时候,经常要用到world数据库,但是对很多人来说,都不知道数据库中每个表格的作用是什么!
呆晒晒
·
2024-02-05 12:03
魔兽世界单机mysql密码
RabbitMQ 部署指南
RabbitMQ部署指南1.
单机
部署在Centos7虚拟机中使用Docker来安装。
萧曵 丶
·
2024-02-05 11:51
RabbitMQ
rabbitmq
分布式
Hive中分区表与分桶表的操作
目录分区表一级分区表知识点示例多级分区知识点示例分区表的操作示例
hadoop
_hive文档分桶表重要参数基础分桶表知识点示例分桶表排序知识点示例分桶原理分区表和分桶表区别分区表分区表特点/好处:需要产生分区目录
Sisi525693
·
2024-02-05 10:26
hive
hadoop
数据仓库
[
Hadoop
]万字长文
Hadoop
相关优化和问题排查总结
namenode优化namenode内存生产配置NameNode心跳并发配置开启回收站配置datanode的优化hdfs调优
hadoop
的优化YARN的优化HDFS调优的基本原则HDFS调优的常用参数排查哪个任务的
王一1995
·
2024-02-05 10:55
hadoop
jvm
java
Hive drop 事务表 报错 flushing changes to datastore
-2802:13:01][08S01][1]Errorwhileprocessingstatement:FAILED:ExecutionError,returncode1fromorg.apache.
hadoop
.hive.ql.exec.DDLTask.MetaException
AdamShyly
·
2024-02-05 10:54
Hive
踩过的坑
hive
Hadoop
3.x
单机
安装教程
为什么要搭建
单机
环境的
Hadoop
?
文景大大
·
2024-02-05 10:06
关于第二职业的讨论
AI的取代应该会从简
单机
械的岗位开始吧,银行柜员、会计等等,只要是程序能解决的就不需要人了。找工作期间咨询前同事岗位如何,他说金融早晚要被AI取代,也可能是他杞人忧天,但忧患意识还是十足的。
不知道会员先森
·
2024-02-05 10:58
大数据 - Spark系列《三》- 加载各种数据源创建RDD
Spark系列文章:大数据-Spark系列《一》-从
Hadoop
到Spark:大数据计算引擎的演进-CSDN博客大数据-Spark系列《二》-关于Spark在Idea中的一些常用配置-CSDN博客目录3.1
王哪跑nn
·
2024-02-05 09:28
spark
大数据
spark
分布式
大数据原理-Spark
概述:基于内存计算三大分布式计算系统:
Hadoop
、Spark、Storm特点:采用有向无环图DAG作业调度运行速度快循环数据流容易使用:可以通过SparkShell交互式编程用途:SQL查询、流式计算
monster++
·
2024-02-05 09:28
大数据原理
分布式
编程语言
分布式计算
hadoop
spark
ansible通过playbook批量部署服务
ansible通过playbook批量部署服务一、对
单机
和组的执行playbook配置命令1、对单台服务器执行playbook:在单台服务器172.20.26.198上安装nginx,启动nginx。
lqcbj_IT老混混
·
2024-02-05 09:55
Linux运维
ansible
linux
apache
大数据 - Spark系列《四》- Spark分布式运行原理
Spark系列文章:大数据-Spark系列《一》-从
Hadoop
到Spark:大数据计算引擎的演进-CSDN博客大数据-Spark系列《二》-关于Spark在Idea中的一些常用配置-CSDN博客大数据
王哪跑nn
·
2024-02-05 08:54
spark
大数据
分布式
spark
Hadoop
执行WorldCount出现的问题和解决
failedonconnectionexception:java.net.ConnectException:Connectionrefused;Formoredetailssee:http://wiki.apache.org/
hadoop
SZHjy
·
2024-02-05 08:38
大数据
hadoop
大数据
2.0
Hadoop
运行环境
由于
Hadoop
是为集群设计的软件,所以我们在学习它的使用时难免会遇到在多台计算机上配置
Hadoop
的情况,这对于学习者来说会制造诸多障碍,主要有两个:昂贵的计算机集群。
二当家的素材网
·
2024-02-05 07:01
Hadoop
教程
hadoop
大数据
分布式
impala与kudu进行集成
文章目录概要Kudu与Impala整合配置Impala内部表Impala外部表Impalasql操作kuduImpalajdbc操作表如果使用了
Hadoop
使用了Kerberos认证,可使用如下方式进行连接
shandongwill
·
2024-02-05 07:44
大数据
impala
kudu
impala与kudu集成
azkaban编译时报错的解决方案
大数据
单机
学习环境搭建(11)Azkaban
单机
部署,关于Azkaban和gradle下载,本文编译不限于
单机
solo模式。
赫加青空
·
2024-02-05 07:53
大数据
经验分享
Python调用pyspark报错整理
前言Pycharm配置了SSH服务器和Anaconda的python解释器,如果没有配置可参考大数据
单机
学习环境搭建(8)Linux单节点Anaconda安装和Pycharm连接Pycharm执行的脚本执行如下
赫加青空
·
2024-02-05 07:52
Python
spark
大数据
python
开发语言
1.0
Hadoop
教程
Hadoop
是一个开源的分布式计算和存储框架,由Apache基金会开发和维护。
二当家的素材网
·
2024-02-05 06:38
Hadoop
教程
hadoop
大数据
分布式
3.0
Hadoop
概念
本章着重介绍
Hadoop
中的概念和组成部分,属于理论章节。如果你比较着急可以跳过。但作者不建议跳过,因为它与后面的章节息息相关。
二当家的素材网
·
2024-02-05 06:38
Hadoop
教程
hadoop
大数据
分布式
基于
hadoop
+spark的大规模日志的一种处理方案
而且CDN上的访问日志一般都非常大,需要用大数据处理架构来进行处理,本文描述了一种利用
hadoop
+spark来处理大量CDN日志的方法,当然本方
码农心语
·
2024-02-05 06:36
日志处理
大规模
大数据
hadoop
spark
cdn
# 软件安装-Linux搭建nginx(
单机
版)
软件安装-Linux搭建nginx(
单机
版)安装版本:nginx-1.24.0文章目录软件安装-Linux搭建nginx(
单机
版)一、Nginx包下载二、创建用户1.新建组和用户2.设置用户密码3.登录自己创建的目录三
不称职的程序员❦
·
2024-02-05 05:35
软件安装操作手册
linux
nginx
运维
软件安装-Linux搭建redis(
单机
版)
软件安装-Linux搭建redis(
单机
版)安装版本:redis-7.2.4、Asianux7.6(红旗)文章目录软件安装-Linux搭建redis(
单机
版)一、redis下载二、创建用户2.设置用户密码
不称职的程序员❦
·
2024-02-05 05:33
软件安装操作手册
linux
redis
运维
上一页
10
11
12
13
14
15
16
17
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他