E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
Hadoop入门教程
子雨大数据之Spark
入门教程
---Spark入门:RDD的设计与运行原理1.3
Spark的核心是建立在统一的抽象RDD之上,使得Spark的各个组件可以无缝进行集成,在同一个应用程序中完成大数据计算任务。RDD的设计理念源自AMP实验室发表的论文《ResilientDistributedDatasets:AFault-TolerantAbstractionforIn-MemoryClusterComputing》。1.RDD设计背景在实际应用中,存在许多迭代式算法(比如机器
千寻~
·
2024-02-04 06:38
spark
rdd
大数据本地环境搭建03-Spark搭建
需要提前部署好Zookeeper/
Hadoop
/Hive环境1Local模式1.1上传压缩包下载链接链接:https://pan.baidu.com/s/1rLq39ddxh7np7JKiuRAhDA?
OnePandas
·
2024-02-04 06:31
Spark
大数据集群环境搭建
大数据
spark
分布式
C语言 const 修饰变量 - C语言零基础
入门教程
目录一.const简介二.const实战1.使用const修饰变量必须初始化2.使用const修饰变量不初始化3.修改const修饰变量的值三.重点提示四.猜你喜欢零基础C/C++学习路线推荐:C/C++学习目录>>C语言基础入门一.const简介const是constant的缩写,意思是“恒定不变的”!它是定义只读变量或者常变量的关键字。const定义的是变量,但又相当于常量;说它定义的是常量,
猿说编程
·
2024-02-04 06:30
Hadoop
大数据实战系列文章之Hive
hive是基于
Hadoop
的一个数据仓库工具,可以将结构化的数据文件映射为一张数据库表,并提供完整的sql查询功能,Hive定义了简单的类SQL查询语言,称为HQL,它允许熟悉SQL的用户查询数据可以将
测试帮日记
·
2024-02-04 05:45
spark运维问题记录
环境:spark-2.1.0-bin-
hadoop
2.71.Spark启动警告:neitherspark.yarn.jarsnotspark.yarn.archiveisset,fallingbacktouploadinglibrariesunderSPARK_HOME
lishengping_max
·
2024-02-04 05:11
Spark
spark
解决“Spark context stopped while waiting for backend“ issue
在配置为4C16G的虚拟机上安装
hadoop
生态全家桶,在安装Spark2,使用了社区版2.3的版本。
江畔独步
·
2024-02-04 05:10
Spark
bigdata
大数据组件部署下载链接
Hadoop
2.7下载连接:https://archive.apache.org/dist/
hadoop
/core/
hadoop
-2.7.6/Hive2.3.2下载连接:http://archive.apache.org
运维道上奔跑者
·
2024-02-04 05:13
大数据
zookeeper
hbase
kafka
hadoop
hive
【大数据开发运维解决方案】
Hadoop
+Hive+HBase+Kylin 伪分布式安装指南
Hadoop
2.7.6+Mysql5.7+Hive2.3.2+Hbase1.4.9+Kylin2.4单机伪分布式安装文档注意:######################################
运维道上奔跑者
·
2024-02-04 05:43
大数据
hadoop
分布式
Hadoop
2.7.6+Mysql5.7+Hive2.3.2+zookeeper3.4.6+kafka2.11+Hbase1.4.9+Sqoop1.4.7+Kylin2.4单机伪分布式安装及官方案例测
#################################################################最新消息:关于spark和Hudi的安装部署文档,本人已经写完,连接:
Hadoop
2.7.6
运维道上奔跑者
·
2024-02-04 05:43
分布式
hbase
zookeeper
hadoop
Springboot使用camunda工作流使用笔记
工作流基础:Camunda官方快速
入门教程
中文版工作流进阶(java):CamundaSpringBoot与进阶内容新版本camunda-modeler的UI改了不少,对应起来比较麻烦,固博客记录一次实际使用过程
翎墨袅
·
2024-02-04 04:31
spring
boot
java
intellij-idea
2021-07-02
Hadoop
集群构建配主机名vi/etc/sysconfig/networkNETWORKING=yesHOSTNAME=
hadoop
012.配置IP映射vi/etc/hosts127.0.0.1localhostlocalhost.localdomainlocalhost4localhost4
谢尔比比
·
2024-02-04 02:40
笔记
hadoop
、spark、flink集群修改默认ssh端口号
大数据集群在实际搭建过程中,其默认ssh端口不一定都是22,这时需要根据各自的配置文件进行适配。ssh端口号默认为22,以centos7.x为例,可以在/etc/ssh/sshd_config中进行修改,如下示例将22改为22222:#IfyouwanttochangetheportonaSELinuxsystem,youhavetotell#SELinuxaboutthischange.#sem
0X码上链
·
2024-02-03 21:12
大数据
分布式技术
ssh
hadoop
spark
flink
Zookeeper集群安装
简介ZooKeeper是一个分布式的,开放源码的分布式应用程序协调服务,是Google的Chubby一个开源的实现,是
Hadoop
和Hbase的重要组件。
万总有点菜
·
2024-02-03 21:14
2019-10-08 大数据开发进阶之路
市场需要的水平熟练掌握Linux、SQL与HiveSQL掌握
Hadoop
生态主流技术,如HDFS/MapRedunce/Yarn/HBase/Flume等掌握Spark生态核心技术,如Spark架构/RDD
红瓦李
·
2024-02-03 20:39
Hadoop
框架下MapReduce中的map个数如何控制
一个job的map阶段并行度由客户端在提交job时决定客户端对map阶段并行度的规划基本逻辑为:一、将待处理的文件进行逻辑切片(根据处理数据文件的大小,划分多个split),然后每一个split分配一个maptask并行处理实例二、具体切片规划是由FileInputFormat实现类的getSplits()方法完成切分规则如下:1.简单地按照文件的内容长度进行切片2.切片大小默认是datanode
piziyang12138
·
2024-02-03 20:13
Flyway数据库迁移工具
入门教程
前言在现代应用程序开发中,数据库架构的管理和版本控制是一个至关重要的环节。Flyway是一款流行的开源数据库迁移工具,它为开发者提供了一种简单、可预测的方式来管理数据库变更,确保数据库架构与应用代码同步更新。本文将引导您快速入门Flyway,并了解其基本使用方法。一、Flyway简介Flyway通过定义一系列有序的SQL脚本(称为迁移),帮助你管理数据库的结构变更。这些迁移脚本可以用于创建表、修改
李少兄
·
2024-02-03 17:22
MySQL
数据库
感恩日记0052-0323
一.每日精进:1.读书:和悟空一起读书,自己听了写作营三节课2.健身:直播一起练《
入门教程
》第27周的序列第7遍3.陪家人:户外玩耍,在家各种讲故事,一本书能讲一小时4.帮朋友:直播间带大家练习,接Amy
糊糊陪你瑜伽
·
2024-02-03 17:23
24岁本科女生培训入门,学测试和前端哪个好?
那么你现在的出发点就应该换到,自己对哪个学科更感兴趣,更能学习下去,那就选择哪个学科就好了~如果实在是没办法做选择,可以选择两个课程的基础课程去学习一下,看看哪个更适合自己~最新前端开发
入门教程
,web
我想去吃ya
·
2024-02-03 17:55
前端
数据分析
压力测试
职场和发展
程序人生
Hadoop
MapReduce 各阶段理解
Hadoop
的MapReduce是一个很经典的分布式并行计算框架,一直对各个阶段的具体含义有些模糊。花时间看了下stackoverflow上的理解,记录一下。
phusFuNs
·
2024-02-03 16:10
阿里云服务器2核16G、4核32G、8核64G配置最新收费标准及活动价格
2核16G、8核64G、4核32G配置的云服务器处理器与内存比为1:8,这种配比的云服务器一般适用于数据分析与挖掘,
Hadoop
、Spark集群和数据库,缓存等内存密集型场景,因此,多为企业级用户选择,
阿里云最新优惠和活动汇总
·
2024-02-03 15:07
hadoop
2.0之环境搭建详细流程
1、在安装
hadoop
2.0之前,需要准备好以下软件(如下图1)图1:然后将这两个软件共享到centos上(如下图2红箭头指向和图3红箭头指向所示)在vm这上面有个虚拟机,点击虚拟机后有个硬件和选项,点选项
hhf_Engineer
·
2024-02-03 14:51
hadoop
使用公平调度器
数据量不大,做离线一个晚上就能轻松调度完,那时候使用的
hadoop
自带的调度器,容量调度器。但默认配置没有改,就会发生什么!root主leaf下面只有default。
向他一样rap
·
2024-02-03 13:22
kylin
hadoop
hadoop
大数据
分布式
Spring Cloud
入门教程
(一): 服务注册 (转)
很好的SpringCloud
入门教程
http://www.cnblogs.com/chry/p/7248947.htmlhttps://www.cnblogs.com/chry/p/7250584.htmlhttp
是我拉叔
·
2024-02-03 12:51
Vue项目套壳安卓webview项目记录
1、安装AndroidStudio,不再赘述,可查阅博客2023最新版Androidstudio安装
入门教程
(非常详细)从零基础入门到精通,看完这一篇就够了。
jimson_zhu
·
2024-02-03 12:10
Android
android
netcore使用EFcore(第一个实例)
说明:搭建netcore使用efcore
入门教程
,跟着这个教程,傻瓜都可以成功!
az44yao
·
2024-02-03 09:06
【数据开发】pyspark入门与RDD编程
spark与pyspark的关系spark是一种计算引擎,类似于
hadoop
架构下mapreduce,与mapr
小哈里
·
2024-02-03 08:58
#
后端开发
python
spark
pyspark
后端
大数据
(四)hive的搭建2
1.元数据服务的方式1.1编辑hive-site.xmlsudovihive-site.xml在文件最后增加以下内容hive.metastore.uristhrift://
hadoop
-master:90831.2
调试大师
·
2024-02-03 08:18
大数据
Hadoop
hive
hadoop
数据仓库
(三)
hadoop
之hive的搭建1
下载访问官方网站https://hive.apache.org/点击downloads点击Downloadareleasenow!点击https://dlcdn.apache.org/hive/选择最新的稳定版复制最新的url在linux执行下载命令wgethttps://dlcdn.apache.org/hive/hive-3.1.3/apache-hive-3.1.3-bin.tar.gz2.
调试大师
·
2024-02-03 08:48
Hadoop
大数据
hadoop
hive
大数据
hadoop
50070 无法访问问题解决汇总
解决办法1:[root@djt002
hadoop
]#vi/etc/selinux/config改为:SELINUX=disabled解决办法2:查看你的$
HADOOP
_HOME/etc/
hadoop
下的
無法複制
·
2024-02-03 08:13
linux
hadoop
Hadoop
:学习HDFS,看完这篇就够了!
HDFS(
Hadoop
DistributedFileSystem)是Apache
Hadoop
生态系统中的分布式文件系统,用于存储和处理大规模数据集。
爱写代码的July
·
2024-02-03 08:09
大数据与云计算
hadoop
学习
hdfs
大数据
云计算
Hadoop
:HDFS学习巩固——基础习题及编程实战
一HDFS选择题1.对HDFS通信协议的理解错误的是?A.客户端与数据节点的交互是通过RPC(RemoteProcedureCall)来实现的B.HDFS通信协议都是构建在IoT协议基础之上的C.名称节点和数据节点之间则使用数据节点协议进行交互D.客户端通过一个可配置的端口向名称节点主动发起TCP连接,并使用客户端协议与名称节点进行交互BHDFS通信协议构建在TCP/IP协议基础之上2.HDFS的
爱写代码的July
·
2024-02-03 08:09
大数据与云计算
hadoop
hdfs
学习
微信小程序新手
入门教程
一:零基础上手
小程序是一种全新的连接用户与服务的方式,它可以在微信内被便捷地获取和传播,同时具有出色的使用体验。它提供了一个简单、高效的应用开发框架和丰富的组件及API,帮助开发者在微信中开发具有原生APP体验的服务。小程序与普通网页开发的区别1.开发环境不同。网页运行在浏览器环境中,而小程序运行在微信环境中。2.API调用不同。小程序不能调用DOM和BOM的API。但是它可以调用微信环境提供的如扫码支付、地理
爱写代码的July
·
2024-02-03 08:39
微信小程序
微信小程序
小程序
微信小程序新手
入门教程
二:认识JSON配置文件
在上一篇我们介绍了微信小程序的注册和基本使用方式,并且写出了一个简单的页面,但是依然没有解释目录中的各种.json文件是做什么的。这篇我们就来认识一下各种JSON配置文件及其配置项。一认识JSON首先先来认识一下JSON是什么。JSON指的是JavaScript对象表示法(JavaScriptObjectNotation)JSON是轻量级的文本数据交换格式JSON独立于语言:JSON使用Javas
爱写代码的July
·
2024-02-03 08:39
微信小程序
微信小程序
小程序
微信小程序新手
入门教程
三:基础语法介绍
WXML(WeiXinMarkupLanguage)是框架设计的一套标签语言,可以与各种组件相结合,进行页面构建。一常用标签wxml的语法结构与我们熟悉的html很像,但在细节处略有不同,我们可以参考html标签对比记忆。wxml中最经常使用的标签无异于是标签,它就相当于html中的div标签,可以进行区域的分隔,同样是块级元素。我们可以新建一个页面,尝试添加如下两行代码:我是第一句话我是第二句话
爱写代码的July
·
2024-02-03 08:37
微信小程序
微信小程序
小程序
Python 计算总分数和平均分 - Python零基础
入门教程
目录一.Python计算总分数和平均分源码二.猜你喜欢零基础Python学习路线推荐:Python学习目录>>Python基础入门一.Python计算总分数和平均分源码有位小粉丝后台公众号后台留言,需求是使用Python从键盘上输入学生的姓名,语文数学英语成绩,计算平均分和总分,然后输出这个学生的姓名,平均分和总分,源码如下:#!usr/bin/envpython#-*-coding:utf-8_
猿说编程
·
2024-02-03 06:05
hadoop
3.x 案例5:Flink SQL运行报错
文章目录一.问题描述二.解决方案参考:一.问题描述启动yarnsession后,运行FlinkSQL,报错。命令:--启动yarn-session/home/flink-1.15.2/bin/yarn-session.sh-d--在yarnsession模式下启动flinksql/home/flink-1.15.2/bin/sql-client.shembedded-syarn-session--
只是甲
·
2024-02-03 06:31
大数据和数据仓库
#
Hadoop大数据平台
sql
hadoop
flink
Next.js初识
Next.js官方教程:https://nextjs.org/learn/dashboard-app前端Web
入门教程
:https://develope
Jack魏
·
2024-02-03 03:01
前端开发
开发语言
Next.js
React
前端框架
前端开发
【前端实例代码】使用 HTML CSS 和 JavaScript 实现具有彩色发光霓虹灯悬停效果的icon图标|前端开发 网页制作 基础
入门教程
b站视频演示效果:【web前端特效源码】使用HTMLCSS和JavaScript实现具有彩色发光霓虹灯悬停效果的icon图标|前端开发网页制作基础
入门教程
效果图:完整代码:【前端实例代码】使用HTMLCSS
南北极之间
·
2024-02-03 01:23
web前端特效源码
javascript
html
css
网页设计编程入门代码
编程入门
apache
hadoop
2.4.0 64bit 在windows8.1下直接安装指南(无需虚拟机和cygwin)
工作需要,要开始搞
hadoop
了,又是大数据,自己感觉大数据、云,只是ERP、SOAP风潮之后与智能地球一起诞生的概念炒作。不过Apache是个神奇的组织,Java如果没有它也不会现在如火中天。
夜魔009
·
2024-02-03 00:56
技术
windows8
hadoop
64bit
库
hdfs
Hadoop
生态圈-组件介绍
Hadoop
是目前应用最为广泛的分布式大数据处理框架,其具备可靠、高效、可伸缩等特点。
Hadoop
的核心组件是HDFS、MapReduce。
苏尔伯特
·
2024-02-03 00:19
测试环境搭建整套大数据系统(一:基础配置,修改hostname,hosts,免密,时间同步)
vim/etc/hostnamexdso-
hadoop
-test-001vim/etc/hosts192.168.50.60xdso-
hadoop
-test-001192.168.50.61xdso-ha
宇智波云
·
2024-02-03 00:15
大数据项目
大数据
C语言 const 修饰指针 - C语言零基础
入门教程
目录一.const简介二.const修饰指针1.constint*p2.intconst*p3.int*constp4.constint*constp三.猜你喜欢零基础C/C++学习路线推荐:C/C++学习目录>>C语言基础入门一.const简介const是constant的缩写,意思是“恒定不变的”!它是定义只读变量或者常变量的关键字。const定义的是变量,但又相当于常量;说它定义的是常量,但
猿说编程
·
2024-02-02 23:00
初学者笛子入门:笛子指法表
更多关于笛子入门的学习教程请关注韦信工众浩笛子
入门教程
口琴谱
·
2024-02-02 23:02
搭建
hadoop
单机环境
hadoop
笔记sbin:一些启动脚本【服务端的serverbin】logs:存放
hadoop
相关日志bin:客户端的脚本etc:
hadoop
相关的配置文件格式化文件系统配置免密码登录ssh-keygen-trsa-P
.Passion
·
2024-02-02 23:12
hadoop
hadoop
hdfs
大数据
Hadoop
单机环境搭建
Hadoop
单机环境搭建一、jdk环境二、IP地址和主机名映射三、生成公私钥授权四、下载解压
Hadoop
五、配置
Hadoop
环境变量六、修改
Hadoop
配置文件七、关闭防火墙八、初始化九、启动十、Yarn
三暮辰
·
2024-02-02 23:42
Hadoop
hadoop
大数据
docker搭建单机
hadoop
docker搭建单机
hadoop
前言一、docker是什么?二、
hadoop
是什么?
阿桔是只猫
·
2024-02-02 23:41
大数据
hadoop
docker
大数据
手把手教
Hadoop
环境搭建,学不会你咬我~
之前后台小伙伴私信我想了解
hadoop
的单机环境安装,以方便用于
hadoop
学习,今天给大家安排上了,废话不多说,直接上干货。
程序IT圈
·
2024-02-02 23:11
hadoop
jdk
linux
centos
hdfs
hadoop
单机模式搭建
1.新建虚拟机给虚拟机命名,选择存放路径接着指定磁盘大小,因为我们不止搭建单机模式还要搭建伪分布模式,这里我们选择80G这里会看到创建虚拟机完成,我们点击自定义硬件,选择合适的内存,处理器,还有映像文件,这里我们用不到声卡和打印机可以给他移除根据自己电脑配置选择合适的,这里我们选择完之后是这样的然后我们开启虚拟机
H6666W
·
2024-02-02 23:10
hadoop
hadoop
java
大数据
HADOOP
_MAPRED_HOME=${full path of your
hadoop
distribution directory}
场景在
Hadoop
3.13的YARN上运行MapReduce报错信息终端界面提示FAILED:ExecutionError,returncode2fromorg.apache.
hadoop
.hive.ql.exec.mr.MapRedTask
小基基o_O
·
2024-02-02 23:10
Hadoop
单机搭建
hadoop
环境(包括hdfs、yarn、hive)
单机可以搭建伪分布式
hadoop
环境,用来测试和开发使用,
hadoop
包括:hdfs服务器yarn服务器,yarn的前提是hdfs服务器,在前面两个的基础上,课可以搭建hive服务器,不过hive不属于
howard_shooter
·
2024-02-02 23:39
大数据
hadoop
大数据
分布式
上一页
9
10
11
12
13
14
15
16
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他