E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
本地模式
node.js 学习(一)
node-e"console.log('HelloWorld');"输出HelloWorldnode进入node的REPL模式:输入—求值—输出循环npm[install/i][package_name]npm安装包
本地模式
holidayPenguin
·
2021-05-01 08:48
hive环境搭建
2.
本地模式
这种模式是将元数据保存在本地独立的数据库中(一般是MySQL),这用就可以支持多会话和多用户连
在朝阳寺树下
·
2021-04-29 14:40
Flink 1.6.0 安装与配置
flink–version1.2.使用安装包官网下载地址https://flink.apache.org/downloads.html下载对应hadoop,scala版本号一致的flinkversion下载解压缩到指定目录2.启动
本地模式
Alex90
·
2021-04-25 06:35
Hadoop集群部署及简单测试
Hadoop集群部署及简单测试部署模式
本地模式
伪分布模式完全分布式节点规划HDFS规划YARN规划实现部署解压安装修改配置修改环境变量配置文件~env.sh修改属性配置文件~-site.xml修改core-site.xml
杀智勇双全杀
·
2021-04-23 22:25
云计算大数据
笔记
分布式
hadoop
linux
hdfs
yarn
Hadoop的单机和集群部署
在独立模式(
本地模式
)下将使用本地文件
wangmin
·
2021-04-22 22:02
揭秘hive常见面试题(七)-20道
hivejob的优化本地化执行sethive.exec.mode.local.auto=true;当一个job满足如下条件的时候才能真正使用
本地模式
;1、job的输入数据大小必须小于参数:hive.exec.mode.local.auto.inputbytes.max
百忍成金的虚竹
·
2021-04-18 14:03
Hive调优 | Hive常见的几种优化模式
一、
本地模式
当一个MapReduce任务的数据量和计算任务很小的时候,在MapReduce框架中Map任务和Reduce任务的启动过程占用了任务执行的大部分时间,真正的逻辑处理其实占用时间很少,但是给用户的感受就是
大数据技术架构
·
2021-04-05 08:32
1.Flink 1.12.1
本地模式
安装
步骤1:下载操作系统需求建议使用Linux系统例如Centos或Ubuntu系统,这里我使用的ubuntu20.04为了运行Flink,只需提前安装好Java8或者Java11。你可以通过以下命令来检查Java是否已经安装正确。clipboard(2).pngjava-version打开Flink官网https://flink.apache.org或https://mirrors.bfsu.edu
无栈程序员
·
2021-03-14 23:08
Hive、MySQL安装
Hive安装嵌入模式所需安装包解压安装包配置环境变量修改配置文件hive-env.sh初始化元数据库Hive连接
本地模式
安装MySQL所需安装包解压安装包安装MySQL组件登录MySQL初始化MySQL
Ka-Xin
·
2021-02-21 11:59
hive
mysql
数据库
Hadoop 学习笔记·三 —— Hadoop 运行模式
Hadoop运行模式包括:
本地模式
伪分布式模式完全分布式模式Hadoop官方网站:http://hadoop.apache.org/本地运行模式官方Grep案例创建在hadoop-2.7.2文件下面创建一个
timedecdec
·
2021-02-06 11:45
学习笔记
大数据
Hadoop
运行模式
本地模式
伪分布模式
完全分布模式
Hadoop框架--Job提交流程--
本地模式
1.job.waitForCompletion(true);/***主要是将任务提交到集群中去并等待完成*booleanverbose:是否将进度打印给用户看*return任务成功返回true*/publicbooleanwaitForCompletion(booleanverbose)throwsIOException,InterruptedException,ClassNotFoundExce
weixin_42238367
·
2021-01-29 18:05
Hadoop
hadoop
java
contos8伪分布式部署hadoop-3.2.1
一、获取软件包请参考上一篇centos8单机(
本地模式
)部署hadoop-3.2.1链接:https://blog.csdn.net/dp340823/article/details/11285568
东鹏特饮
·
2021-01-27 03:50
运维云计算
hadoop
java
分布式
centos
运维
centos8单机(
本地模式
)部署hadoop
知识了解单机部署模式介绍单机(
本地模式
)是Hadoop的默认部署模式。当配置文件为空时,Hadoop完全运行在本地。
东鹏特饮
·
2021-01-20 01:22
运维云计算
hadoop
linux
centos
运维
服务器
分布式计算平台Spark:Core(一)
分布式计算平台Spark:Core(一)文章目录分布式计算平台Spark:Core(一)一、课程回顾二、课程目标三、Standalone集群运行1、工作场景2、spark-submit3、
本地模式
提交4
章鱼哥TuNan&Z
·
2021-01-13 13:09
#
Spark
spark
分布式计算平台Spark
Spark:基础入门一、课程二、目标三、Spark的起源与发展1、分布式计算发展2、Spark诞生与发展3、Spark功能与特点4、应用场景四、Spark环境部署测试1、版本与编译2、部署模式3、架构组成4、
本地模式
章鱼哥TuNan&Z
·
2021-01-11 19:06
#
Spark
大数据
分布式
分布式计算
终章:蜕变,破茧成蝶!
、待续……持续更新中……】【未完、待续……持续更新中……】【未完、待续……持续更新中……】一、Hadoop篇一、Hadoop框架介绍二、Linux下搭建Hadoop的运行环境三、Hadoop运行模式(
本地模式
象在舞
·
2021-01-05 16:37
破茧成蝶——大数据篇
大数据
Flink SQL实时数仓开源UI平台
目的是减少开发,完全实现flink-sql流计算任务,flink任务支持单流、双流、单流与维表等,支持
本地模式
、yarn-per模式、STANDALONE模式。支持udf、自定义连
☞空白页
·
2021-01-05 10:20
Flink
Hadoop离线 day16 Hive基本操作
Hadoop离线day16Hive基本操作九、调优9.1Fetch抓取(Hive可以避免进行MapReduce)9.2
本地模式
9.2表的优化9.2.1Join9.2.2MapJoin9.2.3GroupBy9.2.4Count
weixin_39210914
·
2020-12-29 21:36
hadoop离线
hadoop
大数据
数据库
python
spark
Spark:01基础环境
Spark:01基础环境一、Spark框架概述二、Spark环境部署测试1、版本与编译2、部署模式3、架构组成4、
本地模式
(Local)5、集群模式(Standalone)6、HA集群三、Spark应用组成
静(・ิϖ・ิ)っ
·
2020-12-25 10:13
大数据
spark
三十五、Hive的优化
本文主要来讲述一下Hive的优化问题,关注专栏《破茧成蝶——大数据篇》,查看更多相关的内容~目录一、Hive的数据存储格式二、Hive调优2.1Fetch2.2
本地模式
查询2.3表与表之间的Join2.4Map
象在舞
·
2020-12-22 09:27
破茧成蝶——大数据篇
大数据
hive
flink 本地_在本地执行示例Flink程序
我试图在
本地模式
下执行ApacheFlink中的示例程序。
weixin_39674293
·
2020-12-22 04:19
flink
本地
npm常用命令
一、基本命令-g:--global全局,一处安装,处处可用--save:local(
本地模式
,只在当前文件夹下)写入dependencies--save-dev:local&写入devDependencies
一只重拾梦想的小水
·
2020-12-15 11:59
Hadoop三种模式的安装与配置
安装jdk(这里不展开)1、Hadoop的
本地模式
用户:root主机名:bigdata111特点:(1)没有HDFS、也没有Yarn(2)只能测试MapReduce程序,作为一个普通的Java程序(3)
大数据ZRL
·
2020-10-25 10:18
2020-10-09
HQL笔记内容:--一些设置--以
本地模式
运行/*当一个job满足如下条件才能真正使用
本地模式
:1.job的输入数据大小必须小于参数:hive.exec.mode.local.auto.inputbytes.max
baidu_41555315
·
2020-10-09 23:32
hive
hive
二十、Linux安装Zookeeper
本文从两部分讲述Zookeeper的安装,分别是
本地模式
安装部署和分布式安装部署。
象在舞
·
2020-09-22 10:20
破茧成蝶——大数据篇
zookeeper
【node.js】
本地模式
安装express:'express' 不是内部或外部命令,也不是可运行的程序或批处理文件。
自定义安装路径:D:\TOOLS\NodeJs安装完成后,执行:D:\TOOLS\NodeJs>node-vv0.11.13安装框架express,从网站上下载了一个安装文档,说安装express可分全局模式和
本地模式
MCpang
·
2020-09-17 01:53
Nodejs
二。spark相关Rdd
SparkMLlib//机器学习库Sparkgraph//图计算Spark集群运行--------------------1.local//
本地模式
2.standalone//独立模式3.yarn//ya
皓月青风
·
2020-09-16 11:51
spark知识
Hadoop运行模式
/hadoop/common/hadoop-2.7.2/(3)hadoop2.7.2版本详情介绍http://hadoop.apache.org/docs/r2.7.2/2)Hadoop运行模式(1)
本地模式
不稳定记忆
·
2020-09-16 11:59
Hadoop
Hadoop运行模式
大数据常见面试题之spark core
文章目录一.spark的部署模式1.
本地模式
2.standalone模式3.sparkonyarn模式二.driver的功能三.hadoop和spark都是并行计算,他们有什么相同点和不同点四.RDD五
sun_0128
·
2020-09-16 10:09
面试
大数据面试
spark
core
面试题
spark
面试题
spark
面试
spark
MarkdownPad2 插入数学公式Mathjax
添加下列内容:如果用
本地模式
,解压MathJax源码后,注意file:\\\的使用3.按住F6在浏览器中实时显示效果4.如果Markdown
Trampeye
·
2020-09-16 10:49
markdown
Hive调优
,能在map端提前处理的不要reduce处理)合并小文件map阶段和reduce阶段的输出尽量采用snappy数据压缩和(parquet、orcfile)存储格式避免数据倾斜Hive要Fetch抓取、
本地模式
马上要秃头的我
·
2020-09-16 02:48
hive
Hive安装及配置
MySQL首先不要配置utf8编码,我配置以后导致后来出现hive删除表一直在处于卡死状态:http://blog.csdn.net/qq_33624294/article/details/53222266
本地模式
安装如下
BD_ZYJ
·
2020-09-16 01:47
hive
hive
Kafka与Flink结合使用
Kafka与Flink结合使用本地连接kafka首先可以先以
本地模式
来对kafka进行操作。
Omndzzz
·
2020-09-16 00:25
学习记录
flink
kafka
大数据
Storm
本地模式
环境问题
Storm
本地模式
环境问题运行从github上把storm-starter的代码fork下来https://github.com/nathanmarz/storm-starter将m2-pom.xml重命名为
斗者_2013
·
2020-09-15 20:46
Hadoop
关于zookeeper启动失败,个人解决经验
zookeer下创建文件夹zkData将zookeeper/conf下zoo*文件修改为zoo.cfgvizoo.cfg设置dataDir=/home/hadoop/apps/zookeeper/zkData
本地模式
virtualccc
·
2020-09-15 20:04
hadoop学习
Spark运行模式以及部署《四》
Spark运行模式有5种:1)local
本地模式
或者开发测试模式,.
爬虫研究僧
·
2020-09-15 18:56
大数据
python
spark
hadoop
hdfs
大数据
Linux:rsync命令详解
rsync命令的工作模式第一种:shell模式,也称作
本地模式
第二种:远程shell模式,此时可以利用ssh协议承载其数据传输过程第三种:列表模式,其工作方式与ls相似,仅列出源的内容:-nv第四种:服务器模式
旧光影里的少年
·
2020-09-15 12:28
Linux
Spark
本地模式
运行
Spark的安装分为几种模式,其中一种是本地运行模式,只需要在单节点上解压即可运行,这种模式不需要依赖Hadoop环境。在本地运行模式中,master和worker都运行在一个jvm进程中,通过该模式,可以快速的测试Spark的功能。下载Spark下载地址为http://spark.apache.org/downloads.html,根据页面提示选择一个合适的版本下载,这里我下载的是spark-1
weixin_34281537
·
2020-09-15 03:03
大数据之spark学习记录二: Spark的安装与上手
大数据之spark学习记录二:Spark的安装与上手文章目录大数据之spark学习记录二:Spark的安装与上手Spark安装
本地模式
Standalone模式基本配置步骤1:复制spark,并命名为spark-standalone
ChanZany
·
2020-09-15 03:04
大数据
大数据
hadoop
spark
linux
java
mapreduce程序运行模式(
本地模式
和集群模式)
----------
本地模式
(1)mapreduce程序是被提交给LocalJobRunner在本地以单进程的形式运行(2)而处理的数据及输出结果可以在本地文件系统,也可以在hdfs上(3)怎样实现本地运行
peng_0129
·
2020-09-15 02:01
hadoop
Hadoop的安装和入门使用
单机模式:单机模式:Hadoop默认模式为非分布式模式(
本地模式
),无需进行其他配置即可运行。非分布式即单Java进程,方便进行调试。
成功人士从不写博客
·
2020-09-15 02:02
大数据
hadoop-wordcount
本地模式
及集群模式运行
前言上一篇文章,我们利用3台云服务器搭建了一个Hadoop集群,并通过hadoop-jar命令运行了Hadoop自带的一个wordcount例子,那本片文章就通过实现一个wordcount程序,并在
本地模式
下运行这个程序
隐秘的角落
·
2020-09-15 02:53
大数据
学习笔记
Hadoop(三)MapReduce
本地模式
下的WordCount编程实例(Mapreduce入门教程)
写在前面这篇博客我们一块看一下
本地模式
下,怎样用mapreduce记录一个大文件的单词个数的。创建maven工程请参考博主hdfs博客,过两天更。
我是余傲:)
·
2020-09-15 01:22
hadoop
大数据
hadoop
mapreduce
hive优化策略
优化一:开启
本地模式
对于小数据集,执行时间可以明显被缩短。如果是单次任务开启
本地模式
的话,那么可以直接在命令行里执行下面set语句,然后再执行hql语句。
浮萍人生丶
·
2020-09-14 22:37
hive读书笔记
文章目录hiveclihive执行日志的位置指定主动使用
本地模式
指定数据仓库目录hive查看和使用自定义及系统属性数据类型默认字段分隔符sqldatabasetable指定分隔符分区表修改表数据操作装载数据静态分区和动态分区从查询结果创建表导出数据数据查询查询是用正则表达式
qq467215628
·
2020-09-14 17:05
hive
大数据
storm 入门教程——Storm 起步(W3Cschool)
本地模式
在
本地模式
下,Storm拓扑结构运行在本地计算机的单一JVM进程上。这个模式用于开发、测试
春风十里不如你9527
·
2020-09-14 14:29
storm
rsync服务与搭建详解
只同步有改变的部分,所以比scp命令更高效,但是rsync本身是一种非加密的传输,可以借助-e选项来设置具备加密功能的承载工具进行加密传输rsync的工作模式rsync有四种工作模式分为:1、shell模式,也称作
本地模式
weixin_34249678
·
2020-09-14 12:35
rsync+inotify实现数据的实时同步
可以镜像保存整个目录树和文件系统2>可以增量同步数据,文件传输效率高3>可以保持原有文件的权限,时间等属性4>加密传输数据,保证数据安全性5>支持匿名传输rsync的4中应用模式:1>shell应用模式,也成
本地模式
weixin_34177064
·
2020-09-14 11:46
HADOOP grep案例
1.HADOOP运行模式可分为三种:(1)
本地模式
(默认模式):不需要启用单独进程,直接可以运行,测试和开发时使用。(2)伪分布式模式:等同于完全分布式,只有一个节点。
荒于随_精于思
·
2020-09-14 00:47
通过JAVA API上传文件到HDFS
hdfs操作注意事项注意关闭虚拟机防火墙设置如果开启了代理,注意调整到
本地模式
在core-site.xml中配置时,不要使用localhost,而应该使用虚拟机IP地址,否则无法连接到虚拟机hadoop
FYJ_jie
·
2020-09-13 21:24
java
hadoop
上一页
3
4
5
6
7
8
9
10
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他