E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
本地模式
CentOS设置静态IP并可访问外网
注:我这里说的方法适用于CentOS6版本第一步:在网络连接下有VMnet1和VMnet8两个连接,其中VMnet1是
本地模式
,VMnet8是NAT模式(也就是网络模式),如下图所示第二步:以管理员的身份运行
A_ChunUnique
·
2017-08-13 00:31
Hadoop
自动化运维平台saltstack的使用与搭建
有三种模式1)
本地模式
(local),不需要启动进程,只要配置文件就可以写出来2)masterminion模式3)代理模式(syndic)4)ssh模式我们本次主要使用的是masterminion模式master
parameter_
·
2017-08-09 21:16
运维
saltstack
rsync+crontab(rsync+inotify)
会对需要同步的源和目的进度行对比,只同步有改变的部分,所以比scp命令更高效,但是rsync本身是一种非加密的传输,可以借助-e选项来设置具备加密功能的承载工具进行加密传输二.rsync的工作模式1、shell模式,也称作
本地模式
如
fxl风
·
2017-07-28 21:12
rsync
linux
Spark之WordCount(Java代码实现)
本地模式
:`/***WordCountLocal.java*com.majs.spark*Copyright(c)2017,majiashu版权所有.
_majiashu
·
2017-07-25 21:05
spark
java.net.BindException: 无法指定被请求的地址: Service 'sparkDriver' failed after 16 retries!
在Centos7中使用IntellijIDEA来Spark
本地模式
启动时,报错:java.net.BindException:无法指定被请求的地址:Service'sparkDriver'failedafter16retries
AlferWei
·
2017-07-21 15:55
开发工具
Spark
Hive 基本环境部署
2.
本地模式
这种模式是将元数据保存在本地独立的数据库中(一般是MySQL),这用就可以支持多会话和多用户连接了。3.远程模式此模式应
我不是九爷
·
2017-07-14 11:59
安装
hive
环境部署
HDFS
HBASE
Spark Java程序案例入门
spark安装模式:local(
本地模式
):常用于本地开发测试,本地还分为local单线程和local-cluster多线程standalone(集群模式):典型的Mater/slave模式,不过也能看出
小强签名设计
·
2017-07-10 10:14
spark
Hadoop启动模式,基本配置,启动方式
Local(Standalone)ModelMapReduce程序运行在本地,启动jvm启动
本地模式
:1、配置hadoop-env.sh配置文件中的java_home路径2、在hadoop安装目录下:mkdirinput3
he_321
·
2017-07-10 01:46
mapreduce 三种运行方式
mapreduce三种运行方式Local(Standalone)Mode
本地模式
Pseudo-DistributedMode尾分布式模式Fully-DistributedMode分布式模式第一种LocalMode
qq_19652609
·
2017-07-02 00:58
大数据-hadoop
Hadoop系列~环境搭建,单机/伪分布式配置(一)
#验证方式java-version#启动hadoophadoop安装目录/bin/hadoopHadoop支持三种模式:
本地模式
(单机)伪分布式模式分布式模式-集群本文章只介绍前面两种StandaloneOperation
MinboHe
·
2017-06-26 16:03
Hadoop
云计算/大数据
npm-npmscript-gulp-webpack
node的安装分为全局模式和
本地模式
。全局安装命令为$npminstall-gmoduleName。在全局模式下,Node包会被安装到Node的安装目录下的node_modules下。
任少鹏
·
2017-06-20 11:27
npm-npmscript-gulp-webpack
node的安装分为全局模式和
本地模式
。全局安装命令为$npminstall-gmoduleName。在全局模式下,Node包会被安装到Node的安装目录下的node_modules下。
任少鹏
·
2017-06-20 11:27
Apache Zeppelin 中 Flink 解释器
如何启动本地Flink群集,来测试解释器Zeppelin配有预配置的flink-local解释器,它在您的机器上以
本地模式
启动Flink,因此您不需要安装任何东西。 如何配置解释
u010859707
·
2017-06-16 15:00
解释器
zeppelin
0.7.2
Flink
片刻
Spark的异常(一)
在同一台机器上同时启动
本地模式
和集群模式出现如下错误:ERRORDatastore.Schema:Failedinitialisingdatabase.
qq_15103205
·
2017-06-16 10:00
exception
spark
集群
metastore
Hive
本地模式
这对于在小型数据集上运行查询非常有用-在这种情况下,
本地模式
的执行通常比向大型集群提交作业要快得多。从HDFS透明地访问数据。相反,
本地模式
只能运行一个reducer,处理较大的数据集可能非常慢。
lishengping_max
·
2017-06-09 15:13
Hive
IE8的相关兼容
CSS3选择器、HTML5、BootStrap响应式对应链接关键:
本地模式
(ftp)下无法起作用,可以用node搭建个本地服务器浏览border-radiusorbox-shadow.compatible
Shyla
·
2017-05-09 00:00
css3
兼容
ie8
hive 调优
hive
本地模式
根据数据量的大小,可以开启hive的
本地模式
:hive.exec.mode.local.auto该参数的默认值为false。也可以把该属性配置到hive-site.xml中。
青青水草
·
2017-04-28 13:59
hive
spark部署模式解析
单机上可以
本地模式
运行单机上伪分布式模式运行集群上standalone模式,sparkonyarn模式,sparkonmesos模式,这里主要介绍集群前两种。
JasonZhangOO
·
2017-04-24 10:22
npm常用命令
node的安装分为全局模式和
本地模式
。一般情况下会以
本地模式
运
Ambericer
·
2017-04-19 17:53
命令
Flink源码--CLI提交Job
提交Flink的Job有一个前提,即JobManager必须处于运行中,Flink有3种运行运行模式:1、
本地模式
:/bin/start-local.sh2、集群
lmalds李麦迪
·
2017-04-14 17:09
Flink
《hive编程指南》阅读笔记摘要(九)
;三、优化limit:对输出结果有影响,慎用四、join优化:参看第六章五、
本地模式
:有时候
IT十年
·
2017-04-10 22:42
大数据
配置hbase
本地模式
,伪分布模式和完全分布式
1.配jdk环境变量2.有hadoop集群3.tar开hbase压缩包4.配置hbase环境变量5.验证安装是否成功$>hbaseversion配置hbase模式5.1)
本地模式
[hbase/conf/
duzewen
·
2017-03-27 23:03
Spark运行模式(local standalond,yarn-client,yarn-cluster,mesos-client,mesos-cluster)
spark部署在单台机器上面时,可以使用
本地模式
(Local)运行;当部署在分布式集群上面的时候,可以根据自己的情况选择Standalone模式(Spark自带的模式)、YARN-Client模式或者YARN-Cluster
蜗牛爱上星星
·
2017-02-23 17:09
bigData
spark
大数据学习
Hadoop学习笔记1
Hadoop部署方式
本地模式
伪分布模式(在一台机器中模拟,让所有进程在一台机器上运行)集群模式服务器只是一堆废铁而已,上面跑了tomcat,我们叫它web服务器;上面跑了mysql,我们叫它数据库服务器
陈半仙儿
·
2017-02-06 21:50
Hadoop学习笔记1
Hadoop部署方式
本地模式
伪分布模式(在一台机器中模拟,让所有进程在一台机器上运行)集群模式服务器只是一堆废铁而已,上面跑了tomcat,我们叫它web服务器;上面跑了mysql,我们叫它数据库服务器
chenyyhh92
·
2017-02-02 22:28
CS基础
Hadoop-2.7.3 单节点模式安装
http://hadoop.apache.org/docs/r2.7.3/ 本文基于:Ubuntu16.04、Hadoop-2.7.3一、概述 本文参考官方文档介绍Hadoop单节点模式(
本地模式
及伪分布式模式
anxpp
·
2017-01-19 22:00
hadoop安装
hadoop伪分布式
Hadoop单节点模式
Hadoop-2.7.3 单节点模式安装
单节点模式安装官方教程:http://hadoop.apache.org/docs/r2.7.3/本文基于:Ubuntu16.04、Hadoop-2.7.3一、概述本文参考官方文档介绍Hadoop单节点模式(
本地模式
及伪分布式模式
anxpp
·
2017-01-18 22:41
服务器及软件———Linux
spark
本地模式
和Standalone配置
local模式非常适合作业的开发调试,配置也很简单,把编译好的文件解压,然后配置即可使用。使用自己编译产生的tgz压缩包步骤:前提:安装Scala(2.10.4)和JDK(1.7.x+)-解压ln-sspark-1.6.0-bin-2.5.0/spark-修改相关参数到/spark/conf目录下修改文件vimspark-env.shJAVA_HOME=/opt/modules/javaSCALA
lm709409753
·
2017-01-13 19:59
spark
mr程序运行在
本地模式
和集群模式的参数设置
本地运行mr配置:Configurationconf=newConfiguration();conf.set("mapreduce.framework.name","local");
本地模式
运行mr程序时
cool__007
·
2017-01-09 22:21
hadoop学习篇
hadoop 2.7.3本地环境运行官方wordcount-基于HDFS
继续在
本地模式
下测试,本次使用hdfs.2
本地模式
使用fs计数wodcount上面是直接使用的是linux的文件系统。现在使用hadoopfs。
秦樵
·
2017-01-06 20:00
SparkLocal模式安装
实验目的1、了解SparkLocal
本地模式
安装2、了解SparkLocal模式运行原理实验环境1、LinuxUbuntu14.042、jdk1.73、scala-2.10.4.tgz安装包4、spark
小鸭子_嘎嘎
·
2017-01-03 16:57
大数据
Storm分布式集群环境搭建-超详细文档
1.2
本地模式
本地模式
在一个进程里面模拟一个storm集群的所有功能,这对开发和测试来说非常方便。以
本地模式
运行topology跟在集群上运行topology类似。
煜寒
·
2016-12-28 21:57
PHP
Hive-2.1.1的
本地模式
和远程模式部署
首先到hive的官网下载hive:https://mirrors.tuna.tsinghua.edu.cn/apache/hive/
本地模式
部署Hive,需要mysql的支持,我们先介绍安装mysql的步骤
evenljj
·
2016-12-21 00:00
大数据
解决 Spark
本地模式
out of memory 和磁盘不足问题
在做Kaggle比赛的时候,中间处理之后的训练数据有5000多万条数据,结果Spark
本地模式
运行的时候,一直报出outofmemory问题。
leishenop
·
2016-12-08 23:52
Spark
mongo主库地址变更,从库修改数据源IP
/usr/sbin/ntpdatepool.ntp.org1.切换到mongo用户,修改配置文件,注释#slave=true#source=旧IPx.x.x.x:270172.重新启动mongodb为
本地模式
beck_716
·
2016-11-24 15:48
变更
mongo
主库地址
Mongodb
pig简单案例统计每个ip的访问次数
Pig的搭建rpm-ivh*pig*.rpm#pigrpm包source/etc/profile
本地模式
pig-xlocal默认mapreduce模式Pig简单案例piglatin语言help查看piggrunt
追求者2016
·
2016-11-23 22:15
云计算
Hadoop2.7.2的三种安装模式
虚拟机使用的oraclevm,安装的操作系统是centOs7
本地模式
1.安装JDKHadoop是要安装在JVM上运行的,所以都要安装JDK。所以必须安装JVM。
duanpeng198738
·
2016-11-21 23:34
Hadoop
Hadoop
hbase和hive的一些调优心得
,禁止三种模式的查询(查询全部分区而没有where限制、使用orderby查询而没有limit限制,表联结使用on以限制笛卡儿积的查询)3、合理的设置mapreduce的个数,不能过多或者过少4、使用
本地模式
do_what_you_can_do
·
2016-11-20 16:13
20161120
hive
本地模式
和远程模式
2.
本地模式
,特点是:hive服务和metastore服务运行在同一个进程中,mysql是单独的进程,可以在同一台机器上,也可以在远程机器上。
赶路人儿
·
2016-11-16 18:52
hive
CentOS6设置静态IP而且还可以上网
注:我这里说的方法适用于CentOS6版本第一步:在网络连接下有VMnet1和VMnet8两个连接,其中VMnet1是
本地模式
,VMnet8是NAT模式(也就是网络模式),如下图所示第二步:以管理员的身份运行
在京奋斗者
·
2016-10-17 18:55
centos6
rsync服务与搭建详解
只同步有改变的部分,所以比scp命令更高效,但是rsync本身是一种非加密的传输,可以借助-e选项来设置具备加密功能的承载工具进行加密传输rsync的工作模式rsync有四种工作模式分为:1、shell模式,也称作
本地模式
qiao645
·
2016-10-17 10:07
rsync
Linux
NPM使用命令总结
node的安装分为全局模式和
本地模式
。一般情况下会以
本地模式
运行
kyrin
·
2016-10-16 11:00
hive安装部署
2.
本地模式
这种模式是将元数据保存在本地独立的数据库中(一般是MySQL),这用就可以支持多会话和多用户连接了。3.远程模式此模式应
GE12
·
2016-09-29 16:49
hive
获取Storm集群上TridentWordCount计算结果的方法
比如数据库或者本地文件,在运行TridentWordCount的时候,会设置一个DRPCStream来查询Trident的状态,从而可以查询某些单词的统计结果,由于storm-starter中的例子只给了在
本地模式
下使用
cuihaolong
·
2016-09-27 20:27
Storm
Spark程序进行单元测试-使用scala
上传到集群再运行测试,代价还是挺大;所以尽可能先本地进行单元测试,以减少在集群上运行时错误,特别是map等各种tranforms动作的逻辑错误;以下示例用于测试本地返回rdd相关的方法(利用spark
本地模式
进行
tuuuuski
·
2016-09-24 14:05
大数据
Spark
rsync+inotify配置
/configure#make && make installrsync有四种应用模式shell模式(
本地模式
)远程shell模式(利用ssh)查询模式(列表模式)服务器模式#rsyncSRCDST例:
繁华落尽cxj
·
2016-09-12 21:46
服务器
配置文件
信息
linux运维
Storm基本知识总结
storm:实时计算系统低延迟,高性能,分布式,可扩展,容错特点:简单编程模型,热部署,各种编程语言,可扩展,容错,可靠消息处理,快速,
本地模式
storm基本概念:Nimbus:负责资源分配和任务调度Supervisor
飞鱼之恋
·
2016-09-07 10:21
应用程序
编程语言
数据源
spark
本地模式
spark-shell还可带参数,设置开启几个线程spark-shell--masterlocal[3]设置开启3个线程去跑任务spark调度repartition(1)设置reduce的个数,这里设置为1spark读取hdfs上的文件:wuke01为namenode所在机器名。sc.textFile("hdfs://wuke01:9000/input/wuke.txt").flatMap(_.s
CottonDuke
·
2016-09-03 09:37
spark
hive 开启
本地模式
先讲一个hive使用的一个小技巧。对于使用惯了oracle数据库的人来说,hive中没有dual啊,想验证一些函数的执行结果很是麻烦。比如我们在oracle数据库里面可以写select(1+2)fromdual可以返回3。为了保证使用习惯,我们类似的在hive中也建一张dual表:createtabledual(dummystring)然后往这张表中导入一个只有一行数据的文件:loaddatalo
安静平和
·
2016-09-03 00:54
Hive
Storm实时大数据处理(二)
一、搭建开发环境在生产环境中,Storm集群运行在基于Linux操作系统的分布式集群中,可喜的是,Storm提供了
本地模式
(LocalMode)来方便开发者开发StormTopol
翱翔云端
·
2016-08-29 10:52
大数据
上一页
14
15
16
17
18
19
20
21
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他