E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
细细品味Hadoop
2018年2月第3周-出彩组金句汇总
评论情况:007-887李明涛未评已交红包(2)志愿者感受1.这周比较好的文章推荐谭娟的文章,大家可以
细细品味
一下。
清心悦行007
·
2024-01-02 11:41
Spark内容分享(二十三):Spark on K8s 在茄子科技的实践
4.EMR类产品的缺陷5.传统
Hadoop
生态,三大组件的前世今生6.SparkonK8s的优势SparkonK8s原理介绍1.Spark的集群部署模式2.Sparkonk8s如何运行3.Spark的dynamicAllocation
之乎者也·
·
2024-01-02 11:30
Spark
内容分享
大数据(Hadoop)内容分享
spark
kubernetes
科技
Spark内容分享(二十二):eBay最佳实践:Spark SQL优化之物化视图
的实现验证部分重写部分物化视图应用场景及收益应用场景:物化视图重写普通视图应用场景:物化视图重定义表结构物化视图应用收益总结及后续计划背景Carmel是eBay内部基于ApacheSpark打造的一款SQL-on-
Hadoop
之乎者也·
·
2024-01-02 11:00
Spark
内容分享
大数据(Hadoop)内容分享
spark
sql
大数据
Spark内容分享(二十一):字节跳动 Spark 支持万卡模型推理实践
-资源匹配未来展望背景介绍随着云原生的发展,Kubernetes由于其强大的生态构建能力和影响力,使得包括大数据、AI在内越来越多类型的负载应用开始向Kubernetes迁移,字节内部探索Spark从
Hadoop
之乎者也·
·
2024-01-02 11:59
Spark
内容分享
大数据(Hadoop)内容分享
spark
大数据
分布式
hadoop
环境搭建
一、平台环境CentOS6.5二、软件版本
hadoop
-2.8.1下载地址jdk-8u45-linux-x64下载地址apache-maven-3.3.9软件下载三、内容目录前置内容1.1jdk安装和配置
熊_看不见
·
2024-01-02 10:00
小肥柴的
Hadoop
之旅
小肥柴的
Hadoop
之旅(目录)(第0章)导航0-0-1写博客的初衷0-0-2参考资料和书籍0-0-3完工部分传送门导航0-0-1写博客的初衷从门外汉边学边上课,到入门的菜鸡,对如何正确的学习
Hadoop
卷毛迷你猪
·
2024-01-02 10:30
Hadoop
hadoop
大数据
分布式
【
Hadoop
】如何启动和关闭
Hadoop
集群
启动
Hadoop
集群关闭
Hadoop
集群启动
Hadoop
集群参考官方文档Apache
Hadoop
3.3.6–
Hadoop
ClusterSetup要启动
Hadoop
集群,需要同时启动HDFS和YARN集群
不怕娜
·
2024-01-02 10:29
hadoop
大数据
分布式
【
Hadoop
】集群配置之主要配置文件(
hadoop
-env.sh、yarn-env.sh、core-site.xml、hdfs-site.xml、mapred-site.xml...)
Hadoop
配置文件模板core-site.xml
hadoop
-env.shhdfs-site.xmlyarn-env-shyarn-site.xmlmapred-site.xmlslaves
Hadoop
不怕娜
·
2024-01-02 10:27
hadoop
xml
hdfs
大数据学习入门到实战教程,精心整理万字长文入门,老奶奶看了都说学会了
换个角度说,大数据是:1、有海量的数据2、有对海量数据进行挖掘的需求3、有对海量数据进行挖掘的软件工具(
hadoop
、spark、storm、flink、tez
悦悦学Python
·
2024-01-02 08:59
Hive(二)之bash群起脚本
集群的启动启动HDFS启动namenode$/opt/modules/cdh/
hadoop
-2.5.0-cdh5.3.6/sbin/
hadoop
-daemon.shstartnamenode2.启动datanode
DarrenmondZhang
·
2024-01-02 07:45
大数据 -
Hadoop
系列《三》- HDFS(分布式文件系统)概述
5.1hdfs的概念HDFS分布式文件系统,全称为:
Hadoop
DistributedFileSystem。
王哪跑nn
·
2024-01-02 06:06
大数据
大数据
hadoop
hdfs
《水浒传》—林冲
小学时读过,现又
细细品味
一番,现在的感觉和小学的时的感觉又不一样了,以前只为了打打杀杀而着迷,现读有时感觉与他们共同乐善好施,与他们共饮一碗热酒,为他们的兄弟义气而敬佩,对他们痛苦遭遇而叹惋……其令在我脑海久久挥之不去的一位则是豹子头林冲了
222龙哥
·
2024-01-02 06:38
Hadoop
运维--Zookeeper--安装配置
一、服务规划服务器IP地址软件服务备注master192.168.71.130zookeeperQuorumPeerMainfollowerslave1192.168.71.129zookeeperQuorumPeerMainleaderslave2192.168.71.132zookeeperQuorumPeerMainfollower二、ZooKeeper安装配置下载地址:https://zo
无剑_君
·
2024-01-02 06:39
复刻手表哪家最稳-口碑好?品质超高的良心商家引荐
古人曾说,“岁月不待人”,这恰如我们
细细品味
时间的长龙,挖掘其历史深度时的心境。在这样的探寻过程中,复刻手表的概念悄然升起,成为收藏爱好者与时尚潮流的新宠。
优鞋之家
·
2024-01-02 05:45
【2023】
hadoop
基础介绍
目录
Hadoop
组成HDFSHDFS操作HDFS分布式文件存储NameNode元数据数据读写流程YARN和MapReduceMapReduce:分布式计算YARN:资源管控调度YARN架构提交任务到**
方渐鸿
·
2024-01-02 03:26
数据分析
hadoop
大数据
分布式
python
flink 连接 hdfs 读取文件配置
flink连接hdfs读取文件配置
hadoop
版本为2.7.3window系统本地运行flink程序读取hdfs文件配置1,请导入
hadoop
和httpclient的包org.apache.flinkflink-
hadoop
-fs
eagle隼
·
2024-01-02 02:06
《平凡的世界》中的哲语
忙碌的生活里,让我们一起
细细品味
著名作家路遥在《平凡的世界》当中留下的生活哲语。1.人生的道路虽然漫长,但紧要处常常只有几步,特别是当人年轻的时候。没有一个人的生活道路是笔直的,没有岔道的。
琴韵无声
·
2024-01-02 01:10
Ubuntu配置
hadoop
伪分布式
1.设置免密登录伪分布式搭建过程中会涉及各种管理员权限,一次一次输入密码太过麻烦,我们要求各集群间免密码连接sudoapt-getinstallopenssh-server#安装openssh-serversshlocalhost#连接到主机exit#退出刚才的sshlocalhostcd~/.ssh/#若没有该目录,请先执行一次sshlocalhostssh-keygen-trsa#会有提示,都
MA木易YA
·
2024-01-01 23:46
2018-05-21
1.
hadoop
是什么广义就是
hadoop
生态圈,狭义就是单指
hadoop
2.
hadoop
三大组件是什么?
CrUelAnGElPG
·
2024-01-01 23:55
2023.12.31 Python 词频统计
练习:使用Python中的filter、map、reduce实现词频统计样例数据:helloworldjavapythonjavajava
hadoop
sparksparkpython需求分析:1-文件中有如上的示例数据
白白的wj
·
2024-01-01 23:40
python
开发语言
学习
大数据
优秀练笔之221
1.我心中有一粒种子黄喆阳光正好,微风拂面,捧杯香茶
细细品味
,慢慢品味生活。傍晚与爷爷在院子中小憩。今日的阳光太过刺眼,整天外面都被烘烤着,不得不呆在家中,心中不免烦躁。
听语堂
·
2024-01-01 20:22
hdfs数据完整性
hdfs会对写入的所有数据计算校验和,在数据通过不可靠通道传输的时候再次计算校验和,对比就能发现数据是否损坏,常用的通过32位循环冗余校验,在
hadoop
中,可以通过checksum命令得到想要的文件的校验和
文贞武毅
·
2024-01-01 20:45
扩展
Hadoop
3.x新特性概述
扩展
Hadoop
3.x新特性概述
Hadoop
3.x中增强了很多特性,在
Hadoop
3.x中,不再允许使用jdk1.7,要求jdk1.8以上版本。
奋斗的蛐蛐
·
2024-01-01 20:44
大数据与
Hadoop
之间是什么关系
Hadoop
只是一种处理大数据的技术手段。“大数据”概念在1980年由维克托·迈尔-舍恩伯格及肯尼斯·库克耶在《第三次浪潮》首次提出,由麦肯锡公司(McKinsey)最早应用。
数据僧
·
2024-01-01 18:21
你可以奉献,但没必要牺牲
但
细细品味
奉献和牺牲常常配套出现的句子,以及从自我评价角度入手,就会发现奉献和牺牲还是有很大的区别的。
执策争冠
·
2024-01-01 17:20
大数据技术与应用开发赛项笔记
各种启动命令修改mysql数据库编码:alterdatabaseshtd_resultCHARACTERSETutf8;
hadoop
:start-all.shhive服务:hive--servicemetastorehive
南城守护
·
2024-01-01 17:56
大数据
Atlas 2.2.0 安装部署
ApacheAtlas是一套可扩展、可延伸的核心基础治理服务,使企业能够切实有效地满足
Hadoop
中的合规性要求,并允许与整个企业数据生态系统集成。
mba1398
·
2024-01-01 16:33
atlas
大数据
在这个刚刚解禁的春天里,我们来品读纳兰性德
细细品味
纳兰的词,在这个春暖花开略带忧伤的季节
付强_
·
2024-01-01 16:19
python 实现
hadoop
的mapreduce
为了用python实现mapreduce,我们先引入下面两个个知识sys.stdin()itertools之groupbysys模块的简单学习sys.stdin是一个文件描述符,代表标准输入,不需使用open函数打开,就可以使用例如下面的简单程序#coding=utf-8importsysforlineinsys.stdin:printline执行命令cat/etc/passwd|pythonte
数据蛙datafrog
·
2024-01-01 15:42
Spark大数据分析与实战笔记(第二章 Spark基础-01)
文章目录第2章Spark基础章节概要2.1初识Spark2.1.1Spark概述2.1.2Spark的特点2.1.3Spark应用场景2.1.4Spark与
Hadoop
对比第2章Spark基础章节概要Spark
想你依然心痛
·
2024-01-01 14:16
#
Spark大数据分析与实战
spark
Linux
Hadoop
安装
Hadoop
下载地址:http://archive.cloudera.com/cdh5/cdh/5/
hadoop
-2.6.0-cdh5.7.0.tar.gz
神游御风
·
2024-01-01 14:08
从
Hadoop
到云原生,谈如何消除程序员35岁危机
作者:小智来源:智领云科技前言35岁这个“职场枯荣线”,确实真实存在。不知从何时起,很多企业将入职门槛限定在35岁以下,“35岁”已然成为职场中年的魔咒。尤其是程序员这个群体,年龄绝对是最难以隐忍的痛点。因为很多程序员普遍存在于如前期“打英雄”发育快,越到后期越乏力的尴尬窘境。提前做好规划,看清技术趋势,不沉迷于以往的成就,不仅可以优雅过渡35岁危机,甚至会迎来职场真正的黄金期。无论么时候,锤炼和
CSDN云计算
·
2024-01-01 14:22
大数据
编程语言
人工智能
hadoop
kubernetes
大数据编程期末大作业
目录一、
Hadoop
基础操作二、RDD编程三、SparkSQL编程四、SparkStreaming编程五、Flume的安装配置一、
Hadoop
基础操作按要求完成以下操作:1、在HDFS中创建目录/user
Francek Chen
·
2024-01-01 14:50
Spark编程基础
spark
大数据
分布式
Spark内容分享(三):Spark - 介绍及使用 Scala、Java、Python 三种语言演示
目录一、Spark1.Spark的优点:2.Spark中的组件3.Spark和
Hadoop
对比4.Spark运行模式二、SparkWordCount演示1.Scala语言2.Java语言3.Python
之乎者也·
·
2024-01-01 13:19
Spark
内容分享
大数据(Hadoop)内容分享
spark
scala
java
2024任务驱动
Hadoop
应用讲课提纲
任务驱动
Hadoop
应用课程概述项目一:搭建
Hadoop
集群任务1:搭建完全分布式
Hadoop
集群1.思路解析2.编程实现3.知识点讲解4.总结提高任务2:搭建高可用
Hadoop
集群(HA模式)1.思路解析
howard2005
·
2024-01-01 13:41
Hadoop分布式入门
hadoop
大数据
分布式
(六)SparkSQL读写本地外部数据源
third-party数据源的package,spark把包加载进来就可以使用了csv格式在spark2.0版本之后是内置的,2.0之前属于第三方数据源一、读取本地外部数据源1.直接读取一个json文件[
hadoop
白面葫芦娃92
·
2024-01-01 11:58
安装
Hadoop
:
Hadoop
的单机模式、伪分布式模式——备赛笔记——2024全国职业院校技能大赛“大数据应用开发”赛项
前言
Hadoop
包括三种安装模式:单机模式:只在一台机器上运行,存储是采用本地文件系统,没有采用分布式文件系统HDFS;伪分布式模式:存储采用分布式文件系统HDFS,但是,HDFS的名称节点和数据节点都在同一台机器上
Stitch .
·
2024-01-01 10:09
我的大学笔记
Hadoop
分布式
大数据
hadoop
笔记
linux
mysql
hive
【2023
Hadoop
大数据技术应用期末复习】填空题题型整理
大数据的4V特征包含()()()()答案:大量、多样、高速、价值
Hadoop
三大组件包含()()()答案:HDFS、MapReduce、Yarn
Hadoop
2.x版本中的HDFS是由()()()组成答案
Lacszer
·
2024-01-01 10:23
大数据
【2023
Hadoop
大数据技术应用期末复习】选择题题型整理
文章目录单选题多选题单选题创建虚拟机的过程中,网络类型建议选择?A.使用桥接网络B.使用网络地址转换(NAT)C.使用仅主机模式网路D.不适用网路连接答案:B使用什么命令对jdk压缩包解压?A.tar-zxvfjdk-8u141-linux-x64.tar.gzB.zip-zxvfjdk-8u141-linux-x64.tar.gzC.uzipjdk-8u141-linux-x64.tar.gzD
Lacszer
·
2024-01-01 09:51
大数据
计算机毕业设计
hadoop
+spark+hive知识图谱酒店推荐系统 酒店数据分析可视化大屏 酒店爬虫 高德地图API 酒店预测系统 大数据毕业设计
流程:1.Python爬取去哪儿网全站旅游数据约10万+,存入mysql;2.使用pandas+numpy/
hadoop
+mapreduce对mysql中旅游数据进行数据清洗,使用高德API计算地理信息
计算机毕业设计大神
·
2024-01-01 06:52
Flink 内容分享(二十八):深度解析 Flink 是如何管理好内存的?
最着名的例子是Apache
Hadoop
,还有较新的框架,如ApacheSpark、ApacheDrill、ApacheFlink。基于JVM的数据
之乎者也·
·
2024-01-01 05:23
Flink
内容分享
大数据(Hadoop)内容分享
flink
大数据
Flink 内容分享(二十七):
Hadoop
vs Spark vs Flink——大数据框架比较
大数据开发离不开各种框架,我们通过学习Apache
Hadoop
、Spark和Flink之间的特征比较,可以从侧面了解要学习的内容。
之乎者也·
·
2024-01-01 05:52
Flink
内容分享
大数据(Hadoop)内容分享
大数据
flink
hadoop
集群时间同步
配置时间同步具体实操:时间服务器配置(必须root用户)(1)检查ntp是否安装[root@
hadoop
102桌面]#rpm-qa|grepntpntp-4.2.6p5-10.el6.centos.x86
Map_Reduce
·
2024-01-01 04:31
java.io.FileNotFoundException:
HADOOP
_HOME and
hadoop
.home.dir are unset.
问题描述如下:image.png问题原因:其原因是需要在windows本地搭建
Hadoop
环境,下载winutils文件,并将
hadoop
-2.8.4包内的bin文件替换,将下载文件中
hadoop
.dll
Sql强
·
2024-01-01 04:35
spark(三):spark的数据读取和保存
方法将RDD保存为一个文件2、JSON格式文件,大多是每行一条记录这里需要注意是每一行是一个JSON记录还是跨行的,如果是跨行的那么就要解析整个文件3、CSV文件4、SequenceFile基于键值对的
hadoop
_NeutronStar
·
2024-01-01 04:12
开学第一周 看看我和孩子“鸡飞狗跳”的生活
作为两名同时升入一年级的小学生家长,还没来得及
细细品味
将神兽归笼的欣喜就迎来了小学一年级学习与生活作息的紧张和忙乱。以下是作为毫无经验的小学生老母亲的一周感想碎碎念。
刘超宁
·
2024-01-01 02:42
使用Docker安装
Hadoop
和spark
使用docker配置安装
hadoop
和spark分别安装
hadoop
和spark镜像安装
hadoop
镜像选择的docker镜像地址,这个镜像提供的
hadoop
版本比较新,且安装的是jdk8,可以支持安装最新版本的
zealscott
·
2024-01-01 01:26
大数据 -
Hadoop
系列《二》-
Hadoop
组成
目录3.1
hadoop
组成3.1HDFS架构概述1.NameNode(nn):编辑2.DataNode(dn):3.SecondaryNameNode(2nn):3.2YARN架构概述3.3MapReduce
王哪跑nn
·
2023-12-31 22:50
大数据
大数据
hadoop
分布式
大数据的核心工作
以数据为生活赋能大数据软件生态(数据存储,数据计算,数据传输)1.大数据的核心工作存储:妥善保存海量待处理数据计算:完成海量数据的价值挖掘传输:协助各个环节的数据传输2.大数据软件生态存储:Apache
Hadoop
HDFS
PGl63
·
2023-12-31 22:42
hadoop
数据库
数据库架构
vwmare 15“无权输入许可证密钥...”与出现新问题
hadoop
集群无法启动
文章最后更新于2022.5.27,2:18am,希望对你有帮助“您无权输入许可证密钥…”与解决方法备份了虚拟机的所有文件,重置了电脑后,再把虚拟机的所有文件移动回原来的位置(文件路径不变),原本以为这样不会出现任何问题的。结果当打开输入密钥的时候,出现这个问题一开始以为是没有**“以管理员身份运行”导致无法输入密钥,但后来以管理员身份运行后也不行**>_<没办法,上网看看怎么解决呗上网查百度、CS
m0_67392409
·
2023-12-31 21:57
面试
学习路线
阿里巴巴
hadoop
大数据
linux
搜索引擎
云原生
上一页
35
36
37
38
39
40
41
42
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他