E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
Ubuntu安装hadoop
Ubuntu系统安装+深度学习框架
(Windows系统的深度学习框架安装可查看)一、
Ubuntu安装
1、制作启动盘(镜像:Ubuntu-20.04.3-desktop-amd64.iso;Rufustool:下载,提取码om26)选择对应的
爱吃糖葫芦的大熊
·
2024-01-03 00:34
python
pycharm
finalshell一键安装
注意,FinalShell已经不再支持32位系统注意,
ubuntu安装
后可直接点击图标运行一键安装脚本rm-ffinalshell_install_linux.sh;wgetwww.hostbuf.com
一码胜千言
·
2024-01-02 19:35
hive多分隔符外表支持
CREATEEXTERNALTABLEtext_mid1(idSTRING,nameSTRING)ROWFORMATSERDE'org.apache.
hadoop
.hive.contrib.
甲乙寄几
·
2024-01-02 19:31
hive
hadoop
数据仓库
ubuntu安装
mysql的tar_
ubuntu安装
mysql(tar.gz)
因为某些原因,我需要使用较高一点版本的mysql,而ubuntu使用apt-get安装的mysql版本不是我预期的版本(我试验使用ubuntu-11-04apt-get安装mysql,mysql的版本是5.1.54;ubuntu-10-04apt-get安装的mysql版本是5.1.41)。所以只能使用较高版本的二进制文件安装(当然也可以编译安装,但我自认为自己还太菜,没敢尝试)。下面是安装步骤环
weixin_39645249
·
2024-01-02 17:48
ubuntu安装
mysql以及基本配置
一、环境系统版本:Ubuntu16.04.6LTSmysql版本:MySQL5.7二、安装获取mysql安装包wgethttps://dev.mysql.com/get/mysql-apt-config_0.8.1-1_all.deb执行完成后,可以看到mysql-apt-config_0.8.1-1_all.deb文件已经在当前目录中2.安装配置包sudodpkg-imysql-apt-conf
gavin.liao
·
2024-01-02 17:47
Linux
ubuntu
mysql安装
linux
mysql安装
linux
mysql
Ubuntu安装
MySQL及使用小记
记录一下Ubuntu20.04安装mysql以及基本使用终端输入以下命令即可安装Mysqlsudoaptinstallmysql-serversudoaptinstallmysql-clientsudoaptinstalllibmysqlclient-dev安装完成后查看一下mysql的状态,提示mysql正在运行即安装成功servicemysqlstatus如果没有开启mysql,用以下命令开启
wawawakaokao
·
2024-01-02 17:17
ubuntu
mysql
Hbase介绍以及Hive优势
因为HBase基于
Hadoop
的HDFS完成分布式存储,以及MapReduce完成分布式并行计算,所以它的一些特点与
Hadoop
相同,依靠横向扩展,通过不断增加性价比高的商业服务器来增加计算和存储能力。
毛毛虫同学
·
2024-01-02 14:38
10.
Hadoop
框架下MapReduce中的map个数如何控制
一个job的map阶段并行度由客户端在提交job时决定客户端对map阶段并行度的规划基本逻辑为:一、将待处理的文件进行逻辑切片(根据处理数据文件的大小,划分多个split),然后每一个split分配一个maptask并行处理实例二、具体切片规划是由FileInputFormat实现类的getSplits()方法完成切分规则如下:1.简单地按照文件的内容长度进行切片2.切片大小默认是datanode
__元昊__
·
2024-01-02 13:45
Spark内容分享(二十三):Spark on K8s 在茄子科技的实践
4.EMR类产品的缺陷5.传统
Hadoop
生态,三大组件的前世今生6.SparkonK8s的优势SparkonK8s原理介绍1.Spark的集群部署模式2.Sparkonk8s如何运行3.Spark的dynamicAllocation
之乎者也·
·
2024-01-02 11:30
Spark
内容分享
大数据(Hadoop)内容分享
spark
kubernetes
科技
Spark内容分享(二十二):eBay最佳实践:Spark SQL优化之物化视图
的实现验证部分重写部分物化视图应用场景及收益应用场景:物化视图重写普通视图应用场景:物化视图重定义表结构物化视图应用收益总结及后续计划背景Carmel是eBay内部基于ApacheSpark打造的一款SQL-on-
Hadoop
之乎者也·
·
2024-01-02 11:00
Spark
内容分享
大数据(Hadoop)内容分享
spark
sql
大数据
Spark内容分享(二十一):字节跳动 Spark 支持万卡模型推理实践
-资源匹配未来展望背景介绍随着云原生的发展,Kubernetes由于其强大的生态构建能力和影响力,使得包括大数据、AI在内越来越多类型的负载应用开始向Kubernetes迁移,字节内部探索Spark从
Hadoop
之乎者也·
·
2024-01-02 11:59
Spark
内容分享
大数据(Hadoop)内容分享
spark
大数据
分布式
hadoop
环境搭建
一、平台环境CentOS6.5二、软件版本
hadoop
-2.8.1下载地址jdk-8u45-linux-x64下载地址apache-maven-3.3.9软件下载三、内容目录前置内容1.1jdk安装和配置
熊_看不见
·
2024-01-02 10:00
小肥柴的
Hadoop
之旅
小肥柴的
Hadoop
之旅(目录)(第0章)导航0-0-1写博客的初衷0-0-2参考资料和书籍0-0-3完工部分传送门导航0-0-1写博客的初衷从门外汉边学边上课,到入门的菜鸡,对如何正确的学习
Hadoop
卷毛迷你猪
·
2024-01-02 10:30
Hadoop
hadoop
大数据
分布式
【
Hadoop
】如何启动和关闭
Hadoop
集群
启动
Hadoop
集群关闭
Hadoop
集群启动
Hadoop
集群参考官方文档Apache
Hadoop
3.3.6–
Hadoop
ClusterSetup要启动
Hadoop
集群,需要同时启动HDFS和YARN集群
不怕娜
·
2024-01-02 10:29
hadoop
大数据
分布式
【
Hadoop
】集群配置之主要配置文件(
hadoop
-env.sh、yarn-env.sh、core-site.xml、hdfs-site.xml、mapred-site.xml...)
Hadoop
配置文件模板core-site.xml
hadoop
-env.shhdfs-site.xmlyarn-env-shyarn-site.xmlmapred-site.xmlslaves
Hadoop
不怕娜
·
2024-01-02 10:27
hadoop
xml
hdfs
大数据学习入门到实战教程,精心整理万字长文入门,老奶奶看了都说学会了
换个角度说,大数据是:1、有海量的数据2、有对海量数据进行挖掘的需求3、有对海量数据进行挖掘的软件工具(
hadoop
、spark、storm、flink、tez
悦悦学Python
·
2024-01-02 08:59
ubuntu18备份还原迁移
备份还原迁移流程先将系统文件压缩(如压缩/,/home,/boot等)使用
ubuntu安装
u盘进入liveusb新建文件夹(如backup)挂载到相应的分区将备份压缩包解压到对应的文件夹(backup)
Nuwww
·
2024-01-02 07:03
Hive(二)之bash群起脚本
集群的启动启动HDFS启动namenode$/opt/modules/cdh/
hadoop
-2.5.0-cdh5.3.6/sbin/
hadoop
-daemon.shstartnamenode2.启动datanode
DarrenmondZhang
·
2024-01-02 07:45
大数据 -
Hadoop
系列《三》- HDFS(分布式文件系统)概述
5.1hdfs的概念HDFS分布式文件系统,全称为:
Hadoop
DistributedFileSystem。
王哪跑nn
·
2024-01-02 06:06
大数据
大数据
hadoop
hdfs
Hadoop
运维--Zookeeper--安装配置
一、服务规划服务器IP地址软件服务备注master192.168.71.130zookeeperQuorumPeerMainfollowerslave1192.168.71.129zookeeperQuorumPeerMainleaderslave2192.168.71.132zookeeperQuorumPeerMainfollower二、ZooKeeper安装配置下载地址:https://zo
无剑_君
·
2024-01-02 06:39
【2023】
hadoop
基础介绍
目录
Hadoop
组成HDFSHDFS操作HDFS分布式文件存储NameNode元数据数据读写流程YARN和MapReduceMapReduce:分布式计算YARN:资源管控调度YARN架构提交任务到**
方渐鸿
·
2024-01-02 03:26
数据分析
hadoop
大数据
分布式
python
flink 连接 hdfs 读取文件配置
flink连接hdfs读取文件配置
hadoop
版本为2.7.3window系统本地运行flink程序读取hdfs文件配置1,请导入
hadoop
和httpclient的包org.apache.flinkflink-
hadoop
-fs
eagle隼
·
2024-01-02 02:06
Ubuntu安装
Pycharm免费社区版,命令行启动的IDE,安装中文插件
当然,需要说明的是,虽然在Ubuntu这样的Linux发行版系统下终端命令行最常用,但并不是IDE或者软件都得要用命令行启动的。这里机智客只是说Pycharm在初始安装后,要启动就需要在终端命令行里输入Pycharm.sh脚本文件。而且,Pycharm这款IDE在Ubuntu系统里的安装,也简直简单到令人发指。Pycharm作为Python语言的开发IDE,备受推崇。它本身不是免费软件,不过有一个
机智客
·
2024-01-02 01:02
Ubuntu配置
hadoop
伪分布式
1.设置免密登录伪分布式搭建过程中会涉及各种管理员权限,一次一次输入密码太过麻烦,我们要求各集群间免密码连接sudoapt-getinstallopenssh-server#安装openssh-serversshlocalhost#连接到主机exit#退出刚才的sshlocalhostcd~/.ssh/#若没有该目录,请先执行一次sshlocalhostssh-keygen-trsa#会有提示,都
MA木易YA
·
2024-01-01 23:46
2018-05-21
1.
hadoop
是什么广义就是
hadoop
生态圈,狭义就是单指
hadoop
2.
hadoop
三大组件是什么?
CrUelAnGElPG
·
2024-01-01 23:55
2023.12.31 Python 词频统计
练习:使用Python中的filter、map、reduce实现词频统计样例数据:helloworldjavapythonjavajava
hadoop
sparksparkpython需求分析:1-文件中有如上的示例数据
白白的wj
·
2024-01-01 23:40
python
开发语言
学习
大数据
hdfs数据完整性
hdfs会对写入的所有数据计算校验和,在数据通过不可靠通道传输的时候再次计算校验和,对比就能发现数据是否损坏,常用的通过32位循环冗余校验,在
hadoop
中,可以通过checksum命令得到想要的文件的校验和
文贞武毅
·
2024-01-01 20:45
扩展
Hadoop
3.x新特性概述
扩展
Hadoop
3.x新特性概述
Hadoop
3.x中增强了很多特性,在
Hadoop
3.x中,不再允许使用jdk1.7,要求jdk1.8以上版本。
奋斗的蛐蛐
·
2024-01-01 20:44
(005)linux supervisor 的使用
文章目录
ubuntu安装
centos安装配置网页访问supervisor服务的运行命令修改网页上的标题启动报错附录
ubuntu安装
sudoaptupdate&&sudoaptinstallsupervisorcentos
.卡
·
2024-01-01 18:49
Linux
命令的使用
linux
大数据与
Hadoop
之间是什么关系
Hadoop
只是一种处理大数据的技术手段。“大数据”概念在1980年由维克托·迈尔-舍恩伯格及肯尼斯·库克耶在《第三次浪潮》首次提出,由麦肯锡公司(McKinsey)最早应用。
数据僧
·
2024-01-01 18:21
大数据技术与应用开发赛项笔记
各种启动命令修改mysql数据库编码:alterdatabaseshtd_resultCHARACTERSETutf8;
hadoop
:start-all.shhive服务:hive--servicemetastorehive
南城守护
·
2024-01-01 17:56
大数据
Atlas 2.2.0 安装部署
ApacheAtlas是一套可扩展、可延伸的核心基础治理服务,使企业能够切实有效地满足
Hadoop
中的合规性要求,并允许与整个企业数据生态系统集成。
mba1398
·
2024-01-01 16:33
atlas
大数据
【ROS2】MOMO的鱼香ROS2(一)ROS2入门篇——从Ubuntu操作系统开启
从Ubuntu操作系统开启引言1术语汇总2Ubuntu(操作系统)2.1Ubuntu权限管理2.2
Ubuntu安装
软件2.2.1使用apt命令安装2.2.2dpkg安装deb包2.2.3makeinstall
摇曳的树
·
2024-01-01 15:16
ubuntu
linux
运维
python 实现
hadoop
的mapreduce
为了用python实现mapreduce,我们先引入下面两个个知识sys.stdin()itertools之groupbysys模块的简单学习sys.stdin是一个文件描述符,代表标准输入,不需使用open函数打开,就可以使用例如下面的简单程序#coding=utf-8importsysforlineinsys.stdin:printline执行命令cat/etc/passwd|pythonte
数据蛙datafrog
·
2024-01-01 15:42
Spark大数据分析与实战笔记(第二章 Spark基础-01)
文章目录第2章Spark基础章节概要2.1初识Spark2.1.1Spark概述2.1.2Spark的特点2.1.3Spark应用场景2.1.4Spark与
Hadoop
对比第2章Spark基础章节概要Spark
想你依然心痛
·
2024-01-01 14:16
#
Spark大数据分析与实战
spark
Linux
Hadoop
安装
Hadoop
下载地址:http://archive.cloudera.com/cdh5/cdh/5/
hadoop
-2.6.0-cdh5.7.0.tar.gz
神游御风
·
2024-01-01 14:08
从
Hadoop
到云原生,谈如何消除程序员35岁危机
作者:小智来源:智领云科技前言35岁这个“职场枯荣线”,确实真实存在。不知从何时起,很多企业将入职门槛限定在35岁以下,“35岁”已然成为职场中年的魔咒。尤其是程序员这个群体,年龄绝对是最难以隐忍的痛点。因为很多程序员普遍存在于如前期“打英雄”发育快,越到后期越乏力的尴尬窘境。提前做好规划,看清技术趋势,不沉迷于以往的成就,不仅可以优雅过渡35岁危机,甚至会迎来职场真正的黄金期。无论么时候,锤炼和
CSDN云计算
·
2024-01-01 14:22
大数据
编程语言
人工智能
hadoop
kubernetes
大数据编程期末大作业
目录一、
Hadoop
基础操作二、RDD编程三、SparkSQL编程四、SparkStreaming编程五、Flume的安装配置一、
Hadoop
基础操作按要求完成以下操作:1、在HDFS中创建目录/user
Francek Chen
·
2024-01-01 14:50
Spark编程基础
spark
大数据
分布式
Spark内容分享(三):Spark - 介绍及使用 Scala、Java、Python 三种语言演示
目录一、Spark1.Spark的优点:2.Spark中的组件3.Spark和
Hadoop
对比4.Spark运行模式二、SparkWordCount演示1.Scala语言2.Java语言3.Python
之乎者也·
·
2024-01-01 13:19
Spark
内容分享
大数据(Hadoop)内容分享
spark
scala
java
如何实现无公网ip环境访问vscode远程开发【内网穿透】
文章目录前言1、安装OpenSSH2、vscode配置ssh3.局域网测试连接远程服务器4.公网远程连接4.1
ubuntu安装
cpolar内网穿透4.2创建隧道映射4.3测试公网远程连接5.配置固定TCP
檀越剑指大厂
·
2024-01-01 13:42
s20
cpolar
tcp/ip
vscode
网络协议
EOS开发
Ubuntu安装
EOSIO.CDT(Install the EOSIO.CDT)
EOS开发
Ubuntu安装
EOSIO.CDT(InstalltheEOSIO.CDT)EOSIO.CDT介绍:EOSIO合约开发工具包,简称CDT,是与合约编译相关的工具集合。
netXiaobao
·
2024-01-01 13:35
区块链
EOS
ubuntu
linux
区块链
EOS链Ubuntu环境Install Prebuilt Binaries(安装预构建的二进制文件)的安装
@[TOC](EOS链Ubuntu环境InstallPrebuiltBinaries(安装预构建的二进制文件)的安装)EOS官网:https://eos.io/第一步
Ubuntu安装
命令:以下有两种安装方式
netXiaobao
·
2024-01-01 13:04
区块链
EOS
ubuntu
linux
运维
区块链
2024任务驱动
Hadoop
应用讲课提纲
任务驱动
Hadoop
应用课程概述项目一:搭建
Hadoop
集群任务1:搭建完全分布式
Hadoop
集群1.思路解析2.编程实现3.知识点讲解4.总结提高任务2:搭建高可用
Hadoop
集群(HA模式)1.思路解析
howard2005
·
2024-01-01 13:41
Hadoop分布式入门
hadoop
大数据
分布式
(六)SparkSQL读写本地外部数据源
third-party数据源的package,spark把包加载进来就可以使用了csv格式在spark2.0版本之后是内置的,2.0之前属于第三方数据源一、读取本地外部数据源1.直接读取一个json文件[
hadoop
白面葫芦娃92
·
2024-01-01 11:58
安装
Hadoop
:
Hadoop
的单机模式、伪分布式模式——备赛笔记——2024全国职业院校技能大赛“大数据应用开发”赛项
前言
Hadoop
包括三种安装模式:单机模式:只在一台机器上运行,存储是采用本地文件系统,没有采用分布式文件系统HDFS;伪分布式模式:存储采用分布式文件系统HDFS,但是,HDFS的名称节点和数据节点都在同一台机器上
Stitch .
·
2024-01-01 10:09
我的大学笔记
Hadoop
分布式
大数据
hadoop
笔记
linux
mysql
hive
【2023
Hadoop
大数据技术应用期末复习】填空题题型整理
大数据的4V特征包含()()()()答案:大量、多样、高速、价值
Hadoop
三大组件包含()()()答案:HDFS、MapReduce、Yarn
Hadoop
2.x版本中的HDFS是由()()()组成答案
Lacszer
·
2024-01-01 10:23
大数据
【2023
Hadoop
大数据技术应用期末复习】选择题题型整理
文章目录单选题多选题单选题创建虚拟机的过程中,网络类型建议选择?A.使用桥接网络B.使用网络地址转换(NAT)C.使用仅主机模式网路D.不适用网路连接答案:B使用什么命令对jdk压缩包解压?A.tar-zxvfjdk-8u141-linux-x64.tar.gzB.zip-zxvfjdk-8u141-linux-x64.tar.gzC.uzipjdk-8u141-linux-x64.tar.gzD
Lacszer
·
2024-01-01 09:51
大数据
linux实用技巧:ubuntu18.04安装samba服务器实现局域网文件共享
Ubuntu安装
配置Samba服务与Win10共享文件Chapter1Ubuntu18.04安装配置Samba服务与Win10共享文件一、什么是Samba二、安装Samba1、查看是否有安装samba2
宁静致远2021
·
2024-01-01 07:21
嵌入式Linux及驱动开发
工控软件
Linux
linux
服务器
运维
阿里云ecs+typecho搭建博客
1
ubuntu安装
LAMP参考1参考2阿里云ECS+Ubuntu16+LAMP环境首先执行sudoapt-getupdate(更新安装包镜像)一安装apache2sudoapt-getinstallapache2
id_rsa
·
2024-01-01 07:47
计算机毕业设计
hadoop
+spark+hive知识图谱酒店推荐系统 酒店数据分析可视化大屏 酒店爬虫 高德地图API 酒店预测系统 大数据毕业设计
流程:1.Python爬取去哪儿网全站旅游数据约10万+,存入mysql;2.使用pandas+numpy/
hadoop
+mapreduce对mysql中旅游数据进行数据清洗,使用高德API计算地理信息
计算机毕业设计大神
·
2024-01-01 06:52
上一页
28
29
30
31
32
33
34
35
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他