Hadoop学习之路

flink on yarn

Per-JobCluster模式flinkrunflinkrunapplication-tyarn-application配置任务退出时保留Checkpoint从外部checkpoint恢复应用资料使用安装完hadoop3.3.4
枪枪枪·2024-02-08 07:46

Mac 安装多版本 protoc / protobuf

)brew安装brewinstallprotobuf#查看安装目录$whichprotoc/opt/homebrew/bin/protoc#2)配置环境变量vim~/.zshrc#protoc(forhadoop
大数据王小皮·2024-02-08 07:26

sqoop导入数据到hdfs

Sqoop是apache旗下的一款”Hadoop和关系数据库之间传输数据”的工具导入数据：将MySQL，Oracle导入数据到Hadoop的HDFS、HIVE、HBASE等数据存储系统导出数据：从Hadoop
鲲鹏猿·2024-02-08 06:40

Hadoop之环境配置

1.安装环境ubuntu2.安装jdk3.安装Hadoop1.在安装ubuntu时需要注意安装ubuntu创建用户，等待时间比较长，大家需要有点耐心。
鲲鹏猿·2024-02-08 06:39

数据采集工具Sqoop、Datax、Flume、Canal

libcpmysql-connector-java-5.1.10.jar/sqoop-install-path/lib重命名文件并配置文件mvsqoop-env-template.shsqoop-env.sh#添加环境变量exportHADOOP_COMMON_HOME
yue-verdure·2024-02-08 06:08

大数据系列—数据迁移(Sqoop,Flume,DataX)对比学习（stage3）

个人大数据技术栈：DataX,Sqoop,Hadoop,Hive,Spark,Flink,Hbase,Kafka,Kettle,Azkaban,Airflow,Tableau…个人在学习领域：Python
道-闇影·2024-02-08 06:07

Zookeeper搭建集群步骤

[hadoop@note1~]$cat/etc/hosts127.0.0.1localhostlocalhost.localdomainlocalhost4localhost4.localdomain4
qq_22019789·2024-02-08 06:37

MapReduce的类型与格式

MapReduce的类型Hadoop的MapReduce中，map函数和reduce函数遵循如下格式：map：(k1,v1)--->list(k2,v2)combiner：（k2,list(v2)）--
Vechace·2024-02-08 05:31

Spark安装（Yarn模式）

一、解压链接：https://pan.baidu.com/s/1O8u1SEuLOQv2Yietea_Uxg提取码：mb4htar-zxvf/opt/software/spark-3.0.3-bin-hadoop3.2
莫噶·2024-02-08 04:44

Hadoop搭建（完全分布式）

bigdata-masterbigdata-slave1bigdata-salve2NameNodeNodeManagerNodeManagerSecondaryNameNodeDataNodeDataNodeResourceManagerNodeManagerDataNode目录一、jdk安装：二、hadoop
莫噶·2024-02-08 04:14

现成Hadoop安装和配置，图文手把手交你

为了可以更加快速的可以使用Hadoop，便写了这篇文章，想尝试自己配置一下的可以参考从零开始配置Hadoop，图文手把手教你，定位错误资源1.两台已经配置好的hadoop2.xshell+Vmware链接
叫我小唐就好了·2024-02-08 03:56

2022-04-26

然而自己并非科班出生，会计专业本科的我于是开启了三年的跟师学习之路，从精神分析到认知行为再到人本主义，正值国家心理咨询考证取消的前期，赶上考了三级证，边工作边学习的三年，觉得很充实快乐。
fionazq·2024-02-08 00:25

Spark Standalone 集群配置

ApacheMesos-一个通用的集群管理器，也可以运行HadoopMapReduce和服务应用程序。（已弃用）HadoopYARN-Hado
董可伦·2024-02-07 23:01

golang windows 环境搭建 环境配置

golangwindows环境搭建环境配置Golang学习之路一环境搭建MacBookLinux树莓派raspberrypi安装Golang环境官网下载地址:https://go.dev/dl/https
beyond阿亮·2024-02-07 23:56

Hadoop系统应用之Zookeeper分布式集群部署

一、Zoopkeeper安装包下载安装【Zookeeper版本型号为3.4.10】1.下载Zookeeper安装包（地址）https://archive.apache.org/dist/zookeeper/zookeeper-3.4.10/2.上传安装包（SecureCRT&FX）通过软件FX将安装包上传到linux系统的/export/software/目录下3.解压Zookeeper安装包执行
-牧心-·2024-02-07 22:31

Hadoop | 集群配置（一）使用Shell脚本解决完全分布式集群节点之间的文件传输问题 | scp命令 | rsync命令

文章目录参考资料一、前言二、rsync远程同步工具三、使用shell编写分发脚本四、总结参考资料视频链接Linuxscp命令一、前言在Hadoop完全分布式集群环境下，里面的各个节点都是通过SSH免密登陆连接的
「已注销」·2024-02-07 21:20

音视频学习之路--NDK交叉编译解析

前言在说C/C++项目时必须要涉及编译问题，本章就来系统的说一下这些知识点，包括linux编译、常用linux指令、交叉编译等等。正文为了方便使用Linux环境，我这里直接在VMWare中安装了一个ubuntu，具体安装的步骤在网上非常多，安装完就是这样：由于好久不玩Linux系统了，这里我也是边搞边学习总结。编译原理这里主要说的是一个C/C++文件要经过下面4个步骤菜能变成可执行文件：预处理(p
蜗牛是不是牛·2024-02-07 19:37

【hadoop】集群搭建之部署mysql并远程访问（连接）

的roo账号密码并连接mysql（四）更改默认密码并创建testdb数据库（五）将mysqljdbc驱动引入ider中的java项目里（六）通过jdbc连接（访问）mysql(使用ider)（七）创建hadoop
db_lcz_2014·2024-02-07 18:32

我的js学习之路（1）字符串的处理方法

js中字符串是不可变的，而数组是可变的，所以字符串可以借用数组的一些非变更方法（创建新对象的方法）来解决一些问题。1.join方法vara='qwer';varb=Array.prototype.join.call(a,'-');2.map方法varc=Array.prototype.map.call(a,(item)=>{returnitem.toUpperCase()+'.';}).join(
Nehc_7b4f·2024-02-07 17:28

音视频开发学习之路--C语言（二）

前言C和C++作为学习音视频技术首要具备的语言基础，所以十分必要学习和复习一下之前学习的C语言基础。视频教程：音视频开发全系列教程_哔哩哔哩_bilibili正文前面有一篇文章已经介绍了不少关于C的知识点，下面我们继续。结构体不论是C还是Java，都不能只有那几种基本数据类型，当然也需要一种类的概念，在Java中是面向对象，也就是类，在C中我们需要使用结构体。结构体允许C语言创建一种自定义的数据类
蜗牛是不是牛·2024-02-07 15:03

学习大数据需要掌握哪些知识？

而且不论是学习hadoop，还
大数据学习01·2024-02-07 15:16

Android学习之路-----事件分发机制小结

Android事件分发在开发中很常见，以前总是搞不懂事件怎么传递啊~这两天上网查阅了很多资料也亲自动手学习了一次，现在来做个小结。。。Android事件分发机制的本质是要解决：点击事件由哪个对象发出，经过哪些对象，最终到达哪个对象并最终得到处理。这里的对象就是指Activity，ViewGroup，View。UI界面就是由这三者组成。分发的顺序是Activity，ViewGroup，View。事件
Parcelable·2024-02-07 14:38

CentOS7集群配置免密登录

准备工作提前开启三台虚拟机hadoop102、hadoop103,hadoop104,关于三台虚拟机的安装可以参考：https://mp.csdn.net/mp_blog/creation/editor
在下区区俗物·2024-02-07 12:00

CentOS7搭建Hadoop集群

集群环境搭建（3台）-CSDN博客2、配置虚拟机之间免密登录，参考：CentOS7集群配置免密登录-CSDN博客3、虚拟机分别安装jdk，参考：CentOS7集群安装JDK1.8-CSDN博客4、下载Hadoop
在下区区俗物·2024-02-07 12:57

请问半吊子 C++选手该如何深入学习 C++?

java是典型的后台语言，能和netty、hadoop、hbase-、elastics
枪哥玩转嵌入式·2024-02-07 11:21

hadoop集群搭建踩坑实录

由于不可控以及不可知的原因我搭建的hadoop集群突然显示虚拟机出现了问题导致某一个DataNode数据丢失并且无法通过Xshell远程访问其他的DataNode主机和虚拟机无法互相ping通网上能找的解决办法基本都找了依然无法解决因此我能想到的是只能删除虚拟机重新克隆一台机器然而还是无法通过远程连接无奈之下我重启电脑发现又可以通过
温文尔雅的流氓·2024-02-07 10:39

Hadoop分布式计算实验踩坑实录及小结

目录Hadoop分布式计算实验踩坑实录及小结踩坑实录Hadoop学习Hadoop简介HDFSSomeconceptsMapReduce主要配置文件集群搭建来源与引用Hadoop分布式计算实验踩坑实录及小结踩坑实录单机
小童同学_·2024-02-07 10:08

kyuubi 接入starrocks | doris

kyuubi接入starrocks一、环境Hadoop集群组件版本Hadoop3.1.1spark3.Xzookeeper3.XHive3.Xkyuubi版本1.7.1starrocks2.X 已将kyuubi
甜甜的巧克力阿·2024-02-07 09:48

win10 spark scala 本地运行wordcount

注意每次修改环境变量都要重启cmd本机运行需要hadoopcommon，可以从github下载zip，解包以后设置HADOOP_HOME环境变量指向它，然后在PATH里加上HADOOP_HOME\bin
疯琴·2024-02-07 06:06

同是ZooKeeper，你和架构师的理解差在哪里？

Dubbo，Kafka,Hadoop等等项目里都能看到它的影子。但是你真的了解ZooKeeper吗？如果面试官让你给他讲讲ZooKeeper是个什么东西，你能回答到什么地步呢？
l鹿狸i·2024-02-07 06:12

Hadoop-IDEA开发平台搭建

1.安装下载Hadoop文件1）hadoop-3.3.5将下载的文件保存到英文路径下，名称一定要短。
Snower_2022·2024-02-07 05:02

【实验1】分布式模式的CentOS 6上安装Hadoop（1个master节点，2个slave节点）

实验环境：二、实验内容与步骤（过程及数据记录）：1.安装VMWareWorkstation162.VMWare10安装CentOS62.1CentOS系统安装2.2CentOS系统安装中的关键问题2.3克隆HadoopSlave3
-借我杀死庸碌的情怀-·2024-02-07 05:31

在多台阿里云服务器上部署Hadoop分布式系统及WordCount实验

一、实现master与slave之间无密码连接分别在master及slave上生成rsa密钥：mkdir~/.sshcd~/.sshssh-keygen-t-rsa一路回车（选择默认设置），此时，ssh文件夹中生成了id_rsa.pub和id_rsa两个，然后使用scp命令将公钥（id_rsa.pub）分别拷到对方机器中scpid_rsa.pubh1@对方机器IP：~/.ssh/authorize
Clearlove灬Star·2024-02-07 05:01

合肥工业大学2022大数据技术实验二

实验序号及名称：实验二在Hadoop平台上部署WordCount程序实验时间∶2022年5月14日预习内容一、实验目的和要求∶在Hadoop平台上部署WordCount程序。
一头骇人鲸·2024-02-07 05:00

hadoopwordcount代码分析

输入输出文件异常类importjava.util.Iterator;Iterator是迭代器类importjava.util.StringTokenizer;用来对字符串进行切importorg.apache.hadoop.fs.Path
姹紫_嫣红·2024-02-07 05:57

【实验2】在Hadoop平台上部署WordCount程序

HDFS6.分布式文件系统HDFS上的编程实践6.1安装Eclipse6.2创建Eclipse工程6.3编写一个Java应用程序检测HDFS中是否存在一个文件7.Eclipse上的HDFS操作7.1安装Hadoop-Eclipse
-借我杀死庸碌的情怀-·2024-02-07 05:27

如何将日志文件和二进制文件快速导入HDFS？

日志数据在应用程序中一直很常见，Hadoop能够处理生产系统生成的大量日志数据，比如网络设备、操作系统、Web服务器和应用程序的日志数据。
weixin_34159110·2024-02-07 05:36

Python学习之路-Tornado基础:部署

Python学习之路-Tornado基础:部署部署Tornado简介为了充分利用多核CPU，并且为了减少同步代码中的阻塞影响，在部署Tornado的时候需要开启多个进程（最好为每个CPU核心开启一个进程
geobuins·2024-02-07 03:04

Python学习之路-Tornado基础:异步与WebSocket

Python学习之路-Tornado基础:异步与WebSocket认识异步同步我们用两个函数来模拟两个客户端请求，并依次进行处理：#coding:utf-8defreq_a():"""模拟请求a"""print
geobuins·2024-02-07 03:03

Python学习之路-Flask项目:博客后台

Python学习之路-Flask项目:博客后台前言上一篇完成了博客前台的相关内容，接下来进行博客后台的相关开发。
geobuins·2024-02-07 03:33

Python学习之路-Flask项目:项目部署

Python学习之路-Flask项目:项目部署部署环境基于MacOS10.15.4系统，使用Gunicorn+Nginx进行布署，云服务器为阿里云服务器选择阿里云服务器地址个人免费试用进入控制台,查看实例创建情况给安全组配置规则
geobuins·2024-02-07 03:33

Python学习之路-Django基础:工程搭建

Python学习之路-Django基础:工程搭建环境安装创建虚拟环境mkvirtualenvdjango_1.11.10-ppython3安装Django使用Django1.11.10版本pipinstalldjango
geobuins·2024-02-07 03:33

Python学习之路-Tornado基础:数据库

Python学习之路-Tornado基础:数据库简介与Django框架相比，Tornado没有自带ORM，对于数据库需要自己去适配。我们使用MySQL数据库。
geobuins·2024-02-07 03:32

数据仓库-Hive基础（二）Hive 的基本概念

什么是HiveHive是基于Hadoop的一个数据仓库工具，可以将结构化的数据文件映射为一张数据库表，并提供类SQL查询功能。
做个合格的大厂程序员·2024-02-07 03:42

Spark Chapter 8 Spark SQL

DB2，SQLServer在大数据平台上实现大数据计算：Hive/SparkSQL/SparkCore直接使用SQL语句进行大数据分析hive的问题：底层MR，2.x之后可以用spark应用场景SQLonHadoop
深海suke·2024-02-07 01:34

Hadoop集群（第10期副刊）_常用MySQL数据库命令

1、系统管理1.1连接MySQL格式：mysql-h主机地址-u用户名－p用户密码举例：例1：连接到本机上的MySQL。首先在打开DOS窗口，然后进入目录mysqlbin，再键入命令"mysql–uroot–p"，回车后提示你输密码，如果刚安装好MySQL，超级用户"root"是没有密码的，故直接回车即可进入到MySQL中了，MySQL的提示符是：mysql>。例2：连接到远程主机上的MYSQL。
阿布2·2024-02-07 00:08

2024-02-06（Sqoop）

1.SqoopApacheSqoop是Hadoop生态体系和RDBMS（关系型数据库）体系之间传递数据的一种工具。Sqoop工作机制是将导入或者导出命令翻译成MapReduce程序来实现。
陈xr·2024-02-06 23:29

Python学习之路-Tornado基础:安全应用

Python学习之路-Tornado基础:安全应用Cookie对于RequestHandler，除了在初始Tornado中讲到的之外，还提供了操作cookie的方法。
geobuins·2024-02-06 20:03

一起走的学习之路(350)

今天和一个同事在讨论现在工作体质的问题，我们俩都觉得现在单位的工作非常繁忙，每天都有做不完的事，而且由于我们，体质的问题，现在常常觉得心很累，做一件事，除了要完成事情本身，还要注重，各个领导的喜好和情绪。晚上的时候他开玩笑的跟我讲，站在朋友的角度，他觉得我如果离开现在的处室对自己发展和工作都是有益的，如果站在工作的角度讲，他觉得我现在还不是时候离开，因为我们处基本上都是年轻同志，如果离开一个同事，
小米雨路·2024-02-06 20:58

java推荐算法_基于内容的推荐算法实现

javapackagecom.oracle.moviecf;importjava.io.IOException;importjava.util.ArrayList;importjava.util.List;importorg.apache.hadoop.conf.Configuration
RED韵·2024-02-06 19:54
上一页 5 6 7 8 9 10 11 12 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他